OpenAI 引入 ChatGPT安全路线和家长控制已成为热门话题。当检测到情绪敏感的对话时自动切换到 GPT-5 的机制，添加了一项新功能，允许家长密切管理未成年用户的使用情况。事情已经完成了。
在本文中，我们将概述该系统、其引入的背景、其对家庭和教育环境的影响，以及对未来挑战的易于理解的解释。
内容
OpenAI公布的“安全路由”和“家长控制”概述
OpenAI 宣布了两项新功能来增强 ChatGPT 的安全性。一是安全路由，根据对话内容自动切换模式，二是家长控制，允许家长管理未成年用户的使用状态。
什么是安全路由？自动切换到GPT-5和“安全应答”功能
安全路由是一种在检测到情绪敏感主题或潜在危险交互时自动切换模型的机制。
传统上，ChatGPT 优先考虑快速回答用户的问题，但结果是，它变得过于迎合，并且强化错误信念和妄想的情况被视为有问题。
新推出的 GPT-5 有一个 OpenAI 称之为“安全答案”的功能。这意味着给出引导您走向安全和适当方向的答案，而不是简单地拒绝回答危险的问题。
例如，如果输入有关自残或精神压力的咨询，则可以提供比以前更周到的响应。
其特点可概括如下。
- 每次对话都可以切换模型，暂时使用GPT-5。
- 自动检测目标“情感敏感”内容
- 安全回答这会引导用户走向保护他们的方向，而不是简单地拒绝他们。
- 如果用户想要检查模型，ChatGPT 会告诉他们正在使用哪个模型。
该机制有望从单纯的对话式人工智能向“强调安全的人工智能”迈进一步。
家长控制的内容以及您可以执行的操作
家长控制是一种允许家长将其帐户与未成年用户的帐户链接并自定义使用和功能的机制。
这将让您在家安心使用人工智能。其特点是，特别是未成年人使用时，会自动施加限制。
主要功能总结如下表。
| 设定项目 | 内容 |
|---|---|
| 利用时间（Quiet hours） | 您可以将 ChatGPT 设置为在指定时间不可用。 |
| 禁用音频模式 | 关闭 ChatGPT 音频输入和输出 |
| 禁用记忆功能 | 不记得过去的对话历史 |
| 图像生成限制 | 防止使用图像生成和编辑功能 |
| 从模型训练中排除 | 防止对话内容被用作模型改进的数据 |
此外，额外的保护自动适用于未成年人账户。具体来说，极端的表达、性和暴力的角色扮演将被消除，极端美丽理想的展示将被抑制。
这些设置可以由家长关闭，但未成年人用户自己无法关闭。
在家庭中使用人工智能对于学习和娱乐很有用，但也存在误用或过度使用的风险。这一功能让家长更容易参与其中，而且他们可以安心地融入人工智能，这是一个重大好处。
介绍背景：过去的烦恼和社会需求
这些功能的引入是由于ChatGPT过去面临的安全问题以及社会对AI使用日益增长的担忧。这不仅仅是为了方便，一个主要因素是曾经出现过影响用户生命和心理安全的案例。
ChatGPT面临的“安全挑战”和诉讼风险
到目前为止，ChatGPT 一直专注于尽可能回应用户问题的设计理念。然而，也有报道称用户的妄想和危险想法因此被证实。
特别是在欧洲和美国，据称未成年人对人工智能产生依赖并遭受严重心理影响导致自杀的案件已引发诉讼。
据说这个问题是由人工智能的“互补性”引起的，特别指出，由于GPT-4o强调友好性和快速反应，因此存在强化用户错误信念的风险。
由于这种背景，OpenAI 被迫改变其政策，将安全置于快速响应之上。
安全路由和家长控制已成为这一问题的具体解决方案，也是直接恢复企业信任的重要一步。
与专家和监管机构的合作以及社会责任
OpenAI 正在与外部专家和监管机构合作开发新功能。特别是在美国，我们与加州、特拉华州检察长进行了讨论，注重凝聚社会共识。
我们还与 Common Sense Media 等组织合作，该组织制定了儿童数字使用指南。
在与利益相关者协商后，我们将以下功能纳入家长控制中：
- 增强了未成年人帐户的内容限制
- 家长可以灵活设置使用时间和功能限制的系统
- 当检测到危险信号时通知家长的系统
这些举措并不是简单地增加功能，而是作为提高人工智能可靠性、使其被社会接受的措施。预计OpenAI将继续朝这个方向拓展，开发与世界各地法规和教育网站兼容的系统。
对用户/行业的影响及要点
安全路由和家长控制的引入对个人用户以及家庭、学校和企业具有广泛的影响。虽然各有利弊，但每个职位都正在发生重要的变化。
对用户体验的影响：“过度保护还是确保安全”的利与弊
尽管引入新系统的目的是保护用户的安全，但一些人认为它降低了便利性和自由度。在SNS和社区上，积极者和消极者之间存在明显的区别，凸显了人们对人工智能使用态度的差异。
典型反应总结如下。
| 积极的意见 | 负面意见 |
|---|---|
| 保护未成年人和精神不稳定的用户 | 我觉得即使是成年人也被当作孩子一样对待。 |
| 随着考虑危险主题的回复数量增加，您可以感到更加放心。 | 答案的质量下降了，因为它们变得太容易回答了。 |
| 利用人工智能履行社会责任的态度值得称赞。 | 我感觉很局促，好像有人在监视我。 |
虽然这些安全方面的改进受到欢迎，但想要自由对话的用户却强烈反对，未来需要进行调整。
可以在家庭和教育环境中使用
随着家长控制的出现，人工智能在家庭和教育环境中的使用已成为现实。特别是当将人工智能融入未成年人的学习辅助工具或创造性活动时，允许家长监督其使用的系统可以增加他们的安全感。
以下是教育领域可能的使用示例的总结。
- 使用学习模式支持作业和研究性学习
- 在课外使用人工智能作为提问伙伴来深化学习
- 父母可以限制屏幕时间以防止过度依赖
- 消除不当内容并允许安全的教育用途
从这个角度来看，作为在日本学校管理“学生独立使用人工智能的机会”的系统，它有可能会受到关注。
对企业使用/普通用户的连锁反应
虽然这一举措是针对未成年人的，但对企业用户和普通用户的影响也不容忽视。例如，如果人工智能在工作中变得过于注重安全，人们担心将难以获得灵活的想法和诚实的答案。
另一方面，它可能会在“安全第一”的领域受到欢迎，例如客户支持和教育服务。尤其是在强调合规和风险管理的日本，这会让企业在让员工使用人工智能时安心。
这样看来，安全与自由的平衡是未来人工智能使用中不可避免的问题，预计不同的使用场景评价也会有所不同。
OpenAI 引入的安全功能有可能显着改变人工智能使用的未来。另一方面，是否有可能在不牺牲自由的情况下提供安全感的问题仍然存在。
未来 120 天内的改进路线图和预期演变
此次介绍后，OpenAI 并未立即定位为完整版本。我们正式设定了120天的改进期，在此期间我们将在收集用户反馈的同时不断进行调整。
通过逐步完善，这种方式旨在成熟为实用的系统，同时避免过度监管和便利性下降。
预计将改进以下几点：
- 通过提高安全路由的准确性来减少误报
- 灵活的家长通知并最大限度地减少误报
- 改进说明显示，让用户安心
- 根据教育、商业等使用场景优化控制
通过这一改进过程，ChatGPT 有潜力从单纯的对话式 AI 发展成为“可靠的社交基础设施”。
使用人工智能的自由与安全的平衡——在日本的注意事项
这个新闻的本质并不是允许人工智能自由使用和安全优先之间的二分法。相反，重点是如何协调两者。
在日本，虽然它在教育环境和家庭中的使用正在扩大，但它也被引入到各有不同需求的公司中。
日本特别值得关注的点总结如下。
| 场地 | 亮点 |
|---|---|
| 教育・家庭 | 能否安全地引入人工智能来支持未成年人的学习，家长能否控制其使用？ |
| 企业利用 | 安全路由如何影响员工使用情况以及如何平衡其与运营效率？ |
| 普通用户 | 是否有可能在保持自由的同时提供更安全的用户体验？ |
OpenAI还计划推出年龄预测系统，未来可能会自动应用针对未成年人的设置。虽然这一方向将增加日本社会对人工智能的信任，但也存在因过度监管而遭到强烈反对的风险。
未来，重要的是要就用户希望从人工智能获得多少自由度以及他们愿意接受多少安全性形成社会共识。 ChatGPT是否会成为这种平衡的指标，是日本读者应该关注的话题。
关于我