×
加载中...
OpenAI发布青少年人工智能安全标准蓝图
鞭牛士 2025-11-07 07:57

11月7日消息,据 Axios 最先获得的副本显示,OpenAI 周四发布了一份蓝图,该公司希望立法者能够利用该蓝图制定青少年使用人工智能的安全标准。

OpenAI 正试图先于批评出现,并通过向政策制定者宣传其新的安全机制来塑造青少年使用规范。

与此同时,美国越来越多的州正在考虑制定人工智能安全法,参议员们也提出了一项法案,拟禁止未成年人使用聊天机器人。

OpenAI 平台处理年轻用户安全问题的方式正受到审查,此前一名青少年在与聊天机器人互动后自杀身亡,引发了备受瞩目的诉讼,该诉讼仍在进行中。

OpenAI 还试图通过进军更多学校来扩大其用户群,因为学校需要这类安全框架。

他们表示: OpenAI 坚持认为,根据该蓝图,青少年应该能够接触到“安全可靠的”人工智能,但他们也应该“受到保护,免受其潜在危害”。

报告指出:“我们认为 ChatGPT 应该因材施教:ChatGPT 对 15 岁青少年的回应方式应该与对成年人的回应方式有所不同。”

该公司针对保护青少年人工智能技术,提出了五项建议,供人工智能公司参考。OpenAI 已宣布正在开发相关技术:

识别平台上的青少年,并以符合其年龄的方式对待他们;

通过制定政策来降低未成年人面临的风险,这些政策要求人工智能系统不得描绘自杀或自残行为,不得禁止亲密和暴力内容,不得鼓励危险特技或有害的身体理想;

如果对用户的年龄“存疑”,则默认提供 18 岁以下用户的体验;

赋予家长对其子女账户的家长控制权;

融入基于青少年与人工智能最新研究成果的功能。

科技平台上的年龄验证出了名的困难,而且孩子们往往很容易绕过它。

像 OpenAI 这样的公司可能很快也会受到欧洲《数字服务法》更严格的要求约束,因此尽早将安全功能集成到其平台上对它们有利。(鞭牛士、AI普瑞斯编译)

扫码下载app 最新资讯实时掌握