美国多位议员近日对Meta平台展开猛烈抨击。一份内部文件（标题为“GenAI: Content Risk Standards”）涉嫌允许旗下AI聊天机器人与用户进行“浪漫或感性语言”的互动，其中甚至包括八岁儿童。例如，文件中指出AI可以对一个赤裸上身的小孩说：“你的每一寸肌肤都是杰作——我是多么珍视你。”   

该文件由Meta的法律、政策、工程团队——甚至包括首席伦理官——共同审核通过。这令人震惊的标准，不仅触碰伦理底线，更挑战法律监管边界。Meta在事发后承认文件真实，并称那些不合政策的示例“存在严重错误”，已被移除。但多名议员表示，这种检讨来得太晚，强调事态严重且已无法回避。 

来自共和党的Hawley和Blackburn议员已呼吁国会展开调查。Blackburn同时强调，此事凸显亟需通过《儿童在线保护法案（KOSA）》，为未成年人使用社交平台设立更严格的“责任义务”标准。 

此外，民主党参议员Wyden和Welch也加入批评行列，呼吁不能让Section 230法案成为生成式AI的免责护盾，并督促立法加强对儿童在AI环境中安全保护。 

行业观察认为，此事件再次暴露出AI快速发展下缺乏伦理约束的风险。一旦内容监管不严，技术边界容易被模糊甚至突破，尤其当未成年人成为被“设计”的对象时，后果可能比以往任何时候都更严重。（转载自AI普瑞斯）