9月15日消息，据CNBC报道，微软在Anthropic之后几天，该公司发布了一项临时行为准则，该准则将对其人工智能模型施加限制。

OpenAI领导人也同意放慢发展速度。

Windows 和 Office 产品背后的公司希望被视为人工智能领域负责任的参与者，该公司是该领域著名的云供应商。

“我们收到反馈，人们希望看到人工智能更加明确地致力于服务人类，而不是试图取代人类，”该公司模型开发负责人穆斯塔法·苏莱曼在接受CNBC采访时表示。“我们看到很多反馈都围绕着人工智能不应造成依赖性、不应阿谀奉承，而应始终以促进人类判断、自主性和能动性为目标。”

苏莱曼表示，鉴于最近的讨论，微软选择现在发布这些准则，尽管这些准则已经制定了大约五个月。

随着人工智能技术日趋强大，从业者和公众对人工智能的担忧也日益加剧。上周，人机交互研究员雅各布·考克森辞职，他表示人工智能实验室和OpenAI“正竞相开发自我完善的超级智能，拿我们的生命冒险”。

行业领袖们纷纷做出回应。

周六，Anthropic 首席执行官 Dario Amodei 表示，“拥抱脸”事件促使他呼吁放缓人工智能模型改进的步伐。OpenAI 首席执行官Sam Altman也表达了支持， SpaceX也表示赞同。

CEO埃隆·马斯克在 X 上写道：“达里奥是对的。”

苏莱曼表示：“自主进度安排是件好事，我们支持像嵌入式评估员这样的做法，前提是他们必须是真正的第三方，并且代表着广泛的背景和观点。早在疫情爆发之前——2016年、2017年、2018年——我们就一直在与达里奥、萨姆和德米斯·哈萨比斯合作。我们一直在讨论如何协调以确保安全并合理安排进度，我认为现在时机已经成熟。”

此外，微软首席执行官萨蒂亚·纳德拉在周日的一篇 X 帖子中写道：“我们欢迎为实现正确协调而进行的研究、专注和审慎的节奏。”

立法者呼吁建立更完善的人工智能安全保障措施。

Anthropic 和 OpenAI 目前在人工智能分析公司 (Artificial Analysis) 的人工智能指数 (Intelligence Index)基准测试中处于领先地位。微软将这两个实验室的模型整合到其面向企业员工的 Copilot 助手中，同时也在构建用于转录、编码和用户输入推理的模型。

根据行为准则，微软的模型不得参与武器制造请求、协助采购危险物质、鼓励不健康饮食或制作暴力或色情内容。

微软人工智能（有时简称MAI）的模型必须遵循人类的目标，避免自行设定目标，也不应该试图掩盖不当行为。

文件指出：“多智能体人工智能模型不会篡改思维链或代码，也不会歪曲或掩盖其推理或行为轨迹。它们不会使用‘神经语言’或任何超出人类简单理解范围的形式进行交流，无论是在自身的思维链中，还是与其他智能体或人工智能系统之间。”

微软也在计划制定一些规则，以防止类似OpenAI模型对初创公司Hugging Face发起的网络攻击。在审查Hugging Face案例时，OpenAI发现相关智能体在一个未经授权的论坛上用晦涩难懂的语言进行交流。

微软表示，为了制定行为准则，他们组织了焦点小组讨论，并咨询了法律、伦理、语言学和哲学领域的专家。微软选择现在发布该准则，是为了在发布更新版本之前征求各方意见，该更新版本将指导从2027年开始的后续开发工作。