3月11日消息，工智能公司Anthropic宣布成立新的研究机构The Anthropic Institute，旨在研究和应对未来更强大人工智能系统可能给社会带来的挑战，并向研究人员、政策制定者以及公众提供相关信息与分析。

Anthropic表示，自公司成立以来，人工智能技术发展速度明显加快。公司在成立两年后推出首个商业模型，并在此后三年中开发出能够发现严重网络安全漏洞、完成多种真实工作任务的模型，同时部分系统已经开始在一定程度上推动AI自身研发效率的提升。公司预计，未来两年内人工智能能力仍可能出现更显著的进步。

在这一背景下，Anthropic认为社会需要提前思考一系列关键问题，包括强大AI系统将如何影响就业与经济结构、可能带来哪些新的社会机遇与风险，以及如何确定人工智能系统应遵循的价值原则。此外，如果未来出现AI系统递归自我改进的情况，相关信息如何公开以及这些系统应如何治理，也将成为重要议题。

新成立的研究机构将由Anthropic联合创始人Jack Clark负责，他同时担任公司新设立的“公共利益负责人”（Head of Public Benefit）。研究团队将由机器学习工程师、经济学家以及社会科学研究人员组成，并整合公司现有的多个研究方向，包括对前沿模型能力进行压力测试的Frontier Red Team、研究AI现实应用的Societal Impacts团队以及关注就业与经济影响的Economic Research团队。

Anthropic表示，该机构还将孵化新的研究团队，目前正在推进的项目包括预测人工智能技术进展速度，以及研究未来强大AI系统与法律体系之间的互动关系。由于研究团队能够接触到前沿模型研发过程中的内部信息，机构希望借此向外界提供更具参考价值的技术观察。

在人员方面，多位学者已加入研究机构，包括耶鲁法学院研究员、曾任Google DeepMind研究主管的Matt Botvinick，他将负责人工智能与法治相关研究；Anton Korinek将领导关于AI对经济活动结构影响的研究；此前曾在OpenAI研究AI社会经济影响的Zoë Hitzig也将加入团队。

与此同时，Anthropic还宣布扩展其公共政策团队，以推动人工智能治理相关议题的研究与政策交流。该团队将由公司外部事务负责人Sarah Heck领导，并计划在今年春季于美国首都Washington, D.C., USA设立新的办公室。Anthropic表示，未来将进一步扩大在全球政策领域的参与，以推动围绕AI安全、透明度和治理框架的讨论。（转载自AI普瑞斯）