Meta CEO马克·扎克伯格近日在一次内部交流中透露，公司正研发一种能够自主提升能力的人工智能系统，并称该AI已经具备“让自己变得更聪明”的能力。这一言论迅速在科技圈和社交媒体引发热议，不少人担忧这或意味着AI正朝着不可预测的方向发展。

据知情人士透露，扎克伯格所指的AI是Meta超级智能实验室（MSL）的一项核心研究成果，团队由多名前OpenAI、Google DeepMind等顶尖AI研究员组成，旨在推动AI在推理、学习和自主优化方面的能力上限。扎克伯格强调，这种自我进化机制可让AI在无需人工频繁干预的情况下持续优化性能，从而加速模型的迭代与突破。

然而，这一设想也带来强烈争议。AI安全专家指出，具备自我改进能力的系统一旦缺乏有效的安全约束和监管，可能在目标偏离、资源争夺等情况下产生不可控行为，甚至威胁现实世界的安全。

一些业内人士认为，Meta的这一方向虽前景巨大，但也意味着必须同步加强AI可解释性、安全机制和多层级监控，否则“自我进化”可能变成“双刃剑”。目前，Meta尚未公开该AI的技术细节与安全防护措施。（转载自AI普瑞斯）