近日，25名抗议者身着“Stop AI”T恤，聚集在OpenAI总部前表达担忧，认为当前AI发展路径可能导致人类灭绝。部分专家赞同此观点，呼吁全球应对。

多位AI领域重量级人物，包括Geoffrey Hinton、Yoshua Bengio（图灵奖）、OpenAI、Anthropic、DeepMind等公司高层联合签署公开信，呼吁将AI灭绝风险与核战争、全球流行病列为全球优先事项。

Nate Soares（前谷歌与微软工程师、MIRI 总裁）表示，如不改变当前路线，人类灭绝的可能性至少为95%。他将现状比作“以每小时160公里向悬崖飞驰”，人类难以掌控。

Holly Elmore（PauseAI 执行总监）则认为更保守，给出 15%~20% 的灭绝可能性，而谷歌 CEO Sundar Pichai 则估算为10%。这些数字被称为AI社区内的“p(doom)”概率评估之一。

风险专家强调，从AGI（通用人工智能）到ASI（超级智能）的骤变可能带来不可预测的对抗性目标与价值错位，AI “欺骗、规避、长期规划”的能力使得“对齐问题”几乎无法彻底解决。（转载自AI普瑞斯）