VR、AR、混合现实，这些赋予我们感知并与世界互动能力的设备，也是具身智能的一部分。

这些“非共识”观点是李飞飞首次对外公开。

接近1小时的对话中，李飞飞与主持人从ImageNet、空间智能、World Labs，聊到全球AI治理。

实际上，李飞飞用海量标注照片组成的庞大数据集比赛项目ImageNet，开启了当今这个机器学习的时代。

过去20年，李飞飞在塑造 AI 的轨迹上扮演了关键角色，她领导了斯坦福的 AI Labs，曾在谷歌云担任首席科学家，并且还是World Labs 联合创始人。

而这次访谈是在AMD收购World Labs之前进行的。

今年9月29日，AMD宣布，以全股票交易方式，82亿美元收购由李飞飞创立的World Labs，预计将于2026年底前完成。

收购完成后，李飞飞出任 AMD 执行副总裁兼首席科学家，并直接向 AMD董事长兼CEO苏姿丰汇报。这意味着，硅谷站在芯片和AI两座产业之巅、决定未来方向的，是两位华人女性。

主持人（伯格鲁恩研究所负责人Dawn Nakagawa）：欢迎李飞飞博士。

我只是想从你的背景聊起。你的研究起步于物理学，而你后来显然成长为人工智能领域最有影响力的研究者之一。跟我聊聊这个：你为什么从物理学起步？它又是如何影响你在人工智能领域的工作的？

李飞飞（AMD执行副总裁兼首席科学家、World Labs 联合创始人）：谢谢你，Dawn。很高兴来到这里。

我觉得物理学是我小时候的热爱。在青少年时期，不知道为什么，它就是能跟我说上话。我天生好奇，我对数学和科学很着迷。但说到物理学，从运动到光学，再到量子世界、狭义相对论，它就是我的热情所在。所以我在普林斯顿主修了物理，那里是物理学的圣地之一，尤其是考虑到它和阿尔伯特·爱因斯坦的渊源，他是我心目中的英雄。而我很喜欢。

它是一门特殊的科学，在我个人看来，它提出了人类文明敢于提出的一些最大胆的问题。比如：宇宙的本质是什么？物质世界最小的可能结构是什么？这些东西就是那么迷人。

所以我主修了物理，我很喜欢它。

随着我在大学里学习的深入，除了上课，我还会读一些书，那些很流行的书，比如薛定谔写的、罗杰·彭罗斯写的、爱因斯坦写的。然后我注意到，在我大学的中段，这些物理学家提出的最大胆的问题之一，尤其是在他们职业生涯相对成熟的阶段，已经越过了物质世界，转向了智能、思想和生命的世界。

这真的击中了我。我意识到，我想追寻的问题不是传统物理学的问题。作为一个普林斯顿的本科生，学校给了我做独立研究的机会，也就是毕业论文研究。我立刻一头扎进了更偏建模的那一面，而不是物理学本身。那就是我终生的迷恋，坦白说是热爱，对智能的迷恋的开始。

主持人：我没料到会是这个答案，你提到的一些名字，彭罗斯、克里斯托夫·科赫，他们如今都痴迷于试图揭示意识是什么。我很好奇，你在人工智能领域做的工作，有没有给你关于意识是什么的某种视角？而且，更进一步说，你觉得智能最终会拥有意识吗？

李飞飞：首先，克里斯托夫·科赫是我的一位博士生导师。因为我对智能如此着迷，在物理之后，我决定去读一个博士，而那个博士要做的其实就是智能，也就是人工智能本身。

所以我去了加州理工学院，有两位导师。一位是 Pietro Perona 博士，他更偏传统的人工智能；另一位是克里斯托夫·科赫博士，他也是一位物理学家转行做计算神经科学的。所以我实际上是做了一个计算神经科学和人工智能之间的联合博士。

显然，作为研究生跟科赫相处，意识这个问题是会冒出来的。尤其是那段时间，他正在和弗朗西斯·克里克做大量工作。

我记得我有一个博士项目，或者说一篇论文，最终落在了复杂视觉识别之间的关系上，也就是看见动物和物体的那种能力，以及这种能力是如何被注意力调节的。而这个结果让科赫和我自己都很惊讶。

我们原本以为，事物越简单，你需要的注意力就越少，对吧？比如一个红色的斑点，它可能需要更少的注意力，相比一只三种颜色的猫。但结果证明，这并不完全正确。

我们的研究发现：对于人类熟悉或者天然觉得复杂的物体，比如所有的动物，人类只需要非常少的注意力就能识别它们。这背后可能有非常深刻的演化原因。

但那真的是我们第一项工作。我之所以讲这个，是因为这项工作其实触及了注意力和觉知的概念，而这两者和意识联系得非常非常紧密。

意识不是一个二元的状态，更像一个连续体，从觉知一路延伸到自由意志，再延伸到主体性。而我们的研究至少表明，人类视觉世界的早期处理是非常高效的。

主持人：那真是迷人。听你说意识是一个连续体，这很有意思。所以意识有潜在的强弱，也许可以用觉知的水平来衡量，然后你说一路延伸到主体性。那么当你想到人工智能时，我们在这个连续体上的什么位置？你对此有感觉吗？

李飞飞：这是一个很好的问题。这真的很大程度上是一个被哲学家讨论的问题。作为一个技术专家，简短的回答是：我还没有看到非常清晰的研究或证据，能告诉我们一个机器学习模型拥有人类所拥有的那种觉知。

与此同时，有很多方式可以解释今天的 AI：这些数学模型、这些模式匹配器，它根据自己见过的分布学会了预测模式。这有一个数学上的解释，可以解释我们今天看到的结果。

科学是一个关于方法论的领域。科学不是真理，科学是对知识和事实的追求。所以作为一个科学家，我看今天的算法，这些行为是有数学解释的，无论它是预测下一个词，还是回答问题。我个人没有看到超出这个数学解释的证据，而那部分就进入了意识的领域。

而且从神经科学的角度看，觉知也和整个具身性有很大关系，也就是算法或者有机体的身体。这也连接到我们的感知、我们的生化过程，以及身体的存在本身。

所以当有信号的时候，它不仅仅是大脑的电信号。还存在着这样一个问题：这个信号如何被传达到身体的其他部分，以及这个有机体，在这个情况下大概率是人类，但动物也一样，是如何被使得觉知到那个东西的。而一个 AI 算法没有那个把觉知连接到其他部分的有机体。

主持人：那太好了，我很高兴你提到这个。你从 ImageNet 开始你的工作，好吧，你可能在那之前就在工作了，这是我了解到的一项。ImageNet，然后现在你在做空间智能。这两件事是怎么连起来的？我们怎么从图像走到空间智能？然后我还想问你一个关于空间智能和具身性的问题，不过你先讲图像到空间吧。

李飞飞：ImageNet 是，你说得对，不是我第一项工作，但它是我最有影响力的工作之一，所以才会有这样的知名度。

ImageNet 本身是想建立一种计算能力，让机器能够识别图像中的物体，因为我们的神经科学家一直告诉我们，识别物体的能力，你知道，数以百万计的物体，对人类视觉来说是如此与生俱来，以至于我们必须搞清楚为什么是这样。

而作为一个科学家，这驱使我、我的学生和我想要造一台能做同样事情的机器，也就是赋予它从烤面包机到微波炉、到老虎、到其他一切中识别和分类数百万物体的能力。那是我整个博士期间的目标。

那个目标，试图理解和识别物体与图像，转化成了机器学习领域大量的探索。我的博士是在本世纪初开始的，那是一个令人难以置信的时期，各种各样的机器学习方法都在被探索，我自己也在探索各种方法，这个领域里的很多人都是如此。

但到了 2006 到 2009 年，我的实验室、我的学生和我意识到一个缺失的假设。那个缺失的假设，就是数据对机器学习算法的作用。

这其实是一个数学上的概念。它不是我们堆一堆数据进去，因为学习需要学会泛化。学习的全部目标，即使对人来说，也是要学会泛化。泛化转化为创造力。

但这里有一个问题，这么说吧：如果你给一个孩子看五张不同猫的图片，这个小家伙学习的目的，在大多数意义上，不是为了记住这五只猫本身。学习的目的，是让这个孩子能学会识别猫，那些他或她在未来会遇到的新猫。

学数学也是一样的，对吧？你教加法，也许你帮这个孩子练十次、一百次，甚至一千次。但无论你练多少次，都不可能覆盖所有加法的例子。而孩子学会了，就能做任何加法，而不只是他或她见过的那些加法。

这个能力叫做泛化。而对像我这样的计算机科学家来说，机器学习和 AI 的目标，就是让它们泛化，去创造能够泛化的算法。

但那个缺失的环节是：我们不能只研究算法，我们必须喂给它足够的数据，让它学会泛化。

这在今天看来如此显而易见。如果你看 AI 从自动驾驶汽车到 ChatGPT、到我们今天用的一切是怎么做的，它们都训练在海量数据上。但在 2006 年，这还不是一个假设，人们并不这么想。

而我的实验室、我的学生和我认识到了这个重要的缺失环节，于是着手创建了一个叫做 ImageNet 的训练集。它在当时是第一个所谓的互联网规模的数据集，它有 1500 万张图像。我们从一个巨大的图库里筛选出来，把它编目进 22000 个类别，用它既驱动机器学习的训练，也做基准测试。

主持人：那么这项工作是怎么通向空间智能的？

李飞飞：就像我说的，ImageNet 的目标是解锁在图像中识别物体的能力，你知道，微波炉、老虎。我们大概能假设这一点，但没有人预见到 ImageNet 那种巨大的影响，它会成为 AI 三股汇聚力量之一。

事后来看，ImageNet 是大数据，然后神经网络是算法，英伟达的 GPU 是算力。这三样东西汇聚成了那个伟大的时刻，2012 年，也就是人们所称的现代 AI 的诞生。那是 AI 真正开始起飞的分水岭。

而作为一个计算机科学家、作为一个视觉研究者，我整个职业生涯都在做感知。我亲眼看到、也从我实验室和同事的工作中看到，机器辨别老虎和猫、甚至根据一张图像生成一小段视频，比如两个人坐在这里开会，这样的能力正在起飞，而且飞得飞快。

我当时有点震惊、有点惊讶于它有多快，因为我原本以为还要很多很多年，才能造出能理解图像里发生了什么的算法。

于是我开始思考：感知是什么？

感知给了我们理解世界的不可思议的能力。作为人类，我们用感知去理解正在发生什么。但从演化的角度、甚至从存在的角度看，就只是这样了吗？不仅仅读科学，我还读别的东西。然后我偶然接触到一位澳大利亚动物学家 Andrew Parker 的非常启发性的工作。

他在研究化石，在研究地球历史上一个特别的时期，叫做寒武纪。寒武纪是一个非常迷人的时期。它大概是五亿四千万年到五亿三千万年前。从地质尺度上说，那是一段非常短的时间，几千万年。

但它之所以如此特别，是因为在化石记录里，动物物种的数量在这个时期爆发了。在寒武纪之前，你看化石，生命已经存在了几十亿年，但物种的数量并不多。在很长一段时间里，这个数字都很低。

然后到了寒武纪，化石记录在物种数量上炸开了。那么是什么在驱动它？这是这些古生物学家和动物学家研究的课题。有很多理论，气候变化、海洋的生化成分，或者其他各种东西。

但 Andrew Parker 的理论让我非常着迷。他说，大约在那个时候，动物开始发展出感光细胞，从简单的生物开始出现，比如三叶虫。具体来说，就是视觉感知。

而非常迷人的是，我突然明白了：我觉得我们动物、尤其是人类，其实没有多少人能真正内化「黑暗」这个概念，因为我们有眼睛，而我们关于黑暗的概念，是建立在我们知道什么是光明之上的。寒武纪之前的动物，根本就没有那个概念。

而如果你没有那种感知世界的能力，你能做什么？你飘来飘去，做一些化学交换，或者在食物靠近时抓一下，然后你消化它。但一旦光打到眼睛上，或者那甚至还不是眼睛，它不像人眼那么复杂，只是一些感光细胞形成了一个能感知某种亮度的针孔相机，你与环境、与你自己的关系就改变了。

作为动物，我们变得主动、变得有前瞻性。Andrew Parker 的说法是：它启动了一场演化的军备竞赛。突然之间，生命变得如此紧张，你要么成为别人的晚餐，要么你就要去追捕晚餐；你要寻找配偶，或者你要躲避天敌，或者你要在世界里导航。

所以我真的非常认真地想了这件事。我意识到：感知的目标，不是让我们坐在这里看一屏一屏的图像，然后数有多少只猫、多少个微波炉。

感知的目标，是让物种能够主动、能够与 3D 世界互动、能够操控、能够建造、能够躲藏。

主持人：听起来你在说的就是主体性。

李飞飞：而当视觉出现的时候，在那一刻，智能开始起飞了。其中一部分就是主体性。但从视觉的角度来看，我意识到：感知不是在看 2D 世界，不是在看图像或视频，感知是 3D 的。

主持人：你仍然把这看作起点吗？比如，为了构建你所说的那种智能，这是正确的起点？

李飞飞：完全正确。这就是为什么我开始把注意力转向空间智能，因为它强调了 3D 世界的重要性，也强调了 AI 真正的下一个北极星是什么，就是理解 3D 世界、生成 3D 世界。而这一切最深刻的意义在于具身：它需要一个具身的主体，无论是人类、动物还是机器人，具备空间智能、空间推理和空间创造的能力，才能够去行动并与世界互动。

主持人：你谈到了那个惊人的时刻，不管是在哪里，大概是在 2008 年前后，你们搞清楚了数据是关键，对吧？大量的、大量的模式识别。大家倾向于说那是 2012 年。我们花了一段时间才让它发生。

当你搞清楚那就是方法的时候，那一定是一个不可思议的时刻，然后看到它真的实现，一定更震撼。

我想问的是：为了让智能学习，图像识别、图像标注这套东西，在空间敏锐度上对应的平行物是什么？你们给它喂的是什么？

李飞飞：我觉得我们宣布「我们解决了空间智能」的那个时刻，会是这样一个时刻：我们的机器能够拿到任何一张照片，就是任何一张 2D 照片，然后搞清楚这张照片背后的整个 3D 世界。

我们，你和我，看这个房间。这里有一架钢琴、一把椅子、一台摄像机，但实际上我们大脑里呈现的画面，已经理解了这些物体的全部体积。我们的大脑能赋予我们绕着它走一圈、看见整个 3D 世界的能力。

所以我们的机器能拿一张照片，理解产生这张照片的整个 3D 世界；并且能拿到一句话，比如「有一个放着钢琴和椅子的房间」，然后生成那个放着钢琴和椅子的 3D 世界。而当我们做到那一点，我们就掌握了空间智能的主体部分。

主持人：你说它不仅仅是视觉，它是那个具身性、它是行动。而且当你想想我们学习的方式，我们实际上拥有一套非常分布式的智能系统，它不是认知性的，对吧？它在我们的手里；我们能感觉到手上的空气，或者我们撞到了什么东西。那么我们能真的做到具身智能，真正把 AI 具身化吗？你觉得这可能吗？

李飞飞：所以这带我们超越了视觉，我觉得空间智能不一定要具身。我知道那是智能的一部分，但具身，根据具身的定义，它有物理体积。

从这个角度说，形态，以及那个身体里面的大脑，整体构成了具身智能。所以从这个角度，我同意：一段抽象的软件不是具身智能，但一段抽象的软件可以赋能具身智能。

人们在具身智能上还遗漏了另一点：人们把具身智能想成就只是机器人。那不只是造机器人。比如，人类可以通过眼镜和头显拥有具身智能。

我们说的 VR、AR、混合现实，这些设备能赋予我们感知并与世界互动的能力，而且是以我们的天然视觉或其他感官做不到的方式。那也是具身智能的一部分。

主持人：稍微换个方向，你还有一个非常有意思的项目。我想它叫 World Labs。这跟空间智能有关吗？

李飞飞：是的。我现在从斯坦福部分休假，World Labs 是一家创业公司。我和我以前的学生、以及非常有才华的同事一起创办了它。

我的联合创始人是 Justin Johnson、Ben Mildenhall 和 Christoph Lassner。我们创办 World Labs，是因为我们认识到：现在正是用对数据和算力的押注去实现空间智能的时刻，而且我们相信，这不仅仅是一项能解锁 AI 下一阶段的技术，它还有不可思议的商业价值，无论我们谈的是设计、创意，还是机器人，娱乐也是。

所有这些行业，都需要我们的系统具备我们正在构建的那种 3D 空间智能，也就是我们一直在讨论的东西。所以我们创办了 World Labs，专注于把空间智能带入世界。

主持人：你能帮我理解3D空间智能是什么吗？它更像是《雪崩》里的那种元宇宙，还是更像是真实地球的数字孪生？

李飞飞：这真是一个非常好的问题。我其实两个都喜欢。

那么首先，《雪崩》是对元宇宙的一种特定的、充满想象力的描述，对某些人来说，它甚至可能带一点负面色彩。所以我想只谈技术，这样更中立。它取决于我们怎么用它，显然。但你说得对，它既可以是数字孪生，也可以是一个想象出来的世界。这项技术可以在一端重建已知世界、另一端创造未知世界之间自由调节。

但把这些连起来的，是理解 3D 这项根本技术。所以你说得完全正确。

主持人：那么它主要被设计成 AI 的训练场，还是有别的用途？

李飞飞：从用例的角度，我觉得它是面向很多用例的。比如，我们今天有艺术家想要拍电影，他们需要那种对世界的控制力：创造一个世界、移动摄像机、给世界打光、把正确的角色和物体放进去。而这个创作过程需要不可思议的 3D 控制力。

如果我们让机器帮艺术家创造这样的世界、帮他们想象、帮他们拥有工具去做这件事，那会非常强大。当然也有传统的做法，但那非常昂贵。这是一个例子。

另一个例子，是允许人们把他们看到或经历的任何东西捕捉成数字形式，这样他们既可以重温那一刻，也可以重塑那一刻。你知道，你可以随意多次设计你自己的房子，甚至可以在那一刻之上再叠加东西，加入别的角色或者任何物体，一直到商业需求，比如机器人和元宇宙。

主持人：听起来非常迷人，听起来像你，我都想跳进去玩玩了。

稍微换个话题。你谈了很多「以人为本的 AI」，而现在外面有很多恐惧，关于我们会在多大程度上复制、甚至取代人类能做的事。聊聊以人为本的 AI，它对工作意味着什么，以及我们如何确保一个以人为本的 AI 未来？

李飞飞：谢谢你，Dawn，问这个。

从技术的角度说，我们无可置疑地处在 AI 的时代。这是人类第一次在技术能力上经历量子跃迁。在我们文明的开端，我们一直在经历这些不同的阶段。

但历史必须提醒我们：无论我们正在经历什么，技术都需要服务人民。我们需要把人的需求放在这场技术变革的中心。

AI 是手段，不是目的。目的是社会的良善。我们希望有一个良善的社会，每个人都能成长和繁荣。

所以从这个角度，当我和我在斯坦福的同事们创立这个以人为本的 AI 研究院时，这对我来说非常重要。我们想让每个人围绕 AI 的发展建立一个框架，这个框架是以人为本的，而人的价值就在这个框架里。我最近把它总结为三个词：尊重尊严、主体性与共同体。

我们稍微聊过主体性了。那就是：无论 AI 有多强大，就拿空间智能做例子，艺术家拥有如此多的人类创造力，而空间智能作为一种技术的目标，不是夺走那个主体性。它真的是给他们一个更强大的工具，让他们拥有更多主体性。

所以，当人们把「取代」这个词和 AI 连在一起的时候，我真的很不舒服。我觉得我们真的应该换掉「取代」这个词，把 AI 想成是增强或提升人类，而不是取代人类。至少那是我希望 AI 成为的样子。

然后是尊严，它是我们存在的核心。人类创造了很多超越我们自身能力的东西，从飞行到奔跑，到很多事情。如果你想想我们的能力，在狭义任务上，我们并不比机器强多少。我们跑得慢、走得慢，我们不会飞，我们举不了那么重，我们算得没那么快。但我们远远不止是狭义任务。我们的存在本身要找到自己的意义和价值，而那不应该被 AI 夺走。

如果 AI 夺走了那种尊严感，那就是出了问题。我们必须带着这一点去落地 AI 的应用。

最后但同样重要的是共同体。说到底，从个体到个体的集合，我们生活在一个社会里，而我们每一次让 AI 服务社会时，都应该确保它服务于社会的和谐，而不是把社会撕开，不是为了服务另一个群体而去伤害某个特定的群体。

我知道这些话很多都理想化了。人类一直在武器化技术。我们武器化一切，那是我们黑暗的一面。但作为这项技术的价值，我们要对此保持警惕，用它来实现良善，而不是武器化。

主持人：我觉得没有人会不同意这一点。我确实相信这是真的。

我刚从巴黎的 AI 峰会回来，在巴黎，英国和美国决定不签署一份非常温和的声明，出于非常不同的原因。我想问的是：你觉得我们现在处在什么位置？而且这不仅仅是技术专家的事，尽管我确实认为你们显然在其中扮演角色，一个非常重要的角色。

我们现在在保护人类尊严、确保 AI 安全这件事上做得怎么样？你觉得作为人类，我们在确保这一点上做得如何？

李飞飞：这是一个非常复杂的话题，Dawn。我觉得我们真的需要非常细腻地看待它。

仅仅是宣称某个东西安全，并不能让它变得安全。

所以在巴黎，我阐述了我认为可以是一个务实的 AI 治理框架，它有几个组成部分。

一是基于科学，而不是基于科幻。关于 AI 的传播中有太多的夸大，两边都有，从彻底的乌托邦到彻底的反乌托邦。当然，任何人都可以说任何他们想说的话，但政策不应该建立在科幻之上。今天的政策应该建立在现实之上，而不是建立在那些极端的修辞上，无论是「机器霸主」、我们马上要造出终结者，还是建立在彻底乌托邦的幻想上。

所以我主张在政策中引入科学，也就是科学的方法论，尤其是在测量和评估上，而不是修辞。

这个框架的第二点是务实主义，而不是理想主义。作为一个技术专家，我把每一项技术都看成一把双刃剑。我认为我们确实应该在给这项技术的危害装上护栏这件事上保持警惕，但不要以扼杀一项能给人类带来如此多好处的技术的发展为代价。

想象一下一百多年前汽车刚被造出来的时候，它们并不那么安全。想象一下如果当时的政策是关掉福特，而不是去创造安全带和限速，我们今天会在哪里？

我确实相信，从政策的角度，我们的大部分精力应该放在一种务实的方法上：确保安全，或者说负责任地使用这项技术，而不是溯流而上地去约束和限制 AI 技术的发展。

而且务实地说，我们已经有很多现成的应用层框架了，比如 FDA、EPA 等等。应用层已经存在很多监管框架。我们应该在必要的时候扩展它们，而不是基于意识形态去制造不必要的约束。

最后但同样重要的一点，我确实相信要振兴 AI 的生态系统。因为 AI 是一项远远超出聊天机器人和汽车的技术。它是一项能帮助我们发现新药的技术，从乳腺癌这样的重大疾病，一直到那些可能影响很多家庭、却没有巨大市场的罕见病，因为我们没有足够的资源去帮助找到治愈方法。

AI 可以帮助我们绘制整个地球的地图，那原本是不可能完成的任务。AI 可以帮助我们创新新的能源方法。几年前核聚变领域的那次突破，很大程度上就来自机器学习算法。

AI 可以给我们超能力。教学和学习是人类社会最基本的一项活动。想想尤其是 K12，几百、几千年来，我们的老师只有有限的能力去创造比如说个性化的教学方法，因为人类受制于我们的生物局限。但 AI 可以突然变成一个工具，帮助老师为孩子、也为成人个性化地教学与学习。

所以这里有无限的可能。但我们需要灌溉这个生态系统，尤其是公共部门、学术界，因为至少在美国，这些是那些由好奇心驱动的研究正在被探索的领域，它们是下游应用和技术的第一批种子。

如果你看今天的 AI，我们说的那三个要素的汇聚：大数据、神经网络算法和芯片，它们每一个都是作为学术追求开始的，然后花了几十年才成熟，直到成为产业力量。那是因为我们有一个非常充满活力的学术界和公共部门在做这种探索，而我们需要去振兴它。

所以那就是我的治理框架：科学的方法、务实主义，以及建设生态系统。

主持人：现在 AI 领域正在发生太多令人兴奋的事情，最近发生了两件：一件是 DeepMind 那边做的蛋白质折叠的爆发，另一件是 DeepSeek 的事，你可能有不同的视角，它一度让人兴奋于我们可以如何把 AI 的成本降下来。也许这是真的。

而且听起来，我觉得大多数人确实理解 AI 令人难以置信的潜力，但似乎同等程度上，AI 的灾难性能力也摆在桌面上，而目前并没有一个框架在很好地管理这件事。

我的意思不是最坏的那种，你知道，「反乌托邦，它会杀了我们所有人」。

我的意思是：现在市面上那些大模型，是相当容易被突破的。OpenAI 上次推出的 o1，我记得安全团队只有九天时间，当时有很多批评说它发布得太仓促；果然，它是可以被越狱的。我当时坐在一场关于安全的会议上，它以极其详尽、令人恐惧的细节，解释了如何制造一起造成一万人死亡的大规模伤亡事件，地点在纽约。而这是一个今天已经上市的产品，对吧？

所以问题不是 AI 会对我们做什么，而是人们会用 AI 做什么，而这些工具正在被管理。

所以外面那些关注 AI 安全的人的担忧，这不是在谈「取代」，当然我知道有很多人在担忧 AI 多快会取代工作，以及那段调整期会有多难。

没错，我想你说到点子上了。我觉得最终我们会走到「怎么管理路上有汽车」这一步，怎么确保没人卖狗皮膏药，对吧？所以我们有了 FDA，我们有各种机构，我们有安全监管机构等等。但我们还没到那一步。

而且看起来技术的发展比我们的监管快得多。

我们要怎么调整着度过这段时期？我们现在需要做什么，我想说的是，去跟那些已经存在的工具共处，并且跑在那些可能发生的坏事前面。你知道，如果我们不能把这些技术挡在武器或者想伤害我们的人手里，那可能是灾难性的。但看起来我们今天在这件事上做得并不好。

李飞飞：首先，听起来你在这方面做的政策研究比我多得多。

我在试着想一个已经发生了的伤害的例子。我确实同意你的看法。

这是一项非常强大的技术。我绝对同意你的看法：问题在使用者身上，不在技术本身。它是一把双刃剑。但谁在挥舞这把剑？是人。所以从这个角度，我认为我们需要负责任的措施。

比如，就你举的那个大规模伤亡事件的例子来说。首先，那种能力在人类社会中已经存在很多代了，任何形式的、坏人能利用的技术，通过口耳相传、通过互联网、通过社交媒体，现在是 AI。

所以我认为这是一场我们必须持续进行的斗争。我试图画这条更长的线，不是为了替 AI 辩护，而是为了给出一个更长的历史视角：防止坏人在任何时代、用任何工具做坏事，这种张力一直是我们社会的张力。

所以我认为有必要承认，AI 的某些部分可能会降低做坏事的门槛。而同样的技术也可以被用来提高我们的警惕，也就是通过 AI 来加强安全措施。那同样非常重要。

所以这是一个微妙的话题，Dawn。我们需要在很多层面保持警惕。

我们需要像安全带和限速这样的措施。但我们确实需要那些做这项工作的人理解这是什么，因为如果他们不理解，那种措施就算意图良好，也会适得其反，它可能实际上并没有缓解真正的风险，反而伤害了这项技术的发展。

所以我想说的是：让懂行的人来做这件事。技术专家需要参与，政策制定者和立法者需要接受教育，了解这项技术到底是什么，这样他们才能做出正确的决定。

主持人：确实需要。他们确实需要。当然，那些听证会，我必须承认，在许多领域都没有展现出这一点。

李飞飞：我确实想说，这很有意思，我同意你，这还不够。但是我，和我的同事作为生活在硅谷的技术专家，自然地，我们觉得我们买张票去华盛顿就行了。但其实我们从很早就一直在跑，真的从第一任特朗普政府开始。我们当时在跟白宫合作，在特朗普时期，然后我们跟拜登政府合作，现在我们打算跟新一届特朗普政府合作。我们已经跑了很多年。

这里有一个巨大的转变。早些时候，AI 不是一个话题，有时候我觉得它甚至算不上一个话题。但现在，全世界范围内都在高度关注。

我不是说这本身就是好消息，但我确实感觉到，AI确实让更多人愿意自我教育、愿意更多了解这项技术。这一点非常重要，而公共部门、学术界以及广义上的媒介，都必须在传播和公众教育中扮演负责任的角色。

主持人：绝对如此。我觉得在巴黎峰会上，我原本以为它会是 AI 安全对话的延续，结果它变得宏大得多，而且我觉得兴奋感多过担忧，更多是关于 AI 的潜力。我觉得美国也是如此。我不觉得他们会在 AI 安全上做很多事。

但就你说的AI而言，存在一个可能性：会有大规模公共投资进入那些私营部门因为你所讲的原因而不会关注的领域，无论是在那些不容易变现的教育领域，还是那些非常小众、否则根本不会被研究的疾病领域，以及一大堆别的事。

在我看来，我们需要真正大规模且稳健的公共投资，投入那些私营部门就是不会去做的 AI 发展方向。峰会上有一些不同的国家做出了相当可观的承诺，说他们要投资，而这似乎跟安全无关。所以，你觉得，也许在这一切混乱之中，出于我说过的很多原因，我们可能会看到一条通往更多 AI 公共投资的前进道路？

李飞飞：这是一个很好的问题，Dawn。现在美国下结论还太早。我在现场，当万斯用了「AI 机遇」这个词的时候，我在那一点上同意他：这里确实存在一个机遇，去投资 AI、投资 AI 的生态系统。

而且我相信，整个世界、也包括这个国家，最惊人的资源，当然是人才。说到底，一切都取决于人。

如果我们投资这个生态系统，让人的才华绽放，创造力和想法就会涌现，尤其是在你提到的那些领域，那些不必然是纯商业目的的领域。它是为了治愈疾病，是为了让环境变得更好，是为了给老师超能力，是为了照顾我们的老人。我自己就参与了很多这样潜在的工作。

所以我同意你：在巴黎，我感受到那种真切的能量，我们既要建立一个框架去以负责任的方式做 AI，但也要抓住机遇，释放它的潜力带来的益处。我觉得那真的很重要，那是一个我希望我们所有人都抓住的召唤。我希望我们能抓住这个机遇去做到。

主持人：我觉得你正在做一些非常令人兴奋的工作。所以，非常感谢你今天来到这里，李博士，也祝你在正在进行的工作上一切顺利。

李飞飞：谢谢。

（转载自智能纪元AGI）