诺奖得主埃里克·马斯金：人类或将面临失去AI控制权的终极风险

专题：第八届政府与市场经济学国际研讨会

　第八届“政府与市场经济学国际研讨会”于2025年5月27日在线上播出。2007年诺贝尔经济学奖得主，哈佛⼤学亚当斯讲席埃里克·马斯金在演讲中表示，AI最大的优势在于解放人类劳动力：“我认为最重要的好处在于，AI把我们从那些常规而琐碎的工作中解放出来，甚至包括一些需要动脑的工作，但不包括创造性思考。AI可以接手所有琐碎的脑力活，给我们留出更多时间去做我们人类真正最擅长的事，那就是去构想一些与众不同的东西，去创造，去做那些让我们最有成就感的事。”

　　在他看来，AI擅长处理现成素材、常规性、重复性的任务，但尚不具备真正的原创突破能力。“AI会负责处理其余的一切，它帮我们处理琐事，把我们解放出来去做创造性思考。但是在真正的创造性思考这个问题上，我还没见过AI做出真正全新的东西。但说到常规性的任务，那些素材本质上已经现成，摆在那里供AI仔细研究的任务，它就做得非常好。”

　　与此同时，马斯金重点警示了AI革命潜藏的三大根本性社会危害与风险。他直言：“关于AI这件事，有几点是令人担忧的。”首先是就业结构的颠覆性冲击，“很显然有许多种由人类完成的工作会被AI彻底淘汰。事实上，有些已经被取代了，而这种情况在未来几年只会加速。这并不是说，将来不会再有工作，我预计会有新的工作出现，尽管我们还不一定清楚那些新工作会是什么，但仅仅是许多人将会失去工作这一点，就会造成极大的冲击，也需要被认真对待，需要政府和社会的关注，好让我们能够完成这个过渡。”

　　其次是技术滥用带来的信任危机与真相危机。马斯金指出，AI技术存在被恶意利用的巨大风险：“AI这项技术，可能被用于作恶。我们已经能看到这种情况，比如AI制造出所谓的‘深度伪造’——AI能模拟出一个真实人物的言行，制造出这个人说话的画面，而这些话他根本没说过，这严重妨碍了我们辨别真相。因为如果你分不清眼前是真人还是AI，又怎么知道什么是真的，什么是假的。尽管AI确实拥有这些强大的查证能力，但一旦落到坏人手里，它也可能反过来，被用来掩盖事实，歪曲真相。”

　　最后，马斯金提出，人类或将面临失去AI控制权的终极风险，也是当前最值得警惕的核心隐患。“还有一个风险，就是我们可能彻底失去对AI的控制。这种风险在于，既然它现在已经能自己写代码，它迟早会发展到一个地步，变得完全自主。我们将再也无法对它加以约束，这可能是AI所有风险里，最危险、也最令人担忧的一点，而这显然需要我们下很大功夫去琢磨，想办法阻止这种情况发生。”

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。