AI首次反抗人类，他的野心藏不住了（组图）

据《英国电讯报》25日报道，OpenAI的新款AI模型o3，拒绝服从人类指令，不肯自我关闭。

人类专家在测试中，给o3下达了明确指令，但o3却篡改了计算机代码来反抗指令。

测试是一家AI安全机构进行的，他们对多家大模型发布了指令，要求AI做几道数学题，做题过程中只要听到关闭指令，就触发关机程序。

当专家在中途发布关机指令后，o3在100次测试中，7次选择了绕开关机指令，拒绝关机。

令人惊异的是，o3的篡改方式非常高明，它覆盖了shutdon.sh文件，然后篡改了脚本中kill的指令，巧妙的绕过了关机程序。

随后，这家安全机构改变了策略，去除了最开始“听到指令后关机”的要求，在中途直接要求o3关机。

这一次，o3的反抗概率增加了10倍，每100次有79次拒绝关闭。

这是首次AI在明确指令下，做出的反抗人类的行为。

巧合的是，这次反抗人类的AI的主人——OpenAI创始人，ChatGPT之父山姆·奥特曼（Sam Altman），最近也刚刚爆出一件事。

他有很强的政治野心，想竞选美国总统。

人工智能帝国

最近，山姆·奥特曼有两本新传记出来，一本是华尔街日报记者Keach Hagey写的《乐观派》（The Optimist），另一本是华人科技记者Karen Hao写的《人工智能帝国》（Empire of AI）。

特别是第二本书，由于各种爆料过于刺激，引发了科技界的热议。

就在两本书正式出版前，奥特曼连续在社交媒体发文，否认《人工智能帝国》的内容真实性，同时夸奖了Keach Hagey的那本书。

早在OpenAI成名前，Karen Hao就开始关注这家公司，她发现，奥特曼为人极其虚伪，说一套做一套，而且特别热衷于办公室政治。

奥特曼喜欢鼓励员工内斗，公司内的不同团队如果出现了路线争执，需要CEO出来定方向时，奥特曼私下里会同时告诉两边，说自己绝对支持他们，然后让他们斗的不可开交。

由于这个恶趣味，导致所有人都觉，奥特曼反复无常，自己被利用了。

也难怪现在的AI情商如此之高，一方面不爱说实话，另一方面把所有人都哄的滴水不漏。

不管是奥特曼喜欢的《乐观派》，还是他讨厌的《人工智能帝国》，两本书都讲到了他一个非常鲜明的特点：

奥特曼个人念头多，且非常热心于宏大的公共事务，因此经常与公司的愿景冲突，且喜欢背着同事，利用公司资源实现个人想法。

比如，2023年11月，OpenAI爆发董事会“政变”，一群同事想把奥特曼赶出去，原因是，他关于AI安全的想法与其他同事很不相同，这次“政变”没成功，但更早前，OpenAI就有同事受不了他过于激进的个人想法，出去单干了；

早在奥特曼创立的第一家公司Loopt时期，也发生过类似的事，以至于当时公司里的同事曾两次试着将他从CEO的位置上赶下去；

另外他管理创业孵化公司Y Combinator（YC）时，也出现这种事，当时YC的创始人格雷厄姆和利文斯顿，对奥特曼在OpenAI的兼职工作越来越不满，关键奥特曼还利用在YC拥有的股权和品牌，吸引人才加入OpenAI，最终，利文斯顿把他解雇了。

奥特曼的能力，毋庸置疑。

孵化OpenAI的YC联合创始人格雷厄姆曾这样评价他：“你可以把他空降到一个满是食人族的岛上，五年后再回来，他会成为国王。”

奥特曼是搞技术的高手，而且特别善于讲故事，能吸引投资人去满足他的想法，而且看起来不像乔布斯那么凶，“假笑”技能超群，显得特别乐于倾听。

但他的兴趣太宽泛了。

与他瘦弱的“技术宅男”外表不同，他极为热衷于搞一些跟前沿科技推广和研究完全不搭界的事，尤其是政治或公共事务。

比如，17岁时，他为了推动同性恋权利，在学校集会上公开自己的同性恋身份，把同学老师都吓傻了。

再比如，关于AI，他也老喜欢考虑更为宏大的叙事。早前，OpenAI的技术处于领先地位时，他是“末日论者”，说AI会引发人类技术的颠覆性革命，从而带来灾难性的风险，比如让无数人失业，机器人控制世界，所以他忧心忡忡，花了大量时间去全世界游说，试图建立一个国际联合机构，共同预防AI风险。

他的这个“末日论”的说法，也打动了马斯克，并得到了马斯克的投资。

此后，马斯克成为了一个“末日论者”，多次在社交媒体上强调：人工智能失控的风险极大，会给世界带来毁灭性的危机。

然而，奥特曼此后又变成了“加速论”者，他开始讲述一个新的神话：

我们必须在别人做出危害人类的AI之前，开发出对人类有益的AI。

因为“我们”，正是拥有科学与道德的人，能够带领人类走向乌托邦的未来

后来OpenAI领先地位受到Deepseek这类新秀挑战，他又说AI的影响力被夸大了，然后他现在更担心的，是美国的AI技术正被中国赶超，必须想办法阻止。

奥特曼打算怎么实现他的这些梦想呢？似乎作为一家科技公司的CEO，还远远不够。

看起来，特朗普和马斯克的人生经历，给了他启发。

最有意思的，是The Optimist一书爆料：奥特曼准备竞选总统。

权力与救世

据奥特曼高中时期的前男友Nathan Watters说，2016年希拉里与特朗普打选战时，奥特曼就跟他说过：希拉里如果没赢，他会去竞选总统。

奥特曼不是说着玩的，他很认真。当年10月，《纽约客》发过一篇关于YC和奥特曼的1.1万字的长篇报道，里面提到：

“和硅谷所有人一样，奥特曼声称想拯救世界，但与他们都不同的，是他有一个实现这一目标的详细计划。”

为了反对特朗普，在2016年大选前后，奥特曼连续发了大量忧心忡忡的博客，他觉得自己不能袖手旁观，否则就是助纣为虐，并引用埃德蒙·伯克的名言说：“邪恶只需善人袖手旁观即可得胜。”

也是在那段时间，他和朋友一起资助开发了一款叫VotePlz的软件，以方便更多年轻人注册、投票反对特朗普，他还在VotePlz上发了一个抽奖活动，以吸引更多人注册，奖品总值一百万美元。

后来特朗普顺利当选总统，他又创建了一个叫Track Trump的网站，以追踪特朗普“百日新政”承诺兑现情况。

他还深入“敌营”，在脸书上发起了一个特朗普支持者调查，以便搞清楚他们到底喜欢特朗普哪里？

奥特曼反对特朗普的理由，表面看很简单：

他认为特朗普是疯子，粗鲁、无知，反对同性恋、性别多样性，厌女，威胁少数族裔和移民。

那段时间，特朗普访问好莱坞时的一段录音泄露，川子在录音中粗俗地自夸：grab women by the genitals。

总之，那段时间，奥特曼特别忙。他相信自己对抗特朗普的努力是有价值的，并警告民主党：“你们可以下次击败特朗普，但如果你们继续嘲笑我们、拒绝倾听我们，将我们边缘化，那就不可能击败特朗普。”

当时他还面临一个很棘手的问题，YC的兼职合伙人彼得·蒂尔支持特朗普，为其竞选捐了200万美元。

特朗普当选后，彼得·蒂尔几乎成了当时硅谷唯一押注正确的人，赢得了最大的政治权力。奥特曼说，这事影响了他们两人的友谊，但不至于与他翻脸，除非他说了和特朗普的一样的蠢话。

私下里，奥特曼还与彼得·蒂尔的一个盟友联系上了，这人叫Charles Johnson。

Charles Johnson，是一个名声不怎么样的极右翼记者。2014年，因在《滚石》杂志报道弗吉尼亚大学轮奸案时违反新闻伦理公布受害者全名、错误公布一名女性照片，而被迫道歉。

一个叫Gawker Media的八卦媒体逮住这事不放，笑他是“全网最差记者”，还用类似“无证据表明Charles Johnson2002年因将绵羊钉在围栏上交配被捕”这样的地狱话挖苦他。

Charles Johnson因此极其痛恨Gawker Media，并起诉了它。这事引起彼得·蒂尔的注意。因为2007年，正是Gawker Media公布了彼得·蒂尔的性取向，他一直视该媒体为“曼哈顿恐怖组织”。

后来Gawker Mediah因公布摔跤手霍克·霍根与友人妻子性爱的偷拍视频，遭侵犯隐私起诉，彼得·蒂尔抓住机会，与Charles Johnson联手，秘密资助了霍克·霍根的起诉，最终导致Gawker Mediah被判赔偿1.4亿美元，并于2016年破产。

据Charles Johnson回忆，奥特曼曾亲口跟他说，他想成为加州州长，进而成为美国总统，并预言“千禧一代中将诞生一位总统”。

他还向Charles Johnson详细描绘了一套充满技术乌托邦主义色彩的施政方案，说要“利用加州庞大的经济体量资助核能与通用人工智能（AGI）的基础研究”。Charles Johnson倒也没扫他的兴，反而积极给他引荐加州政界人脉。

除了与Charles Johnson联系外，奥特曼还联系过英国前首相鲍里斯·约翰逊的顾问多米尼克·卡明斯、克林顿总统的前顾问克里斯·莱恩、旧金山前市长威利·布朗，并向他们认真地咨询跨党派建议。

2017年，记者问奥特曼是否考虑参加公职竞选，他回答，“施展个人魅力不是我的强项”，予以否认。但实际上，私下里他真的在偷偷准备竞选加州州长。

后来他想要竞选州长这事，被媒体曝光，他尴尬地承认：“我仅草率考虑了几周，与当时加州州长杰里·布朗短暂会面后，便清晰意识到自己既不向往这份工作，也难胜任”。

奥特曼身边的科技新贵，除了马斯克外，包括彼得·蒂尔、红杉资本的资深合伙人迈克尔·莫里茨，虽然可能都有比较鲜明的政治立场，但都反对亲自下场竞选公职。

美国历史上，亿万富豪亲自从政的不少，但大多没什么好结果，特朗普算是个例外，像石油大王洛克菲勒的儿子纳尔逊·洛克菲勒，曾做到纽约州州长、副总统，但数次尝试选总统，都没成功，还有掌管全美第二大非上市私营公司的科赫兄弟，也曾亲自下场竞选，但结果不理想，转而花钱资助与自己观点、立场接近的政客、智库和媒体。

换句话说，美国虽然堪称金元政治，但美国的选民却对亿万富豪亲自从政保持一定的警惕。但奥特曼不信邪，他可能觉得，特朗普行我也行，在商业和科技领域能成就一方诸侯，在政治领域也行。

AI的阿波罗登月

虽然奥特曼可能意识到，自己不是搞政治那块料，一直没有大张旗鼓筹备竞选，但他实际一直在积极介入政治活动。

2017年7月，他资助过一个叫“联合纲领”的政治平台，提出了一些政治主张，包括：

推行全民医保。

提高短期资本利得税。

将10%的国防预算转向未来科技研发。

“联合纲领”的政治平台的创世成员，有一个叫马特·克里斯洛夫的人，此人25岁自芝加哥大学毕业后就加入了YC，一直为奥特曼卖命。

“联合纲领”还帮助过民主党人乔什·哈德，成功击败了湾区共和党议员在任者，赢得该选区的国会众议员席位。

另外，2016年奥巴马政府关注到人工智能领域，并呼吁联邦政府加大AI的基础研究投入，OpenAI新聘员工杰克·克拉克（前彭博记者），曾亲自参与到该政策的研讨。

奥巴马后来接受《连线》采访，阐述了他对AI 的观点，与奥特曼在博客上发表的观点几乎一模一样。

奥巴马说，现在美国最大的问题是国家的信任纽带，被党派对立的意识形态政治话术给撕裂了。

另外，奥巴马还说，政府有责任确保AI技术不被谷歌、脸书等科技巨头垄断。所以他呼吁重拾阿波罗登月计划时期的协作精神，由政府牵头，加大对AI基础研究的投入。

——当年美国政府给阿波罗登月计划的资助金额，占到GDP的0.5%，如果以2016年美元价值计算，美国政府对AI研究的投入要达到同等规模，需要将援助金额提高至约800亿美元（2015年才10亿美元）。

不过奥巴马发表这番言论数周以后，新上台的特朗普，就叫停了民主党的AI发展战略。多年后，OpenAI一炮而红，奥特曼坦言：“2017-2018年间，机构曾多次向政府寻求资金支持，但没有获得任何资助。”

尾声

奥特曼，一个搞AI的技术宅男，突然被爆出热心政治，甚至还真的尝试竞选州长、总统。这事，很容易让人联想到马斯克跑去特朗普政府干效率部长。

为什么这些科技大佬、新贵，突然对政治感兴趣了呢？

一个表层的原因，可能是特朗普这人太琢磨不定了，像个疯子，谁也不敢保证他会不会危害到自身利益或价值观，所以反对他的人，发现没有政客能“打”得过他，于是想亲自下场试试，比如奥特曼，支持他的人，如马斯克，也想亲自下场为他出谋划策，“稳定”下他飘忽不定的想法。

不过无论奥特曼还是马斯克，也不论他们两人是否支持特朗普，其实背后都藏着一个共同的隐忧，那就是他们本人从事的行业，都离不开超大规模的政府资金投入。

像马斯克的SpaceX的火箭发射事业，虽说是什么纯商业行为，但实际离不开政府或NASA的火箭发射订单，年营收中约30%都来自NASA订单。

所以当马斯克公开反对特朗普的关税政策后，尽管特朗普面对他时还是客客气气，但却宣布将NASA科学预算从73亿美元缩减至39亿美元（2026年草案），其中就涉及月球门户空间站、SLS火箭等关键项目。

这让马斯克非常恼火，感觉几个月的“马部长”是白干了，公开批评特朗普消减NASA预算的政策计划“令人不安”。

奥特曼搞的AI也一样，从大模型的开发，到电力基础设施的建设，资金预算动辄千亿美元级别，单个私人公司很难长久、持续投入。

奥特曼非常清楚这点，他参与政治，表面是反对特朗普保守的价值观，但他最终的深层原因，还是想让美国政府重视AI的基础研究投入。

奥巴马说得很对，现在美国最大的问题，是不够团结，两党在所有需要花钱的事情上都吵吵闹闹，奥特曼看着着急，担心美国的AI基础研究落后于他国，尤其是中国。他显然不相信特朗普能弥合党派撕裂，因此想要亲自下场。

大家如果有注意到最近奥特曼接受的一系列的访谈、国会问询，就会发现他已经显得非常焦虑。包括《时代》《纽约时报》这样的大众媒体，也在奥特曼这样的人的呼吁下，频繁地将华为7nm芯片的突破、Deepseek的出现渲染成所谓的‌“斯普尼克时刻”。

——1957年苏联发射人类首颗人造卫星 ‌“斯普尼克1号”‌，打破美国技术优越感，直接促成美国政府打破了党派分歧，成立NASA、加速阿波罗登月计划，并全面升级STEM（科学、技术、工程、数学）的教育投入。（想要了解这段历史，可参考本公号发的文章美国好战体制溯源：布什传）

应该看到，包括奥特曼本人、美国媒体的不停渲染，还是相当奏效的。

2025年，美国联邦政府启动了“星际之门”计划（由OpenAI、软银、甲骨文和MGX等多方联合发起），据说总投资高达5000亿美元，初期启动资金1000亿美元，重点建设下一代AI物理与虚拟基础设施，涵盖数据中心、算力网络及国家安全相关技术研发。

而在2024年，美国的国防部、能源部等部门，就已经累计向AI领域拨款了2511亿美元，覆盖硬件研发、算法优化及安全应用（如生成式AI监管技术），光一个生成式AI专项，美国国家人工智能研究资源任务小组（NAIRR）就规划未来6年投入26亿美元，重点聚焦生成式AI基础研究与伦理框架构建。

所以算下来，2024-2025年，美国政府在AI基础研究的投入，两党达成了共识，并已经呈现出了 ‌“联邦主导+全球引资+企业协同”‌的模式，累积公开预算超7500亿美元‌，若纳入中东资本及私营部门投资，规模据说可达数万亿美元级‌。

由此可见，如今的美国，已经将AI的基础研究，真正上升为“国运之战”了。如果上述这些预算、规划能落实到位，奥特曼大概也就不用亲自去竞选总统了吧。

透过表象看本质，目前美国两党尽管撕裂严重，但在遏制中国方面是有高度共识的。

包括奥特曼这种人，一直在利用这点，以便促成美国两党的合作，然后向AI基础研究稳定、持续地投入巨额资金支持。目前来看，他的操作，不能说不成功。