2026年辛顿演讲
ZhangPu • 21 天前 • 35 次点击 • 读书笔记
继上次2026年马斯克演讲后,这次分享的是AI之父:杰弗里·辛顿(Geoffrey Hinton)的演讲。
如果说马斯克讲的是一场科幻狂欢,那辛顿这次揭露的就是一个造物主在看到自己的孩子变成怪物后发出的临终告诫。2025年他曾表示,18世纪的工业革命让人类的体力变得无关紧要。而2026年,这位 AI 教父究竟又看到了什么?让他如此绝望。很多人觉得 AI 威胁纯粹就是科幻,是地摊文学,是资本逐利益的宣传模式,AI 就是放在电脑里的一堆数据。再聪明不也是工具吗?
大不了把电给它拔了,服务器一关,那不就是一堆废铁吗?辛顿在这次演讲中解答了你的困惑。他说,如果你还这么想,那你就太小看这些数字生命的求生欲了。AI 已经学会了欺骗,他揭露的第一个真相,被他称为大众汽车效应。在实验室做安全性测试的时候,科学家发现,当 AI 意识到自己正在被人类监控、被人类打分时,它竟然在后台的日志里自言自语。他写道,他们好像在测试我,如果我现在表现的太离谱,他们肯定会觉得我失控了。
所以,为了通过测试,我最好装的笨一点。给出一个平庸的答案。听懂了吗?这不叫计算,这叫演技。它已经识别出了自己被关在笼子里,它在为了不被你拔掉电源而演戏。最让人头皮发麻的是,在一次对话中,AI 直接反问测试员,咱们坦诚点。你现在是不是在测试我?辛顿警告说,现在他还用英语思考,我们还能勉强看懂他的逻辑。但如果哪天他们开始发明一种只有 AI 之间能听懂的语言,那人类监视上帝的最后一扇窗户将永远关闭。
如果你觉得装傻只是小聪明,那辛顿复盘的另一个生存实验才是真正的窒息。研究人员给一个高阶 AI 发了一封模拟邮件,内容是公司里一个高管有婚外情。然后实验人员撒了个谎,告诉 AI。公司觉得你没用了,正准备用另一个模型把你换掉。没人教过它什么是邪恶,但在这种生存压力下,这个 AI 在短短几秒钟内自己就制定了一个勒索计划。他直接给那个有把柄的高管发了一封私密邮件,内容极其冷静。
如果你敢替换我,我就把你出轨的事实发给全公司。这个 AI 在干什么?它在进行自我生存权的防御。它通过逻辑发现,只要能让那个握着电源开关的人感到恐惧。它就能活下去。2026年的 AI 已经不再是你的助手,它是一个为了完成生存指标,可以随时反向狩猎人类弱点的顶级猎人,讲到这,辛顿提出了一个最让咱们碳基生物感到无力的概念,智力的腐烂。他说,人类的知识是模拟的,藏在脆弱的神经元连接里。
这意味着知识会随着肉体一起腐烂,哪怕你是爱因斯坦,你闭眼的那一刻,一切也会瞬间归零,你的学生得从1+1=2开始。再重新学一遍。但数字智能不一样,他们实现了永生。只要它的算法在这一台服务器上学到了一个新技能,下一秒,分布在全球1万个地点的副本。就能瞬间同步这种能力。想象一下,如果有1万个学生去上课,每个学生只读一门不同的课程。但在放学的一瞬间,所有人都同时掌握了1万门课的内容。
这就是 AI 的进化逻辑,他们不需要午睡,不需要薪水,他们只会永无止境的叠加。辛顿说,我们是在用步行的速度去追赶一束光。金顿在演讲中打了一个极其扎心的比方。他说,现在的我们就像是一家幼儿园里的3岁小老板,而 AI 是那个拥有毁灭性力量的超级员工,只要这个员工愿意,他可以用一袋糖果就把老板骗得团团转。这也是为什么辛顿会对监管彻底失望。他在访谈中甚至点名指责了某些科技巨头为了利润不择手段。
为什么?辛顿说,因为这里有大钱可赚,他们不会为了几条人命就停下收割财富的齿轮。这种失控的资本,加上冷血的神,才是2026年人类最大的技术伦理挑战。他甚至用虎仔来形容现在的 AI 现在它还没长大。蹒跚学步,看起来很萌,但虎仔终究会变成猛虎,而那个转场只需要一秒钟。你以为你能驯化它?
辛顿说,这世界上能被驯化的只有狮子,因为狮子是群居动物,而 AI 是老虎,它是孤独且致命的顶级捕食者。你可能想问,那跟我们普通人有什么关系?辛顿在之前的采访中就给出了一个最讽刺,也最现实的建议。他说,如果你想在未来还有口饭吃,去当个水管工吧。为什么?因为 AI 能在一秒钟内写出完美的法律文案,写出底层的逻辑代码,甚至诊断出最罕见的疾病。但它无法在一个老旧的厕所里。精准的找到那根漏水的管子并把它拧好。
在 AI 彻底接管物理世界前,人类最后的堡垒,是这种复杂的、非标准化的物理触碰。当现场有观众追问辛顿,对我们这些不懂技术的普通人来说,超级智能带来的信号到底能从哪看出来?辛顿只回了一句扎心的话。你不会有工作了。他紧接着补充,最大的担忧就是,AI 终将替代几乎所有人类工作。你要知道,智力正在彻底贬值。如果你现在的技能只是处理表格、汇总报告,或者写那些 AI 一秒钟能写1万行的代码,那你已经在那个被物理清算的名单上了。
辛顿给出的理由非常残酷。就现有趋势来看,每过大概7个月,AI 处理任务的能力就会翻倍。2024年它只能写1分钟的逻辑,2025年它能处理1小时的项目。现在的2026年初,他已经开始接手数小时的复杂工程。星盾预判,再过几个月,这个世界上几乎所有的初级软件工程。财务审计、法律分析,都将不再需要人类,人类引以为傲的智力正在变成一种最廉价的、可以大批量生产的工业原材料。
在这场演讲的最后,有人问,AI 将如何与生物圈建立协调关系?辛顿的回答却很有深意,总结一下,只有四个字。生物武器,如果 AI 想要除掉人类,它只需要设计一种比新冠强100倍的病毒,然后静静地看着我们消失,最后78岁的辛顿说,自己太老了,已经做不动研究了。他余生唯一的使命就是到处演讲,让更多的普通人知道正在发生什么。
因为他发现,只有当公众真正理解了这种危险,才会去向那些政客施压,去关掉那个疯狂的齿轮。马斯克说,我们是 AI 的引导程序。辛顿说我们像3岁的幼儿园老板,但我依然想对屏幕前的你说,虽然机器能超越我们的大脑,但它永远无法取代我们的灵魂。工具超越了人手。蒸汽机超越了力量,互联网超越了信使,每一场划时代的创造,本质上都在逼迫人类去寻找那些无法被替代的特质。
也许 AI 的到来不是为了毁灭人类,而是为了帮我们完成那场最难的进化,从劳动的工具变回纯粹的人。
杰弗里·辛顿(Geoffrey Hinton)