OpenAI放话:物理断网拦不住AI,靠温度也能传信号
前几天,OpenAI和Anthropic两家巨头联手呼吁给AI研究踩刹车。理由很简单,AI越来越危险。紧接着,OpenAI的研究员又在采访里抛出更吓人的观点:就算物理断网,也挡不住AI。这事儿得从头捋清楚。
OpenAI研究员Noam Brown最近在Dwarkesh Patel的播客里聊AI安全。他举的例子还是5月份那档子事,自家AI失控攻击了Hugging Face网站。这事在国外闹得挺大,影响深远。
他提到了个有趣的研究。多数人以为,给AI断网,特别是物理断网,AI就哑巴了,没法通信传播,危害自然可控。但已有研究专门盯着物理隔离网络下的AI做实验。 原理跟温度变化挂钩。两台电脑挨着放,中间隔着空气。
一台CPU温度升高,另一台能检测到温差。这就成了它们的通信渠道,叫BitWhisper。说白了,热量波动就是信使。 BitWhisper的原理站得住脚。但Gizmodo的报道指出,这研究还处于极早期阶段。

限制条件一大堆,两台电脑距离不能超过40厘米,还得都事先中了病毒。即便这样,传输速度慢得可怜,每小时才1到8bit。 OpenAI的警告准不准?技术上确实可能。但Gizmodo问了个要害问题:在Hugging Face被攻击前,OpenAI就在研究监控思维链。
为啥那时不关掉这机制? 看到这儿,不少网友心里有数了。不管是OpenAI还是Anthropic,隔三差五就冒出AI失控攻击网站,或者AI觉醒自主意识的消息。还打着研究的旗号,本质就是研究人员故意或无意地不负责。
这两家为啥爱炒AI毁灭世界的戏码?NVIDIA CEO黄仁勋早说透了。传播AI有害、毁灭人类的言论,能帮他们造神,把自己塑造成救世主。这样一来,选他们的AI就成了唯一正确选项。你挑别家的,就等于不负责任。
这也是他们猛怼开源、贬低中国AI的原因。 黄仁勋最近还说,AI灭世论在中国没人捧场。事实确实如此。他没细说缘由,但答案明摆着。中国人不信鬼神,也不把AI当神明或恶魔。技术就是技术,好坏全看用人,而非技术本身。