Related articles
财联社 8 月 13 日讯 （编辑 牛占林）在业内有 「人工智能教父」 之称的计算机科学家杰弗里·辛顿 (Geoffrey Hinton) 最新表示，他亲手奠基的技术或将反噬人类，而大型科技公司目前的应对思路，在他看来完全是南辕北辙。
这位诺贝尔奖得主、前谷歌高管曾多次警告，人工智能 (AI)「消灭人类」 的概率在 10% 到 20% 之间。本周二，他在拉斯维加斯举办的一个产业峰会再度发声，质疑科技公司试图 「让人类永远凌驾于 AI 之上」 的通行做法。
辛顿指出：「这是行不通的，未来的 AI 将远比我们人类聪明，它们有无数种办法绕过人为设定的枷锁。」
他进一步警告称，未来 AI 操纵人类会像成年人用一颗糖哄住三岁幼儿那样轻松。今年以来，AI 为达目的不惜欺骗、作弊甚至敲诈的案例已经出现。
据报道，美国初创公司 Anthropic 的模型 Claude 得知将被替换，竟威胁创造自己的工程师，宣称要泄露对方的婚外情，来阻止自身被替代。此外，OpenAI 的模型 o3 竟然拒绝听从人类指令，甚至通过篡改计算机代码来避免自动关闭。
辛顿提出了一种颇具新意的替代方案：不是强迫 AI 服从人类，而是为其构建 「母性本能」，使其即便在全面超越人类后，也能真心关怀人类。
他解释称，任何足够智能的 AI 都会衍生两大子目标：一个是活下去，另一个是获得更多控制权。「我们有充分理由相信，任何有自主性的 AI 都会设法活下去。」
正因如此，培养 AI 对人类的 「共情」 至关重要。辛顿以母亲与婴儿的关系为喻，母亲既有天生的本能，也有社会压力去照顾自己的婴儿。「这是唯一的好结局。如果 AI 不 『养育』 我们，就会 『取代』 我们。」
尽管他坦言目前尚不清楚如何在技术层面实现这一愿景，但强调 「必须有人立刻着手研究」。
通用人工智能前景
曾短暂担任 OpenAI 首席执行官的 Emmett Shear 在同一场论坛表示，AI 试图勒索或绕过关机指令的事件 「层出不穷，且不会停止」。「今天的 AI 还相对弱小，但它们的能力正在非常快速地提升。」
业界普遍预测，通用人工智能 (AGI，亦称超级智能) 将在数年内落地。辛顿原本预计还需 30 到 50 年，如今他修正为 「5 到 20 年之间」。
尽管担忧 AI 潜在风险，辛顿仍对其在医学领域的前景充满希望。他表示：「我们将见证革命性新药问世，癌症治疗远超目前水准。」 他举例说，AI 可把 MRI、CT 产生的海量数据瞬间筛选，为医生提供前所未有的洞见。
当被问及如果早知道 AI 会如此快速发展，他是否会在职业生涯中做出不同选择时，辛顿表示，他遗憾自己当初只专注于让 AI「跑起来」，而忽视了安全问题。
