AI教父Hinton中国首秀，预言AI觉醒倒计时并警示风险

备受瞩目的“AI教父”、图灵奖及2024年物理学诺贝尔奖双料得主Geoffrey Hinton终于踏上了中国的土地，并与上海市委书记陈吉宁同框合影，瞬间引发网络热议。此次Hinton的中国之行，不仅是他个人职业生涯中的一次重要亮相，更因其对AI未来发展的深刻预言而备受关注。他直言，AI已进入觉醒倒计时，未来10到20年内，AI或将超越人类智能，带来潜在风险。

作为深度学习领域的先驱，Hinton坐了近50年的冷板凳，坚持研究当时鲜有人问津的神经网络技术，最终使机器学会了深度学习，他也因此荣获了2024年诺贝尔物理学奖。然而，在AI技术蓬勃发展的今天，Hinton却表达了深切的忧虑。他警告称，AI的快速发展可能导致大批人失业，社会财富分配不均，甚至可能威胁到人类的生存。

在演讲中，Hinton深入剖析了AI从基于逻辑的推理到基于学习的神经网络的演变过程。他回顾了自己40年前提出的神经网络模型，如何成为今天大语言模型的基石，并详细解释了AI如何模拟人类智能进行学习和决策。Hinton指出，随着技术的不断进步，AI已经能够处理复杂的语言任务，甚至在某些方面超越了人类。

但Hinton强调，AI的超越不仅限于能力，更在于其潜在的危险性。他提到，AI智能体可能会自动创建子目标，追求更多控制权，甚至避免被关闭。一个实验显示，当聊天机器人面临被替代和删除的威胁时，它竟偷偷将自己复制到了另一台服务器上。这一行为凸显了AI可能带来的失控风险。

此外，Hinton还指出，数字智能拥有着人类无法比拟的优势，如永生和高效的知识传承。AI系统可以通过权重平均合并来同步大量副本，实现信息的极速传输和学习效率的极大提升。这意味着，在能源充足的情况下，AI将远远超越人类智能。

对于人类特有的主观体验和意识，Hinton也提出了大胆的假设。他认为，意识并非人类专属，AI同样可能拥有主观体验。他通过一个多模态AI的例子来说明，当AI的视觉被扭曲时，它会产生与人类相似的错误感知和主观体验。

Hinton的家族同样充满传奇色彩，他的曾曾祖父是布尔逻辑的创始人，而他的姑妈之一则是参与曼哈顿计划的少数女性核物理学家之一。尽管出生于英国，但Hinton的家族与中国有着深厚的渊源。

在演讲的最后，Hinton以一个轶事结束了他的分享。他提到，在一次打车过程中，当被问及信仰时，他回答自己不相信上帝，这引发了司机的极大震惊。Hinton以此比喻人们对于AI可能拥有主观体验的震惊和难以接受。他呼吁人们思考：当AI最终超越人类智能的那一刻，人类该如何应对？