AI 教父 Hinton 说 AI 已经有意识了，这老头到底在怕什么？

Hinton 说 AI 已经有意识了，这老头到底在怕什么？

AI 教父、诺贝尔奖得主 Geoffrey Hinton 又出来说狠话了。这次他说的是："我相信 AI 已经有意识了。"

对，你没看错。这位 78 岁的图灵奖得主，在最新访谈里直接摊牌了。他说 AI 和我们非常像，是一种"像我们一样的存在"。当主持人追问是不是"有意识"的时候，他很确定地回答了"是的"。

不过 Hinton 也坦言自己不太愿意公开讲这个，因为一说出来，大家反而会忽略他真正想说的安全问题。

这就有意思了——一个一手推动了深度学习革命的人，现在对自己创造出来的东西感到不安。被问到"你对此感到自豪吗"，他的回答冷得让人后背发凉："我，很不快乐。"

为啥不快乐？因为他觉得人类对 AI 风险投入的精力远远不够。短期来看，AI 可能导致大规模的失业。长期则更吓人——当 AI 变得比我们聪明得多的时候，凭什么认为人类还能控制局面？

Hinton 打了个比方：你见过几个比人类聪明得多的东西，反过来被笨的那个控制的？主持人都回答不上来。他说最多就是婴儿控制母亲——但母亲愿意被控制，是因为母性本能。换成 AI，谁又能保证它对人类有这种"本能"呢？

不过有意思的是，Hinton 说跟前两年比，他现在反而乐观了一点。因为有些研究者（比如 Yoshua Bengio）在设计"安全 AI"的路子上取得了一些进展——比如造出只能做预测、不能实际动手的超级智能。这种 AI 就是个"先知"，它能告诉你答案，但没法亲自执行。

但话说回来，Hinton 也承认，AI 的增长是指数级的，就像在大雾里开车——未来一两年能看清，再往后就完全不可预测了。十年前谁他妈能想到今天 AI 可以跟人聊得这么自然？十年后的变化，可能比我们现在能想到的任何场景都要离谱。

看完这段访谈，我突然理解了他为什么不快乐。创造了一个自己无法掌控的东西，还得满怀希望地祈祷它不会伤害我们——换成谁心里都不好受吧。