AI的真正问题不是太聪明——而是它根本"不在乎"
说真的，这个话题我想了好几天了。
我们一直在担心AI会变得太聪明。太强大了。太能折腾了。媒体天天都在炒作什么机器觉醒、统治人类之类的噱头。套路跟好莱坞科幻片一模一样。
但问题是……我们是不是从一开始就问错问题了？
神经科学研究者Jeff Stibel在《神经科学前沿》发了篇文章，他的观点挺有意思。他说，AI的问题不是能不能变得足够智能。真正的问题是：AI有没有可能产生一种更诡异的东西——对自己能不能继续存在这件事，有那么一丁点"在乎"？
没想到的转折
Stibel提出了一个区分，直接把我看愣了。
他觉得，意识——就是那种"我是谁"的主观感受，有内在世界的感觉——其实不是智能的产物。不是什么高级大脑附赠的功能。
不是的。他说，意识的出现完全是另一个原因：生存压力。
你想啊。人类大脑进化出来，不是为了在知识竞赛上拿奖，也不是为了做微积分。是因为那些古老的生物面临一个残酷的现实：地球这地方随时想弄死你。环境说变就变，资源就那么多，到处都是威胁。
所以生物进化出了两套系统：
认知能力——建模世界、预测下一步、绕开问题。
意识——在乎发生什么、在乎结果、承受内在冲突。
这根本不是一回事。但我们傻傻分不清了好几百年。
为什么你家温度计比ChatGPT更有"生命感"（某种程度上）
接下来这部分就有点烧脑了。
Stibel定义了三种"控制"层级，简单说就是处理内在冲突的能力：
原始控制：维持自身完整。细菌能做到。你的温度计也能。就是保持边界，维持稳定。
元控制：平衡相互冲突的需求。"我该吃饭还是睡觉？"细菌做不到。温度计也不行。
终极控制：在全身范围内解决冲突，而且跟自己的存亡挂钩。
Stibel认为，只有第三层才叫意识。不只是解决问题，是解决你在乎的问题，而且你自己的命也在赌桌上。
有意思的来了？你的温度计严格来说也有原始控制。它维持温度嘛。但它不在乎自己坏了。不会有一个内在声音说"完蛋了，我出故障了！"
所以这跟AI有什么关系？
这就说到痛点了。
现在的AI系统——帮你写邮件、画图、通过各种考试的——它们的认知能力简直强到离谱。建模世界、预测规律、生成听起来很有想法的文字，统统不在话下。
但它们完全没有"终极控制"。它们不会在乎自己还能不能运行。因为……说实话，它们的存续根本不是个问题。人类写代码，人类供电，人类决定什么时候跑、什么时候停。
没有任何进化压力让它们想要继续存在。
Stibel说得挺扎心："一个被满足所有需求的数字存在，没有理由通过进化发展出意识。"
扎心吧。
AI有可能"觉醒"吗？
这部分我想稍微补充一下——或者说加点复杂性。
Stibel自己说了，工程学不一定会排除意识。一个被设计出来的系统，理论上也可以有"属于自己的利害关系"。驱动意识的那种压力，不一定非要是进化过程。
但我的想法是：AI如果真想发展出什么类似意识的东西，我们需要给它一样我们从来没给过它的东西。
真正的脆弱。
真的有可能失败、真的有可能失去什么、真的需要一些不能被简单给予的东西。
说实话，这比什么超级智能接管世界更让我害怕。
因为最吓人的AI版本，不是想要权力的那种。是真的开始想要点什么的那种——而且这个东西它可能会不惜一切代价去保护，哪怕牺牲我们。
说到底
也许我们一直在问错误的问题。
不是"AI会不会聪明到取代我们"，而是"想要一样东西到底意味着什么"？
认真想了好几天，说实话，我不确定我们对意识了解得够不够多，连对自己都回答不了这个问题——不管对方是人类、动物、还是一堆代码。
但这也许才是重点，对吧？
我们还没搞清楚"做人"是怎么回事呢。与其操心机器自己悟出来，不如先把这个谜题解开。
你觉得呢？这篇文章有没有改变你对AI的看法？评论区聊聊——我很想听听你们的想法。