fivsevn-devlog
文章翻译
source
note
本文为原文内容的中文翻译，仅用于学习与知识整理。原文版权归原作者及出版方所有。若权利人认为本文不宜公开保留，请联系后删除或调整。
正文
科学家正在认真追问：蜜蜂和 ChatGPT 是否有意识
你可能会认为，在你的花园里采食的蜜蜂，和一个正在运行 ChatGPT 的浏览器窗口之间毫无共同之处。但近期科学研究已经在认真考虑这样一种可能性：二者之一，或者二者都可能有意识。
研究意识有许多不同方式。其中最常见的一种，是衡量动物——或人工智能（AI）——如何行动。
不过，两篇关于动物与 AI 可能具有意识的新论文提出了检验这一问题的新理论——这种理论在耸人听闻与下意识怀疑之间取了一个中间位置：人类是否真的是地球上唯一有意识的存在？
一场激烈的争论
围绕意识的问题长期以来一直激起激烈争论。
部分原因在于，有意识的存在可能在道德上具有无意识之物所不具备的重要性。扩大意识的范围，意味着扩大我们的伦理视野。即使我们无法确定某个事物是否有意识，也可以出于谨慎而假定它有意识——这就是哲学家 Jonathan Birch 对感知能力所称的预防原则。
近期趋势一直是向外扩展。
例如，2024 年 4 月，40 位科学家在纽约的一场会议上提出了《纽约动物意识宣言》。这份宣言随后由 500 多名科学家和哲学家签署。它认为，意识在所有脊椎动物中都具有现实可能性（包括爬行动物、两栖动物和鱼类），在许多无脊椎动物中也同样如此，包括头足类动物（章鱼和鱿鱼）、甲壳类动物（螃蟹和龙虾）以及昆虫。
与此同时，像 ChatGPT 这样的大型语言模型的惊人崛起，也提出了机器可能具有意识这一严肃可能性。
五年前，一个看似铁证如山的意识测试，是看你是否可以与某个东西进行对话。哲学家 Susan Schneider 曾提出，如果我们拥有一种 AI，它能够令人信服地沉思意识的形而上学，那么它很可能是有意识的。
按照这些标准，今天我们身边就会充满有意识的机器。许多人甚至也把预防原则应用到这里：正在兴起的 AI welfare 领域，致力于弄清我们是否以及何时必须关心机器。
然而，所有这些论证在很大程度上都依赖于表层行为。但行为可能具有欺骗性。对意识而言，重要的不是你做了什么，而是你如何做。
看向 AI 的机制
我们之一（Colin Klein）合著的一篇发表在 Trends in Cognitive Sciences 上的新论文，借鉴了此前工作，关注 AI 的机制而不是行为。
它还借鉴认知科学传统，根据资讯处理结构识别出一组合理的意识指标。这意味着，人们可以列出一份有用的意识指标清单，而不必同意当前哪一种意识认知理论是正确的。
有些指标（例如需要以符合情境的方式解决相互竞争目标之间的权衡）为许多理论所共有。大多数其他指标（例如资讯反馈的存在）只被一种理论所要求，但在其他理论中也具有指示意义。
重要的是，有用的指标全都是结构性的。它们都与大脑和计算机如何处理并组合资讯有关。
结论是什么？现有 AI 系统（包括 ChatGPT）都没有意识。大型语言模型中呈现出的意识外观，并不是以一种与我们足够相似的方式实现的，因此不足以支持将有意识状态归于它们。
但与此同时，并不存在任何障碍，使得 AI 系统——也许是与今天的系统拥有非常不同架构的系统——不能变得有意识。
教训是什么？AI 可以表现得_仿佛_有意识，而并不_真正_有意识。
衡量昆虫的意识
生物学家也正在转向机制——大脑如何工作——以识别非人类动物中的意识。
在 Philosophical Transactions B 上的一篇新论文中，我们提出了一个关于昆虫最低限度意识的神经模型。这一模型抽离了解剖学细节，转而关注简单大脑所执行的核心计算。
我们的关键洞见是识别出我们的大脑所执行的、会产生体验的那类计算。
这种计算解决了我们进化史中的古老问题，这些问题源自拥有一个可移动的、复杂的身体，且这个身体具有多种感官和相互冲突的需求。
重要的是，我们并没有识别出这种计算本身——还有科学工作有待完成。但我们表明，如果你_能够_识别它，你就会拥有一个公平的比较基准，用来比较人类、无脊椎动物和计算机。
同一个教训
动物意识问题和计算机意识问题似乎把我们拉向不同方向。
对于动物而言，问题往往是如何解释模糊行为（比如螃蟹照料自己的伤口）是否表明存在意识。
对于计算机而言，我们必须判断看似毫不含糊的行为（一个聊天机器人与你一起沉思存在的目的）究竟是真正的意识指标，还是单纯的角色扮演。
然而，随着神经科学和 AI 领域的发展，二者都正在收敛到同一个教训：当我们判断某个事物是否有意识时，它如何运作正在被证明比它做了什么更有信息量。
图片为原文远程资源引用；若无法显示，或需查看原图与上下文，请访问原文。