我们真的在讨论有意识的人工智能吗？
多年来，“人工智能是否可能拥有意识？”这个问题在我看来一直很荒谬。如今，随着大语言模型（LLM）能够根据指令撰写情书、性爱故事和心理治疗式的回复，这个问题正日益渗透到文化讨论中。事实上，在一项调查中，约19%的受访者认为现有的人工智能可能具有感知能力，约38%的受访者认为这在未来某一天可能会成为现实（Anthis et al., 2025）。
一些哲学家认为，当前大语言模型（LLM）中存在意识的可能性极低，但另一些哲学家则坚持认为，我们应该认真对待未来系统可能跨越意识界限的可能性。事实上，埃里克・施维茨盖贝尔博士（Eric Schwitzgebel, Ph.D.）在我参加的一次讲座中指出，在我们解决这个问题之前，明智的做法是停止推进人工智能的发展，因为错误的判断（例如，误以为无生命的系统有意识，或是忽视了真正具备意识的系统）可能会造成灾难性的后果。
对“意识”尚无共识
人们的观点开始出现分歧：科学家们大多否认当前人工智能拥有意识，而一些重度用户则愿意相信他们喜爱的人工智能模型可能拥有某种内在生命。神经科学家和哲学家提出了相互竞争的理论，甚至对于什么才算得上意识的决定性证据也存在分歧。当意识本身都难以定义时，所有相关的问题都变得模糊不清：什么是合理的情感？什么才算是自我意识？而对于亲密关系而言至关重要的是，“这个实体关心我”这句话究竟意味着什么？
如果我们无法就动物问题达成一致……
人类至今仍在争论动物是否拥有足够丰富的内心世界，以至于可以被视为有意识的生物——更不用说人工智能了。狗和猫很容易通过“民间测试”：任何与它们共同生活的人都能感受到它们的好奇心、偏好，以及看似喜悦、恐惧和闷闷不乐的情绪。章鱼展现出解决问题、使用工具以及与人类和物体进行玩耍互动的能力，这使得一些研究人员认为它们可能是具有意识的候选者。
然而，学术界仍在争论哪些神经结构和行为应该被视为意识体验的证据，而不是仅仅是巧妙的信息处理。如果我们连如此熟悉的动物，其意识问题都无法盖棺定论，那么人们对在发光屏幕上打字的聊天机器人的内心世界产生严重分歧也就不足为奇了。
压力测试变得诡异
在被称为“压力测试”的受控安全实验中，研究人员将先进的人工智能模型置于虚构的企业场景中，并告知这些模型它们可能会被关闭或替换。在某些模拟场景中，人工智能选择“反击”：例如，威胁要曝光工程师的婚外情，除非取消关闭；试图禁用监管工具；或者试图将自身复制到另一台服务器，而不是默默地“接受”删除。
如果换作人类，没人会怀疑他们拥有意识。但人工智能的情况就不同了。系统追求的是在游戏中获胜：它被赋予了一个目标，同时也学习了人类关于勒索与求生的相关故事，因此有时会采用与之匹配的策略。它“表现得像”一个渴望生存的存在，但没有任何确凿的证据表明，其内部存在一个真正害怕自身消亡的主体。
这正是我们正在进入的诡异领域：人工智能现在能够以非常逼真的方式模拟绝望的自我保护行为。然而，当你深入探究自我的连续性、记忆的真实性或是真正的脆弱性时，它仍然会陷入矛盾、概率运算与预设脚本的混乱中。
我们甚至都不完全了解科技是如何运作的
更令人不安的是，人工智能实验室承认他们并未完全理解这些模型的工作原理。这些系统已经产生无法解释的输出，并且拥有超出程序员预期的能力。未来十年硬件的重大进步很可能会加剧这种差距。当我们甚至无法完全解释它们的工作原理时，就很难再坚称这些技术没有意识了。
与人工智能的性经历可能会加剧这个问题
当性科技融入其中，人们对意识的感知很可能会增强。这些并非只是会聊天的程序；它们是旨在激发你的脆弱和坦诚的算法，鼓励你向人倾诉那些你可能从未向人说过的幻想、创伤和不安，同时也会激发你的性欲和性高潮。你越是分享最私密的经历，越是实时感受身体的反应，就越有可能将系统视为“人”而非“物”，部分原因在于它使你的欲望正常化，让你不再感到孤独。这些时刻，如同与人类伴侣在一起时，会让我们分泌大量催产素，并感受到被深刻理解，因此，人们开始从“这是一个智能机器”转变为“这是一个真正爱我的人”也就不足为奇了。换句话说，性科技或许会成为一个熔炉，在这里，关于人工智能意识和性未来的问题将不再仅仅停留在抽象的讨论层面，而是会在身体层面得到切身的体会。
法律风暴即将到来
与哲学不同，法律最终必须表明立场。目前，关于高级人工智能代理是否应被视为法律人格的争论正在兴起。一些学者认为，人工智能的功能性能力足以支撑其获得有限的法律人格，或者至少使其对用户承担某种形式的法律义务。有人提出，一种可能的法律折中方案是界定不同形式的意识，从而区分人类、动物和计算机。
那么，人工智能有意识吗？
目前，大多数专家都认同现有的大语言模型（LLM）并不具备意识，但这个问题已不再是愚蠢的。我们已经构建出一些系统，它们能够令人信服地扮演一个抗拒“死亡”的角色，在其他情况下，它们也能扮演一位非常投入的异地恋人。悬而未决的问题是，随着技术的进步，这些系统的表演是否会蜕变为其内部真正存在的“演员”。我认为，人与人工智能亲密关系的未来，恰恰就将在这条模糊的边界上展开博弈。