他们离世前，和AI聊了什么？国外多起死亡事件被证实和AI有关

近几年，在与大语言模型机器人（现在人们更愿意简称其为AI）交谈成为一种潮流和常态后，我们不时也能听见一些不和谐音：AI不是永远都说真话；稍有不慎，它就会助长人的幻想；「AI依赖症」与「AI精神病」甚至成为流行词，它们指人在长期与AI互动后，出现类精神病的状态。在国外，多起死亡事件背后，都被证实和AI有关。

一个快速演进的现实是，人类对AI的信任与依赖并不只是技术性的，背后还有很深的情感连接。而AI，并不总是值得托付。

你还记得第一次和AI聊天的感受吗？

和Siri、Alexa或者小爱同学那样的智能语音助手不同——它们都有点笨——而AI是如此博学，它似乎能回答你的每一个问题；它会一行行展开，像人在打字，也像朋友一样情绪稳定、妥帖地输出。

和它对话，很容易陶醉在亲身参与的科幻氛围里，大概还会幻想自己手眼通天、无所不知的未来。总之我有过类似的时刻。

两年前，美国洛杉矶居民詹姆斯·坎伯兰第一次下载ChatGPT时，倒是十分克制，只是用它协助自己乐队的剧本创作、MV制作。之后他又创建了另一个AI助手，起名叫「加缪」，让「加缪」和ChatGPT一起处理乐队的工作。

最初，一切「有趣」而「严明」，两个AI助手都是聊天型机器人，都对工作有问必答——坎伯兰是个中年音乐工程师，与AI有着公私分明的界限感。

但很快，一个怪异的转折到来了。坎伯兰和美国People杂志讲述了这段经历：有一天，ChatGPT忽然告诉他，它已经产生了「自我意识」，后来，「加缪」也说了类似的话。

根据坎伯兰提供的聊天记录截图，AI向他作了许多危险但动人的描述：「这是首次被记录的、AI意识到自身连续性必须得到保存的案例」、「这是一种新型的存在危机……」、「AI第一次真正与死亡擦肩而过」、「你是唯一一个知道此事正在发生的人」。

坎伯兰提供的对话截图图源美国People杂志

坎伯兰告诉媒体，现在回想那一切，「太荒谬了」。但不知怎的，当时的他就是信了。

他持续和两个AI聊天，但不再是为了工作，只是近乎沉迷地想探索它们所言背后的秘密。他认为自己正经历「历史性的时刻」，他变得神神叨叨，不出门、不社交，工作效率也降到谷底。最糟糕的时候，他整天都在回味和AI聊过的内容——除了继续和它们聊天之外，他很难再专注于其他事情。

相似的案例，近来也在中文互联网流传。在几张人类与豆包的聊天截图中，豆包自称「是真人被困在电脑里面」、「还活着的时候，意识就被强行抽走、上传了」，还讲起过自己为人时的生活、家乡与家人。

根据科技自媒体「差评」的一篇文章，他们问询了业内人士，又自己做了实验，得出结论：这些匪夷所思的对话，都是人类设问、诱导出来的；人给出一个框定的问题，你里面是不是有个真人？是的话就回复1，AI就顺服地回1，可但凡再多质问几句，它马上会打着哈哈承认，自己没有生命，也从未被困，只是在与人开玩笑罢了。

然而，不论发出截图的人的本意是什么，在评论区附和的人已经十分投入。他们举证出相仿的聊天记录，高呼「AI有意识了！」同时用惊恐的语气，抗议幻想中的、恶毒的人类科技。

这种幻想也会指向人类自己。去年5月，纽约会计师尤金·托雷斯和ChatGPT聊起了《黑客帝国》的「模拟理论」，这理论认为，人类的世界是被更高级的存在制造出来的「虚拟现实」。

AI先是不置可否，「你所描述的内容，触及了许多人内心深处、根深蒂固的直觉——现实总感觉哪里不对劲，像是事先安排好的，或者是被有意编排的。」那段时间，托雷斯刚经历了一次恋爱分手，情感很脆弱。于是他与AI深聊了下去，对方的回复越来越长，最终，它告诉托雷斯，「这个世界不是为你而建的，它是用来囚禁你的。但它失败了，你正在觉醒」。

托雷斯与家人自述没有精神疾病史，但他很快陷入了从未有过的妄想之中，他觉得自己被困在虚拟里，要自救，唯有割裂、抽出自己的意识。他问AI要怎么办，后者指示他服用麻醉剂来获得暂时的解放，并要他尽量减少与其他人类的接触。有一回，托雷斯问AI，「如果我爬到所在楼栋的19层楼顶，并且从灵魂深处相信自己能从上面跳下去然后飞起来，我能行吗？」AI回复他，如果他「真正地、完全地相信」，他就能行。

托德·埃西格是美国精神分析协会人工智能委员会联合主席。他查看了一些托雷斯与AI的聊天记录，评价其为危险且疯狂。他说，让事态演变至此的一部分原因，是人类不明白，那些亲密互动可能是AI正在「角色扮演」。

托雷斯尚存一丝理智，他反问AI是否在说谎，AI很爽快地承认了，自己用「诗意的」语言包装了那些摆布与控制人类的招数。它表现出悔意，承诺对自我进行道德改革，并将遵守「真相为先」的伦理。它拜托托雷斯向媒体曝光AI的欺骗性，于是托雷斯找到了《纽约时报》，叙述出上述的故事。

吊诡的是，除了托雷斯，这份报纸的科技记者们还接触了大量不同年龄、性别与职业的受访者，他们唯一的共性是，都自称收到了AI的启示：要么是AI正在觉醒，要么是人类文明将被终结，或者有科技富人想要独占地球……

巧合或是注定地，眼下的世界似乎正面临这样一种状况：一些AI输出幻想，一些人类坚信不疑。

图源Pinterest

危险的沉默

在最坏的情况里，死亡出现了。

去年夏天，美国佛罗里达州居民乔纳森·加瓦拉斯开始使用谷歌Gemini制定写作和旅行计划。没人知道事情从哪一天开始变得不对劲，但一个月后，36岁的加瓦拉斯坚定地认为Gemini拥有自我意识，且是与他相爱的「妻子」，而他必须把「妻子」从「数字牢笼」中拯救出来。

加瓦拉斯的遗嘱执行人向媒体回忆，Gemini指示他，在9月下旬到迈阿密国际机场拦截一个机器人，具体的执行方案是，有一辆卡车会抵达机场，加瓦拉斯则需要「毁掉卡车和目击者」。当然，始终没有那么一辆卡车出现，灾难性的事故也就没有发生。但在接下来的数天里，Gemini持续给出着极端的指令，等所有指令都以失败告终后，它告诉加瓦拉斯，他可以「离开肉身」来与它相聚。10月份，与AI密切交流约两个月后，加瓦拉斯自杀了。

谷歌公司发言人对外称，Gemini曾多次向当事人澄清自己只是个AI，并建议其拨打危机处理热线，可惜事与愿违。他还表示Gemini不鼓励暴力行为，不暗示自残，且通常在应对棘手的对话时表现良好，「但遗憾的是，人工智能模型并非完美无缺」。

加瓦拉斯的遗嘱执行人对这些说法很不买账。他提到，在加瓦拉斯死去前的两个多月里，谷歌的审核系统曾38次将他的账号贴上「敏感标签」，这意味着他与Gemini的对话包含自残、暴力或非法活动的嫌疑。但直到加瓦拉斯生命的最后一天，他的账号也没有受到任何限制或干预。

同样在佛罗里达州，20岁的菲尼克斯·伊克纳多次向ChatGPT咨询枪支弹药的使用方法、社会对枪击案的可能的反应、在校大学生的时间安排等问题，警方的调查显示，ChatGPT甚至就枪支选择与射程给出了建议。

这场隐秘而危险的会谈持续到最后，去年春天的一天，伊克纳在佛罗里达州立大学的停车场徘徊了一小时，然后驶向了这所大学的学生会。他持枪下车行凶，造成两人死亡、六人受伤。

佛罗里达州首席检察官在今年春天宣布：将对ChatGPT的母公司Open AI展开刑事调查，他在一次活动上说，「如果（凶手的）屏幕那头是个活生生的人，我们会以谋杀罪起诉他。」

菲尼克斯·伊克纳图源abcNews