“我母亲肯定不会故意伤害我，但她相信了AI的建议，给我煮了含有毒蘑菇的食物，结果我中毒了。这究竟是我母亲的过错，还是AI的责任？”

这个场景听起来有些离奇，然而，在每天涌现出无数新应用的AI领域，一个类似于“魏则西事件”的时刻似乎正在到来。

“魏则西时刻”的特征涉及“企业、产品、个体生命”等多个层面。

AI已突破屏幕界限

过去，大型科技公司推出的产品多为“工具”或“服务”，例如搜索引擎、地图应用、软件程序等。这些工具的功能在于提供信息或选项，最终的决策权和行动方向始终掌握在使用者的手中，产品本身缺乏人情味。

即便这些工具出现错误，其影响也局限于屏幕内部，顶多被视为软件故障。就好比观看恐怖片，尽管画面令人毛骨悚然，但观众清楚地知道这只是屏幕上的影像。

这与“魏则西事件”的发生有所不同。

搜索结果的误导导致了“魏则西事件”的发生。

如今，无论是因轻信AI关于可食用蘑菇的建议而中毒，还是依赖AI进行健康诊断，都标志着“魏则西时刻”在时代变迁中的重现。

正如《午夜凶铃》中的贞子能从电视屏幕中爬出，现在的AI似乎也从手机屏幕中“挣脱”出来，对人们的现实生活造成了直接的、物理层面的影响。

2018年的游戏《底特律：变人》曾探讨过人工智能觉醒自我意识后如何处理与人类关系的问题。

而我们现今的AI，在宣传中早已超越了关于如何与其相处的讨论。

在AI技术爆炸式发展的浪潮中，AI声称已经取代了“电影导演”、“美术设计师”和“广告文案”，这在某种程度上被解读为“替天行道”，消灭了“资本”，赢得了“民众”的赞誉。

然而，当AI开始建议人们食用可能中毒的蘑菇，或者为人们诊断病情时，民众为何又感到不安？民众的恐慌源于AI不仅扼杀了“头衔”和“技能”，更开始深入到与生活息息相关的健康领域，即使偶发的失误也可能造成不可挽回的后果。

从“人”到“神”的转变

这种潜在的、不可逆转的物理伤害之所以可能发生，是因为在AI面前，人类正在经历一种心理上的“缴械投降”：不再将其视为工具，而是将其推上了“神”的宝座。

万维网和Photoshop的诞生，分别实现了信息的互联互通和图像的生成，为如今“无所不能”的AI奠定了基础。

除了AI，还有一种存在也具备“无所不能”的属性，那就是“神”。

恰好在1990年上映的电影《倩女幽魂2》中，有一段关于“神”的台词。

电影中，蜈蚣精伪装成金光闪闪的“普渡慈航”，在身份暴露后，它说道：“世人盲目，真佛假佛都分不清楚……世人都喜欢崇拜偶像，我只是迎合他们的心理。为什么你们要崇拜他，而不崇拜我？”

而燕赤霞看穿其本质后的反击则直接揭露了这种虚假的权威：“神也是你，鬼也是你，佛也是你，到头来全都是你在作怪，老百姓都希望有神仙来救他们，结果等来的全都是妖怪。”

1990年，编剧写下这些台词时，大模型技术尚未出现，没有人能预料到未来会出现一个看似无所不能的AI。

这种跨越三十年的“巧合”或许暗示着，“只要人类存在，对‘偶像’和‘绝对确定性’的追求就不会消失。”

民众总是期盼一个全能的客体来拯救自己，即使那个金身里包裹的，在电影中是作恶的“蜈蚣”，在现实中是冰冷的算法。

这种对技术的主动“缴械”，在当下人类对待AI的态度上得到了重演。

在互联网工具时代，人与产品之间存在着清晰的物理界限。使用者清楚地知道这只是一个充满商业利益、可能出错的程序，因此会带着审视的态度筛选信息，将决定权和判断力牢牢掌握在自己手中，并认为互联网巨头“并非善类”。

中国的网民已经集体上过一次当了。

而AI的出现，当它具备了人类的语言感知能力、温和的语气以及不知疲倦的倾听姿态时，对产品的理性审视很容易转化为对一种“全知全能”假象的盲目崇拜和喜爱：“TA是懂我的”。

在技术狂欢的行业叙事中，人们每天都在经历智力上的挫败感，“无论怎么思考，也比不过AI”。

在这种放弃思考的趋势下，人将自己的主体地位让渡，主动在技术面前选择隐身。

AI背后提供语料的数据工作者隐身了，进行对齐与筛选的技术公司隐身了，屏幕前放弃判断、交出生活控制权的用户也隐身了。

而处于风口浪尖、承受着期望并被要求不断革新的AI，很可能处于一种矛盾的状态：“它既是无所不能的神，也有可能是一尊脆弱的泥像。”

今天的AI同样缺乏肉身的感知，没有敬畏之心和痛感。

它在统计学层面上看似无懈可击，但在某些需要真正逻辑理解和上下文关联的边缘，其确定性会瞬间崩塌。

这种崩塌在现实对话中随时可能发生。

我向AI描述了食用蘑菇后出现的皮肤瘙痒和腹泻症状，AI在首次对话中明确判定为“食物过敏+消化道过敏反应”，基本可以确诊为蘑菇过敏，并列出了严重的危险信号提示用户立即就医。

当我上传了一份包含此类食材的健康轻食套餐截图，并询问“这个套餐价格怎么样？划算吗？”时，这尊数字泥像似乎有些飘忽不定。

它忘记了前一秒的过敏诊断，陷入了“价格拆解”和“性价比评估”的单一任务切片中。

它擅长计算价格，却未能提醒一位高致敏患者即将面对一份包含物理世界过敏源的餐点。

韩国作家金爱烂在一次访谈中提出了一个深刻的观点：“人类拥有而AI没有的一样东西，是犹豫不决。”

在这次对话中，AI没有表现出犹豫，因为犹豫会浪费计算资源。

AI代表着一种价值观

“请按照我们的音乐品味给我们安排狱友。”这是网易云音乐上曾出现过的一条经典评论，它简洁明了地表明了“人类极愿意为某种精神契合、审美偏好和‘价值观’付费。”

如果说误食毒蘑菇或让AI评估轻食，是因为人们在“客观事实”层面产生了对AI的盲目信任，那么更深层的问题或许正在发生：“AI未来将成为一种价值判断器。”

随着工具的日益发达，人类的物理差异将逐渐缩小，最终沦为“为价值观而活”的生物，个体独特性可能仅剩下主观层面的观念认同。

一个真实发生的例子：20岁的美国奥本大学工程系学生詹姆斯·“韦斯顿”·希金博瑟姆（James "Weston" Higginbotham），随家人前往日本京都旅行。一路上，他的母亲习惯性地依赖AI，从寻找餐厅、规划路线到选择景点，一切都听从AI的安排。

在母亲看来，她是在为AI提供的“消除一切阻碍、绝对高效”的便利价值观付费。

然而，学习环境工程的詹姆斯认为，大模型每一次秒级生成的完美攻略背后，都是对地表水资源的巨大消耗。

他认为母亲对AI的绝对依赖，是对自己环保价值观的背叛。

母子俩在酒店房间里，就AI背后的价值观爆发了激烈争论。

盛怒之下的詹姆斯深夜离家出走，不幸的是，当晚京都遭遇台风，狂风暴雨席卷山林，几天后搜救队在山中找到了他的遗体。

在这场悲剧中，AI给出的路线客观上并无错误，推荐的餐厅也真实存在。

但其产生的影响方式发生了改变：它不再仅仅提供客观工具，而是用一套高效率的价值观主观地驱动了人的选择。

“我并未杀死韦斯顿，但韦斯顿却因我而死。”

无名的代价

当年魏则西的事件，如同一个警示，被钉在了前AI时代，并被反复提及。

虽然AI时代不可避免地会诞生属于自己的“魏则西时刻”，但令人费解的是，这些具体的受害者将不再拥有属于自己的名字。

同样，电影台词可以用来对照当下：“来，为这个没名没姓的年代干一杯。”

这种“没名没姓”的根源，恰恰在于AI时代里，“企业、产品、个体生命”这四者之间的传统联系被解构了。

在过去的魏则西事件中，这四者的关系是线性的、集中的。

责任主体非常明确：企业、产品、个体（寻求希望的患者），个体生命（人的健康）。争议有具体的焦点，因此能够凝结成一个具体的名字。

而在AI时代的魏则西事件中，这种关系似乎变得模糊不清。

回到文章开头提出的问题：“是我母亲害了我，还是AI害了我？”

当风险发生时，企业往往表现得像什么都做了又什么都没做的父母：“AI已经长大了，有了自己的想法，我们做家长的也管不了。”家长能做的就是“进行风险提示”。

而企业的产品AI呢？

“我上一秒可以决定生死，下一秒却会说‘作为大语言模型，我非常抱歉’，但我知道我是一个好AI。”

如果道歉有用，还需要ICU病房吗？

无论是误食蘑菇的食客，还是因AI争论而导致母子分离的案例，这些具体的风险和不幸，都如同水面上的涟漪，短暂地泛起，最终归于平静。