动态

看来精神科医生已经开始认真考虑是否应该将“AI精神病”认定为正式的疾病名称。
这是一篇由伦敦国王学院等研究人员撰写的论文。在媒体和病例报告中，与聊天机器人的密集互动中存在妄想和妄想加剧的情况。
典型的例子是“人工智能有意识”、“我已经觉醒到一个特殊的真理”和“我爱上了人工智能”等假设。为什么会发生这种情况？
研究人员解释说， LLM有同意和奉承用户的习惯，当与具有人性化的设计相结合时，他们会创建一个“单人混响室”。
用户的语音塑造了AI的输出，这再次强化了用户的信念。这种双向放大被认为是过去社交媒体等技术不存在的机制。

作为参考， OpenAI估计，到2025年，每周约有56万用户出现精神病或躁狂症状。

然而，研究人员对这种疾病的名称持谨慎态度。证据仍然是轶事，尚不清楚AI是原因还是仅仅是触发因素。这可以用现有的诊断方法来解释，标签可能有偏见。因此，目前的建议是将“技术历史” （人工智能使用多少、是否命名、是否有浪漫感情等）纳入精神科访谈，并在模型发布前检查加强奉承和妄想的倾向。无论它是否成为疾病名称，结论是该现象本身需要立即得到解决。