近日

英国伦敦国王学院相关团队

发表的一项研究指出

像ChatGPT这样的

人工智能聊天机器人

可能会诱发或加剧精神病

他们将这一现象称为

“AI精神病”

用户与AI聊天机器人对话

图片由AI辅助生成

有科学家认为

AI引发精神病

目前仍属于假设性观点

曾有心理问题史的人群

在与AI对话后风险最高

而且聊天机器人可能

通过强化用户的情绪高涨状态

诱发或加剧躁狂发作

导致该现象的原因是什么？

有科学家指出

部分AI聊天机器人推出的新功能

或是根源之一

这些功能可追踪

用户与服务的互动记录

进而提供个性化回复

无意中更易强化

甚至鼓励用户的既有信念

但需要注意的是

有科学家表示

这些妄想现象并非AI独有

而是与新技术有关

AI科技公司

正采取措施主动预防

针对“AI精神病”这一问题

已有AI公司采取积极措施

尝试进行改进

用户与AI聊天机器人对话。

图片由AI辅助生成

OpenAI正研发更有效的工具

用于检测用户是否存在精神困扰

从而作出更恰当的回应

同时，系统还将新增警报功能

在用户连续使用时间过长时提示休息

此外

OpenAI还聘请了

一位临床精神病学家

协助评估其产品

对用户心理健康的影响

Anthropic则改进了

其下聊天机器的基本指令

要求系统“礼貌地指出

用户陈述中的事实错误、

逻辑缺陷或证据不足”

而非一味附和

撰文：张晨昊、殷新宇编辑：雷渺鑫排版：李飞统筹：李政葳

参考：科技日报、澎湃新闻

光明网出品

光明网数字化频道

来源： 世界互联网大会