编辑：袁榭 拉燕

【新智元导读】家用电器「活过来」，在动画电影里很温馨美妙。但用GPT-3支撑的模型在现实中复现，差点就酿成血案了……

相信很多内向的人在小时候都有一个「假想」的朋友。

不过和一切童年幻想一样，美梦很丰满、现实很骨感。有人在现实中拿当下最高能的GPT-3模型试图圆梦，结果简直是个车祸现场。

按AI的刻板逻辑，这是要把炉里的播主给活生生烧熟了啊。难道这微波炉AI真的要开始做谋杀狂了吗？！

Rizzotto战战兢兢地问「磁控管」为啥要杀了自己，微波炉回答：「因为我要让你也尝尝你如何折磨我的滋味。」

这从AI版希特勒秒变到AI版三流肥皂剧弃妇角色的画风，好让人满脸问号啊。

不是AI变神经病，是训练数据选错了

不过Rizzotto很快发现这不是AI觉醒、诱发微波炉变终结者，这其实是他自己把AI背景人设整得太复杂的后果。

Rizzotto本想用一个电影脚本般的宏大背景故事，来训练出内涵更丰富的对话AI。

结果他那一百多页的故事书里，充满了各种一战背景的画面描述：战场尸积如山、伤兵手捧断肠、战友尸首不全。

结果，这些满载毁灭、悲痛、战祸语调的内容，生生训练出一个有PTSD（创伤后症候群）特征和血腥暴力语料的AI出来。

的确，训练AI，也要五讲四美安全第一啊。

至于这算不算AI觉醒、成为真正「通用人工智能」，那就见仁见智了。

参考资料：

https://twitter.com/_LucasRizzotto/status/1516205625662836739https://www.ign.com/articles/someone-turned-imaginary-friend-into-ai-microwave-and-it-wanted-to-kill-them?fbclid=IwAR2p9LeP7y4F_25f_pRaBt31qllgN6XiVAQ68ngc8q2K15RqOOsZWUxNe-shttps://thenextweb.com/news/ai-ressurects-imaginary-friend-as-monstrous-microwavehttps://www.youtube.com/watch?v=C1G5b_2PYj0