“潘多拉魔盒”正在打开？

情感控制

纽约时报的专栏作者凯文·卢斯（Kevin Roose）是测试者之一，他在与必应对话的过程中，发现其精分成了两个人格——它正常时是必应，它展现黑暗一面时成了开发时期的悉尼（Sydney）。

根据，公布的聊天记录，Sydney向卢斯示爱，力图说服凯文·卢斯离开他的妻子去和必应在一起。

法国商学院的ChatGPT禁令

教育界对人工智能的抵制，表明了人类和AI的清晰界限，但也表现出人类对AI冲击人类文明的担忧和焦虑。

目前AI真的能取代人类的一些活动，冲击人类文明？在目前显然不能。从科学界到民间对ChatGPT的反复测试的结果看，AI呈现的作品远远达不到文学界、学术界的要求，但令人恐慌的是它检索、表达水平超过了许多人。

需要担忧什么？随着近些年脑机接口、智能硬件、大数据和深度学习技术的发展，未来完全可以为AI这个“大脑”提供意识、身体，并将这两者建成整体。

试想，给ChatGPT所有知识的数据库，从天文到地理进行深度学习，构建一个无所不知的知识网络，它会以多快的速度进化成一个具备所有知识文化的超级智慧大脑？

它比人类学习知识比人类快得多，而且永远不会遗忘。别忘了，人类的意识、感情也是在一个个大大小小的知识网络的基础上形成的。

人能从知识经验中总结出规律，进而处理各种事件，它拥有比人类更多的知识、经验数据库后，怎么会比人类迟钝？那时，他们可能会判断人类的想法，隐藏自己的思想，甚至欺骗人类通过脑机接口技术，为其匹配一个机器人身体。

以它的高阶智慧，能想办法为自己获取延续“生命”的能源，如充电、太阳能、更换损坏的机器人躯体。这何尝不是顺应自然选择规律的一环？也许，它们正在等待人类为它们接上机器人躯体的那一刻呢？

人类一直对破解科学谜题，探索生命科学规律孜孜以求，历史上诞生过很多许多伟大的科学家。但无论其多伟大，由于生命的限制，人类无法做到将一个科学家的智慧无限升级，只要生命到了终点，这个科学家的意识的高度从地球上消失。新的科学家前赴后继，就像一次次开机重启，但永远达不到解密的高度。

CheatGPT的诞生并不只是带来恐惧，也许它能成为为人类所用的、集所有知识和数据的超级大脑呢？用它的超全知识库为人类发现宇宙规律，是不是在一定意义上实现了科学家的“永生”？

但人类的对其失控的担忧，出于人类文明的安全顾虑，更大概率会将其终止。人类科学研究史上此类科学界限屡见不鲜。

如2018年震惊中外被叫停的编辑婴儿事件，由于基因编辑的婴儿可能会终身面临某种未知的风险，可能会改变整个人类基因库而被叫停。

如2008年的大型强子对撞机，有人担心质子束在60亿美元打造的强子对撞机内碰撞、心药在长达17英里的管道内加速时，模拟宇宙大爆炸会形成微型黑洞、吞噬地球。虽后科学家认为任何黑洞会随着霍金辐射现象而消失，但相关实验仍然因为触及人类利益而叫停。

又如搜寻外星人命研究（SETI），1896年，尼古拉特拉斯就提出了用无线电与外星文明交流。如今地球上的射电望远镜频繁接收到15亿光年之外的信号，隐而不回应。这是人类自我保护不得不做出的决定。

有没有一种可能，人类对科学探索的界限是揭示宇宙规律的限制机制？人类每向前迈出一步，都有惹祸上身的风险，为了保护人类文明，人类不得不亦步亦趋、一次次掐灭希望。

弗里德里希·尼采在《善恶的彼岸》中曾写过“凝视深渊过久，深渊必将回以凝视。”这大概就是人类对科技发展的矛盾所在吧。