萧箫 发自 凹非寺量子位 | 公众号 QbitAI

图灵奖得主Bengio和Hinton，同时警告AI可能灭绝人类！

就在昨夜，一封签署名单多达350人的公开信迅速传播开去，信中核心只有一句话：

“降低AI灭绝人类的风险”，应该像流行病和核战争等其它社会规模的风险一样，成为全球的优先事项。

签署这封公开信的，既包括三大AI巨头的CEO，即ChatGPT老板、OpenAI的Sam Altman，DeepMind的Demis Hassabis和Anthropic的Dario Amodei；

不过，Gary Marcus同样没有签署这份350人公开信。

显然包括不少AI大牛在内，反对者主要有两种意见。

一种意见认为，AI技术确实存在风险，但这封公开信涉及到的内容太泛泛。

如果有更精确的声明如“减轻AI技术的潜在风险应该是科技行业、政府和该领域学术研究人员的首要任务”，那么这封信还是可以签署的。

另一类意见则认为，这封信只不过是当前掌握最领先AI技术的人，试图控制AI接下来的走向而已。

以OpenAI的CEO Sam Altman为例：

Sam Altman要是真的担心，大可以现在直接关掉ChatGPT服务器。

所以，你认为按照现在的进度来看，AI有可能灭绝人类吗？

参考链接：[1]https://www.safe.ai/statement-on-ai-risk[2]https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html?smtyp=cur&smid=tw-nytimes[3]https://twitter.com/AndrewYNg/status/1663584330751561735[4]https://www.reddit.com/r/MachineLearning/comments/13vls63/n_hinton_bengio_and_other_ai_experts_sign/

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态