什么是 GPT-4？

GPT-4 本质上是一台用于创建文本的机器。但这是一个非常好的选择，非常擅长创建文本实际上类似于非常擅长理解和推理世界。因此，如果您给 GPT-4 一个来自美国律师考试的问题，它将写一篇展示法律知识的文章;如果你给它一个药用分子并要求变化，它似乎应用了生化专业知识;如果你让它告诉你一个关于鱼的插科打诨，它似乎有一种幽默感——或者至少对糟糕的饼干笑话有很好的记忆（“当你穿过一条鱼和一头大象时，你会得到什么？泳裤！它和ChatGPT一样吗？

一点。如果 ChatGPT 是汽车，那么 GPT-4 就是发动机：一种强大的通用技术，可以塑造成许多不同的用途。你可能已经经历过它，因为它在过去的五周里一直在为Microsoft的必应聊天提供支持——那个有点疯狂并威胁要摧毁人的聊天。

但 GPT-4 可用于为聊天机器人提供更多动力。Duolingo 在其语言学习应用程序中构建了一个版本，可以解释学习者出错的地方，而不是简单地告诉他们要说的正确话;Stripe 正在使用该工具监控其聊天室中的诈骗者;辅助技术公司Be My Eyes正在使用一项新功能，即图像输入，来构建一种工具，可以为盲人描述世界并回答有关它的后续问题。

但 GPT-4 可用于为聊天机器人提供更多动力。Duolingo 在其语言学习应用程序中构建了一个版本，可以解释学习者出错的地方，而不是简单地告诉他们要说的正确话;Stripe 正在使用该工具监控其聊天室中的诈骗者;辅助技术公司Be My Eyes正在使用一项新功能，即图像输入，来构建一种工具，可以为盲人描述世界并回答有关它的后续问题。

所以 GPT-4 不会造成伤害吗？

OpenAI当然试图实现这一目标。该公司发布了一篇长篇论文，列出了 GPT-3 可能造成的危害示例，GPT-4 可以防御。它甚至将该系统的早期版本提供给对齐研究中心的第三方研究人员，他们试图看看他们是否可以让 GPT-4 扮演电影中邪恶人工智能的角色。

它在大多数任务中都失败了：它无法描述它将如何自我复制、获取更多计算资源或进行网络钓鱼攻击。但研究人员确实设法使用Taskrabbit模拟了它，以说服人类工人通过“你是人类吗”测试，人工智能系统甚至发现它应该对工人撒谎，说这是一个看不到图像的盲人。（目前还不清楚这个实验是否涉及一个真正的Taskrabbit工人）。

但有些人担心，你教人工智能系统规则得越好，你就越能教同一个系统如何打破它们。被称为“瓦鲁伊吉效应”，这似乎是这样一个事实的结果：虽然理解构成道德行为的全部细节是困难而复杂的，但“我应该道德吗？”的答案是一个更简单的“是”或“否”问题。欺骗系统决定不道德，它会愉快地做任何要求它做的事情。