安全性大幅提升
OpenAI 用 6 个月时间对 GPT-4 做安全对齐,回应违规内容请求的可能性比 GPT-3.5 降低 82%。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
GPT-4 是 OpenAI 于 2023 年 3 月 14 日发布的大语言模型,沿 GPT、GPT-2、GPT-3 的研究路径,用更多数据与算力训练而成。相比 GPT-3.5,它对违规请求的回应减少 82%,产生事实性回答的概率提升 40%;训练中还引入更多人类反馈,并有 50 多位专家参与早期反馈。它通过 ChatGPT Plus 和 API 提供给用户。已知短板是仍存在社会偏见、幻觉和对抗性提示等局限,官网也未公布模型参数规模与具体定价。
GPT-4 是 OpenAI 开发的大语言模型,是 GPT、GPT-2、GPT-3 研究路线的延续。OpenAI 用更多数据和更多计算量来训练这个深度学习模型,目标是让语言模型的能力更强。
在安全与对齐方面,OpenAI 花了 6 个月时间改进 GPT-4。相比 GPT-3.5,GPT-4 回应违规内容请求的可能性降低 82%,产生事实性回答的可能性提高 40%。训练中加入了更多人类反馈,其中包括 ChatGPT 用户提交的反馈,并有 50 多位来自 AI 安全等领域的专家提供早期反馈。GPT-4 运行在 Microsoft Azure AI 超级计算机上,Azure 的 AI 优化基础设施也让 OpenAI 能把 GPT-4 提供给全球用户。
目前 GPT-4 通过 ChatGPT Plus 和 API 两种方式提供:普通用户在 ChatGPT Plus 里直接使用,开发者则可以通过 API 把它接入自己开发的应用和服务。Duolingo、Be My Eyes、Stripe、Morgan Stanley 等产品已经基于 GPT-4 做出了各自的落地应用。
OpenAI 用 6 个月时间对 GPT-4 做安全对齐,回应违规内容请求的可能性比 GPT-3.5 降低 82%。
在 OpenAI 内部评估中,GPT-4 产生事实性回答的可能性比 GPT-3.5 高出 40%。
训练中加入了更多人类反馈,包括 ChatGPT 用户提交的反馈,并邀请 50 多位 AI 安全等领域专家提供早期反馈。
OpenAI 会像 ChatGPT 一样,随着使用人数增加,按固定节奏持续更新和改进 GPT-4。
OpenAI 借助 GPT-4 的高级推理和指令遵循能力,帮助生成模型微调所需的训练数据,并在训练、评估和监控环节迭代分类器。
普通用户可以在 ChatGPT Plus 里直接使用 GPT-4。
开发者可以通过 API 把 GPT-4 接入自己构建的应用和服务中。
GPT-4 适合看重输出安全性和事实可靠性的场景:它在 OpenAI 内部评估中比 GPT-3.5 少 82% 的违规回应、多 40% 的事实性回答,还引入了 ChatGPT 用户反馈和 50 多位专家的早期反馈来改进行为。如果你已经在用 ChatGPT Plus,或需要通过 API 搭建应用,GPT-4 是可以直接用的选择。但要注意它仍有社会偏见、幻觉和对抗性提示等已知局限,训练数据量和参数规模也没有公开,不适合把输出当作无需核验的最终结论。
已经订阅 ChatGPT Plus、想用上更安全更可靠模型的用户,可以直接切换使用 GPT-4。
需要通过 API 把大模型能力接入自己产品或服务的开发者,GPT-4 提供 API 通道。
内部评估中 GPT-4 事实性回答比 GPT-3.5 高 40%,适合对事实性要求较高但仍需人工复核的场景。
官网明确列出幻觉是 GPT-4 的已知局限之一,对错误零容忍、不接受人工复核的流程不适合直接依赖它。
在 OpenAI 的内部评估中,GPT-4 回应违规内容请求的可能性比 GPT-3.5 低 82%,产生事实性回答的可能性比 GPT-3.5 高 40%。安全对齐方面 OpenAI 花了 6 个月,训练中还加入了更多人类反馈,包括 ChatGPT 用户提交的反馈。
OpenAI 列出的已知局限包括社会偏见、幻觉和对抗性提示,并表示正在努力解决。OpenAI 同时提到会推动透明度、用户教育和更广泛的 AI 素养,并希望扩大用户参与塑造模型的途径。
GPT-4 通过 ChatGPT Plus 向普通用户提供,已经订阅 ChatGPT Plus 即可使用。开发者也走 API 通道,把 GPT-4 接入自己构建的应用和服务。
开发者通过 API 使用 GPT-4,把它接入自己开发的应用和服务。Duolingo、Be My Eyes、Stripe、Morgan Stanley 等产品都基于 GPT-4 做出了各自的落地应用,可以作为接入方式的参考。
GPT-4 训练于 Microsoft Azure AI 超级计算机。Azure 的 AI 优化基础设施也让 OpenAI 能把 GPT-4 提供给全球用户。
会。OpenAI 表示会像 ChatGPT 一样,随着更多人使用 GPT-4,按固定节奏对它进行更新和改进。
OpenAI 发布 GPT-4,称其为当时最先进的系统,能产生更安全、更有用的回答。