OpenAI 推出 CriticGPT,帮助开发人员发现和修复错误

OpenAI最近推出了基于 GPT-4 的突破性 AI 工具 CriticGPT,旨在识别 ChatGPT 生成的代码中的错误。这一创新工具是 OpenAI 不断努力提高 AI 系统准确性和可靠性的一部分。据 OpenAI 称,与传统方法相比,CriticGPT 可将代码审查结果提高 60%。该公司计划将 CriticGPT 集成到其从人类反馈中强化学习 (RLHF) 标签管道中,为 AI 训练师配备先进的工具,以更有效地评估复杂的 AI 输出。

OpenAI 在其研究论文中概述了 CriticGPT 的主要目标:协助人类审阅者仔细审查 ChatGPT 生成的代码。CriticGPT 使用 GPT-4 大型语言模型 (LLM) 构建,在分析代码和识别错误方面表现出令人印象深刻的能力。它可以帮助人类审阅者发现可能被忽视的 AI“幻觉”或错误。

CriticGPT 的训练过程涉及人类开发人员编辑 ChatGPT 编写的代码。他们引入了各种错误并提供示例反馈,教 CriticGPT 识别常见和不太常见的编码错误。OpenAI 报告称,训练取得了令人印象深刻的成果,但仍存在一些挑战。一个重大挑战是识别由分布在多个代码字符串中的错误引起的 AI 幻觉,这使错误检测变得复杂。

ChatGPT中文网页版

立即访问

CriticGPT 是一项更广泛的计划的一部分,旨在改进大型语言模型并增强其生成 AI 能力。这款新工具提高了 AI 生成代码的准确性,并为 OpenAI 未来的 AI 开发奠定了基础。该公司正在开发一种新的、更强大的 AI 模型,首席技术官 Mira Murati 对其功能进行了深入分析。

Murati 解释说,GPT-3 的智力相当于幼儿,GPT-4 的智力相当于高中生,而下一代模型将拥有博士学位持有者在特定任务上的智力。她提到,这种先进的模型有望在大约一年半内问世,并表示与下一代聊天机器人的互动可能常常感觉像是在与比自己更聪明的人交谈。

为了进一步增强其生成模型,OpenAI 与《时代》杂志合作。这项最近宣布的多年期内容协议将使 OpenAI 能够访问《时代》杂志 100 多年的档案。此次合作旨在丰富 ChatGPT 的训练数据,确保其基于准确可靠的信息。《时代》杂志也将从此次合作中受益,利用 OpenAI 的技术开发新产品并提高其受众参与度。

总而言之,CriticGPT 代表了人工智能驱动的代码审查的重大进步,为人类开发人员提供了宝贵的支持,并为更复杂的人工智能模型铺平了道路。OpenAI 正在进行的合作伙伴关系和创新凸显了其致力于突破人工智能技术的界限,并确保其应用程序可靠且对用户有益的承诺。


好啦,今天就到这里,如果你也想在体验ChatGPT4.0

具有GPT4对话、DALL·E3绘画、GPT4V看图助手。

可以点击下方红色链接进行使用。

https://chatgp4.com

标签