ChatGPT 5天用户破百万，却突遭Stack Overflow封禁

**如果有一天我们获取的“知识”真假难辨，那将是极其可怕的。**

最近，AI 圈中哪个模型最火爆？无疑是 OpenAI 推出的 ChatGPT。自发布以来，该对话模型吸引了大量关注，许多人甚至探索出了上百种新玩法：让它编写代码、修复 bug、开发小游戏、解答物理问题、参与考试……似乎没有它无法完成的任务。

“仅上线几天，ChatGPT 的用户数量就突破了 100 万！”OpenAI 的 CEO Sam Altman 如此表示。

连马斯克都忍不住好奇，询问：“你们每次聊天的平均成本是多少？”

Sam Altman 回答道：“每次聊天的平均费用可能仅为个位数，我们正在寻找更准确的统计方法，并努力优化成本。”

由于 ChatGPT 在解决各种问题时表现出色，很多用户认为它可以替代 Google 等搜索引擎以及 Stack Overflow 等编程问答社区。

尽管许多人对 ChatGPT 的功能印象深刻，但也有用户注意到它经常生成似是而非的错误答案。例如，当要求 ChatGPT 写一个公众人物的传记时，它可能会自信地插入不正确的数据；同样，要求它解释如何编写特定功能的软件程序时，它也可能生成看似合理但实际上错误的代码。


ChatGPT 随时都有可能出错的特性促使 Stack Overflow 做出反应。前几日，有人信心满满地宣称 ChatGPT 可以取代 Stack Overflow，但随即 Stack Overflow 宣布封禁了 ChatGPT。

这究竟是怎么回事？原来在试用一段时间后，人们迅速发现，尽管 ChatGPT 以接近人类的方式回答问题，但其给出的答案经常存在问题。OpenAI 也指出，ChatGPT 有时会提供看似合理但实际上错误的答案。

对于这一问题，Sam Altman 表示：“我们正在努力防止 ChatGPT 随机编造答案，但在技术上保持平衡相当棘手。随着时间的推移，我们会根据用户反馈来改进它，相信 ChatGPT 会逐渐变得更好。”

Stack Overflow 禁用 ChatGPT 的官方声明指出：“主要问题在于，虽然 ChatGPT 生成的答案错误率很高，但我们很难判断其错误具体来源。”这可能导致答案的混乱。

接下来，Stack Overflow 将制定有关使用 ChatGPT 及其他类似工具的具体要求。该平台的声明表示，ChatGPT 生成的答案正确率过低，发布这些答案对网站及查询正确答案的用户而言是极为有害的。

尽管 ChatGPT 生成的答案错误率较高，但这些答案通常看起来相当精美，生成过程简单易行，因此许多人愿意使用 ChatGPT 来生成答案。然而，他们往往缺乏必要的专业知识，也不愿意在发布前验证答案的准确性。

最近，Stack Overflow 上涌现了大量 ChatGPT 生成的内容，许多答案的错误性只有在具备一定专业知识的情况下才能确认，这对 Stack Overflow 的质量管理造成了冲击。

网友们对此反应不一。一部分人支持这一决定，认为 AI 在短时间内根本不可能生成完全正确的答案；而另一些人则认为，问题出在 Stack Overflow 用户没有在发布答案前认真检查和测试 ChatGPT 生成的代码，他们只是用 ChatGPT 快速生成答案而没有进行验证，从而导致严重的错误，甚至出现了语言混乱。

有趣的是，在 Stack Overflow 宣布禁用 ChatGPT 之后，有网友问它：“为什么 Stack Overflow 禁止使用 AI 生成答案？”

ChatGPT 给予了坦诚的回答：“因为 AI 生成的答案并不总是准确或相关的，可能会导致 Stack Overflow 上错误答案的混淆，误导寻求帮助的用户。”它还表示：“Stack Overflow 禁止使用 AI 生成答案是合理的。”

当该网友继续询问：“为什么 Stack Overflow 允许使用 AI 生成答案？”时，ChatGPT 仍然答复流畅：

“在 Stack Overflow 上允许 AI 生成答案有一些潜在的好处。首先，人工智能可以为用户提供更准确和详细的回答，尤其是在一些人类专家难以解决的复杂技术问题中。此外，AI 生成的答案还可以减少人类专家的工作量，使他们能够专注于更重要的任务。

然而，使用 AI 生成答案也存在一些潜在缺陷。例如，AI 生成的答案可能并不总是准确和有帮助，而且人们可能担心用于生成答案的算法存在偏见。用户或许更愿意信赖来自人类专家的回答，而非 AI 生成的内容。”

总的来说，是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决策，需要社区仔细权衡。

综合上述回应，我们发现 ChatGPT 对于 Stack Overflow 禁用 AI 生成答案的问题表达得理有据。这表明，从语言模型的角度来看，ChatGPT 已相当成熟，但生成准确的知识性内容仍是一项艰巨的挑战。

类似地，上个月 Meta 的模型 Galactica 在上线仅两天后便被迅速下架，原因是该模型生成的知识型内容存在严重错误。而如今 ChatGPT 也在 Stack Overflow 被禁用，再次证明构建“知识型模型”确实是一项巨大挑战。

尽管 ChatGPT 的研究团队此前表示将根据用户反馈不断改进模型，但生成错误答案的现状表明，让语言模型产生可靠的知识性内容仍需长时间的努力。

### 结语

未来，提升 AI 模型生成内容的准确性将是 AI 发展中不可忽视的重要课题。面对真假难辨的知识，开发者和用户都需提高警惕，以确保信息的可靠性。

—

### 见解

这篇文章揭示了当前 AI 技术，尤其是语言模型在知识生成方面的挑战。尽管 ChatGPT 展示出了令人印象深刻的能力，但对答案的可靠性和准确性缺乏保证，使用户在追求便捷的同时，面临着潜在的知识误导。

Stack Overflow 的禁用决策反映了社区对内容质量的重视，特别是在涉及专业知识的领域，错误的信息不仅可能误导用户，还可能造成更广泛的后果。未来，AI 模型需要在生成准确和相关内容方面进行更多努力，同时也需要建立更健全的验证机制，使用户在获取信息时能够进行有效的甄别。

总之，AI 的发展不仅是技术的进步，也需要在伦理、责任和用户教育等方面进行深思，以确保其在真实世界中的应用是有益而非有害的。 इस तरह का प्रयास AI तंत्र को और अधिक विश्वसनीय और सक्षमता बना सकता है।