ChatGPT 为新闻报道生成虚假 URL,展示一项实验:以下是 OpenAI 的回应
最近,尼曼实验室进行了一项实验,测试 ChatGPT 提供新闻出版物文章正确链接的准确性。他们发现 ChatGPT 并没有提供准确的链接,而是自信地生成了错误的 URL。这种行为在人工智能行业中被称为“幻觉”,相当于一个人自信地撒谎或编造事情。
尼曼实验室的研究
Nieman Lab 的 Andrew Deck 要求该服务提供由 10 家出版商发布的高调独家报道的链接,OpenAI 已与这些出版商达成了价值数百万美元的交易。这些出版商包括美联社、华尔街日报、金融时报、泰晤士报(英国)、世界报、国家报、大西洋月刊、The Verge、Vox 和 Politico。ChatGPT 并没有提供准确的链接,而是生成了导致 404 错误页面的虚假 URL,因为这些链接并不存在。
这种行为是故意的,因为系统旨在预测报道 URL 最可能的版本,而不是提供正确的版本。对 Business Insider 进行的类似实验也得出了同样的结果。
ChatGPT中文网页版
OpenAI 的回应
OpenAI 发言人告诉 Nieman Lab,该公司正在开发一种将对话功能与其最新新闻内容相结合的体验。这种增强体验仍在开发中,尚未在 ChatGPT 中提供,发言人没有提供有关虚假 URL 的更多详细信息。
这种新体验的具体上市时间及其可靠性仍不确定。
当 ChatGPT 生成 URL 时,它本质上是在创建虚假信息。这是因为生成式人工智能的运作方式是尝试预测序列中的下一个单词,类似于高级版的自动完成功能。它实际上并不“理解”它所生成的文本,尽管它可能看起来是这样的。
与此同时,中国人工智能公司正迅速吸引OpenAI 技术的用户。此前有报道称,openai计划限制中国和其他国家对其应用程序编程接口 (API) 的访问,该平台允许开发人员将其 AI 模型整合到他们的产品中。据中国国有报纸《证券时报》周二报道,ChatGPT 的制造商 OpenAI 打算阻止中国和其他一些国家/地区的组织访问其用于构建 AI 产品的技术。