谷歌承认AI概览存在部分常识性错误 但谷歌指责用户进行不正常的搜索

这段时间谷歌正在美国市场测试谷歌搜索的 AI 概览功能,即用户通过谷歌搜索检索某些问题时,谷歌基于 Gemini 人工智能模型的 AI 概览会自动对搜索结果进行总结并生成回答,让用户无需挨个点击网页即可获得想要的答案。

不过这个功能也被发现存在诸多常识性错误,例如建议人们每天应该吃一些石头、给出西红柿炒钢丝的详细做法、在酱汁中加入胶水帮助奶酪粘在披萨上等。

谷歌承认AI概览存在很多常识性错误 但看起来谷歌也无法轻易解决问题

出现这种问题的根源在于谷歌的 Gemini 模型并不能识别搜索结果中哪些内容是存在问题的,例如会引用讽刺网站洋葱新闻的内容。

针对上述问题谷歌也发布了回应,一方面谷歌指责用户不是正常的搜索 (即故意挑出一些刁钻的问题)、另一方面谷歌表示正在进行改进。

下面是谷歌发言人给出的回应:

绝大多数 AI 概览都通过深入挖掘网络连接提供高质量的信息,我们看到的许多示例都不是常见的查询,我们也看到了被篡改或者我们无法复现的案例。

在推出 AI 概览功能前,和谷歌推出其他功能一样,我们已经进行了广泛的测试,我们非常感谢大家的反馈。

我们会根据内容政策迅速采取行动并利用用户提出的这是问题示例进行更广泛的改进,其中一些改进已经开始推出。

谷歌的回应中还有个值得关注的问题是谷歌有时候也无法复现问题,即对于同一个问题的查询,AI 概览给出的回答是不一样的,这实际上与 AI 黑盒机制非常类似:AI 确实能够响应自然语言提出的问题,但在 AI 内部这是怎么运作的,没人知道。

所以对谷歌来说想要彻底解决这个问题应该是非常难的,最多只能通过改进系统尽可能避免引用一些问题来源,这样应该可以降低错误出现的概率但不可能百分之百解决。


这是一个从 https://www.landiannews.com/archives/104130.html 下的原始话题分离的讨论话题