谷歌搜索的AI概览被发现很糟糕:建议人们每天应该吃一块石头

这段时间谷歌正在美国市场测试新的 AI 概率,即用户搜索内容时顶部出现 Google Gemini 基于搜索结果总结的内容,让用户无需手动查看各个网页即可直接获取答案。

尽管谷歌对 AI 功能赞不绝口,不过事实证明这个新功能很糟糕,因为 AI 会引用诸如洋葱新闻等来源,然后给用户返回非常滑稽的内容。

例如当在谷歌上搜索 “我每天应该吃多少块石头?” 时,AI 概览给出的结果是引用美国加州大学伯克利分校的地质学专家建议,建议人们每天至少应该吃一小块石头。

谷歌搜索的AI概览被发现很糟糕:建议人们每天应该吃一块石头

地质学家当然没有这种建议,因为 AI 引用的消息源实际上来源于专注于各种恶搞消息的洋葱新闻网,AI 并不能区分哪些网站的哪些内容是正常内容还是讽刺内容。

这件情况甚至都惊动了洋葱新闻的首席执行官,经过测试他们发现谷歌的 AI 概览引用了不少洋葱新闻的恶搞内容。

当然谷歌即便将洋葱新闻从 AI 概览中剔除也不能解决问题,毕竟发布虚假消息或恶搞消息的网站非常多,真正解决方案是 AI 应当能够判断哪些内容属于正常内容。

在传统搜索引擎模式中,搜索引擎只负责索引内容但不对内容负责,即用户自己点击虚假信息网站并受到欺骗搜索引擎不需要承担责任,而现在谷歌自己提供 AI 概览,接下来再继续出现虚假内容并造成潜在的危害,那么谷歌看起来应当对此负责。

目前谷歌尚未就此事发布回应,不过现在谷歌应该已经进行了特殊处理将洋葱新闻从 AI 概览里剔除。


这是一个从 https://www.landiannews.com/archives/104104.html 下的原始话题分离的讨论话题