财联社6月1日讯（编辑 牛占林）当地时间周五，科技巨头谷歌宣布，在发现“AI概览”（AI Overviews）功能出现了一系列错误信息后，已经对其AI系统进行了“十多项技术改进和更新”。
在5月中旬的年度I/O开发者大会上，这家科技巨头发布了众多有关AI的产品和服务，其中一项内容是将AI融进其主导全球的搜索引擎之中，即AI概览功能，首先在美国市场推出。简而言之，当用户进行搜索时，首先出现在眼前的不再是网页链接，而是一块由AI整理的摘要。
然而，不久之后，社交媒体用户开始分享AI概览给出的一系列离谱答案的截图。谷歌对此辩护称，AI概览功能通常是准确的，并且事先经过了广泛的测试。
不过到了周五，谷歌搜索业务主管利兹·里德承认，一些奇怪的、不准确的或无益的AI搜索结果确实出现了。
虽然其中许多搜索结果很愚蠢，但也有一些是危险或有害的谎言。比如，在披萨上涂胶水以帮助奶酪粘住，每天应该至少吃一块小石头等。再加上一些网友推波助澜，一些虚***的截图也在社交媒体上被广泛分享，导致***热度越来越高。
里德表示，已经对AI概览增加了更多的“触发限制”，以提高对某些查询问题（如健康相关问题）答案的准确性和可靠性。
但在谷歌宣布更新，并经过测试后，发现仍然存在不少问题。谷歌AI概览旨在为人们提供他们正在寻找的信息的权威答案，而不必点击网站链接的排名列表，但目前看来，该功能仍然存在很大缺陷。
一些AI专家长期以来也一直警告谷歌，不要将其搜索结果拱手让给AI生成的答案，这可能会延续偏见和错误信息，并危及在紧急情况下寻求帮助的人。大语言模型的工作原理是，根据它们接受过训练的数据，预测哪些词语最能回答人们提出的问题，这就导致它们经常胡编乱造，即AI幻觉。
里德对此表示，AI概览通常不会 “产生幻觉”，也不会像其他大语言模型产品那样胡编胡造，因为它们与谷歌的传统搜索引擎更紧密地结合在一起，只显示最权威或相关性最高的网页支持的内容。
她写道：“当AI概览出错时，通常是由于其他原因：比如误解了查询，误解了网络上语言的细微差别，或者没有很多有用的信息。”
但华盛顿大学教授、计算机科学家Chirag Shah指出，这种信息检索应该是谷歌的核心业务，不能急于把它交给AI模型。“因为即使AI不胡编乱造，也会把错误信息传递给用户，谷歌这样搞的话，可能会带来相当糟糕的结果。”
标签： #概览
