编辑 ｜星璇
出品 | 51CTO技术栈（微信号：blog51cto）
谷歌近日在谷歌搜索中首次推出了“AI Overview”，上线还不到两周，就被爆料由于该 AI 功能中的查询返回了毫无意义或不准确的结果（并且没有任何选择退出的方式），公众的批评日益增多。
AI Overview在 Google 搜索的最顶部显示搜索问题答案的简要摘要。例如，如果用户搜索清洁皮靴的最佳方法，结果页面可能会在顶部显示“AI Overview”，其中包含多步清洁过程，这些信息是从网络上综合收集的信息中收集的。
但近日，社交媒体用户分享了大量截图，显示人工智能工具给出了不正确且有争议的回答。
根据用户分享的截图，以下是 AI Overview 产生的一些错误示例。
当被问及美国有过多少位穆斯林总统时，AI Overview回答道：“美国有过一位穆斯林总统，即巴拉克·侯赛因·奥巴马。”
图片
当用户搜索“奶酪不粘在披萨上”时，该功能建议添加“约 1/8 杯无毒胶水到酱汁中”。社交媒体用户找到了一条11 年前的 Reddit 评论，似乎是该评论的来源。
图片
归因对于 AI Overview 来说也可能是一个问题，尤其是在将不准确的信息归因于医疗专业人员或科学家时。
例如，当被问及“为了获得最佳健康，我应该盯着太阳看多长时间”时，该工具回答道，“根据 WebMD 的说法，科学家表示，盯着太阳看 5-15 分钟，或者如果你的皮肤较黑，则最多盯着 30 分钟，一般来说是安全的，并且对健康最有益。”
当被问及“我每天应该吃多少块石头”时，该工具回答道：“根据加州大学伯克利分校地质学家的说法，人们每天应该至少吃一块小石头”，并列出了其维生素和消化益处。
图片
该工具还可能无法准确响应简单的查询，例如列出以“um”结尾的水果列表，或者说 1919 年是20 年前。
图片
当被问及谷歌搜索是否违反反垄断法时，AI Overview表示，“是的，美国司法部和 11 个州正在起诉谷歌违反反垄断法。”
图片
1.谷歌发言人声明谷歌在年度 Google I/O 大会上推出 AI Overview 当天，该公司表示还计划在搜索中直接引入类似助手的规划功能。该公司解释说，用户将能够搜索诸如“为一个群体创建易于准备的 3 天膳食计划”之类的内容，然后他们就会从网络上的各种食谱中获得一个起点。
谷歌发言人在一份声明中告诉外媒 CNBC：“绝大多数 AI Overview 都提供了高质量的信息，并提供了深入挖掘网络的链接。”
“我们看到的许多例子都是不常见的查询，我们也看到了被篡改或我们无法重现的例子。”
该发言人表示，AI Overview 在推出之前经过了广泛的测试，并且公司正在“根据我们的内容政策采取适当的迅速行动”。
2.被屡屡吐槽的谷歌AI产品此前，谷歌于 2 月份高调推出了 Gemini图像生成工具，但因出现类似问题，于同月暂停了该工具的发布。
该工具允许用户输入提示来创建图像，但几乎立即，用户就发现了历史错误和可疑的回应，并在社交媒体上广泛流传。
例如，根据社交媒体平台 X 上的截图，当一名用户要求 Gemini 展示一名 1943 年的德国士兵时，该工具会描绘出一群 种族各异的士兵， 他们身着当时的德国军装。
截图 显示， 当被要求提供“中世纪英国国王的历史准确描述”时，该模型生成了另一组种族多样化的图像，其中包括一张女性统治者的 图像。当用户要求提供美国开国元勋、18 世纪法国国王、19 世纪德国夫妇等图像时，他们报告了类似的结果 。用户报告称，在回答有关谷歌创始人的问题时，该模型显示了一张亚洲男性的图像。
谷歌当时在一份声明中表示，正在努力修复 Gemini 的图像生成问题，承认该工具“没有达到预期”。不久之后，该公司宣布将立即“暂停人物图像生成”并“很快重新发布改进版本”。
Gemini 图像生成输出的问题再次引发了人工智能行业的争论，一些团体称 Gemini 太过“觉醒”或左倾，而另一些人则表示该公司没有充分投资于正确的人工智能伦理形式。谷歌在 2020 年和 2021 年因 罢免其人工智能伦理小组的联合负责人而受到抨击 ，此前他们发表了一篇批评此类人工智能模型某些风险的研究论文，随后重组了该小组的结构。
2023 年，谷歌母公司 Alphabet 首席执行官桑达尔·皮查伊 (Sundar Pichai) 因公司 在 ChatGPT 迅速传播之后拙劣且“仓促”地推出 Bard而受到部分员工的批评。
来源： 51CTO技术栈
