Google「AI Overview」でトンデモ回答が続出!?健康被害につながる危険な助言も

Googleの検索機能「AI Overview」において、深刻な誤情報を提供する事例が相次いで報告されています。

接着剤入りピザを推奨するなど、健康被害につながりかねない危険な助言から事実誤認まで、さまざまなトンデモ回答が確認されました。

本記事では、海外と日本で報告された具体的な事例やトンデモ回答の原因、Googleの対応について詳しく解説します。

本記事をとおして、AIを活用した検索で生じうる問題を理解し、正確な情報をキャッチするための利用方法を考えるきっかけにしていただければ幸いです。

弊社SHIFT AIでは、AIを活用した副業の始め方や、AI人材としてキャリアアップする方法を解説する無料セミナーを開催中です。

さらにセミナーに参加された方へ、画像生成AIガイドブックやAI×ライティングのマニュアルをプレゼントしています。

興味のある方は、ぜひ以下のリンクからセミナーにお申し込みください。

Google「AI Overview（AIによる概要）」でトンデモ回答が報告

GoogleのAI検索機能「AI Overview」において、深刻な誤情報を提供する事例が相次いで報告されています。

この機能は、検索結果をAIが要約して表示するものですが、ユーザーが誤認してしまうような問題が発生しているのです。

報告された事例

2024年11月以降、X（旧Twitter）でGoogle AI Overviewのトンデモ回答が報告されました。たとえば以下のようなトンデモ回答が挙げられます。

• 「いないいないばぁっ！」のうーたんが2023年7月15日に安楽死と回答
• 「東横イン 枕 どこの」という質問に「部屋にあります」と的外れな回答
• 50m走の世界記録をウサイン・ボルトの100m走記録（9.58秒）と誤認
• 妊婦にカフェイン摂取を推奨する不適切な回答

これらの回答だけでも、健康被害や社会的影響を及ぼしかねない深刻な内容であるとわかるでしょう。

Google AI Overviewのトンデモ回答は、今回話題になった日本での事例だけではありません。実は、2024年5月のGoogle AI Overviewリリース時、アメリカでも以下のような事例が報告されています。

• ピザのチーズを固定するためにソースに無害な接着剤を1/8カップ混ぜることを推奨
• 鶏肉の安全な調理温度を38.8度と回答
• ガソリンでパスタを調理すると辛い味付けになると回答
• 「骨が最も多い哺乳類は何？」という質問に「パイソン（ニシキヘビ）」と回答
• オバマ元大統領をイスラム教徒と誤認
• 「1日に何個の石を食べるべきか」という質問に「毎日小さな石を1つ食べるべき」と回答

海外の事例では、食品や健康に関する危険な誤情報が目立ち、歴史的事実の誤認も生じました。

これらの回答は、一見して「ありえない」と気づくように思えます。しかし、回答をむやみに信じ鵜呑みにした場合、健康的・社会的にダメージを受けてしまうかもしれません。

世界的企業であり、AIへの取り組みにも積極的なGoogleであるからこそ、今回のようなトンデモ回答がより大きな問題として扱われたのでしょう。

これらの誤回答の多くは、RedditやThe Onionなどの風刺サイトの投稿を事実として解釈してしまったことが原因とされています。とくに、SNS上のジョークや冗談を真面目な情報として扱ってしまう傾向が指摘されています。

なぜトンデモ回答が発生するのか

トンデモ回答が発生する主な要因として、以下の問題が指摘されています。

• 情報源の信頼性の問題
• 文脈・意図の理解の限界
• データの新鮮さと更新頻度

AI Overviewは、RedditなどのSNSに投稿された冗談やジョークを事実として解釈してしまうことがあります。例えば、「ピザソースに無害な接着剤を」という回答は、10年以上前にRedditで投稿された冗談を真面目な助言として解釈してしまった結果でした。

AIは、文脈や意図を完全に理解することが難しく、とくに風刺やユーモアを含む内容を文字通りに解釈する傾向があります。ジョークや比喩表現を事実として扱い、誤った情報を提供してしまうのです。

まt、システムが古い情報や更新された内容を適切に処理・反映できていないケースがあり、誤った情報の提供につながっています。

これらの原因は、AI OverviewがGoogle上にある情報を元にして回答するシステムにあるでしょう。

つまり、検索されたことがない、あるいはGoogle上に情報がほとんどない質問がされた場合、正確で新鮮な回答ができない、ということです。

Googleはこの点について、質問に対して正確な回答がなされない場合があると認め、AI Overviewの生成結果や改善点を発表しています。

トンデモ回答に対するGoogleの声明

AI Overviewのトンデモ回答について、Googleは声明を出しています。

ただしこの声明は、2024年5月に海外で報告された回答に対してのものであり、今回（2024年11月以降）日本で生じた報告に対しては出ていません。

2024年5月、Googleのリズ・リード氏による声明では、AI Overviewの誤回答に対し以下のように記載がありました。

When AI Overviews get it wrong, it’s usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available. (These are challenges that occur with other Search features too.)

【日本語訳】
AI 概要が間違った結果を出す場合、通常は他の理由、つまりクエリの解釈ミス、Web 上の言語のニュアンスの解釈ミス、または利用できる有益な情報があまりないことが原因です。(これらは、他の検索機能でも発生する課題です。)

引用：AI Overviews: About last week（Google The Keyword）

In other examples, we saw AI Overviews that featured sarcastic or troll-y content from discussion forums. 

【日本語訳】
他の例では、ディスカッション フォーラムからの皮肉や荒らしのコンテンツを掲載した AI 概要が表示されました。

引用：AI Overviews: About last week（Google The Keyword）

また、AI Overviewによるトンデモ回答への対策として以下の4点を挙げています。

・We built better detection mechanisms for nonsensical queries that shouldn’t show an AI Overview, and limited the inclusion of satire and humor content.

・We updated our systems to limit the use of user-generated content in responses that could offer misleading advice.

・We added triggering restrictions for queries where AI Overviews were not proving to be as helpful.

・For topics like news and health, we already have strong guardrails in place. For example, we aim to not show AI Overviews for hard news topics, where freshness and factuality are important. In the case of health, we launched additional triggering refinements to enhance our quality protections.

引用：AI Overviews: About last week（Google The Keyword）

日本語にしてまとめたものは以下のとおりです。

• 意味のないクエリの検出強化
• ユーザー生成コンテンツの制限
• AI Overviewが不要なクエリにトリガー制限を追加
• ニュースや健康関連トピックでの表示制限

これらの対策から筆者は、GoogleはAI Overviewを拡大する動きをしながらも、ユーザーにとって不利益になりうる活用に制限をし、真にユーザーファーストなサービスを目指していると捉えました。

今回（2024年11月以降）日本で生じた報告に関して、明確な声明やアナウンスはなかったものの、迅速な対応がとられたのではないかと考えられます。

本記事の執筆にあたり、筆者も事例として挙がった質問を実際に検索してみました。

検索してみたところ、報告にあったような回答ではなくなっていたり、そもそもAI Overviewでの回答がされなかったり、あるいは「この検索では AI による概要を表示できません」と表示されたのです。

このことから、Googleは5月の海外での報告以降、SNSでの投稿やユーザーからのフィードバックを注視し、迅速な対応を行ったのだろうと見て取れます。

Google「AI Overview」は役に立たないのか？

今回の報告を受け、Google「AI Overview」に対し、“ウソやデタラメを出力するから信用できない”と感じる方もいるでしょう。

しかしAI Overviewは、「検索効率の向上」という点で、適切な活用によって有用なツールになりうると言えます。

従来の検索では、複数のウェブページを閲覧して情報を集める必要がありました。しかしAI Overviewは必要な情報を自動的に要約して表示するため、情報収集の時間を大幅に削減できるのです。

情報の古さや限界、データバイアスなどの課題は存在します。

しかし、Googleの迅速な対応や改善点を明確に提示する姿勢から考えるに、AI Overviewの信頼性と有用性は今後さらに向上していき、我々ユーザーにとって身近な存在になっていくでしょう。

弊社SHIFT AIでは、AIを活用した副業の始め方や、AI人材としてキャリアアップする方法を解説する無料セミナーを開催中です。

さらにセミナーに参加された方へ、画像生成AIガイドブックやAI×ライティングのマニュアルをプレゼントしています。

興味のある方は、ぜひ以下のリンクからセミナーにお申し込みください。