Google AI 概要の健康検索エラーが懸念を引き起こす

Google は人工知能を使用して健康問題に関する質問に答えています。 一部のアナリストは、AI 概要機能が信頼性の低い情報を提供する可能性があることを考慮して、これを懸念しています。

医療従事者らは、特に個人の健康に関する質問に答える場合、AI の概要が懸念される可能性があると述べています。 ニューヨーク・タイムズ紙の最近の報道によると、この機能は人々を必要な治療に導くこともできるが、不正確な情報を伝える可能性があると彼らは主張した。

AI の概要 検索エラーが AI の幻覚感情を煽る

Google は、Web サイトからコンテンツの概要を生成し、Google の検索結果ページに表示する機能である AI 概要を導入しました。 リリース後数日以内に、この機能は欠陥のあるソースに基づいて回答を行っていたため、広範囲にわたる不正確さを示しました。 この出来事は、AIは幻覚を起こしやすく、事実と異なる情報を生成する可能性があるという感情をさらに煽る出来事となった。

こちらもお読みください: Google、風刺や無意味なクエリに対する AI 概要を制限

健康関連の検索結果で、毎日の量の石を投与したり、ユーザーに貼り付けたピザを食べるよう求める内容は反発を引き起こした。 AI の概要では、世界保健機関、WebMD、PubMed、メイヨー クリニックなどの情報源を引用しています。 ただし、これらのソースに限定されるものではありません。 アナリストらによると、このツールはReddit、Wikipedia、さまざまなブログ、電子商取引サイトから情報を取得しているという。

グーグルの上級製品管理ディレクター、ヘマ・ブダラジュ氏は、健康関連のクエリには追加のガードレールがあると述べたが、それ以上の詳細については明らかにしなかった。 Hema 氏は、たとえばシステムが自傷行為の状況を感知した場合など、一部のクエリでは AI 概要がトリガーされないと付け加えました。

Googleは、AI Overviewsが複数のソースから取得したデータを含む知識ベースであるGoogle Knowledge Graphと統合されていると述べたが、AI支援検索機能の出力をサポートするWebサイトに関する詳細は明らかにしなかった。

Google、健康に関するクエリに関する AI の概要をさらに表示

「10 の青いリンク」と呼ばれることが多い従来の結果は、信頼できる医療情報源と有料リンクや信頼性の低い Web サイトを区別できるため、ユーザーにとって役立ちました。 AI 概要では、シナリオが変わりました。 現在、単一のテキスト ブロックにさまざまなソースから収集した情報が表示されており、アナリストによると、これが混乱を引き起こしているとのことです。

Wired のケイト・ニブス氏は ポッドキャスト 。

「喘息について何かを入力すると、または私は糖尿病ですか、または基本的に病気に関連するものを検索している場合、今でも AI 概要が表示される可能性が非常に高いです。 つまり、全員がそうではないのです。 まだ約63パーセントです。 そしてそれは状況によると思います。」

ダリウシュ・モザファリアン博士 のような一部の医師は、AI概要は正しいいくつかの事実を示し、それらを答えに要約するが、観察研究とランダム化試験からの証拠を区別していないと述べています。

この機能によって情報が混同されると、誤った情報の層がさらに追加されます。 たとえば、「緑茶には抗酸化物質が含まれており、がんの予防に役立ちます。」 前者は真実ですが、後者は臨床的に証明されていません。 このような主張が一緒に列挙されると、それが信頼できるものであるかのように誤った印象を与えます。

GoogleはAIを制限している 概要

AI の展開を観察している人々は、健康関連の AI 検索結果に近づくときは注意するようアドバイスしています。 「これは情報提供のみを目的としています」という回答もあり、ユーザーは細字部分を考慮する必要があると彼らは述べています NYTimesの 報道で は、生成AIは実験段階にあり、深刻な症状が発生した場合にはユーザーは医師に相談する必要があると指摘した。

こちらもお読みください: Google のコア アルゴリズムのアップデートと AI の概要により、パブリッシャーのトラフィックが減少しています

Googleは5月30日の声明で、一部のカテゴリでAI概要の使用を削減したと発表した。 SEO会社BrightedgeのデータはGoogleの立場を裏付けており、同社の発表前から人員削減が始まっていたことを示唆している。  

他の報道によると、ネットユーザーが意味不明な返信で嘲笑し始める前から、Googleは特定のカテゴリのAI概要をロールバックし始めたという。 それにもかかわらず、健康カテゴリでは依然として多数の AI 概要が表示されているという主張があります。 ニブス氏はこう言います。

「私は他の SEO 研究者たちと話をしましたが、彼らもヘルスケアが依然として大量の AI 概要を生成していることを発見していました。」

Knibbs 氏は、いくつかの健康関連のクエリをテストしたところ、数時間以内に異なる結果が見つかったと述べており、これは Google が結果の改善に取り組んでいることを示しています。 彼女は言いました、 「わかりました、彼らは努力しています。 彼らが十分な仕事をしているかどうかは分かりませんが、努力しているのdefi。」

アーミル・シェイクによるクリプトポリタンのレポート