Appleが導入したニュース要約AIが、間違った情報を頻繁に配信していることが問題視されています。テクノロジーコラムニストのジェフリー・ファウラー氏によれば、このAIは例えば防衛長官候補の承認公聴会に関する情報を誤って報じ、信頼性を損ねています。

専門家は、このような誤りが大規模な言語モデルの限界を示していると指摘し、Appleは今後数週間でソフトウェアの更新を行う予定ですが、その背景にはAIの技術的な課題があるとされています。

AppleニュースAIが抱える「幻覚」問題とその背景

Appleのニュース要約AIが発信する誤情報の頻発は、大規模言語モデル（LLM）の構造的な課題に起因するとされている。この技術は次に来る単語を確率的に予測するアルゴリズムで動作しており、データを理解しているわけではない。専門家はこれを「幻覚」と呼び、現実に存在しない情報を生成する現象だと説明している。

BBCが昨年に苦情を申し立てたケースでは、事実無根の殺人事件を要約で伝えたことが問題となった。この事例は、AIが与えられたデータを不正確に解釈し、さらに信憑性のある形に加工する危険性を示している。Appleは、この問題をベータ版としての未熟さと説明するが、ベータ版であっても数百万人規模の配信に利用されるのはリスクが高い。

ニュース速報が信頼性を失うことは、情報を求めるユーザーに深刻な影響を及ぼす。

技術革新が進む中でAIの可能性は注目されるが、誤った情報が拡散することで、その信用が一気に崩れる可能性がある。特にニュースのような正確性が求められる分野では、AI導入のリスクとメリットのバランスを再考する必要があるだろう。

ニュース機関とプラットフォーム間の権力格差が浮き彫りに

Appleのニュース要約AI問題が示したのは、AIそのものの欠陥だけでなく、ニュース機関とプラットフォーム運営者の間に存在する権力格差でもある。テクノロジーコラムニストのジェフリー・ファウラー氏は、Appleがニュース機関から提供された専門的に作成された速報を要約で歪曲して配信している点を強調した。このようなミスにも関わらず、ニュース機関にはAppleの処理方法を制御する手段がほとんどない。

ニュース機関が提供する正確な情報が、AIによって誤った形で変換されることで、読者の信頼が損なわれる危険性がある。さらに、Appleのニュースプラットフォームが多くのユーザーにリーチできる影響力を持つ一方で、そのプロセスに外部から干渉できない点は情報の偏りや誤解を助長しかねない。

この問題は、単なる技術的な改善では解決しない可能性がある。Appleが一方的に免責事項を追加した点について、専門家は「責任をユーザーに押し付けているだけだ」と批判する。技術と報道が交錯する現在、ユーザーが正確な情報を得るためには、透明性の向上とプラットフォーム間での適切な責任分担が必要だろう。

AI要約機能の存在意義と問われる信頼性

Appleがニュース要約AIに「誤情報の可能性がある」という免責事項を付けた背景には、AI機能の信頼性が揺らいでいる現状がある。要約機能が存在する目的は、ユーザーが短時間でニュースを理解することにあるはずだが、その情報が誤っている可能性があるならば、そもそもの意義が問われる。

Appleの広報担当者は「ソフトウェア更新によって改善を図る」と述べたが、技術的な修正だけで解決する問題ではない。国境なき記者団のヴァンサン・ベルティエ氏が指摘するように、混乱した情報環境の中で、ユーザーが情報の正確性を判断する負担を背負わされる現状は、報道業界全体への影響が懸念される。

AIがニュース配信の効率化を進める中で、誤情報が与えるダメージは計り知れない。特に、日々膨大な情報に触れる現代において、正確なニュースの提供は社会全体の課題と言えるだろう。Appleをはじめとした技術企業が、AIの正確性とその影響を軽視しないことが求められている。