Apple、不正確なAIニュース通知を送信して非難される

重要なポイント

Appleは最近、AIを使って新着記事を要約する新しいiOS機能を発表しました。
AIによる要約はニュース記事を誤解しているとして非難されている。
ジャーナリストや報道機関は、Apple にこの機能を停止するよう求めている。
2024年11月、AppleはAIを使ってニュース記事を短い通知に要約する新しいiPhone機能を発表しました。

しかし、Apple Intelligence アップデートがリリースされてからわずか 1 か月後、要約されるはずのニュース項目を完全に誤解した不正確な通知をユーザーに送信したとして非難を浴びています。」

AppleのAIの失策
Appleの不正確なAI要約に関する最初の報告は、この機能が開始されてからわずか数日後に現れた。

ある例では、AIは、ニューヨークで医療保険会社のCEOブライアン・トンプソンが殺害された後に逮捕されたルイジ・マンジョーネが自殺したとBBCが報じたと虚偽の主張をした。

虚偽の表示により苦情が出た同組織は、通知がBBCニュースに対する読者の信頼を損なうものだと主張した。

「我々の名で発行されるあらゆる情報や報道を視聴者が信頼できることが我々にとって極めて重要です」と広報担当者は述べ、「それには通知も含まれる」と付け加えた。

別の報告ではプロパブリカのジャーナリスト、ケン・シュウェンケ氏が執筆したこの特集記事は、イスラエルのベンヤミン・ネタニヤフ首相に関する記事を誤って伝え、首相が逮捕されたと誤って主張した。

AI要約をオフにしてジャーナリストに要求
ジャーナリストたちはこの機能に対する最も声高な批判者であり、AppleのAIが重要な詳細を歪曲して自分たちの仕事を台無しにしていると非難している。

ワシントンポスト紙のコラムニスト、ジェフリー・ファウラー氏はこう語った。この混乱は「極めて無責任」であり、Apple は「AI の技術がもう少し向上するまで、ニュース アプリの要約をオフにする」べきだと主張した。

他のジャーナリストや報道機関も、バグが修正されるまでAppleにこの機能を無効にするよう要求している。

英国の全国ジャーナリスト連合(NUJ)は、Apple は、さらなる損害が発生する前にこの機能を無効にするよう要求した。

「AIが生成した要約が情報を誤って伝えると、倫理的に報道するジャーナリストの評判を傷つける恐れがある」とNUJ事務局長ローラ・デイヴィソン氏はコメントした。「国民は、受け取ったニュースの正確さを疑う立場に置かれるべきではない」

幻覚は依然として問題
AI の「幻覚」の問題 (AI が誤った情報や無意味な情報を生成する事例を説明するために使用される用語) は、業界にとって依然として根強い課題です。

検索拡張生成 (RAG) などの新しい技術は、AI モデルが出力する誤った情報の量を最小限に抑えるのに役立ちます。しかし、Apple の事例が示すように、AI が生成したコンテンツを自動的にファクトチェックする方法は、依然として不完全です。

大手IT企業に対する批判が高まる中、Appleがこの物議を醸している機能を一時停止するか、全面的に見直すかは依然として不明だ。

今のところ、ユーザーは通知の信頼性に疑問を抱いており、ジャーナリストは AI がニュース編集室に導入される準備ができているかどうか疑問に思っている。

●テレグラム始めました!https://t.me/joinchat/F-7ftRCH5u_8J7k2JUM1rw

●無料でLINE@で有益情報を随時流しています。https://lin.ee/1rhkgzo 

●過去の記事
http://ripple.2chblog.jp/

■トレードするならバイナンス!
https://www.binance.com/

■yobit net
https://yobit.net/en/