Apple のインテリジェンスは今、言葉をでっち上げているのでしょうか?

LLM は非常に強力ですが、すべてに 1 つの共通の弱点があります。それは幻覚です。私たちの理解を超えた理由により、AI モデルにはまったく思いもよらないことで物事をでっち上げてしまう習性があります。十分に引用された情報源と関連情報があれば、回答は正確である可能性があります。すると突然、AI が虚偽の主張を押し付けたり、フォーラムの皮肉なコメントを事実として誤って解釈したりするのです。 （そうすることで、Google の AI 概要がピザに糊を追加することを推奨するようになるのです。）一部の LLM は他の LLM よりも幻覚が少ない場合がありますが、影響を受けない人はいません。そのため、チャットボットを使用するときはいつでも、画面上に何らかの警告が表示され、AI が間違いを犯す可能性があることがわかります。

Apple の AI プラットフォームである Apple Intelligence も例外ではありません。同社が最初に AI を展開したとき、通知の概要が「特典」として含まれていました。しかし、ある事件では、Apple IntelligenceがBBCの見出しを要約して、ユナイテッド・ヘルスケア銃乱射事件の容疑者ルイージ・マンジョーネが刑務所内で自殺したと報じたときなど、この機能が誤ってニュースアラートを要約し始めると、Appleはすぐに後戻りせざるを得なくなった。同社は後にこの機能を復元したが、ニュースの概要を斜体で表示するなどの追加のガードレールも含めた。

Apple Intelligence が新しい言葉を作っているかもしれない

私は木曜日に r/iOS サブレディットでこの投稿を偶然見つけました。これは AI 幻覚の議論に興味深いメモを追加しています。投稿には「AIの要約に偽の言葉が含まれる人は他にもいますか?」と書かれている。 Acme Weather アプリの通知の概要を示すスクリーンショットが添付されています。最初の文は「1 時間にわたって不動的な小雨が降る」と書かれています。ああ、止まらない雨。少なくとも1時間だけですよ。待って; 不在的？」

inbixtent は本物の言葉のように聞こえますが、実際にはまったくの作り話です。投稿者は通知の内容を正確に共有していないため、ここから Apple Intelligence がどのような言葉を使っているのかを知ることはできません。私たちが知っていることは、投稿者は「不法存在」を3回目撃しており、彼らは一人ではないということです。 OP が使用している天気予報アプリをからかうジャブを無視して、投稿の一部のコメントは、Apple Intelligence が通知の概要で偽の言葉をでっち上げているのを確認したと断言するコメントもありました。あるコメント投稿者は、ある要約では「フレムレーション」があり、メールの要約では「平静」になっているのを見た、と述べた。別の者は、厳密に2回の別々の機会にではなく、「厳密に」見たと共有した。

この現象を示す例はインターネット上で他に見つかりません。また、私は個人的に iPhone で通知概要を使用していないため、この問題を自分自身で見たことはありません。この問題がどの程度広がっているのか、それとも iOS の特定のバージョン、特定のデバイス、またはあるアプリに限定されているのかはわかりません。ただし、コメント投稿者の 1 人には持論があります。Apple Intelligence が使用するオンデバイス AI モデルが独自に元のフレーズを短縮できない場合、それに対応するためにかばん語を作成すると考えています。彼らの言葉を借りれば、AI は不動のような「バイブスワード」を「ヨーロ」します。彼らは、これが最もよく起こるのは天気アプリの概要だと言います。

Apple Intelligence は要約の中で単語を作り上げますか?

繰り返しになりますが、これが多数の Apple ユーザーに影響を与えるのか、それともごく一部の Apple ユーザーに影響を与えるのかはわかりません。この件に関する投稿は 1 件しか見つからず、2 人のコメント投稿者が同様の経験を共有していることから、後者ではないかと思われますが、同じような経験をした方からの意見をぜひ聞きたいと思っています。 Apple Intelligence の通知概要を使用している場合、側で造られた言葉を目にした場合はお知らせください。監視するにはこの機能をオンにする必要があるかもしれません。