Apple は Mac 上で Agentic AI を実行することを困難にしたいと考えている

エージェント AI が大流行しているようです。OpenAI の新しいエージェント「Dots」が今週公開され、Meta の Muse はダウンロード数 500 万を突破したばかりです。 AI 企業は、単にチャットしたり画像を生成するためにボットを使用したりするのではなく、受信トレイの管理から夕食の注文に至るまで、ユーザーに代わってボットに作業を依頼できるようにしたいと考えています。

しかし、エージェントは単なるテクノロジーとしての AI の論理的な次のステップではありません。実装が不十分な場合、非常に危険になる可能性があります。 AI エージェントは独自に実行するように設計されており、そのためには多くの場合、デバイスとそのデータにほぼ完全にアクセスする必要があります。現在、メッセージ、ファイル、パスワード、アカウントのすべてを含めて、エージェントに自分のコンピュータをフル活用させている人もいます。これは、特に Web サイトに隠された有害なプロンプトを使用して悪意のある目的でこれらのエージェントの 1 つを「ハッキング」することがそれほど難しくない場合に、これは大きな信頼です。これにより、AI エージェントがハッカーに銀行口座のキーを渡す可能性があります。それはダメだ。

Apple は、あなたがこのような状況に陥ることをさらに困難にしています。

Appleはこれについてどう感じていますか?同社が AI のソフトウェア面で遅れていることは有名で、9 月に AI 搭載バージョンの Siri を発表したばかりです。しかし、同社の AI ハードウェア ビジネスは急成長しています。 AI エージェントのブームが Moltbot などのプロジェクトで最初に始まったとき、顧客はそれらのプログラムを実行するために Mac mini を大量に購入しました。現在、Apple は AI を最前線に搭載したさまざまな Mac を宣伝しています。OpenAI や Anthropic などの独自のモデルは提供していませんが、それらのモデルを実行するハードウェアを販売することで多額の利益を得ています。

おそらくそれが、特にユーザーがこれらのプログラムを実行するために公開しているデータに関して、Apple が AI エージェントの動向を非常に懸念しているように見える理由です。 Apple はプライバシーとセキュリティを重視しており、非常に多くのユーザーが自分の Mac (とそのすべてのデータ) を自動化された AI ボットに喜んで渡しているのを同社が恐怖の目で見ていることを想像することしかできません。

こうした状況を背景に、同社は開発者フォーラムに「macOSにおけるフルディスクアクセスのアップデート」と題したアップデートを投稿した。その中で同社は、開発者がユーザーにアプリへの「フルディスクアクセス」権限の付与を求めることの危険性を強調している。 Appleによると、この機能は従来、機能するためにディスク全体にアクセスする必要があるバックアップアプリのために予約されていたという。 （結局のところ、バックアップアプリがMac全体にアクセスできない場合、どうやってMac全体をバックアップできるのでしょうか？）しかし現在、Appleは、開発者がユーザーに、その結​​果を完全に理解することなく、メッセージ、メール、閲覧履歴などを含むMac上のすべてを公開するようユーザーに求めていると述べています。 Apple は、フル ディスク アクセスを要求するコミュニケーション アプリは、ユーザーがチャットしている相手にも危険を及ぼすため、プライバシーへの影響はユーザーを超えて及ぶとさえ主張しています。

そして、Appleはそれについて何かをしているようだ。詳細は明らかではないが、同社は「アプリにこの並外れたレベルのアクセスを許可したいと本当に望んでいるユーザーが、非常に明示的なユーザーのアクションによってのみ許可できるようにするための追加の制御」を導入すると述べている。これは、将来的に、Mac にエージェントをダウンロードしたら、一連の警告と設定をクリックして、macOS にエージェントを「証明」する必要があることを意味すると推測しています。 本当に Mac 全体をアプリとその AI に公開したいと考えています。 AIエージェントが改良され、自律性が高まるにつれて脅威はさらに増大するため、同社は現在これを行っていると述べている。

AIのリスクは全体的に増大している

AI に関しては、私は追加の安全策には大賛成です。以前は、Mac に AI エージェントをインストールするには、ある程度の技術的専門知識が必要でした。そのため、リスクを理解しているか、そうするためにすべての警告を故意に無視した可能性があります。エージェントの実行は Mac に Muse をインストールするのと同じくらい簡単なので、参入障壁は最小限になっています。たとえそれが何であるかを完全には理解していなくても、誰でもそれを行うことができます やってる。 AI業界はそのテクノロジーが人類にもたらすリスクを考慮しているため、Appleのような企業は、たとえユーザーがこれらの警告を無視することを選択できるとしても、AIの現在の危険からユーザーを守る方法を実際に考え出す必要がある。