サンノゼの Ars の要約: インフラストラクチャ、持続可能性、AI、カクテル

先週、Ars Technica 編集長の Ken Fisher と私は、IBM と提携して主催する「話題を超えて: GenAI によるインフラストラクチャの未来と次に来るもの」と題したイベントを開始するために、晴天に恵まれたサンノゼへ西へ向かいました。ステージに立って、興味を持ったアルス読者でいっぱいの部屋で話をすることができて最高でした。来てくれた皆さん、ありがとうございました! (来られなかった方も大丈夫です。来月、ワシントン DC で別のイベントを開催します。それについては、この記事の最後で詳しく説明します。)

サンノゼのイベントはコンピューター歴史博物館で開催され、会場としては完全にブランドに沿った適切なものでした。Ars は、オタクの集まりにとても親切にして対応してくれた CHM の人々に感謝の意を表したいと思います。 。

「今日の講演者とトピックのラインナップは、私たち全員が活動するテクノロジー環境の複雑さと急速な進化を反映しています」とフィッシャー氏はプログラムの冒頭の挨拶で述べました。 「私たちは生成型 AI の可能性だけでなく、インフラストラクチャの需要、セキュリティの脆弱性、環境への影響という点で生成型 AI がもたらす課題についても議論します。」

パネル

Ken の指摘によれば、私たちの最初のパネルは、拡大し続けるデータセンター (そして、多くの場合、それに付随して提供される AI サービス) が環境に与える影響に関するものでした。スタンフォード大学ステイヤー・テイラー・エネルギー政策・金融センターの滞在研究員、ジェフ・ボール氏に話を聞いた。 Joanna Wong、IBM の AI およびストレージのソリューション アーキテクト。そして、Ars の上級科学編集者、ジョン・ティマー博士。

パネルディスカッションの主な論点の 1 つは、これまで私が十分に理解できなかったものの、説明を受けて完全に理解できた点の 1 つは、「すべての電力が平等に生み出されるわけではない」という Jeff Ball の主張でした。つまり、クラウド リソースを手段として見た場合です。環境コストをサードパーティに転嫁する場合、それらのクラウド リソースの実際の物理的な場所が二酸化炭素排出量に多大な影響を与える可能性があります。アイスランドのデータセンターと中国のデータセンターの利用コストはほぼ同じかもしれませんが、中国のデータセンターは石炭火力を使用する可能性が高く、アイスランドのデータセンターは地熱を使用する可能性が高くなります。

IBMのジョアンナ・ウォン氏はまた、インフラストラクチャーは未知の障害点、つまり、障害を引き起こすほど重大ではないにもかかわらず、余分なコンピューティング(したがってエネルギー)を消費する問題に悩まされることが多いと指摘した。ウォン氏は、こうした失敗点に常に注意を払う必要があると述べた。新しいテクノロジーのエネルギーコストを心配することはできますが、障害点、さらにはボトルネックを理解していないために、おそらくすでにリソースを浪費し、パフォーマンスに悪影響を及ぼしている可能性があることに留意する必要があります。

その後、セキュリティの脆弱性と AI によって生成された (少なくとも AI によって監査された) コードが存在する、進化し続ける世界に移行しました。今回は、Box のグローバル プラットフォーム セキュリティ アーキテクトである Stephen Goldschmidt が参加しました。パトリック・グールド氏、国防総省防衛イノベーションユニットサイバー・テレコムポートフォリオ担当ディレクター。 IBM のデータおよびレジリエンシー担当エグゼクティブ ディレクターである Ram Parasuraman 氏は次のように述べています。

これは以前にも物議を醸したトピックであり、最近では 2023 年の Ars Frontiers バーチャル カンファレンスでもセキュリティ専門家が AI 生成コードのアイデアに不安を表明しています。ほとんどの LLM はすぐに物事を乱暴に捏造する傾向があるためです。しかし、私たちのパネリストによれば、コーディングにおける生成 AI の最も適切な役割は、人間のコーディングを置き換えるのではなく、人間のコーディングを強化することになる可能性が高く、AI はコード内の脆弱性を引き起こすタイプミスを発見し、比喩的なほうきを人間のコーダーの背後に押し込んでクリーンアップするのに役立ちます。間違い。実稼働環境で完全に AI によって生成されたコードを信頼できるようになるまでにはまだ遠いですが (狂っているか不注意でない限り)、AI が精査したコードはどうでしょうか。その未来がここにあります。 Parasuraman 氏は次のように述べています。「AI の出力をどのように信頼するかという問題は決して消えることはありません。変わるのは、その出力を検証し監視する方法です。」

最後に、私たちの閉会のパネルは「インフラストラクチャの長期戦に取り組む」、つまり、予期せぬ問題を予測してインフラストラクチャを計画することについてでした。私と一緒にいたのは、Freshworks の最高情報責任者、Ashwin Ballal でした。 Roblox のプロダクト AI ディレクター、Karun Channa 氏。 IBMのグローバル・プロダクト・エグゼクティブ、Pete Bray氏です。 「予期せぬ問題をどのように予想しますか」という質問に答えるのは難しいですが、クラウドネイティブから、オンプレミスのデータセンターが多く存在するハイブリッドまであらゆる分野を担当するパネリストたちが、それに挑戦してみました。

当然のことかもしれませんが、その答えは、賢明な要件の収集、回復力、柔軟性の組み合わせです。要件をしっかりと把握することが避けられない最初のステップです。要件の計画がうまくいけば、そこから回復力のあるインフラストラクチャの構築が始まります。インフラストラクチャの回復力が高い場合、そして最も重要なことに、緊急時の運用資金が確保されている場合は、予期せぬ需要の急増に対応するためにインフラストラクチャに柔軟性を持たせる必要があります (または、少なくとも一時的に負荷にある程度の資金を投入できる機能が必要です)。問題は解決します）。それはロケット科学ではありません。 は 実際のロケット科学を行うと、適切な要件計画が常に成功します。