(jp) =
伝えられるところによると、Google は先月、AI チャットボット Bard の立ち上げに問題を抱えていたが、従業員はこのツールを「病的なうそつき」であり、「重傷や死亡につながる」可能性のある虚偽の情報に満ちた応答を吐き出しやすいと説明したにもかかわらず、前進したと伝えられている。
ブルームバーグが水曜日に報じたところによると、Microsoft が支援する OpenAI の人気のある ChatGPT などの競合他社に追いつこうと懸命に努力している間、Google は自社の AI 倫理を無視したと、現在および元の従業員が主張している。
伝えられるところによると、ChatGPT の成功によりトップブラスが「競争力のあるコードレッド」を宣言するようになった後、Bard を開発するための Google のプッシュは昨年末に急増したと伝えられています。
Microsoft が計画している ChatGPT の Bing 検索エンジンへの統合は、Google の支配的なオンライン検索ビジネスに対する脅威と広く見なされています。
Google は先月、米国のユーザーに Bard を「実験」として展開しました。
しかし、多くの Google 従業員は、ロールアウトの前に、潜在的なバグや問題を特定するために Bard をテストするように命じられたとき、懸念を表明しました。このプロセスは、技術界では「ドッグフーディング」として知られています。
Bard のテスターは、チャットボットが不正確なものから潜在的に危険なものまで、さまざまな情報を吐き出しているという懸念にフラグを立てました。
ブルームバーグが入手した内部討論のスクリーンショットによると、ある労働者は、不規則な反応を見た後、バードを「病的な嘘つき」と表現した. 伝えられるところによると、2 人目の従業員は、バードのパフォーマンスを「屈辱に値する」と呼んだ。
ブルームバーグによると、ある例では、Google の従業員がバードに飛行機の着陸方法を尋ねたところ、墜落につながる可能性のあるアドバイスだけが返されたという。
別のケースでは、バードは、スキューバ ダイビングに関するプロンプトに、「深刻な怪我や死亡につながる可能性が高い」という提案で答えたと言われています。
Google の CEO であるサンダー ピチャイは、同社が自社の技術を「完全には理解していない」ことを認めて眉をひそめました。
「ほら、あなたは完全には理解していない。 そして、なぜそれがそう言ったのか、なぜそれが得られたのか、あなたにはよくわかりません [it] 間違っている」とピチャイは先週の日曜日の「60ミニッツ」のインタビューで言った.
2 月には、無名の Google 従業員が内部フォーラムで、Bard は「役立たずというより悪い」と冗談を言い、現在の状態でチャットボットを起動しないよう幹部に求めました。
「AI の倫理は後回しにされています」と、Google の元従業員であり、プライバシーに焦点を当てた Signal Foundation の現在の代表である Meredith Whittaker 氏は Bloomberg に語った。 「倫理が利益と成長よりも優先される立場になければ、最終的には機能しません。」
アウトレットに語った従業員は、Google の幹部が Bard やその他の新しい AI 製品を「実験」と呼ぶことを選択したため、一般の人々が初期の苦労を喜んで見逃すことができると述べました。
Bard が発売の可能性に近づくにつれ、Google は、特定の製品が一般に安全に使用できるかどうかを決定することを目的とした AI の要件を緩和したとされています。
3 月、Google の AI プリンシプル オペレーション & ガバナンス リーダーである Jen Gennai は、自身のチームのメンバーによる、Bard は害を及ぼす可能性があるためリリースの準備ができていないと述べた評価を覆した、と情報筋は Bloomberg に語った。
Gennai は声明の中でこのレポートに反論し、内部のレビュアーは「最終的な製品発売に関する推奨事項を提供するのではなく、リスクの軽減と技術の調整」を提案したと述べました。
次に、Google の製品、研究、およびビジネス リーダーのシニア リーダーで構成される委員会が、AI プロジェクトを前進させるべきかどうか、および必要な調整を決定する、と Gennai 氏は付け加えました。
「この特定のレビューでは、レビュー担当者からの潜在的なリスクのリストに追加し、結果の分析をこの学際的な評議会にエスカレートしました。この評議会は、継続的な事前トレーニングと強化されたガードレールを備えた限定的な実験的打ち上げに向けて前進することが適切であると判断しました、および適切な免責事項」とゲンナイはポストへの声明で述べました。
Google の広報担当 Brian Gabriel 氏は、「責任ある AI は、引き続き会社の最優先事項です」と述べています。
「当社の AI 原則を当社のテクノロジーに適用することに取り組むチームへの投資を続けています」とガブリエル氏は The Post に語った。
現在、Bard の Google の Web サイトでは、このツールを「実験」と呼んでいます。
サイトに含まれる「よくある質問」セクションでは、Bard が「不正確な情報や不快な発言を表示する可能性がある」と公然と宣言しています。
「ジェネレーティブ AI で人々のアイデアを加速させることは本当にエキサイティングですが、まだ始まったばかりで、Bard は実験段階です」とサイトは述べています。
Bard のローンチは、すでにテクノロジーの巨人にいくらかの当惑をもたらしました。
先月、アプリ研究者の Jane Manchun Wong は、Bard が Google に対する保留中の訴訟で司法省の反トラスト当局者を支持し、作成者が「デジタル広告市場の独占」を保持していると宣言した交換を投稿しました。
2 月、ソーシャル メディア ユーザーは、Bard が会社の広告に含まれていたプロンプトへの要求で、James Webb Space Telescope について不正確な回答を提供したことを指摘しました。
AIテクノロジーの無制限の開発に関連する潜在的なリスクについての広範な議論の中で、GoogleのBardチャットボットに対する精査が激化しています.
億万長者のイーロン マスク氏と 1,000 人を超えるこの分野の専門家が、適切なガードレールが設置されるまで、高度な AI の開発を 6 か月間停止することを求める公開書簡に署名しました。
安全性への懸念にもかかわらず、業界内での競争が激化する中、マスク氏は自身の AI スタートアップの立ち上げを急速に進めています。 Google と Microsoft は、ますます混み合う分野での 2 つのライバルに過ぎません。
「60 Minutes」のインタビューで、Pichai は、AI は最終的に「すべての企業のすべての製品」に影響を与えると宣言しました。
彼はまた、潜在的なリスクに対処するための政府の規制への支持を表明しました。
「私たちは非常に思慮深くなければならないと思います」とピチャイは言いました。 「そして、これらはすべて、私たちが進むにつれて社会が理解する必要があるものだと思います。 会社が決めることではありません。」