(jp) =
ChatGPT のメーカーは、生徒や人工知能が宿題を書いたかどうかを教師が検出するのに役立つ新しいツールを使用して、自由奔放な不正行為マシンとしての評判を抑えようとしています。
OpenAI が火曜日にローンチした新しい AI Text Classifier は、ChatGPT のコマンドでほぼ何でも書く能力が学術的不正を助長し、学習を妨げる可能性があるという懸念について、学校や大学での数週間にわたる議論に続いています。
OpenAI は、その新しいツールは、既に利用可能な他のツールと同様に、誰にでもできるものではないと警告しています。 AI によって書かれたテキストを検出する方法は「不完全であり、時には間違っていることもあります」と、システムの安全性を高める任務を負った OpenAI のアライメント チームの責任者である Jan Leike 氏は述べています。
「そのため、意思決定を行う際に、それだけに頼るべきではありません」と Leike 氏は述べています。
OpenAI の Web サイトで無料のアプリケーションとして 11 月 30 日にローンチされた後、ChatGPT を試し始めた何百万人もの人々の中に、10 代の若者や大学生が含まれていました。 そして、多くの人がそれを創造的かつ無害に使用する方法を見つけましたが、家に持ち帰るテストの問題に答えたり、他の課題を支援したりできる簡単さは、一部の教育者の間でパニックを引き起こしました.
学校が新年に向けて開校するまでに、ニューヨーク市、ロサンゼルス、およびその他の大きな公立学区は、教室や学校のデバイスでの使用をブロックし始めました.
シアトル公立学区は当初、12 月にすべての学校のデバイスで ChatGPT をブロックしましたが、その後、ChatGPT を教育ツールとして使用したい教育者がアクセスできるようになったと、学区のスポークスマンであるティム ロビンソン氏は述べています。
「それを無視するわけにはいきません」とロビンソンは言いました。
地区はまた、ChatGPT の使用を教室に拡大して、教師がそれを使用して生徒をより優れた批判的思考力を持つように訓練し、生徒がアプリケーションを「個人教師」として使用したり、課題に取り組んでいるときに新しいアイデアを生み出すのを助けたりできるようにする可能性についても話し合っています。とロビンソンは言った。
全国の学区は、ChatGPT に関する会話が急速に進化していると述べています。
メリーランド州カルバート郡公立学区の技術スペシャリストであるデビン・ページ氏は、「最初の反応は、『OMG、ChatGPT で発生するすべての不正行為の流れをどのように食い止めるか』でした」と述べています。 現在、「これが未来だ」という認識が高まっており、それを阻止することは解決策ではない、と彼は述べた。
「このツールがもたらす危険性を認識していなかったとしたら、私たちはナイーブだと思います。しかし、生徒たちと私たちが潜在的な力のためにそれを使用することを禁止すると、生徒たちにサービスを提供できなくなるでしょう」とページは言いました。彼自身のように、特に同社の検出サービスが導入されると、最終的に ChatGPT のブロックが解除されます。
OpenAI は、火曜日以降のブログでその検出ツールの限界を強調したが、盗作を阻止することに加えて、自動化された偽情報キャンペーンや、人間を模倣する AI のその他の悪用を検出するのに役立つ可能性があると述べた.
テキストの一節が長いほど、AI または人間が何かを書いたかどうかをツールがより適切に検出できます。 大学入試のエッセイやラルフ・エリソンの「透明人間」の文学的分析など、任意のテキストを入力すると、ツールは AI によって生成された「非常にありそうにない、ありそうにない、可能性が高いか不明」のいずれかのラベルを付けます。
しかし、大量のデジタル化された本、新聞、オンラインの文章で訓練されているが、自信を持って虚偽やナンセンスを吐き出すことが多い ChatGPT 自体と同じように、それがどのように結果を導き出したかを解釈するのは容易ではありません.
「どのようなパターンに注目しているのか、内部でどのように機能しているのかは、基本的にわかっていません」と Leike 氏は述べています。 「分類子が実際にどのように機能するかについて、現時点で言えることはあまりありません。」
世界中の高等教育機関も、AI テクノロジーの責任ある使用について議論を始めています。 フランスで最も権威のある大学の 1 つである Sciences Po は先週、その使用を禁止し、ChatGPT やその他の AI ツールを密かに使用して書面または口頭での研究を行ったことが判明した人は、Sciences Po や他の機関から追放される可能性があると警告しました。
この反発を受けて、OpenAI は、教育者を支援する新しいガイドラインを作成するために数週間取り組んできたと述べた。
「他の多くのテクノロジーと同様に、ある地区が教室での使用に不適切であると判断する可能性があります」と、OpenAI の政策研究者である Lama Ahmad 氏は述べています。 「私たちは実際に彼らを何らかの方法でプッシュすることはありません。 私たちは、彼らが正しい決定を下せるようにするために必要な情報を彼らに提供したいだけです。」
研究志向のサンフランシスコの新興企業にとって、これは非常に公的な役割であり、現在はパートナーであるマイクロソフトからの数十億ドルの投資に支えられており、一般市民や政府からの関心の高まりに直面しています。
フランスのデジタル経済大臣であるジャン=ノエル・バロー氏は最近、カリフォルニアでCEOのサム・アルトマン氏を含むOpenAIの幹部と会談し、1週間後にスイスのダボスで開催された世界経済フォーラムで聴衆に、彼はこの技術について楽観的であると語った. しかし、マサチューセッツ工科大学とパリのフランスのビジネススクールHECの元教授である政府大臣は、対処する必要がある難しい倫理的問題もあると述べた。
「したがって、あなたが法学部に所属している場合、懸念の余地があります。なぜなら、他のツールの中でも ChatGPT が比較的印象的な試験を提供できることは明らかだからです」と彼は言いました。 「大学院レベルの経済学部にいる場合、ChatGPT は期待されるものを見つけたり提供したりするのに苦労するため、経済学部に所属している場合は問題ありません。」
彼は、ユーザーがこれらのシステムがどのように機能するかの基本を理解し、どのようなバイアスが存在する可能性があるかを知ることがますます重要になると述べました.