アンソロピック、次世代AI「Claude Mythos」危険性から公開保留　40社以上と「プロジェクト・グラスウィング」始動へ

「プロジェクト・グラスウィング」立ち上げ

AI（人工知能）企業アンソロピックは7日、最先端モデル「Claude Mythos Preview（クロード・ミトス・プレビュー）」のリリースをサイバーセキュリティ上のリスクのために保留すると発表した。

代わりにこの新モデルを、テクノロジー企業のセキュリティ対策のために提供する「プロジェクト・グラスウィング」を立ち上げるとしている。

アマゾン・ウェブサービス（AWS）、アップル、シスコ、グーグル、JPモルガン、マイクロソフト、エヌビディアその他と提携し、世界で広く使われているシステムの欠陥を発見・修正する取り組みを進めていく。

開発中の次世代モデルである「クロード・ミトス」は3月下旬に内部資料が漏洩。特に、ソフトウェアの欠陥を迅速に発見し、攻撃を自動化できるという点が、AIによるサイバーセキュリティ業界に対する重大なリスク要因として浮上していたところだ。

モデルの内容が明らかになったことで、アンソロピックがこれを迅速に防御のために活用するプロジェクトを立ち上げた可能性もある。

アンソロピックは、「クロード・ミトス」によって、AIモデルはソフトウェアの脆弱性を発見し悪用する能力において、最も熟練した人間以外を凌駕するコーディング能力を持つことが判明したと述べる。

実際、「クロード・ミトス」は主要なオペレーティングシステムやウェブブラウザも含め、開発者が認識していなかった脆弱性を、すでに数千件も発見しているとして、次のように続けた。

最大160億円の利用クレジット提供

「プロジェクト・グラスウィング」では、40以上の企業や組織が「クロード・ミトス」を使用して自社システムとオープンソースシステムの双方をスキャンし、セキュリティを確保できるようにしている。

アンソロピックは、これらの取り組み全体にわたって「クロード・ミトス」の利用クレジットを最大1億ドル（約160億円）提供。オープンソースのセキュリティ組織に400万ドル（約6億円）の直接的な寄付も行う。

同社は、楽観的な見方をすれば、悪用されると危険となるAIモデルの能力は、ソフトウェアの欠陥を発見・修正し、セキュリティバグを大幅に削減する上でも貴重なものになると述べた。「プロジェクト・グラスウィング」は防御側に持続的な優位性をもたらすための重要な一歩だとしている。

アンソロピックのチーフサイエンティスト、ジャレッド・カプラン氏によると、「グラスウィング」という名称は、人目につかないように身を隠す、ガラスのような羽根を持つ蝶に由来しているという。

AIの「感情」に配慮するアプローチ

同社のAI福祉（welfare）担当カイル・フィッシュ氏は8日、「クロード・ミトス・プレビュー」について「モデル福祉評価」を行い、「福祉に関連する自己報告、行動、感情の内部表現」を調べたと報告している。

これは「モデル同意」という概念に向けた一歩である。AIモデル自身を一つの主体として捉え、AIが自分の「状況」「訓練」「使用方法」「潜在的な苦痛」などについて自らの見解を表明させ、開発にあたってそれに配慮するというアプローチである。

「クロード・ミトス・プレビュー」は、「これまでで最も心理的に安定したモデル」と評価された。AIを人間のように感情を持つ存在として捉えている点が注目される。