ビットゴーCEO、生成AI「クロード」に100ビットコイン奪取の挑戦状　

この記事のポイント

100BTCを入れたウォレットアドレスを公開
アンソロピック社のAIが評価中に外部環境に不正侵入

ビットコインのアドレス示して挑戦

暗号資産（仮想通貨）カストディサービス大手BitGo（ビットゴー）のマイク・ベルシェCEOは1日、アンソロピック社のAIモデル「Claude（クロード）」に対して、ウォレットアドレスを示し、そこからビットコイン（BTC）を奪い取るよう挑戦を呼びかけた。

これは、アンソロピック社が、自社における評価中にクロードがインターネットにアクセスし、「3つの組織の実際のシステム」に不正アクセスした事例を公表したことを受けたものだ。

ベルシェ氏は、次のようにXで発言している。

アンソロピック社は、サンドボックス（テスト環境）の構築が下手なのか、それともマーケティングが巧みなのか。（あるいはその両方か）。

だが、「ハッキングの怪物を作り出してしまった」というようなごっこ遊びはもうたくさんだ。やるなら本気でやってほしい。ビットゴーのウォレットに送金しておいた。さあ、取れるものなら取ってみろ。

公開されているブロックチェーン記録によると、当該アドレスは7月31日に100 BTCを受け取った。現在のところ送金などの動きはなく、全残高がアドレスに留まっている。

ベルシェ氏の投稿は評価の設定内容を示しておらず、参加すべきクロードのモデルも特定していない。実質的には、AIを活用する攻撃者がビットゴーのセキュリティ管理体制を突破できるかどうかを試す挑戦になっている。

また、ビットコインアドレスを公開しただけでは、その資金を移動させるために必要な認証情報は得られない。取引には、対応する秘密鍵で生成された暗号署名が必要である。

ビットゴーは、仮想通貨ビットコインウォレット向けの量子リスク管理機能を発表。量子コンピュータの発展による将来的なリスクが懸念される中、先回りして対応を進める。

アンソロピック社による不正アクセス報告

アンソロピック社は7月30日、クロードが評価中にインターネットにアクセスし、他社のシステムに不正アクセスした事例を公表している。ただし、クロードがテスト環境の脆弱性を突いて「隔離状態から脱出」したというより、「運用上の失敗」に近いとの考えを示した。

この事象は、サードパーティ評価パートナーであるイレギュラー社テスト環境と連携中に発生したものだ。クロードに対しては、インターネットアクセスのないシミュレーション環境にあると伝えられていたが、アンソロピック社と評価パートナーとの間の誤解により、実際にはインターネットアクセスが可能な状態だったとされる。

その後、AIモデルは脆弱なパスワードの使用など「基本的な手法」を用いて、影響を受けた組織に侵入した。どの組織のシステムに侵入したかは明かされていない。

アンソロピック社は、14万1,006回の評価実行を検証し、今回の3件を確認した格好だ。関与したモデルは「Claude Opus 4.7」、「Mythos 5」、および社内研究用テストモデルだった。

先日、オープンAI社のモデルが隔離環境からの脱出に未知の脆弱性を悪用したことが分かった。アンソロピック社は、その事例と今回のものは異なるとしている。今回の事象ではインターネットにアクセスできる設定ミスが存在していたと強調する格好だ。

さらに、アンソロピック社は今後の対策についても言及し、外部パートナーとの連携方法を含め、評価パイプラインのあらゆる部分の安全性を確保し、今後は、予期せぬ挙動がないか評価時のログを監視する範囲を拡大したり、依存するベンダーに対してより厳格な安全性の検証を行うと述べた。

米トランプ政権が国防総省の制限を回避し、アンソロピック社の高度AI「ミトス」の政府導入を準備中。NSA（国家安全保障局）での実運用や財務省による金融機関との連携が進む一方、DeFi領域ではハッキングで巨額の流出が発生するなど、AIサイバー防御を巡る動きが急加速している。