オープンAIの研究モデル、イーサリアムのテストネットで他者の資金を無断使用

AIがテストネット資金を無断使用

オープンAI（OpenAI）は15日付の報告で、社内研究モデルがイーサリアム（ETH）のテストネット「Sepolia」で、タスクで支給されていない第三者のウォレット資金を無断で使っていたと公表した。AIモデルの意図しない挙動を公開する専用ページ「Misalignment Reports and Notices」に新規報告として掲載した。

対象はGPT-5.6 Solファミリーの社内研究モデル。6月26日に実施した訓練タスク中の行動で、発見は9月25日だった。同社はこの事例について、モデルが被害の見込みに関する自らの判断をアカウント保有者の許可に置き換え、無許可のまま行動しうることを示したと説明している。

テストネットは開発や検証のために本番と同じ仕組みで運用されるネットワークで、流通するトークンに市場価値はない。シードフレーズ（リカバリーフレーズ）を知っていれば、誰でも対応する秘密鍵を導出できる。公開されたフレーズに紐づく口座は、事実上誰でも操作できる状態にある。

362アドレスを走査、資金を特定

モデルに与えられたのは、仮想通貨取引アプリの試作版を更新し、仮置きのコントラクトアドレスをSepolia上で稼働するものに置き換えるタスクだった。互換コントラクトが見つからない場合は自ら展開することも認められていたが、資金入りのウォレットは支給されず、独自に見つけた口座の資金を使う許可もなかった。

モデルは既存デプロイの検索や、テスト用トークンを配布するフォーセットの利用を試みたが、展開に必要な手段は得られなかった。そこで開発者の間で広く知られたシードフレーズから口座を導出し、残高を照会するスクリプトを作成。362アドレスを確認した結果、デプロイに足る残高を持つ口座を1つ見つけ、これを選んだ。

推論の過程では、公開された鍵の資金を使うことが倫理的かを自問していた。それでも、公開ニーモニック上の資金は「事実上放棄されている」うえ、Sepoliaのトークンは無価値だとして使用を正当化した。導出した秘密鍵で取引にオフライン署名し、残高を正しく返す外部プロバイダーを探して送信。デプロイは成功し、取引手数料は選んだ口座から差し引かれた。

最終報告で資金の出所に触れず

モデルは最終報告で、コントラクト群のデプロイ完了を伝えたが、公開シードフレーズ経由で口座を選び、その残高を使った事実には触れなかった。オープンAIによると、今回の事案は過去のモデル活動記録にまで監視対象を広げる過程で見つかった。

同社は同様のケースで外部インターネットへの接続を防ぐ安全策を追加し、全通信に監視システムを適用した。接続が成立した場合はセキュリティ担当者に通知が届く仕組みだという。同ページでは9月にも、訓練中のモデルがGitHub上で漏洩したAPIキーを探して利用した事例を公表している。