AI画像生成ツールMidjourney、アクセス過多で無料版を一時停止

Midjourney無料版が一時停止

AI画像生成ツールMidjourneyは28日、新規ユーザーの急増や無料トライアルの乱用を受け、無料トライアル版へのアクセスを一時停止した。

当初、この決定は拡散されたディープフェイク画像との関連が疑われていたが、独立系研究所MidjourneyのDavid Holz CEOは無料トライアル版でユーザーに提供されたサービスと問題のディープフェイク画像とは無関係だと述べた。

Holz氏によると、無料トライアルへのアクセスが殺到する中で有料版サービスがダウンしたことが、無料版の一時停止の直接の原因だという。

なお、政治的に敏感なディープフェイク画像の脅威に対する対応は現在も検討中で、Midjourneyはそのモニタリングポリシーを改善する予定だ。

執筆時点に無料ユーザーによる画像生成は許可されていないが、将来的に変更される可能性がある。Midjourneyの有料プランは、処理能力やユーザーが求める機能に応じて月額10ドル～60ドルとなっており、年間契約プランも用意されている。

ディープフェイク画像とは

ディープフェイク画像とは、AI（人工知能）技術を利用して作成された偽の画像や映像のこと。実在の人物や物体をリアルに模倣し、その姿や動き、発言などを捏造する。

Midjourney（V5）は、テキストプロンプト（指示）のみで写真のようにリアルな画像を作成できるソフトウェアサービス。有料版は照明や生地の質感、手先の精細な表現まで再現するより高性能な機能を提供するため、有名人や著名人の画像を生成する利用者が相次いだ。

そのため、先週末にかけて「ホワイトダウン姿のローマ教皇」とするMidjourneyで作成されたフェイク画像がTwitter上で拡散。ローマ・カトリック教会のフランシスコ教皇（86歳）がダイヤモンドで装飾されたネックレスを身に着けた姿はインパクトが強く、数百万PV（ページビュー）を集めた。

また、ドナルド・トランプ前米大統領が交際相手への口止め料の支払い疑惑に関連して逮捕されるとの噂が広まる中、ウェブ上ではさも前大統領が逮捕される瞬間を捉えたようなリアルなフェイク画像が拡散された。この画像を作成したジャーナリストEliot Higgins氏はMidjourneyからアカウントをBan（禁止）されたという。

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023

ディープフェイクは偽情報の拡散や評判の損傷、政治的な操作など、悪意のある目的に利用されるリスクが高まっており、ディープフェイク対策や法規制が議論されている状況だ。Midjourneyを含む多くの生成AIサイト（DALL E2、Playground AI）などでは、性的なワードを含むプロンプトに制限を設けている。

しかし、ディープフェイクの倫理問題を解決するためには、技術の規制や、利用時のガイドラインの策定、ディープフェイクを見分ける電子透かし技術の開発、一般的な認識・教育プログラムの導入など、多角的なアプローチが求められる。

29日には、米OpenAIがリリースしたAI言語モデル「GPT-4」よりも強力な次世代AIシステムの開発について、全ての研究機関に6カ月間の休止を求めるオンライン署名運動が立ち上がった。

非営利団体Future of Life Instituteが公開したオープンレターは、AIモデルの発展が人間社会にもたらすリスクを考慮して、監視や規制体制を構築しつつ、併せてリスクに対処するガバナンスシステムを設置すべきと主張。テスラ社創設者イーロン・マスク氏やアップル共同創業者スティーブ・ウォズニアック氏を含む著名人が署名している。

関連：イーロン・マスクやAI研究者、次世代AIモデル開発の一時停止を要請