CoinPostで今最も読まれています

イーロン・マスクやAI研究者、次世代AIモデル開発の一時停止を要請 規制や監視等ガバナンスモデル構築を優先

画像はShutterstockのライセンス許諾により使用

AIモデル開発が人類にもたらすリスク

米OpenAIが3月にリリースしたAI言語モデル「GPT-4」よりも強力な次世代AIシステムの開発について、全ての研究機関に6カ月間の休止を求めるオンライン署名運動が29日に立ち上がった。

非営利団体Future of Life Instituteが公開したオープンレターは、AIモデルの発展が人間社会にもたらすリスクを考慮して、監視や規制体制を構築しつつ、併せてリスクに対処するガバナンスシステムを設置すべきと主張。モラトリアム(一時停止)が迅速に実施できない場合は、「政府が介入するべき」とも指摘している。

この主張には、テスラ社創設者イーロン・マスク氏やアップル共同創業者スティーブ・ウォズニアック氏を含む、著名な技術者、学者、研究者等1,300人以上の署名が集まっている(執筆時点)。

Future of Life Instituteは、人間と同等の知能を持つAIは、社会や人類に深刻なリスクをもたらす可能性があると指摘。一方で、計画性や管理体制が欠如したままAI開発が行われているため、「作成者でさえ理解、予測、信頼できない」ことが起こりかねない現状に危機感を示す。

こうした見解は、GPT-4を開発した米OpenAI自身が認めていることだ。同社は2月24日の書簡で、次世代AI言語モデルの開発を開始する前に独立したレビューを受け、開発の成長率を制限する必要性について言及していた。

オープンレターは「今がその時」だとして、予測不可能なリスクが高まるAIの開発競争を一旦停止し、AIラボと独立した専門家たちが協力して、より高度なAIモデル開発に対する安全性プロトコルを監視するべきと主張する。

これらのプロトコルは、それを遵守するシステムが合理的な疑いを超えて安全であることを保証するものでなければならない。

並行して、AI開発者と政策立案者が共同でAIガバナンスシステムの開発を急ぐべきだとオープンレターは続ける。具体的には、AIに特化した規制当局、本物と合成を区別しモデルの流出を追跡する認証システム、AIが引き起こす経済的・政治的混乱に対処するリソースなどが想定されている。

こうした環境整備により、AIの研究開発が「より正確で安全、解釈可能、透明、堅牢、連携、信頼、忠実なもの」にできるとFuture of Life Instituteは述べている。

関連:米OpenAI、ChatGPTプラグイン対応開始へ インターネットアクセス可能に

署名の信憑性

署名者の中には、人工知能研究の先駆者でチューリング賞受賞者のYoshua Bengio氏、コンピューター科学者のStuart Russell氏、Stability AI社のEmad Mostaque CEO、またリップル社共同創業者のChris Larsen氏の名前もあるが、それらの信憑性を疑う声も挙がっている。

ロイター通信のKrystal Hu記者は、イーロン・マスク氏やスティーブ・ウォズニアック氏、Yoshua Bengio氏など、リストの上位11人まで真偽を確認したと述べている。

Future of Life InstituteのAnthony Aguirre副社長は海外仮想通貨メディアDecryptに対し、早期署名者について本人との事実確認を行ったと語った。当初はOpenAI社のSam Altman CEOの署名も記載されていたが、既に削除された。随時検証が進められており、検証中の著名人の名前はリストで非表示になっている場合があるという。

米OpenAIは3月14日、AI言語モデルの最新製品「GPT-4」を発表していた。GPT-4は、2022年11月30日にリリースされたGPT-3.5よりも信頼性が高く、創造的で、より微妙な指示を扱うことができるとされる。

GPT-4のテストプログラムでは、SAT英作文やUBE (Uniform Bar Examination):米国統一司法試験など、人間用に設計された試験を実施。司法試験の模擬試験では、受験者の上位10%程度のスコアで合格したという。

関連:米OpenAIがAI言語モデル「GPT-4」をリリース、仮想通貨のAI関連銘柄は全面高

注目・速報 相場分析 動画解説 新着一覧
06/01 木曜日
15:29
AI のもたらし得る「深刻なリスク」に一部専門家が警鐘
「AIによる絶滅リスク」の軽減を訴える公開声明に、世界に名だたるAI技術の研究者や企業幹部ら350名が署名し、話題となっている。声明の主張には賛否両論あるが、AIについての議論の場を広げるものとして歓迎される。
15:10
Web3企業向けマーケティングツール「ソシャマ」リリース
ソーシャルマーケティング株式会社がWeb3企業向けのマーケティングSaaSツール「ソシャマ」の提供を開始した。仮想通貨やNFTを取り扱うWeb3事業者が抱える、ツイッターなどソーシャルメディア上でのマーケティングニーズに対応する。
12:32
英TP ICAP、機関投資家向け仮想通貨マーケットをローンチ
世界有数のインターディーラーブローカーTP ICAPは、ビットコインなど仮想通貨のスポット取引市場「Fusion Digital Assets」をローンチした。機関投資家向けで、分離運営モデルを採用している。
11:30
東京都政策企画局がデジタル証券発行支援を開始
東京都政策企画局は、デジタル証券(セキュリティトークン)発行支援事業の開始を発表した。これは、ブロックチェーン技術の広範な活用を促進し、スタートアップ企業の資金調達を多様化するための取り組みだ。
10:55
EU、包括的な仮想通貨規制案MiCAを正式承認
EUは、ビットコインなど仮想通貨に関する包括的な規制案「MiCA」を正式承認した。ステーブルコインに関する規定は2024年7月から、その他規定の多くは2025年から発効する予定である。
10:05
香港の新しい仮想通貨関連組織、Huobiが参加へ
Huobiは、香港の仮想通貨関連の新組織に加わることを発表。この組織は、香港を世界最大の仮想通貨市場にすることなどをミッションにしている。
08:20
PayPalベンチャーズなど、仮想通貨ウォレットサービス「Magic」に72億円出資
仮想通貨ウォレットプロバイダーMagicは昨日、72億円(5,200万ドル)規模の戦略的資金調達ラウンドを終えたことを発表した。
07:40
バイナンス、欧州で12のプライバシー関連銘柄を上場廃止へ
バイナンスは5月31日、欧州市場でプライバシー関連銘柄の取引提供を中止する予定を発表した。
07:10
バイナンス、人員削減の報道を否定
仮想通貨取引所バイナンスは、従業員の解雇を実施したことが報じられた。人員の20%を削減したとの報道もあるが、同社CEOのCZ氏は「解雇に関する報道は悪い噂(FUD)である」と説明している。
05/31 水曜日
17:22
改正資金決済法施行で国内ステーブルコイン発行可能に
改正資金決済法施行により、法定通貨を裏付けとするステーブルコインが発行可能になることへの関心が急上昇している。海外発行のステーブルコインについては、発行者ではなく流通業者が資産を保全するよう義務付けられる。
16:59
仮想通貨取引所SBI VCトレード、エックスディーシー(XDC)を国内初上場
SBIグループにて暗号資産(仮想通貨)交換業を運営するSBI VCトレード株式会社は31日、国内初となる「エックスディーシー(XDC)」の取扱い開始を発表した。
14:00
イーサリアムからビットコインへのNFT移行を実現する「BRC-721E」が誕生
イーサリアム上で流通するNFTを、ビットコイン・ブロックチェーン上に移行可能にする新トークン規格「BRC-721E」がローンチされた。トークンブリッジプロトコル「Bridge any NFT to Ordinals」も同時に提供されている。
13:17
米デジタル商工会議所、テキサス州の反ビットコイン的なエネルギー法案成立を阻止
米デジタル商工会議所はテキサス州議会に提出された「反ビットコインマイニング法案」が法制化に至らなかったと発表した。マイニング企業の収益に大きな影響を与える「電力クレジット」の取得制限に関連する法案は成立しなかった。
13:12
ビットコインの採掘難易度、過去最高値更新へ
翌年に「半減期」を控えるビットコインマイニングの採掘難易度が過去最高値を更新する見込み。Ordinals プロトコルおよびBRC-20トークン需要やAI(人工知能)流行に伴う半導体企業の成長などを受け、マイナー間の争奪戦が激化している。
12:00
バイナンス、一部顧客の担保資金を銀行に預ける仕組みを検討か=報道
大手仮想通貨取引所バイナンスは、機関顧客の一部が取引担保を銀行に保管する仕組みを検討していると伝えられる。カウンターパーティリスクの軽減が目的の一つとみられる。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア