CoinPostで今最も読まれています

イーロン・マスクやAI研究者、次世代AIモデル開発の一時停止を要請 規制や監視等ガバナンスモデル構築を優先

画像はShutterstockのライセンス許諾により使用

AIモデル開発が人類にもたらすリスク

米OpenAIが3月にリリースしたAI言語モデル「GPT-4」よりも強力な次世代AIシステムの開発について、全ての研究機関に6カ月間の休止を求めるオンライン署名運動が29日に立ち上がった。

非営利団体Future of Life Instituteが公開したオープンレターは、AIモデルの発展が人間社会にもたらすリスクを考慮して、監視や規制体制を構築しつつ、併せてリスクに対処するガバナンスシステムを設置すべきと主張。モラトリアム(一時停止)が迅速に実施できない場合は、「政府が介入するべき」とも指摘している。

この主張には、テスラ社創設者イーロン・マスク氏やアップル共同創業者スティーブ・ウォズニアック氏を含む、著名な技術者、学者、研究者等1,300人以上の署名が集まっている(執筆時点)。

Future of Life Instituteは、人間と同等の知能を持つAIは、社会や人類に深刻なリスクをもたらす可能性があると指摘。一方で、計画性や管理体制が欠如したままAI開発が行われているため、「作成者でさえ理解、予測、信頼できない」ことが起こりかねない現状に危機感を示す。

こうした見解は、GPT-4を開発した米OpenAI自身が認めていることだ。同社は2月24日の書簡で、次世代AI言語モデルの開発を開始する前に独立したレビューを受け、開発の成長率を制限する必要性について言及していた。

オープンレターは「今がその時」だとして、予測不可能なリスクが高まるAIの開発競争を一旦停止し、AIラボと独立した専門家たちが協力して、より高度なAIモデル開発に対する安全性プロトコルを監視するべきと主張する。

これらのプロトコルは、それを遵守するシステムが合理的な疑いを超えて安全であることを保証するものでなければならない。

並行して、AI開発者と政策立案者が共同でAIガバナンスシステムの開発を急ぐべきだとオープンレターは続ける。具体的には、AIに特化した規制当局、本物と合成を区別しモデルの流出を追跡する認証システム、AIが引き起こす経済的・政治的混乱に対処するリソースなどが想定されている。

こうした環境整備により、AIの研究開発が「より正確で安全、解釈可能、透明、堅牢、連携、信頼、忠実なもの」にできるとFuture of Life Instituteは述べている。

関連:米OpenAI、ChatGPTプラグイン対応開始へ インターネットアクセス可能に

署名の信憑性

署名者の中には、人工知能研究の先駆者でチューリング賞受賞者のYoshua Bengio氏、コンピューター科学者のStuart Russell氏、Stability AI社のEmad Mostaque CEO、またリップル社共同創業者のChris Larsen氏の名前もあるが、それらの信憑性を疑う声も挙がっている。

ロイター通信のKrystal Hu記者は、イーロン・マスク氏やスティーブ・ウォズニアック氏、Yoshua Bengio氏など、リストの上位11人まで真偽を確認したと述べている。

Future of Life InstituteのAnthony Aguirre副社長は海外仮想通貨メディアDecryptに対し、早期署名者について本人との事実確認を行ったと語った。当初はOpenAI社のSam Altman CEOの署名も記載されていたが、既に削除された。随時検証が進められており、検証中の著名人の名前はリストで非表示になっている場合があるという。

米OpenAIは3月14日、AI言語モデルの最新製品「GPT-4」を発表していた。GPT-4は、2022年11月30日にリリースされたGPT-3.5よりも信頼性が高く、創造的で、より微妙な指示を扱うことができるとされる。

GPT-4のテストプログラムでは、SAT英作文やUBE (Uniform Bar Examination):米国統一司法試験など、人間用に設計された試験を実施。司法試験の模擬試験では、受験者の上位10%程度のスコアで合格したという。

関連:米OpenAIがAI言語モデル「GPT-4」をリリース、仮想通貨のAI関連銘柄は全面高

CoinPost App DL
注目・速報 相場分析 動画解説 新着一覧
07/21 日曜日
11:31
1000万円台回復の今週のビットコイン相場分析、来週はトランプ登壇のBitcoin 2024に注目|bitbankアナリスト寄稿
bitbankアナリストが、大統領選を見据えたトランプトレードの影響で1000万円を回復した今週の暗号資産(仮想通貨)ビットコイン相場を分析。Bitcoin 2024への関心は高い
11:00
週刊仮想通貨ニュース|トランプ氏のBTCカンファレンス出席意向に高い関心
今週は、ドナルド・トランプ前大統領のビットコイン・カンファレンスへの出席意向、コインベースの仮想通貨市場分析、トランプ氏の人事計画に関するニュースが最も関心を集めた。
10:00
今週の仮想通貨市場 個別銘柄の注目材料まとめ|マウントゴックスのビットコイン送金・ワールドコイン売却制限延長など
今週はビットコインが1ヶ月弱で66,000台に復帰し、アルトコイン銘柄の多くが連れ高になった。マウントゴックスの弁済による売圧が予想以下であり、トランプ氏が当選確率を上げたことで投資家に好感されている。
07/20 土曜日
14:00
ネクソン、NFTゲーム『メイプルストーリーN』のシナジーアプリなどを発表
大手ゲーム企業ネクソンの子会社NEXPACEは「メイプルストーリー・ユニバース」エコシステムのローンチとその仕組みを発表した。
12:00
テレグラムのTON基盤ゲームPixelverse、独自の仮想通貨エアドロップ実施へ
テレグラム上で稼働するTONブロックチェーン基盤の「タップして稼ぐ(tap-to-earn)」ゲーム Pixelverseは独自の仮想通貨を発行し、ユーザーへエアドロップする予定だ。
11:00
世界でマイクロソフトITに大規模システム障害 仮想通貨への影響は?
世界各国のマイクロソフトITシステムに障害が発生した。分散型システムを取る仮想通貨に注目が集まったとする意見が上がっている。
10:00
Apple Payでミームコイン売買、ソラナ基盤「Moonshot」アプリ
Moonshotは19日にローンチされたばかりのiOS版アプリで、初めからApple Pay決済を利用することができる。
09:15
ソラナDEXレイディウム、ユニスワップの30日間手数料超え 高速チェーンへの高い需要を反映
ソラナのネットワーク基本手数料はイーサリアムの126分の一だが、処理速度が速く低コストで取引できるため、政治テーマや犬・ねこのミームコインへの高い取引需要で利用回数を大幅に増やしている状況だ。
08:10
伊国営金融機関、ポリゴン上でデジタル債券の取引に成功
仮想通貨ポリゴンのブロックチェーンを活用し、伊国営金融機関CDPがデジタル債券の取引に成功。これは、欧州中央銀行の実験の一環だという。
07:35
コインベース、仮想通貨3銘柄上場廃止 
米仮想通貨取引所大手コインベースは20日、Coinbase.com、Coinbase Exchange、Coinbase Primeにて、3銘柄の取引停止を実施した。
07:00
Mt.Goxの弁済進捗65%、ウォレット残高に1000億円相当のビットコイン 
経営破綻したマウントゴックス(Mt.Gox)のウォレットには、まだ1,000億円相当のビットコイン(90,344 BTC)が残っており、65%ほどの弁済が行われている。クジラの買い増し機会として利用される可能性が出てきた。
06:20
フィデリティ含む5つのイーサリアム現物ETF、7月23日に登場へ
米デリバティブ取引所Cboeによると、フィデリティやヴァンエックなどのイーサリアム現物上場投資信託(ETF)は7月23日に取引を開始する予定だ。
07/19 金曜日
17:23
イーサリアムの将来価格 ETF承認後の影響とテック株との比較
2024年5月に承認された暗号資産(仮想通貨)イーサリアムの現物ETFの影響と、株式市場上場後の将来価格を市場アナリストの見解を交えて解説。手数料収益に基づくテック株との比較も詳述。
16:08
JBA、暗号資産に関する税制改正要望を政府へ提出
日本ブロックチェーン協会(JBA)が2025年度の暗号資産(仮想通貨)税制改正要望を政府に提出した。申告分離課税や損失の繰越控除、暗号資産デリバティブ取引の適用、寄附税制の整備などを提案し、暗号資産の普及と市場活性化を図る。
13:15
香港当局がステーブルコイン規制法案を発表 今年中に立法会提出予定
香港の金融規制当局は、ステーブルコイン発行企業に対する規制導入についての公開協議結果を発表。今年中にステーブルコイン規制法案を香港立法会に提出する予定であると述べた。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア