CoinPostで今最も読まれています

イーロン・マスクやAI研究者、次世代AIモデル開発の一時停止を要請 規制や監視等ガバナンスモデル構築を優先

画像はShutterstockのライセンス許諾により使用

AIモデル開発が人類にもたらすリスク

米OpenAIが3月にリリースしたAI言語モデル「GPT-4」よりも強力な次世代AIシステムの開発について、全ての研究機関に6カ月間の休止を求めるオンライン署名運動が29日に立ち上がった。

非営利団体Future of Life Instituteが公開したオープンレターは、AIモデルの発展が人間社会にもたらすリスクを考慮して、監視や規制体制を構築しつつ、併せてリスクに対処するガバナンスシステムを設置すべきと主張。モラトリアム(一時停止)が迅速に実施できない場合は、「政府が介入するべき」とも指摘している。

この主張には、テスラ社創設者イーロン・マスク氏やアップル共同創業者スティーブ・ウォズニアック氏を含む、著名な技術者、学者、研究者等1,300人以上の署名が集まっている(執筆時点)。

Future of Life Instituteは、人間と同等の知能を持つAIは、社会や人類に深刻なリスクをもたらす可能性があると指摘。一方で、計画性や管理体制が欠如したままAI開発が行われているため、「作成者でさえ理解、予測、信頼できない」ことが起こりかねない現状に危機感を示す。

こうした見解は、GPT-4を開発した米OpenAI自身が認めていることだ。同社は2月24日の書簡で、次世代AI言語モデルの開発を開始する前に独立したレビューを受け、開発の成長率を制限する必要性について言及していた。

オープンレターは「今がその時」だとして、予測不可能なリスクが高まるAIの開発競争を一旦停止し、AIラボと独立した専門家たちが協力して、より高度なAIモデル開発に対する安全性プロトコルを監視するべきと主張する。

これらのプロトコルは、それを遵守するシステムが合理的な疑いを超えて安全であることを保証するものでなければならない。

並行して、AI開発者と政策立案者が共同でAIガバナンスシステムの開発を急ぐべきだとオープンレターは続ける。具体的には、AIに特化した規制当局、本物と合成を区別しモデルの流出を追跡する認証システム、AIが引き起こす経済的・政治的混乱に対処するリソースなどが想定されている。

こうした環境整備により、AIの研究開発が「より正確で安全、解釈可能、透明、堅牢、連携、信頼、忠実なもの」にできるとFuture of Life Instituteは述べている。

関連:米OpenAI、ChatGPTプラグイン対応開始へ インターネットアクセス可能に

署名の信憑性

署名者の中には、人工知能研究の先駆者でチューリング賞受賞者のYoshua Bengio氏、コンピューター科学者のStuart Russell氏、Stability AI社のEmad Mostaque CEO、またリップル社共同創業者のChris Larsen氏の名前もあるが、それらの信憑性を疑う声も挙がっている。

ロイター通信のKrystal Hu記者は、イーロン・マスク氏やスティーブ・ウォズニアック氏、Yoshua Bengio氏など、リストの上位11人まで真偽を確認したと述べている。

Future of Life InstituteのAnthony Aguirre副社長は海外仮想通貨メディアDecryptに対し、早期署名者について本人との事実確認を行ったと語った。当初はOpenAI社のSam Altman CEOの署名も記載されていたが、既に削除された。随時検証が進められており、検証中の著名人の名前はリストで非表示になっている場合があるという。

米OpenAIは3月14日、AI言語モデルの最新製品「GPT-4」を発表していた。GPT-4は、2022年11月30日にリリースされたGPT-3.5よりも信頼性が高く、創造的で、より微妙な指示を扱うことができるとされる。

GPT-4のテストプログラムでは、SAT英作文やUBE (Uniform Bar Examination):米国統一司法試験など、人間用に設計された試験を実施。司法試験の模擬試験では、受験者の上位10%程度のスコアで合格したという。

関連:米OpenAIがAI言語モデル「GPT-4」をリリース、仮想通貨のAI関連銘柄は全面高

注目・速報 相場分析 動画解説 新着一覧
02/26 月曜日
09:52
IPO株式上場目指す掲示板大手Reddit、ビットコインとイーサリアムの保有が判明
米掲示板大手Redditは、NYSE上場目指すIPOの届出書を提出。仮想通貨ビットコインとイーサリアムを財務資産として保有していると述べた。
02/25 日曜日
11:00
週刊仮想通貨ニュース|WLD急騰や日本株の「七人の侍」に高い関心
今週は仮想通貨ワールドコインの急騰、ゴールドマン・サックスによる日本株の「七人の侍」の選定、コインベースからのビットコインの大口出金に関する記事が最も関心を集めた。
02/24 土曜日
17:10
米国債担保型トークンがアプトスで流通 オンボーディングも視野 
米国債のトークン化を進めるOndo FinanceとAptos Foundationが戦略的提携を発表。USDYトークンのAptos統合、DeFiプロトコルが採用を進めておりエコシステムがさらに拡大。暗号資産(仮想通貨)のロックアップ総額も上昇傾向にある。
14:00
SuiブロックチェーンがStardustと提携、Web3ゲーム開発促進へ
Web3ゲーム用ウォレットを手掛けるStardustが、Suiブロックチェーンの統合を発表。この提携により、Web3ゲームのエコシステムが強化され、新たなゲーム体験が提供される。暗号資産(仮想通貨)スイは時価総額トップ50にランクインした。
13:00
米トランプ前大統領、ビットコインに前向きな姿勢に変化か
米ドナルド・トランプ前大統領は「仮想通貨ビットコインとは共存できる」と発言。懐疑的だった以前よりもビットコインに前向きな姿勢を示した。
12:00
グレースケール、プライバシーテーマのインデックスETFを申請
グレースケール「匿名銘柄のインデックスETF」はデータ・プライバシー技術を開発する企業およびZcashに投資する。ビットコインETF以外の製品を増やす狙いだ。
11:00
米登録の投資アドバイザーCarson Group、iSharesなどのビットコインETFを顧客に提供
ブラックロックのIBITでの仮想通貨ビットコイン保有数は126,950 BTCで、45.3万 BTCを保有するGBTCにつぐポジションを維持。一方、グレースケールのGBTCを除けば現在時価総額が最も高いのはブラックロックのIBITで、66億ドルに相当する。
10:00
Matrixport、3月までにビットコイン6.3万ドルも視野
Matrixportは2024年3月までにビットコインが6万3,000ドルに達する可能性があると強気予測。現物ETF承認や利下げなど複数要因を背景に挙げた。
09:00
加速する仮想通貨リステーキング、a16zがEigenに150億円投資
仮想通貨ETHやSOLのリステーキング「ストーリー」は今年の代表的なテーマの1つであり、投資家の注目と資金を集めている。
07:45
アバランチ、約2時間ブロック確定停止
仮想通貨アバランチのブロックチェーンで、ブロックの確定に問題が発生。ノードのソフトウェアのアップグレードを実施し、約6時間後に解決したことが報告された。
07:15
Flare Network、初期投資家のトークンアンロックを延長 FLR価格20%以上上昇
今回新たに出資したFlareの既存投資家はFLRトークンのロックアップ期間を2026の1Qまで延長し、30日の日平均出来高の0.5%を超えないトークンの売却に同意した。
06:30
UniswapのUNIに利益分配を提案、トークン価格が50%急騰
今まで仮想通貨UNIトークンの保有者には、Uniswapの手数料が分配されない仕組みとなっているが、これが変わる可能性が出てきた。
05:45
bitFlyer、仮想通貨3銘柄新規上場へ
国内暗号資産取引所bitFlyerは3銘柄の新規取り扱いを開始する予定だ。今週2度目の銘柄リスティング発表となる。
02/23 金曜日
16:00
Valkyrie「イーサリアム現物ETFの承認には1〜2年はかかる」
米仮想通貨投資企業Valkyrieの最高投資責任者は、イーサリアム現物ETFは今後1、2年以内に承認される可能性があると意見した。
16:00
Web3とは|次世代を担う非中央集権的インターネット環境のメリットを解説
世界中で技術革新の進むインターネット環境は、今まさに新たな時代へと移り変わろうとしています。Web3(ウェブスリー)という言葉の意味やメリットについて詳しく解説します。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア
イベント情報
一覧
2024/02/29 12:00 ~ 19:00
その他 オンライン
2024/03/01 19:00 ~ 21:30
東京 東京都千代田区
重要指標
一覧
新着指標
一覧