CoinPostで今最も読まれています

OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

画像はShutterstockのライセンス許諾により使用

AIが専門家の域を超える時代

ChatGPTの開発企業OpenAIは22日、公式ブログで「超知能のガバナンス」と題し、現在の人工知能(AI)よりもはるかに高度な能力を有するAIの到来に備え、超知能を正しく理解し、対策を講じる用意を開始すべきだと論じた。

最高経営責任者であるサム・アルトマン氏と最高技術責任者のグレッグ・ブロックマン氏、主席科学者のイリヤ・サツキーバー氏が共同執筆したブログは、今後10年でAI技術が飛躍的に進化するという前提に基づいて論を進めている。

現在の状況を考慮すると、今後10年以内にほとんどの領域でAIが専門家のスキルレベルを超え、現在の大企業に匹敵する生産活動を行うようになることが想定される。

ブログでは、このような進化したAIを「スーパーインテリジェンス(超知能)」と呼んでいる。超知能は人類が過去に競合したいかなるテクノロジーよりも影響力が大きく、「劇的に豊かな未来」をもたらす可能性があるが、大きなリスクを伴うものであるため、「特別な扱いと調整が不可欠だ」と主張した。

また人工知能(AI)などの技術の急速な進歩によって、人間の知性や能力をも超える未来の時代を指す言葉として「シンギュラリティ(技術的特異点)」と呼ばれることもあるが、自己進化や自己修復能力を有する場合、金融や軍事、医療など重要インフラのシステム面における安全保障上のリスクも指摘される。

出発点としての提案

OpenAIの幹部は、人類と超知能との共存を成功させるために、AI技術の開発過程で留意すべき点について、以下の三つの提案を行った。

  1. 主要な開発者や企業間における調整強化
  2. 国際原子力機関(IAEA)のような国際的な管轄機関の設置
  3. 超知能の安全性確保のための技術的能力

超知能開発の調整方法としては、世界の主要政府が合同プロジェクトを立ち上げ、既存の開発プロジェクトをその一部とすることも考えられるという。また、開発の最前線におけるAI能力の成長速度の制限に、開発企業が合意するというアプローチも提案された。

ブログでは、超知能の活用をリスクも高いがメリットも大きい原子力の利用と比較している。その観点から、システムの検査や監査請求、安全基準テストやセキュリティレベルの制限などを監督する、IAEAのような国際機関の設置を提案した。

超知能の安全な利用を制御するための技術的能力については、今後の研究課題であり、OpenAIをはじめとする多くの研究者が力を入れて取り組んでいるとのことだ。

規制について

OpenAIは、AIモデルの能力に見合った開発のライセンス制や監査といった規制の導入を提唱している。一定の能力に関して閾値以下のモデルを開発する企業やプロジェクトについては、負担の大きい規制の対象としないことの重要性を訴えた。

アルトマン氏らが懸念しているAIシステムは、これまでに創造されたテクノロジーをはるかに上回る能力を持つもので、懸念に値しない水準の技術に同様の基準を適用することは、開発に水を差す行為だと忠告した。

アルトマン氏は、16日に開催された米上院司法委員会の公聴会で、政府によるAIの規制整備の重要性と能力に応じた規制について、同様の発言を行ったところだ。

関連:OpenAIアルトマンCEO、米上院公聴会でAIに対する規制整備を要請

OpenAIが開発を継続する理由

超知能システムのガバナンスと、その展開に関する民主的な意思決定の仕組みをどのように構築していくかは、非常に難しい課題で、リスクも大きいことを、OpenAIは強く認識している。

それでもAI技術の構築を続けるのには、二つの根本的な理由があるという。

まず第一に、「現在想像できるより、はるかに優れた世界につながると考えている」と主張。すでに教育や創造的な仕事、個人の生産性といった面で、その初期の例を見ることができると述べた。

第二に、超知能の創造を阻止することは、困難なだけではなくリスクが高いためだと指摘した。超知能開発のコストは下がる一方で、開発主体は急速に増加している。そして、それが時代の「技術的な方向性」の本質部分であるため、超知能の誕生を阻止するには、「世界的規模の監視体制」が必要になるが、それすらもうまくいく保証がないと強調している。

だからこそ、正しく物事を捉えなくてはならない。

『超早割』終了まで
0
0時間
0
0
さらに!! CoinPost読者限定割引コード提供中!
クリックしてコードをコピー
CoinPost App DL
注目・速報 相場分析 動画解説 新着一覧
05/29 水曜日
10:35
MocaverseとAnime Foundationが提携
アニモカ主導のプロジェクトMocaverseとAnime Foundationが提携。Anime Foundationはアニモカらと強力し、アニメファンをWeb3の世界へ引き込もうとしている。
10:00
米国の大統領選と仮想通貨政策、グレースケールが意識調査発表
仮想通貨投資企業グレースケールは、ビットコインなどに対する米国人の意識調査の最新版を発表。半数が今後仮想通貨に投資する見込みと回答していた。
08:45
Seiブロックチェーン、v2アップグレード後エアドロップ実施へ
並列処理可能なL1ブロックチェーン「Sei」は29日暗号資産(仮想通貨)SEIのエアドロップを発表した。
07:50
マウントゴックス「弁済はまだ準備中」
マウントゴックスのウォレットから仮想通貨ビットコインが大量移動し、売り圧の警戒が高まるも、弁済はまだ準備中であると同社は説明。弁済期限が徐々に近づく中、投資家は動向を注視している。
07:20
米上場のヘルスケア企業、62億円相当のビットコインを購入 株価高騰
最近仮想通貨ビットコインを財務資産として購入する企業が増えつつある。28日にはメタプラネットが新たに2億5000万円相当のビットコインを購入することを明らかにした。
06:30
2つのブラックロックファンド、1QにビットコインETF購入
グレースケールのGBTCは未だに同業他社より運用資産が多いが、ETFへ転換してから資金が大幅に流出しており、2位のIBITとはわずか20億ドルほどの差しかない。
06:05
トランプ氏、ビットコインが35兆ドルの米政府債務の解決に役立つか関心示す
仮想通貨ビットコインマガジンのデイヴィッド・ベイリー CEOはトランプ前大統領が米国政府の債務問題を解決するためにビットコインを活用できないかと尋ねたことを明らかにした。
05/28 火曜日
15:58
米マイクロストラテジー会長「ビットコインETF承認で資産クラスとしての地位は確固たるものに」
米マイクロストラテジー社のマイケル・セイラー会長は、今年1月に米国でビットコイン現物ETFが承認されたことで、機関投資家にとってビットコイン投資の地位が確固たるものとなったとその重要性を強調した。
13:50
Ledger Stax™配送開始 世界初の湾曲E Ink®タッチスクリーン搭載ウォレット
Ledger社が革新的なセキュア・タッチスクリーンデバイス「Ledger Stax™」の配送を開始。世界初の湾曲E Ink®スクリーンで暗号資産(仮想通貨)管理が簡単に。2024年夏に新規注文再開予定。
12:45
イーロン・マスク氏のAI企業「xAI」、9,400億円を調達
イーロン・マスク氏が設立したAI企業「xAI」は約9,400億円を資金調達した。「xAI」は3月、GPT4に匹敵するAIモデル「Grok-1.5V」をリリースしている。
12:25
7万ドル弱で揉み合うビットコイン、PEPEコインは過去最高値を更新
暗号資産(仮想通貨)市場ではビットコインが7万ドル目前で推移する。イーサリアムETF承認でミームコイン相場の投機熱が高まり、PEPEコインが過去最高値を更新し時価総額TOP20入りする場面もあった。
10:25
アービトラム、Web3ゲーム開発への出資で投票実施中 賛成多数
イーサリアムL2アービトラムのコミュニティはゲーム開発に2億ARBトークンを割り当てる提案の投票を開催中だ。現時点で賛成が多数を占める。
09:35
アルゼンチン、エルサルバドルからBTCについて情報収集
仮想通貨ビットコインの法定通貨化などについて情報収集するため、アルゼンチンの規制機関がエルサルバドル当局と会合を開いた。今後の計画も明らかになっている。
08:28
世界のビットコインETF、保有額100万BTC超え
米国の仮想通貨ビットコイン現物ETFへのエクスポージャーの20%以上が、大口投資家や機関投資家によって保有されていた。大手ヘッジファンドや、投資銀行、さらにはウィスコンシン州の年金基金までも含まれる。
07:20
JPモルガン「SECはETH以降はETFを承認しない可能性」
米SECはイーサリアム以降ソラナや他の仮想通貨の現物ETFを承認しない可能性があるとJPモルガンは分析。同社の幹部がその根拠を説明している。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア