CoinPostで今最も読まれています

OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

画像はShutterstockのライセンス許諾により使用

AIが専門家の域を超える時代

ChatGPTの開発企業OpenAIは22日、公式ブログで「超知能のガバナンス」と題し、現在の人工知能(AI)よりもはるかに高度な能力を有するAIの到来に備え、超知能を正しく理解し、対策を講じる用意を開始すべきだと論じた。

最高経営責任者であるサム・アルトマン氏と最高技術責任者のグレッグ・ブロックマン氏、主席科学者のイリヤ・サツキーバー氏が共同執筆したブログは、今後10年でAI技術が飛躍的に進化するという前提に基づいて論を進めている。

現在の状況を考慮すると、今後10年以内にほとんどの領域でAIが専門家のスキルレベルを超え、現在の大企業に匹敵する生産活動を行うようになることが想定される。

ブログでは、このような進化したAIを「スーパーインテリジェンス(超知能)」と呼んでいる。超知能は人類が過去に競合したいかなるテクノロジーよりも影響力が大きく、「劇的に豊かな未来」をもたらす可能性があるが、大きなリスクを伴うものであるため、「特別な扱いと調整が不可欠だ」と主張した。

また人工知能(AI)などの技術の急速な進歩によって、人間の知性や能力をも超える未来の時代を指す言葉として「シンギュラリティ(技術的特異点)」と呼ばれることもあるが、自己進化や自己修復能力を有する場合、金融や軍事、医療など重要インフラのシステム面における安全保障上のリスクも指摘される。

出発点としての提案

OpenAIの幹部は、人類と超知能との共存を成功させるために、AI技術の開発過程で留意すべき点について、以下の三つの提案を行った。

  1. 主要な開発者や企業間における調整強化
  2. 国際原子力機関(IAEA)のような国際的な管轄機関の設置
  3. 超知能の安全性確保のための技術的能力

超知能開発の調整方法としては、世界の主要政府が合同プロジェクトを立ち上げ、既存の開発プロジェクトをその一部とすることも考えられるという。また、開発の最前線におけるAI能力の成長速度の制限に、開発企業が合意するというアプローチも提案された。

ブログでは、超知能の活用をリスクも高いがメリットも大きい原子力の利用と比較している。その観点から、システムの検査や監査請求、安全基準テストやセキュリティレベルの制限などを監督する、IAEAのような国際機関の設置を提案した。

超知能の安全な利用を制御するための技術的能力については、今後の研究課題であり、OpenAIをはじめとする多くの研究者が力を入れて取り組んでいるとのことだ。

規制について

OpenAIは、AIモデルの能力に見合った開発のライセンス制や監査といった規制の導入を提唱している。一定の能力に関して閾値以下のモデルを開発する企業やプロジェクトについては、負担の大きい規制の対象としないことの重要性を訴えた。

アルトマン氏らが懸念しているAIシステムは、これまでに創造されたテクノロジーをはるかに上回る能力を持つもので、懸念に値しない水準の技術に同様の基準を適用することは、開発に水を差す行為だと忠告した。

アルトマン氏は、16日に開催された米上院司法委員会の公聴会で、政府によるAIの規制整備の重要性と能力に応じた規制について、同様の発言を行ったところだ。

関連:OpenAIアルトマンCEO、米上院公聴会でAIに対する規制整備を要請

OpenAIが開発を継続する理由

超知能システムのガバナンスと、その展開に関する民主的な意思決定の仕組みをどのように構築していくかは、非常に難しい課題で、リスクも大きいことを、OpenAIは強く認識している。

それでもAI技術の構築を続けるのには、二つの根本的な理由があるという。

まず第一に、「現在想像できるより、はるかに優れた世界につながると考えている」と主張。すでに教育や創造的な仕事、個人の生産性といった面で、その初期の例を見ることができると述べた。

第二に、超知能の創造を阻止することは、困難なだけではなくリスクが高いためだと指摘した。超知能開発のコストは下がる一方で、開発主体は急速に増加している。そして、それが時代の「技術的な方向性」の本質部分であるため、超知能の誕生を阻止するには、「世界的規模の監視体制」が必要になるが、それすらもうまくいく保証がないと強調している。

だからこそ、正しく物事を捉えなくてはならない。

注目・速報 相場分析 動画解説 新着一覧
12/03 日曜日
11:30
米経済減速続けばビットコイン上抜けは時間の問題か|bitbankアナリスト寄稿
3.8万ドル付近を底堅く推移する今週のビットコインチャートを図解。国内大手取引所bitbankのアナリストが今後の展望を読み解く。オンチェーンデータも掲載。
11:00
週刊仮想通貨ニュース|マイクロストラテジーのBTC買い増しに高い関心
今週は、マイクロストラテジーが仮想通貨ビットコインを買い増ししたニュースや、金持ち父さん著者ロバート・キヨサキ氏がビットコインなどの資産への投資を推奨していることを書いた記事が関心を集めている。
12/02 土曜日
16:25
エルサルバドルのブケレ大統領、2024年再選を見据え職務離脱へ
暗号資産(仮想通貨)ビットコイン支持者で知られる、エルサルバドルのナイブ・ブケレ大統領が総選挙キャンペーンのため職を離れる。再選を目指す中で、国内政治のチェック・アンド・バランスの弱体化と、国際関係への影響を探る。
14:00
2024年に半減期を迎えるビットコインは約1800万円到達、Matrixport分析
Matrixportによる暗号資産(仮想通貨)ビットコインの価格予測を深掘り。2024年に1835万円到達の可能性、歴史的なデータ分析、マクロ経済要因と地政学的影響を詳細に解説。ビットコイン投資の未来を探る。
13:00
米サークル社、「テロ資金調達への関与はない」
ステーブルコイン「USDC」を提供するサークル社は、公開書簡を米議員らに提出。テロ資金など不正金融への関与はないと強調した。
12:00
イーサリアム運用で高利回りを実現、Cegaのデュアルカレンシー戦略とは?
セガ・ファイナンスが新しいオプション戦略「デュアルカレンシー」を発表。暗号資産(仮想通貨)イーサリアム、stETH、USDCホルダーに向けて、年利22%以上の収益を提供。この戦略は、リスクを最小限に抑えつつ、市場での高い固定利回りを実現する。
10:45
コインベースCEOがBaseトークン発行を否定 ソラナなどの統合計画も
米仮想通貨取引所コインベースのCEOは、イーサリアムL2「Base」に関する展望について話した。独自トークンや取引高速化について説明している。
09:55
コインベース・マイニング株大幅高、ビットコイン年初来高値更新|2日金融短観
本日のNYダウは+294.6ドルと続伸し、債券市場は反発した。この日にパウエル連邦準備制度理事会議長の発言からトーンダウンが示唆され2024年にFRBが利下げに動くとの観測がますます広がった格好だ。
08:30
Starknet独自通貨の無料配布、スナップショット実施済み
仮想通貨イーサリアムのL2「Starknet」は今週SNSで出回っていたSTRKトークンのエアドロップのスクリーンショットの真贋を確認し権利獲得にあたるスナップショットはすでに実施されたことを明かした。
07:20
ビットコイン価格は24年に上昇加速か=グレースケールレポート
仮想通貨運用会社グレースケールは、2023年11月版の市況レポートを公開。2024年は複数の条件が重なることによって、ビットコインの価格に上昇圧力がかかる可能性があるとの見解を示している。
06:50
ビットコインETFの上場申請めぐり今週3社目のSEC面談、専門家が承認楽観視
米SECは、GBTCから現物型ビットコインETFへの転換申請について、今週29日に申請側のグレースケール(2度目)と会議を行ったことが判明した。仮想通貨ビットコインは年初来高値を更新した。
06:00
ソラナDEX「Jupiter」、仮想通貨JUP無料配布の事前確認ページ公開
ソラナ基盤の分散型取引所アグリゲーター「Jupiter Exchange」は独自トークン「JUP」の無料配布(エアドロップ)計画について、事前確認の公式ページを公開した。
12/01 金曜日
17:41
「暗号資産の投資状況と確定申告」に関する調査、年内取引で約7割が利益
Aerial Partnersが2023年の暗号資産取引調査結果を公開。ビットコインなどの現物取引だけでなく、PoS銘柄のステーキング利用度が高まりつつあり、利益を出している投資家増加に伴い「確定申告」の必要性も上がっている。
16:03
米投資会社タイガー・グローバル、BAYCやOpenSea投資の評価額を大幅下方修正
タイガー・グローバル・マネジメントが、有名なNFTコレクション「Bored Ape Yacht Club」(BAYC)と主要なNFTマーケットプレイスであるOpenSeaへの投資により、大幅な含み損を抱えていると報じられた。同社の直近の投資動向と報告内容についてまとめる。
16:00
「ビットコインがもたらす革命をSNSへ」Nostrasia特集を配信
第10回のGM Radio:Beyond The Priceは11月22日に公開。今回は11月に東京などで開催されたイベントNostrasiaを特集した。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア