CoinPostで今最も読まれています

OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

画像はShutterstockのライセンス許諾により使用

AIが専門家の域を超える時代

ChatGPTの開発企業OpenAIは22日、公式ブログで「超知能のガバナンス」と題し、現在の人工知能(AI)よりもはるかに高度な能力を有するAIの到来に備え、超知能を正しく理解し、対策を講じる用意を開始すべきだと論じた。

最高経営責任者であるサム・アルトマン氏と最高技術責任者のグレッグ・ブロックマン氏、主席科学者のイリヤ・サツキーバー氏が共同執筆したブログは、今後10年でAI技術が飛躍的に進化するという前提に基づいて論を進めている。

現在の状況を考慮すると、今後10年以内にほとんどの領域でAIが専門家のスキルレベルを超え、現在の大企業に匹敵する生産活動を行うようになることが想定される。

ブログでは、このような進化したAIを「スーパーインテリジェンス(超知能)」と呼んでいる。超知能は人類が過去に競合したいかなるテクノロジーよりも影響力が大きく、「劇的に豊かな未来」をもたらす可能性があるが、大きなリスクを伴うものであるため、「特別な扱いと調整が不可欠だ」と主張した。

また人工知能(AI)などの技術の急速な進歩によって、人間の知性や能力をも超える未来の時代を指す言葉として「シンギュラリティ(技術的特異点)」と呼ばれることもあるが、自己進化や自己修復能力を有する場合、金融や軍事、医療など重要インフラのシステム面における安全保障上のリスクも指摘される。

出発点としての提案

OpenAIの幹部は、人類と超知能との共存を成功させるために、AI技術の開発過程で留意すべき点について、以下の三つの提案を行った。

  1. 主要な開発者や企業間における調整強化
  2. 国際原子力機関(IAEA)のような国際的な管轄機関の設置
  3. 超知能の安全性確保のための技術的能力

超知能開発の調整方法としては、世界の主要政府が合同プロジェクトを立ち上げ、既存の開発プロジェクトをその一部とすることも考えられるという。また、開発の最前線におけるAI能力の成長速度の制限に、開発企業が合意するというアプローチも提案された。

ブログでは、超知能の活用をリスクも高いがメリットも大きい原子力の利用と比較している。その観点から、システムの検査や監査請求、安全基準テストやセキュリティレベルの制限などを監督する、IAEAのような国際機関の設置を提案した。

超知能の安全な利用を制御するための技術的能力については、今後の研究課題であり、OpenAIをはじめとする多くの研究者が力を入れて取り組んでいるとのことだ。

規制について

OpenAIは、AIモデルの能力に見合った開発のライセンス制や監査といった規制の導入を提唱している。一定の能力に関して閾値以下のモデルを開発する企業やプロジェクトについては、負担の大きい規制の対象としないことの重要性を訴えた。

アルトマン氏らが懸念しているAIシステムは、これまでに創造されたテクノロジーをはるかに上回る能力を持つもので、懸念に値しない水準の技術に同様の基準を適用することは、開発に水を差す行為だと忠告した。

アルトマン氏は、16日に開催された米上院司法委員会の公聴会で、政府によるAIの規制整備の重要性と能力に応じた規制について、同様の発言を行ったところだ。

関連:OpenAIアルトマンCEO、米上院公聴会でAIに対する規制整備を要請

OpenAIが開発を継続する理由

超知能システムのガバナンスと、その展開に関する民主的な意思決定の仕組みをどのように構築していくかは、非常に難しい課題で、リスクも大きいことを、OpenAIは強く認識している。

それでもAI技術の構築を続けるのには、二つの根本的な理由があるという。

まず第一に、「現在想像できるより、はるかに優れた世界につながると考えている」と主張。すでに教育や創造的な仕事、個人の生産性といった面で、その初期の例を見ることができると述べた。

第二に、超知能の創造を阻止することは、困難なだけではなくリスクが高いためだと指摘した。超知能開発のコストは下がる一方で、開発主体は急速に増加している。そして、それが時代の「技術的な方向性」の本質部分であるため、超知能の誕生を阻止するには、「世界的規模の監視体制」が必要になるが、それすらもうまくいく保証がないと強調している。

だからこそ、正しく物事を捉えなくてはならない。

記事提供:THE BLOCK
THE BLOCKとは

Cryptoにおける”最初で最後の言葉”であること。
The BlockはCryptoにおける最高クオリティで最重要のシグナルをお届けします。日々、Website、Newsletter、Podcast、イベントを通じて、業界で最も影響力のある人々にリーチしています。

注目・速報 相場分析 動画解説 新着一覧
06/06 火曜日
13:18
AI開発と著作権問題、基準を明示した文科大臣答弁が話題に
生成AIの開発段階で用いられるデータ利用について、著作権を問わず利用が可能だとの判断が、日本の行政トップから示されたことが、日本がAIの著作権問題で先鞭をつけたとして海外でも注目を集めている。
12:33
SECのバイナンス提訴で仮想通貨全面安、ビットコイン25000ドル台に急落
米SEC(証券取引委員会)が業界最大手の暗号資産(仮想通貨)取引所バイナンスの提訴に踏み切りビットコインが急落。新たに12銘柄の有価証券性を指摘されたアルト市場では大規模なロスカットが発生した。
11:55
JPモルガン、インドで6つの銀行とブロックチェーンベースの取引を試験
米JPモルガンは、インドでブロックチェーンベースの米ドル建て取引の試験運用を開始した。取引プラットフォーム「Onyx」を利用するもので、金融センター「GIFTシティ」の5行が参加する。
11:02
ドリコム、Web3ゲーム『Eternal Crypt -Wizardry BC-』開発へ
ドリコムが保有する「Wizardry」の知的財産権を活用し、チューリンガムと共同で開発を進めているブロックチェーンゲームの新タイトルが『Eternal Crypt -Wizardry BC-』に決定した。
10:15
米テザー社、エルサルバドルのビットコイン採掘企業に350億円出資
米テザー社は、エルサルバドルで仮想通貨ビットコインのマイニングファーム建設を目指すスタートアップ「ボルケーノエナジー」に出資したと発表した。専門知識なども提供する。
09:30
イーサリアム共同創設者Wilcke氏、取引所へETHを大量送金か
仮想通貨イーサリアムの共同創設者Jeffrey Wilcke氏のものとみられるウォレットから、55億円相当のETHが取引所に送金されたことがわかった。同氏のウォレットでは、15万ETH超がまだ保有されている。
08:15
米SEC、バイナンスとCZ氏を提訴
米SECは、仮想通貨取引所バイナンスと同社CEOのCZ氏を提訴。ソラナなどの銘柄を未登録有価証券と主張するなどして、合計13の容疑で訴訟を行なった。
08:05
仮想通貨関連株全面安、アップルはMRヘッドセットを発表
本日のNYダウは−199.9ドルと反落。ナスダックも−11.3ドル安で取引を終えた。市場は来週の米CPIとFOMCに向けて様子見の雰囲気を強めているようだ。
06/05 月曜日
14:40
バイナンスのWeb3起業家コンテスト、「zkPass」が優勝
大手仮想通貨取引所バイナンスは、メタバースで開催したWeb3起業家コンテスト「Build The Block」の優勝者を発表。ゼロ知識証明を開発する「zkPass」が助成金を勝ち取った。
12:39
露大手銀行ロスバンク、仮想通貨を利用したクロスボーダー決済サービスの提供開始=報道
ロシアの大手銀行ロスバンクは、同国の主要銀行として初めて、仮想通貨を利用したクロスボーダー決済システムの運用を開始した。同行はすでに企業及び個人の顧客との取引を試験的に行なっているという。ロシアのビジネス紙「Vedomosti」が報道した。
12:01
三菱UFJ信託銀行ら3社、ステーブルコインのクロスチェーン基盤構築へ
三菱UFJ信託銀行は2日、DatachainおよびTOKIと提携して、ステーブルコインのクロスチェーンインフラを構築していくと発表した。「Progmat Coin」を利用するトークンを対象とする。
11:58
ビットコインのボラティリティ、30日間変動率が過去最低水準に
米債務上限問題をめぐるデフォルト回避や利上げ停止観測で米株指数や日経平均株価が上昇する中、ビットコイン価格は今ひとつ冴えない。ボラティリティの30日間変動率は過去最低水準まで低下した。
06/04 日曜日
11:30
センチメント悪化でビットコイン下落、米ファンダ背景とした下げ止まりに期待|bitbankアナリスト寄稿
国内大手取引所bitbankのアナリストが、センチメント悪化で370万円付近まで下落した今週のビットコイン相場を解説。米ファンダメンタルズ好転で来週シナリオに楽観的な見方も。ビットコインチャートを図解し今後の展望を読み解く。ビットコイン・オンチェーンデータも掲載。
11:00
週刊ニュース|JPモルガンのBTC価格分析に注目集まる
今週は、JPモルガンのアナリストによるビットコイン価格分析について書いた記事が最も多く読まれた。このほか、国内仮想通貨取引所のトラベルルール対応など、一週間分の情報をお届けする。
06/03 土曜日
17:00
サンドウィッチ攻撃とMEVとは?
暗号資産(仮想通貨)イーサリアム基盤の分散型取引所ユニスワップなどで猛威を振るい手数料高騰の要因となっているMEV。サンドウィッチ攻撃など、分散型取引市場の脅威について詳しく解説する

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア
イベント情報
一覧
2023/06/15 ~ 2023/07/15
その他 未定
2023/06/16 09:30 ~ 20:00
東京 東京ミッドタウン八重洲
2023/06/18 10:00 ~ 19:00
Non Fungible Tokyo 2023 associated with Japan Blockchain Week
東京 東京国際フォーラム
重要指標
一覧
新着指標
一覧