CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

CoinPost App DL
注目・速報 相場分析 動画解説 新着一覧
07/20 土曜日
14:00
ネクソン、NFTゲーム『メイプルストーリーN』のシナジーアプリなどを発表
大手ゲーム企業ネクソンの子会社NEXPACEは「メイプルストーリー・ユニバース」エコシステムのローンチとその仕組みを発表した。
12:00
テレグラムのTON基盤ゲームPixelverse、独自の仮想通貨エアドロップ実施へ
テレグラム上で稼働するTONブロックチェーン基盤の「タップして稼ぐ(tap-to-earn)」ゲーム Pixelverseは独自の仮想通貨を発行し、ユーザーへエアドロップする予定だ。
11:00
世界でマイクロソフトITに大規模システム障害 仮想通貨への影響は?
世界各国のマイクロソフトITシステムに障害が発生した。分散型システムを取る仮想通貨に注目が集まったとする意見が上がっている。
10:00
Apple Payでミームコイン売買、ソラナ基盤「Moonshot」アプリ
Moonshotは19日にローンチされたばかりのiOS版アプリで、初めからApple Pay決済を利用することができる。
09:15
ソラナDEXレイディウム、ユニスワップの30日間手数料超え 高速チェーンへの高い需要を反映
ソラナのネットワーク基本手数料はイーサリアムの126分の一だが、処理速度が速く低コストで取引できるため、政治テーマや犬・ねこのミームコインへの高い取引需要で利用回数を大幅に増やしている状況だ。
08:10
伊国営金融機関、ポリゴン上でデジタル債券の取引に成功
仮想通貨ポリゴンのブロックチェーンを活用し、伊国営金融機関CDPがデジタル債券の取引に成功。これは、欧州中央銀行の実験の一環だという。
07:35
コインベース、仮想通貨3銘柄上場廃止 
米仮想通貨取引所大手コインベースは20日、Coinbase.com、Coinbase Exchange、Coinbase Primeにて、3銘柄の取引停止を実施した。
07:00
Mt.Goxの弁済進捗65%、ウォレット残高に1000億円相当のビットコイン 
経営破綻したマウントゴックス(Mt.Gox)のウォレットには、まだ1,000億円相当のビットコイン(90,344 BTC)が残っており、65%ほどの弁済が行われている。クジラの買い増し機会として利用される可能性が出てきた。
06:20
フィデリティ含む5つのイーサリアム現物ETF、7月23日に登場へ
米デリバティブ取引所Cboeによると、フィデリティやヴァンエックなどのイーサリアム現物上場投資信託(ETF)は7月23日に取引を開始する予定だ。
07/19 金曜日
17:23
イーサリアムの将来価格 ETF承認後の影響とテック株との比較
2024年5月に承認された暗号資産(仮想通貨)イーサリアムの現物ETFの影響と、株式市場上場後の将来価格を市場アナリストの見解を交えて解説。手数料収益に基づくテック株との比較も詳述。
16:08
JBA、暗号資産に関する税制改正要望を政府へ提出
日本ブロックチェーン協会(JBA)が2025年度の暗号資産(仮想通貨)税制改正要望を政府に提出した。申告分離課税や損失の繰越控除、暗号資産デリバティブ取引の適用、寄附税制の整備などを提案し、暗号資産の普及と市場活性化を図る。
13:15
香港当局がステーブルコイン規制法案を発表 今年中に立法会提出予定
香港の金融規制当局は、ステーブルコイン発行企業に対する規制導入についての公開協議結果を発表。今年中にステーブルコイン規制法案を香港立法会に提出する予定であると述べた。
12:36
NYダウ反落、ビットコインは上昇一服 アナリストは強気・弱気で見解割れる
暗号資産(仮想通貨)相場ではNYダウなど株式市場の反落もありビットコインが上昇を一服。今後の展望について、アナリスト間では、強気・弱気シナリオで見解が別れている。
11:30
韓国で「仮想通貨ユーザー保護法」が施行 保険加入など義務付け
韓国政府は19日、仮想通貨ユーザー保護法を施行した。投資家保護に重点を置いており、ユーザー資産保護や取引監視を定めている。
10:25
分散型予測市場ポリマーケット、バイデン米大統領の選挙撤退予測90%到達
仮想通貨ポリゴン基盤の分散型予測市場「ポリマーケット」で、バイデン米大統領が選挙から撤退する予測が一時90%まで到達した。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア