WebX完全ガイド
TOP 新着一覧 取引所 WebX
CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

Google Newsでフォロー
CoinPost App DL
厳選・注目記事
注目・速報 市況・解説 動画解説 新着一覧
11/16 月曜日
22:20
米ストラテジー、53億円相当ビットコインを買い増し 3週連続
米ストラテジーは16日、9日から15日の1週間に485BTCのビットコインを買い増し、3週連続の購入で保有量が850,849BTCのビットコインに達したと発表した。調達資金の最大の用途は優先株STRCの買い戻しだった。
21:50
デジタル証券に株主連絡の配信、コインベースと金融IT大手ブロードリッジが規格案を公開
米コインベースと米金融IT大手ブロードリッジは16日、トークン化株式を保有するウォレットへ株主向け連絡を直接届ける規格案を公開した。イーサリアム改善提案にも提出し、株主向け連絡の配信を示すことを支援するデータオラクルも開始した。
17:00
CoinPost編集部に聞く 取材とタイアップ、二つの現場で問われる力
ニュース、SEO、タイアップ、取材と性質の異なる記事が動くCoinPost編集部。国内取材とタイアップ記事を担う熊沢律紀氏に、模範解答のない現場で鍛えた「疑問を持つ力」と、編集部に向いている人物像を聞いた。
15:00
ビットコイン新規クジラの含み損80億ドル 投げ売りは限定的=アナリスト
クリプトクアントのアナリストによると、6月以降に参入したビットコインの短期保有クジラの含み損が約80億ドルに拡大した。バイナンスへの入金は2月・6月の水準を下回り、投げ売りは限定的だ。数値の留保点も整理する。
13:39
トム・リー氏が語る仮想通貨急落の5要因、長期の「スーパーサイクル」見通しは維持
仮想通貨はなぜ下落しているのか。トム・リー氏が売り圧力の背景を5つ挙げた。AI関連株の下落、アンソロピックIPO、大規模ハッキング後の返還資産の現金化などを主要因としている。
11:50
ビットコイン採掘マシン約6万4000台分の乗っ取り発生 報酬アドレス書き換え
約6万4,000台のビットコイン採掘機器がアドレス設定を書き換えられた上でマイニングプールに接続された。攻撃者への支払いは現時点で確認されていない。
11:15
イーサリアム財団関連アドレス、23億円相当のETH売却 現物ETFも7週連続流出
Lookonchainはイーサリアム財団関連のウォレットが4日間で7,500ETHを売却し、ステーブルコインUSDSに交換したと報告した。米ETH現物ETFは7週連続で純流出となっている。
10:23
ビットコイン一時1000万円割れ、清算連鎖とアンソロピックIPOへの資金シフト懸念も|仮想NISHI
ビットコインは週末の流動性低下でロングの強制清算が連鎖し、円建てで一時1,000万円を割り込んだ。アンソロピックIPOによるAI銘柄への資金シフト懸念やバイナンス問題も重しに。仮想NISHI氏が解説。
09:50
CZ氏が考える仮想通貨下落の5要因 バイナンスによる売りは否定
バイナンス創業者のCZ氏が、ビットコインが一時6万2,006ドルまで下げた相場について考えられる要因を5つ挙げた。アンソロピックのIPOへの資金移動やETFからの資金流出、利上げ観測を列挙し、バイナンスによる売却は否定した。
08:52
バイナンスのイーサリアム準備高、2020年以来の低水準に 流出続く=アナリスト
バイナンスのイーサリアム(ETH)準備高が約290万ETHまで減少し、2020年11月以来の低水準となった。2025年7月比で約42%減。クリプトクアントのアナリストは、価格下落局面での蓄積の可能性を指摘する。
08:10
iPhoneのウォレット狙う攻撃ツール地下販売 スローミスト責任者が警告
ブロックチェーンセキュリティ企業スローミストの責任者が15日、iPhone上の仮想通貨ウォレットを狙う攻撃ツールが地下フォーラムで販売されていると注意を促した。同氏はDarkSwordの改良版と推測し、iOSの更新を呼びかけている。
07:39
アンソロピック上場前のビットコイン安、スペースX時と酷似 ストライブCEO
ストライブのコール会長兼CEOは、BTCの値動きが6月のスペースX上場前と似ていると指摘した。同じ推移をアンソロピック上場に当てはめると、BTCは2月下旬に約9万ドルに達すると試算。上場後18日で底を打った前例を示した。
11/15 日曜日
11:30
ビットコイン、200日線割れ1100万円台 エヌビディア決算とアンソロピックIPOが焦点|bitbankアナリスト寄稿
ビットコイン(BTC)は200日移動平均線を下抜け、1100万円近辺まで値を下げた。エヌビディア決算とアンソロピックIPOが相場のカギを握るなか、売られ過ぎからの反発が注目される。
09:25
週刊仮想通貨ニュース(11/13)|上場企業のBTC売却・米BTC準備金・DAT企業の指数除外のまとめ
今週は、米上場企業の仮想通貨ビットコインの売却規模、トランプ大統領の戦略的ビットコイン準備金購入に対する意欲、米MSCIによるストラテジー・メタプラネットの指数除外に関する記事が関心を集めた。
11/14 土曜日
15:00
タイ当局、マネロン対策でステーブルコイン送金に1日約2300万円の上限案
タイ証券取引委員会は12日、ステーブルコイン取引の告示案を公表した。顧客の入金と出金をそれぞれ事業者ごとに1日500万バーツまでとし、送金元・先を本人名義の口座に限る内容で、26日まで意見を募っている。
今から始める仮想通貨特集
通貨データ
重要指標
一覧
新着指標
一覧