WebX完全ガイド
TOP 新着一覧 取引所 WebX
CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

Google Newsでフォロー
CoinPost App DL
厳選・注目記事
注目・速報 市況・解説 動画解説 新着一覧
11/19 木曜日
22:00
レジャー製ハードウォレット、東南アジア以外でも不正部品を確認
仮想通貨ウォレット大手のレジャーは18日、ハードウォレット端末改ざん事案の調査で、東南アジア以外でも不正装置が埋め込まれた端末が見つかったと公表した。確認端末はいずれも、セットアップ時にリカバリーフレーズを取得する同種の改造だったという。
21:25
ソラナの「2027年ロードマップ」、処理能力を2倍へ
ソラナは19日、アンザのブレナン・ワットCEOが2027年のロードマップを示したと発表した。ネットワークの演算処理能力を2倍にし、トークンアカウントの操作に必要な演算コストを約80%削減する。
21:00
ビットコイン裁定取引の利回り、27年は米国債超えへ スイス仮想通貨銀行が予測
スイスのシグナム銀行は2027年展望レポートで、ビットコインのキャリートレード(現物買い・先物売り)の利回りが米短期国債を上回ると予測した。26年に低迷したファンディングレートは10月末に年率約8%まで回復した。
21:00
ビットコイン先物建玉、週9700BTC減 成行売りの優勢続く
ビットコイン無期限先物の未決済建玉は14取引所の合計で35万6,700BTCとなり、1週間で9,700BTC減少した。クリプトクアントのアナリストは、CVDの売り越し拡大から成行売りの優勢が続いていると指摘する。
20:00
アンソロピック上場前先物、ハイパーリキッドで公開価格16%上回る
アンソロピック(Anthropic)が19日にナスダック上場する。分散型取引所ハイパーリキッドの上場前無期限先物は約96ドルで推移し、公開価格83ドルを上回る水準。グレースケールは、過去8件中7件で初値の方向を的中させた実績を分析した。
19:00
米シティ、ビットコインとイーサリアムの目標を約12%・約6%引き下げ
米シティグループは、ビットコインとイーサリアムの基本シナリオの目標価格をそれぞれ9万9,532ドル、2,838ドルに引き下げた。BTCの200日移動平均線割れとETFの資金流出を挙げ、短期の資金フロー判断も「中立」に下げた。
19:00
グレースケール、ビットコインのリスク再評価を提言 変動率は約43%に低下
米グレースケールは18日のレポートで、ビットコインのボラティリティが約43%まで低下したとして、リスク評価の見直しを提言した。JPモルガンの長期予測や、少数の急騰日がリターンを左右するファットテール特性もあわせて解説した。
16:33
ビットコインの見かけ上の需要、年初来最低に 一時マイナス29万BTC
この記事のポイント 一時マイナス29万BTC割れ、月平均を大きく下回る ハッシュレート8月下旬比13%超上昇、吸収に必要な需要が増加 見かけ上の需要が年初来最低 オンチェーンア…
16:00
米NFA、Backpackの先物取次業を承認
仮想通貨取引所などを手がけるBackpackは、米NFAから先物取次業者の認可を取得。米国ユーザーに無期限先物などのサービスを直接提供するためのライセンスが全てそろったと発表した。
15:00
コインシェアーズが26年3Qの決算発表、ETHとSOLの売却に再度言及
コインシェアーズは、2026年3Qの未監査決算を発表。仮想通貨のイーサリアムとソラナの売却に再度言及し、売却代金は自社株買いプログラムの原資にする計画だと説明した。
12:00
ビザ、ステーブルコインによる送金原資の事前調達をアジア太平洋で試験導入へ
決済大手ビザは「ビザ・ダイレクト」を通じたステーブルコインによる国際送金の事前資金調達をアジア太平洋に拡大する計画を発表した。受取人は法定通貨で受け取る仕組みだ。
11:00
米金融大手、ETF経由のビットコイン保有拡大 ウェルズは顧客分で倍増
SECに提出された7〜9月期の13Fで、ウェルズ・ファーゴやゴールドマン・サックスなど米金融大手が現物ビットコインETFの保有を拡大していたことが分かった。一方、11月に入りETFからの資金流出とBTC安が続いている。
10:30
S&Pグローバル、テザー社USDTの安定性評価を最低ランクに据え置き
S&Pは、テザー社によるステーブルコインUSDTのドル連動維持能力を最低の「5」に据え置いた。高リスク資産の増加や、準備資産に関する開示不足を指摘している。
10:00
バンガード指数ファンド、メタプラネット株1800万株保有 以前比15%増=報道
米資産運用大手バンガードの指数ファンドが、ビットコイン保有企業メタプラネットの株式を1,800万株保有していることが報じられた。評価額は2,200万ドル。メタプラネットは11月30日付でMSCI指数から除外される予定だ。
09:30
上場マイナーのビットコイン保有、1月以降ほぼ半減=グラスノード
グラスノードによると、上場マイナー6社のビットコイン保有量は1月以降ほぼ半減した。MARAは9月末以降に1万3597BTCを売却し、ライオットも保有を2,418BTCまで減らした。売却資金はAIデータセンター転換と借入返済に向かう。
今から始める仮想通貨特集
通貨データ
重要指標
一覧
新着指標
一覧