WebX完全ガイド
TOP 新着一覧 取引所 WebX
CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

Google Newsでフォロー
CoinPost App DL
厳選・注目記事
注目・速報 市況・解説 動画解説 新着一覧
11/18 水曜日
17:30
グーグル、AIが脆弱性発見から攻撃まで自動化と警告 仮想通貨企業も標的
米グーグルのGTIGが、AIエージェントが脆弱性の発見から攻撃実行までを自動で行う事例を初めて確認したと報告した。北朝鮮関連とされるグループによる仮想通貨企業への攻撃や、Claude Codeの設定ファイル改ざんも明らかになった。
17:11
MARA、決算後も約1714BTC売却か=オンチェーン分析
米ビットコインマイニング大手MARAが、第3四半期決算の発表後もさらに約1,714BTCを売却したとみられることがオンチェーン分析で示された。同社は四半期終了後に13,597BTCを売却したと開示しており、2026年の売却は決算時点で累計4万BTCを超えた。
17:00
ビットコインが再び弱気局面に、バリューゾーン突入も底打ちは未確認=クリプトクアント
クリプトクアントは、仮想通貨ビットコインが弱気局面に戻る一方、トレーダーの未実現損益率はバリューゾーンに入ったと分析した。ただ底打ちは確認されていないとしている。
16:45
GMOコイン、マントル(MNT)を「国内初」取扱い BNBも追加
GMOコインは10月31日、マントル(MNT)とBNBの取扱いを始めた。同社によると、国内の交換業者がMNTを扱うのは初めて。販売所や取引所、つみたて、貸暗号資産で取引できる。預入・送付の対応チェーンの制限と、2つの仮想通貨の仕組みを整理する。
16:00
バイナンスウォレット、アンソロピックIPOの株トークン申し込みを受付 日本非対応
バイナンスウォレットは18日、アンソロピックのIPOに連動するトークン化株式の申し込みを受け付けると発表した。日本のユーザーは参加できない。
15:58
仮想通貨トレジャリー企業、大手25社中24社が保有資産割れ=ブルームバーグ
ブルームバーグによると、大手仮想通貨トレジャリー企業25社のうち24社で時価総額が保有資産の価値を下回った。ビットコインが週間で約14%下落し、株式発行で仮想通貨を買い増すモデルに逆風が強まっている。
15:30
セイラー氏、銀行融資がビットコイン強気相場の鍵
ストラテジーのマイケル・セイラー会長は、米カンター主催のカンファレンスで、銀行によるビットコイン担保融資が次の強気相場を左右すると述べた。デジタルクレジットの発行余力480億ドルや、配当維持に必要なBTC上昇率も示した。
14:50
予測市場を日本で金融商品にするには マネースクエアが語る実装の論点と課題
日本デジタル経済連盟(JDEF)の予測市場勉強会にマネースクエアが登壇。予測市場を金融商品として日本で実装する際の論点を、結果の判定や価格形成、不公正取引の抑止、顧客保護、市場拡大に向けた3つの壁から紹介する。
14:23
英モニュメント銀行、ミッドナイト上で利付きトークン化預金を開始
英デジタル銀行モニュメントが、プライバシー特化型チェーンのミッドナイト上でリテール預金のトークン化を始めた。第1段階の上限は2.5億ポンド、12カ月固定で年5.2%、英国の預金保護の対象。3月の計画発表から延期を経て、本番提供に至った。
14:00
ChatGPT会話画面で仮想通貨や株式取引可能に、米コインベースに新機能
コインベースが17日、ChatGPTの会話画面から指示して取引できる公式プラグインを公開した。米国の対象ユーザー向けで、仮想通貨や対象の米国株、満期のある先物の注文は確認カードでのユーザー承認後に実行される。
11:20
世界銀行のステーブルコインプロジェクト、サークルが支援へ
世界銀行グループは、ステーブルコインのインフラ構築を模索すると発表。USDC発行企業のサークルとシティと協力し、決済の効率化を目指す。
10:30
ビットコインの実現損失が降伏水準、鍵となる価格帯を分析=グラスノード
グラスノードは仮想通貨週間レポートを発表。ビットコインの実現損失が過去の底値圏で見られた水準に達し、レバレッジも解消されたと報告。一方で需要は弱いとしている。
10:15
予測取引でビットコインを担保に、アンカレッジがカルシにサービス提供
アンカレッジ・デジタルがカルシ・プライムと提携し、機関投資家が保管中のビットコインとステーブルコインを証拠金として使えるようになった。資産の売却や送金をせず、保管先を変えずに取引できる。
09:29
ビットコイン週間12%安、ビットワイズCIOは金利ショックを主因に
ビットワイズのホーガンCIOは、前週のビットコイン12%安の主因を10月の米CPI上振れによる金利ショックと分析した。12月利上げ確率は100%に上昇し、週末には約20億ドルが清算。ショックは一巡したとみる根拠を伝える。
07:50
メタプラネット傘下入り予定の米スーパーリーグ、8ビットコインを追加購入
メタプラネットの傘下入りを控える米スーパーリーグが16日、13日に8BTCのビットコインを平均約6万8,948.90ドルで購入したと開示した。購入量は前回の16BTCのビットコインの半分だった。
今から始める仮想通貨特集
通貨データ
重要指標
一覧
新着指標
一覧