WebX完全ガイド
TOP 新着一覧 取引所 WebX
CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

Google Newsでフォロー
CoinPost App DL
厳選・注目記事
注目・速報 市況・解説 動画解説 新着一覧
11/20 金曜日
13:10
通販会社『日本直販』、自社ECにJPYC決済を試験導入
通販会社の日本直販は19日、日本円ステーブルコインJPYCによる決済機能を自社ECサイトに試験導入したと発表した。流通前のトークンAYETの将来的な決済活用を見据えた基盤構築の第一歩で、顧客はガス代を負担せずに支払える。
12:15
ビットコイン現物ETFで資金流出止まらず、BTC価格は一時6.1万ドル台まで下落
米国のビットコイン現物ETFの資金流出が続き、ビットコインは20日に一時6万1,000ドル台まで下落した。データサイトSoSoValueによると、現地17日に2億3,994万ドル、18日に3億642万ドルの純流出(資金引き上げ)となった。
12:00
BITCOIN JAPAN 2026がベルサール秋葉原で開幕へ 企業のBTC活用を議論
BITCOIN JAPAN 2026が11月27・28日にベルサール秋葉原で開催。27日は企業向けのSUMMIT、28日は体験型のFESTIVALと有料のBITCOINER EXPOが開かれる。日ごとのプログラムと登壇者をまとめた。
11:30
バイナンスUS、無期限先物提供へ前進 米CFTCが取引所申請を審査可能と認定
バイナンスUSは19日、米CFTCからデリバティブ取引所・清算機関の登録申請が審査に進める内容と認定されたと発表した。まだ承認ではなく、無期限先物などの提供は登録が認められるまで始まらない。  
10:40
「デジタルだけじゃなく、フィジカルを見る」 CoinPostエンジニアが語る開発の面白さ
大手IT企業で100人規模の開発組織を統括した染谷直希氏は、CoinPostでエンジニアとしてWebXの会場にも立つ。事業ごとに分かれ横でつながる開発体制や障害対応の考え方、求める人物像を聞いた。
09:45
香港当局、ハイパーリキッドを『投資家への警告リスト』に追加 無免許運営・宣伝の疑い
香港SFCは、分散型取引所ハイパーリキッドを警告リストに追加した。免許なしで香港で運営・宣伝している疑いがあるとしている。英国とシンガポールの当局も既に注意喚起している。
09:30
シンガポール中銀、120億円超規模のトークン化証券発行に成功
シンガポール金融管理局は、約124億円分のトークン化証券の発行に成功したと発表。独自のネットワークを使い、ホールセール型のCBDCで決済を実施した。
09:05
イーサリアム次期アップグレード、仕様変更なら2027年5月にずれ込む可能性
イーサリアムの次期アップグレード「グラムスターダム」は、既存のスマートコントラクトへの影響を巡り仕様を変更する場合、メインネットでの稼働が最長で2027年5月までずれ込む可能性がある。19日のコア開発者会議では結論が出ていない。
08:05
米SEC委員候補、株式トークン化の免除措置に懸念 規則整備を求める
米上院銀行委員会の公聴会で、トランプ大統領指名のSEC委員候補のジョンソン氏が、トークン化株式の免除措置を意見公募を経た正式な規則に改めるべきだと述べた。
07:40
ソラナ上の株トークン流通額、10月末からほぼ倍増 初10億ドル超
ソラナ上のトークン化株式の流通額が19日、12億2,000万ドルに達し、10月末から1カ月足らずでほぼ倍増した。オンド・ファイナンスなどが牽引し、米証券決済大手も2027年後半の接続を計画している。
06:40
BITPOINT、12月23日にサービス終了 口座・資産はVCTRADEサービスへ移管
暗号資産取引所BITPOINT(ビットポイント)は19日、12月23日13時にサービスを終了すると発表した。口座と資産はSBI VCトレードへ移管され、11月30日13時には暗号資産の入金・出金と日本円の入金が終了する。
06:15
バイナンスウォレット、配分不足でアンソロピックIPOの申込金を全額返金
バイナンスウォレットは20日、アンソロピックIPOの配分が申込総額に届かなかったとして、申込金のUSDCを全額返金すると発表した。
05:55
アンソロピックが上場、ソラナ上のトークン化株取引高は初日で92億円超
対話型AI「クロード」を手がける米アンソロピックがナスダックに上場し、初値は公開価格を34%上回る111.5ドルだった。ソラナ上のトークン化株「ANT」は発行3社合計の取引高が5,800万ドル超で、約95%をバックパック発行分が占めた。
11/19 木曜日
22:00
レジャー製ハードウォレット、東南アジア以外でも不正部品を確認
仮想通貨ウォレット大手のレジャーは18日、ハードウォレット端末改ざん事案の調査で、東南アジア以外でも不正装置が埋め込まれた端末が見つかったと公表した。確認端末はいずれも、セットアップ時にリカバリーフレーズを取得する同種の改造だったという。
21:25
ソラナの「2027年ロードマップ」、処理能力を2倍へ
ソラナは19日、アンザのブレナン・ワットCEOが2027年のロードマップを示したと発表した。ネットワークの演算処理能力を2倍にし、トークンアカウントの操作に必要な演算コストを約80%削減する。
今から始める仮想通貨特集
通貨データ
重要指標
一覧
新着指標
一覧