CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

注目・速報 相場分析 動画解説 新着一覧
21:02
海外取引所XT.com、Yesgo(YESGO)上場へ
仮想通貨取引所XT.comは、ソーシャルメディアにNFTと金融要素を組み合わせたWeb3.0アプリ「Yesgo(YESGO)」について、取り扱いを開始したことを発表した。XT.comの「メインゾーン」にて、USDT建の通貨ペアの取引が開始されている。
17:32
ステーブルコインとマネーマーケットファンドの取り付け騒ぎとは?
米ニューヨーク連邦準備銀行はステーブルコインにおける資産逃避リスクに関するレポートを発表した。シリコンバレー銀行破綻の際の事例などを分析している。
14:35
米議員ら、SECゲンスラー委員長に現物ビットコインETFの承認を要請
米国の超党派議員らは米証券取引委員会ゲンスラー委員長に書簡を提出。現物ビットコインETFの上場をただちに承認するよう要請している。
13:30
ブラックロックなど大手運用会社、ビットコイン・マイニング投資が増加
世界の巨大資産運用会社であるブラックロック、バンガード、ステート・ストリートが、ビットコインマイニング市場での影響力を強めつつある。特にBlackRockは2020年から米マラソン・デジタル・ホールディングスへの投資を増加し続けている。
12:57
米パンテラキャピタル、Web3業界の報酬水準について調査結果を発表
米仮想通貨ファンド大手Pantera Capitalは、Web3業界の報酬調査結果を公表した。透明性を高めることで、新たな才能をエコシステムに呼び込み、イノベーションの促進を図るというのが、その動機だという。
12:25
SECがビットコインETFの審査判断を来年1月まで延期、BTC取引量は6年ぶり低水準
長期金利上昇や米政府機関の閉鎖リスクなど不確実性が高まり米株指数が続落する中、暗号資産(仮想通貨)市場では、Ark Investと21 Sharesが申請中のビットコインETF審査判断が2024年1月まで延期された。
11:05
Celestia、58万アドレスへのエアドロップで初期参加促す
モジュラー型ブロックチェーンCelestiaは、独自トークンTIAを配布する計画を明らかにした。エアドロップを通じてイーサリアムとコスモスエコシステムのアクティブユーザーの関与を促進するねらい。対象アドレスは約58万件に及ぶ。
09/26 火曜日
17:16
L2「Base」、取引数急増の背景とその重要性とは?
コインベース支援のL2「Base」がトランザクション数で競合のArbitrumとOptimismを上回った。新興のソーシャルファイ「Friend.Tech」の影響と、各プラットフォーム及びイーサリアム保有者にもたらす利点を探る。
15:17
テザー社、シンガポールにおけるUSDTの規約変更に関する噂を否定
テザー社のパオロ・アルドイノ氏は、シンガポールにおけるUSDTサービス停止に関する噂を否定した。利用規約は数年前に変更されたものだとしている。
13:21
Arbitrum、83億円相当のARBをDAOの財源へ
仮想通貨イーサリアムのL2アービトラムは、ARBのエアドロップ未申請分83億円相当をArbitrum DAOの財源に割り当てたことを発表。数量は6,944万ARBで、初期発行量の0.69%相当である。
13:14
JCBAがIEO制度改革案を公開、企業の資金調達推進へ
一般社団法人日本暗号資産ビジネス協会(JCBA)は、IEO制度の健全化を目指す自主規制改革の初期案を公開した。価格の安定性向上と制度の運用方法の改善を目指し、関係者のロックアップ制度の確立、流動性の確保、公募価格の算定方法の多様化、及び安定操作の整備が挙げられている。
12:54
米SEC、破綻したセルシウスの資産分配についてコインベースの役割に異議
米証券取引委員会は、破綻した仮想通貨融資企業セルシウスの資産分配について、コインベースが果たす役割に反対する文書を提出した。
10:06
Friend.techコード活用のソラナ「Friendzy」急拡大
「Friendzy」は、ソーシャルファイ分野で注目を集める分散型アプリ「friend.tech」の類似技術を利用しており、ソラナエコシステム内で活況を呈している。週間取引量は1.36億円に達し、市場を牽引するfriend.techの半分近くに迫る勢いだ。
08:30
HTX(旧Huobi)、ETH12億円相当が不正流出
仮想通貨取引所HTX(旧Huobi)のアドバイザーであるジャスティン・サン氏は、HTXからイーサリアム12億円相当が不正流出したと発表。ユーザーの資産は安全であると説明している。
09/25 月曜日
21:35
5000BTC以上ビットコイン買い増し、米マイクロストラテジー
米マイクロストラテジーは新たに1.47億ドルのコストで5,445 BTCの仮想通貨ビットコインを取得した。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア
重要指標
一覧
新着指標
一覧