CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

CoinPost App DL
注目・速報 相場分析 動画解説 新着一覧
03/19 火曜日
16:29
世界最大の機関投資家GPIF、ビットコインや金対象の運用資産多様化について情報提供求める=報道
株式市場のクジラとして知られる年金積立金管理運用独立行政法人(GPIF)は、仮想通貨ビットコインや金を含む「低流動性資産」等に関する情報やアイデア募集を開始した。将来的に分散投資・資産運用の一環でポートフォリオにBTCを組み入れる可能性を示唆した。
13:02
ビットコイン1000万円台割り込む、高騰していたアルト急反落にも警戒感
暗号資産(仮想通貨)相場ではビットコインが続落。日本円建て価格で1000万円台を割り込んだ。イーサリアム(ETH)やソラナ(SOL)などアルトコイン相場の方が下げが顕著で警戒感が強まりつつある。
11:35
CZ氏、世界の子どもに向けた「Giggleアカデミー」を立ち上げ
仮想通貨取引所バイナンスのCZ前CEOは、世界の子どもに基礎教育を無料で提供するプログラム「Giggle Academy」を立ち上げると発表した。
11:00
アバランチ財団、ミームコイン5種の保有を発表 
アバランチ財団が暗号資産(仮想通貨)AVAXのエコシステム支援のため、Coq InuやTechなど5種類のミームコイン保有を公表。コミュニティ活性化の一環として選ばれた。
10:20
今後ビットコイン現物ETFにさらなる資金流入可能性 CoinShares分析
仮想通貨投資企業CoinSharesのアナリストは、ビットコインには今後数か月の間に需要急増が起こる可能性があるとの見解を述べた。
08:20
ミームコイン熱狂でソラナのGoogle検索数急増、2018年ICOブームに類似との懸念も
次にヒットするミームコインを探すトレーダーや投資家は「BOME」プレセール型ローンチをはじめ、さまざまなプレセール型ミームコインに資金を流入させ、その多くが「出口詐欺」であることが確認されている。
07:15
SCB銀、イーサリアム現物ETF承認の今後の影響を分析
仮想通貨イーサリアムの現物ETF承認なら最初の1年で6兆円超の資金が流入する可能性があると、英大手銀行のスタンダードチャータード銀行が分析。今後のイーサリアムやビットコインの価格予想もしている。
06:20
OKX、欧州でUSDT通貨ペアを廃止 MiCA法準拠で
USDTはOKXやバイナンス、Bybitなど集権型取引所の出来高の根幹となっているためUSDTペアの廃止は取引所の収益に打撃を与えることになる。
05:50
AI・DePIN関連銘柄「Akash」、コインベースに新規上場
半導体大手エヌビディアが今週「NVIDIA GTC AI 2024」を開催することから、思惑買いで先週末にAKTやRender、ワールドコインなどのAI仮想通貨銘柄は一時的に値上がりしたが、その後反落。
03/18 月曜日
19:46
プライバシー保護と相互運用性に特化した「Partisia Blockchain」の魅力とは 専門家が動画解説|WebX STUDIO
企業や自治体からも注目される、秘匿マルチパーティ計算(MPC)を用いてプライバシー保護と相互運用性に特化したPartisia Blockchainとは。コミュニティサポーター「ぐぬぐぬたい」氏がCoinPost YouTube番組「WebX STUDIO」に出演し動画解説を行なった。
15:25
「Web3の未来をリードするのはアジアの国々」Parity Asia製品工学トップが見解示す
ブロックチェーンインフラ企業Parity Technologies Asiaは、日本で昨年開催されたWebX2023実績などを踏まえ、アジア太平洋地域の国々がWeb3の未来を形作る上で主導権を握るとの考えを明らかにした。
12:47
米検察、FTXのサム前CEOに懲役40年以上を求刑
米検察当局は、22年11月に破綻した仮想通貨取引所FTXの前サム・バンクマン=フリードCEOに懲役40年から50年の判決をくだすよう裁判所に要請した。弁護側は緩和を求めている。
12:35
イーサリアム現物ETFが5月までに承認される確率は? 海外アナリスト6名が見解述べる
米各社のアナリストら6名は、暗号資産(仮想通貨)イーサリアム現物ETFが今年5月までに承認される見通しについて議論し見解を述べた。承認の上でのハードルなどについても意見している。
12:31
ビットコイン一時65000ドル割れも反発、ソラナは時価総額4位に浮上
暗号資産(仮想通貨)市場では週末にかけて急落していたビットコインが反発。前週比30%高のソラナ(SOL)はBNBを超え、時価総額4位に浮上した。
03/17 日曜日
11:00
週刊仮想通貨ニュース|ETHのDencunやBTCの7万ドル割れに高い関心
今週は仮想通貨イーサリアムの大型アップグレードDencunの完了、ビットコイン価格の急反落、米金融大手JPモルガンのビットコイン現物ETF分析に関する記事が最も関心を集めた。

通貨データ

グローバル情報
一覧
プロジェクト
アナウンス
上場/ペア
イベント情報
一覧
2024/03/22 18:30 ~ 21:00
東京 東京都江東区
2024/03/28 15:00 ~ 18:00
東京 東京日本橋タワーB2階
2024/04/06 ~ 2024/04/09
香港 香港コンベンション・アンド・エキシビション・センター3FG
重要指標
一覧
新着指標
一覧