WebX完全ガイド
TOP 新着一覧 取引所 WebX
CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

Google Newsでフォロー
CoinPost App DL
厳選・注目記事
注目・速報 市況・解説 動画解説 新着一覧
11/21 土曜日
21:00
ビットコイン、「5.8万ドル割り込めば2022年型の下落リスクも」=コインベース
コインベースの仮想通貨市場週間レポートによるとビットコインは約12%下落し200週移動平均線を割り込んだ。過去の事例や、BTCとETHのサポート・レジスタンス水準を解説している。
12:10
アンソロピックの史上最大級IPOで株トークンが複数のブロックチェーンに登場、取引高15億円超
サンティメントは20日、アンソロピックIPOに伴う株式トークンが複数チェーンで登場したと報告した。株式トークンに伴う権利や流動性の課題も指摘している。
09:25
ビットコイン年初来最安値、米ハイテク株急落とマイナー売りが重荷|仮想NISHI
仮想通貨ビットコインは20日から21日にかけて大幅に下落し、一時年初来最安値を更新した。アンソロピック株を中心に米ハイテク株が急落した。
08:05
「クラリティー法案の年内成立可能性はゼロ」共同提案議員
米共和党のモレノ上院議員は20日、クラリティー法案が上院で可決されるシナリオはないと述べた。予測市場ではクラリティー法案の年内成立確率がほぼ0%で、米下院民主党は別の市場構造法案を協議している。
07:50
偽の仮想通貨取引所で58億円超詐取、米SECが8事業体を提訴
米SECは19日、偽の投資顧問会社と仮想通貨取引所で米国の投資家から3,700万ドル超をだまし取ったとして、コロラド州の8事業体を提訴した。SNS広告からチャットに誘導する手口で、2024年8月から2026年5月まで続いた。
07:10
ビットバンク、MEXCへの暗号資産出金を24日から制限、入金も12月10日から
ビットバンクは20日、MEXCとの暗号資産の入出金を制限すると発表した。出金は24日、入金は12月10日から対象となり、MEXCに暗号資産を保有する顧客は期限までの手続きが必要になる。
06:55
政府、マネロン対策の基本方針を改訂、暗号資産の悪用リスクへの対応も明記
政府は19日、2022年5月に決定したマネロン・テロ資金供与・拡散金融対策の基本方針を改訂した。暗号資産取引を脆弱性の一つに挙げ、暗号資産交換業者を、預金取扱金融機関などと並び他業態より相対的に危険度が高いと指摘した。
06:30
ビットコインの採掘コスト割れで高コストマイナーに売り圧力=JPモルガン
米銀大手JPモルガンは、ビットコイン価格が採掘コスト8万6,000ドルを2万6,000ドル超下回り、高コストの採掘企業に売り圧力が強まっている可能性が高いと指摘した。ETF流出は個人投資家が主導した可能性があるとみている。
06:05
ビットコイン続落、AI株安の中で一時5.8万ドル割れ、2024年9月以来の安値圏に
仮想通貨ビットコインが21日、一時5万8,000ドルを割り込み、24時間で約6%下落した。AI関連株の売りが広がる中、仮想通貨の強制清算額は20億ドルに上り、米国のビットコイン現物ETFは3日連続の純流出となった。
11/20 金曜日
21:20
米上院、戦争やテロに関する予測市場契約の上場禁止法案を可決 下院へ
米上院は19日、戦争やテロ、暗殺、米軍の軍事作戦に言及する予測市場契約や、主に個人の死亡で結果が決まる契約の上場を禁じる法案を可決した。法案は下院に送られる。
21:00
米CFTC委員長、ハイパーリキッドなどの米国参入に取引所登録か提携が必要と説明
米CFTCのセリグ委員長は、ハイパーリキッドなどブロックチェーン上のプラットフォームが米国の個人トレーダー向けにデリバティブを提供するには、取引所登録か登録済み取引所との提携が必要との考えを示した。
17:00
人気ゲーム「GTA VI」発売でトークン化株TTWOの取引高急増、エヌビディアの約3倍に
GTA VI発売前日、トークン化株式TTWOのDEX取引高が前日比578%増の2億4,950万ドルに急増し、エヌビディアの約2.8倍に達した。バックパックのソラナ版に取引が集中していた。注目度を利用した詐欺案件も多数確認された。
16:00
コインベース、米国で独自の予測市場展開を2027年上期に目指す
ブルームバーグは、コインベースが2027年上期に米国で自社の予測市場イベント契約の提供開始を目指していると報じた。現在はカルシとの提携で提供しており、独自の提供で取引収益を高める狙いだ。
15:45
IOSCO、金融市場の量子対策を呼びかけ ブロックチェーン特有の課題も指摘
IOSCOは量子コンピュータが金融市場に与える影響の報告書を公開し、迅速な準備を呼びかけた。ブロックチェーン特有の移行課題を指摘している。
14:30
三井物産子会社、個人向けデジタル社債事業を開始、第1弾は1年債
三井物産子会社の三井物産デジタル・アセットマネジメントが19日、個人向けサービス「オルタナ」で社債の取り扱いを始めると発表した。第1弾は三井物産が発行する1年債で、10万円から投資でき、20日に仮申込を開始した。
今から始める仮想通貨特集
通貨データ
重要指標
一覧
新着指標
一覧