WebX完全ガイド
TOP 新着一覧 取引所 WebX
CoinPostで今最も読まれています

AI のもたらし得る「深刻なリスク」に一部専門家が警鐘

画像はShutterstockのライセンス許諾により使用

深刻なリスクとは

人工知能(AI)の進化は人類にとって福音となるか悪夢となるのか。ChatGPTの急速な普及を機に、そんな議論の場を設けようとする複数の試みが起きている。

その一つが、米サンフランシスコを拠点とする「Center for AI Safety」(人工知能安全性センター:CAIS)が5月30日に公開した以下の声明だ。

AIの発展による人類絶滅のリスクを軽減することは、感染症のパンデミックや核戦争といった社会規模のリスクと並び、世界的な優先事項であるべきだ。

この声明が注目されるのは、世界に名だたるAI技術の研究者や企業幹部ら350名が署名しているからだろう。

署名者にはAI開発をリードする上位4社、OpenAI、Google Deep Mind、マイクロソフト、Anthropicの幹部が含まれており、「AIのゴッドファーザー」と呼ばれる著名研究者のジェフリー・ヒントン氏も名を連ねている。ヒントン氏は、自身が開発に携わった技術の危険性について、自由な発言ができるようGoogleの職を辞したことで話題となった人物だ。

CAISのディレクターであるダン・ヘンドリックス氏は「世界の一流大学のAI研究者が“声明”に署名したことは、原子力科学者が、自ら開発した技術に警告を発したことを彷彿とさせる状況だ」と述べている。

CAISは、AIの安全な開発と展開をサポートすることで、AIリスクの軽減を目指している非営利団体。今回の声明を発表したのは、先進的なAIの深刻なリスクについての議論の場を広げるためだという。

そして「議論の場」は確実に広がっているようだ。

米メタ社の主任AI科学者である ヤーン・ルカン氏は、「まだ存在していないので、超人的AIは絶滅リスクリストの上位には入らない」と主張。「AIの沈黙している大多数」は「AIのもたらす大きな恩恵を認識しつつ、リスクについては、電力や自動車、飛行機などのように、注意深い技術開発や規制で対処することで軽減できると信じている」というツイートを引用し反論した。

また、リスク管理企業「Critical Insight」の共同設立者、マイケル・ハミルトン氏は、AIは基本的に極めて高度なプログラミング・プラットフォームであり、「人間が許容する範囲内でしか前進できない」と指摘。「映画ターミネーターのような自意識を持った全知全能のテクノロジー」にはなり得ないと述べた。

関連:OpenAI「今こそ『超知能』のガバナンスについて考え始めるべき時」

人間が繁栄する未来とAI

マイクロソフトの主任科学者であるエリック・ホーヴィッツ氏も今回署名した一人だ。同氏は「AIと人間が繁栄する未来についての考察」と題し、さまざまな分野の著名な研究者や専門家による20のエッセイ集を紹介している。

ホーヴィッツ氏は「最近のAIの急速な進歩は、その変革の可能性を考慮するに際して、驚嘆と不安を同時に呼び起こす」と指摘。AIは私たちに豊かな生活をもたらす大きな可能性を秘めている一方で、課題やリスクに対する懸念もあり、さまざまな声や視点に触れることが大事だと強調した。

ホーヴィッツ氏はAI言語モデル「GPT-4」の「驚くべき能力」に触れたことで、その社会的な影響について考えるようになったという。

そこで、OpenAI社の支援のもと、20人の専門家を招きGPT-4の能力を調査することで、その未来のバージョンが人類に与える潜在的な影響について考察するプロジェクトが開始された。このプロジェクトでは、「長期的な思考と、人間の生活を豊かにするAIの可能性に対する楽観的な視点を維持することの重要性」に基づいた、以下の二つの問いに焦点が当てられたという。

  • このテクノロジーとその後継技術は、人類の繁栄にどのように貢献できるのか
  • 人類に最大限の恩恵をもたらすために、我々は社会として、どのように技術を導いていくのが最善なのか

AIによる「絶滅リスク」声明とは対照的なアプローチだが、AI技術が 幅広い分野で人類に貢献する可能性に賭ける期待という面では、両者は共通しているとも言えるかもしれない。

関連:グーグルやマイクロソフトらが活用へ エヌビディア、AI向けのスパコン発表

Google Newsでフォロー
CoinPost App DL
厳選・注目記事
注目・速報 市況・解説 動画解説 新着一覧
11/17 火曜日
12:00
イーサリアムの量子対策、ヴィタリックが早期実装を狙える新方式を支持
イーサリアム共同創設者のブテリン氏が、量子耐性署名や証明を集約する改善提案EIP-8288の実装方式としてleanPCSの支持に転じた。署名データが最大6KBに膨らむ課題への対応策で、leanSTARKより早く実装できる可能性があるという。
11:30
予測市場に止まらず カルシ、2カ月以内に株取引を提供開始へ
予測市場プラットフォームのカルシが、ニューヨーク拠点の小規模な証券会社を7月に買収し、2カ月以内に株式取引を始める計画だと米紙ウォール・ストリート・ジャーナルが報じた。無期限先物に続き、複数の資産を扱う金融取引所の構築を進める。
11:00
管轄権争い激化 米上院民主党議員9名、予測市場の地理的制限撤廃を命じたCFTCに撤回要求
9名の上院民主党議員が16日、米CFTCに予測市場の地理的制限撤廃命令の撤回と、規制権限を主張する取り組みの停止を求める書簡を送った。
10:40
ジーキャッシュ財務企業サイファーパンク初の営業黒字 8967ZECを採掘
ジーキャッシュ(ZEC)財務企業のサイファーパンク・テクノロジーズが2026年3Q決算を発表。8月に始めたマイニングで990万ドルを計上し、初の営業黒字に転じた。1ZEC当たりの採掘原価は104ドル、保有量は流通供給量の2.01%に達した。
10:00
「日本長期国債トークン化が現実資産市場の2兆ドル到達を後押し」スタンダードチャータード
英銀大手スタンダードチャータードは16日、日本国債のトークン化が現実資産のトークン化市場の2028年末2兆ドル予想を後押しするとの見方を示した。現在の市場規模は約450億ドルで、日本の動きが他国に広がる可能性にも触れた。
09:40
ソラナ財務企業DFDV、9482SOLを買い増し 10週連続で保有増
ソラナ(SOL)を財務資産として保有するナスダック上場のデファイ・デベロップメントが、保有量の10週連続増加を発表した。優先株CHADは31営業日連続で配当し、現在の配当率は年14%。1株当たりSOL保有量の拡大を狙う同社の戦略を整理する。
09:00
NYSE親会社、ソラナのバリデーター運用を検討
NYSE親会社のインターコンチネンタル取引所が、ソラナのバリデーター運営を検討している。ICEクリア・ヨーロッパ社長が明らかにし、NYSEの代替取引システムはソラナで発行された株式トークンを受け入れる設定が済んでいる。
08:45
米ハーバード大、ビットコイン現物ETFの保有株数を据え置き、評価額は42.2%増
ハーバード・マネジメント・カンパニーは13日、9月末時点のビットコイン現物ETF「IBIT」の保有株数が6月末と同じ304万4,612株だったと開示した。評価額は1億4,413万ドルで、6月末から約42.2%増加した。
08:02
JPモルガンとDBS、トークン化預金の国際送金サービスを開始
JPモルガンとDBSは、トークン化預金の国際送金サービスを開始。米国とシンガポールの口座間で許可型ブロックチェーンを使って即座に米ドルを移動できるようになった。
07:55
仮想通貨を盗むマルウェア、CNNやBBCも被害か 少なくとも186サイトで確認
セキュリティ研究者は17日、仮想通貨を盗むマルウェアが少なくとも186のウェブサイトで確認されたと明らかにした。送金先アドレスのすり替えで、ビットコインなど4種類で計約7,000ドルの盗難を確認したという。
07:25
ビットワイズ強気予測「ソラナ価格は5年後に15倍上昇」 その条件は?
米資産運用会社ビットワイズが、仮想通貨ソラナの2031年の価格を強気シナリオで1,100ドル、基本シナリオで385ドルと予測した。主な上昇要因を株式のトークン化の拡大としている。
06:45
仮想通貨ウォレット『トレザー』、配送パートナーの不正アクセスで2万件超の注文の個人情報が流出
仮想通貨ハードウェアウォレット大手のトレザーは16日、配送パートナーのSkladonで不正アクセスがあり、約2万7,000件の注文の氏名や住所、電話番号などが持ち出されたとみていると発表した。端末への影響はないとしている。
06:30
ソラナ、約7年間続いた「ベータ」表記を廃止、プロトコル「1.0」を導入
ソラナ財団は16日、メインネットの「ベータ」表記を約6年8カ月ぶりに廃止し、共通のプロトコルバージョン「1.0」を設けると発表した。利用者のSOLや口座に変更はない。
06:15
「ビットコイン、経済悪化なら2018年のように一段安も長期的には強気」ビットワイズ幹部
米仮想通貨運用会社ビットワイズの最高投資責任者は、経済状況が悪化すればビットコインが一段安となる可能性があると述べた。今後数週間の底堅さが続けば2027年は好調になりうるとの見通しも示し、長期では強気を維持した。
05:50
ビットマイン、22億円相当のイーサリアムを購入 保有量が総供給量の4.97%に
米ビットマイン・イマージョン・テクノロジーズが直近1週間で7,653ETHのイーサリアムを購入した。保有量は総供給量の4.97%に当たり、保有資産は計118億ドルに上る。
今から始める仮想通貨特集
通貨データ
重要指標
一覧
新着指標
一覧