高度なAIシステムのリスクに警鐘
ChatGPTの開発企業OpenAIの共同創業者でCEOのサム・アルトマン氏は16日、米上院司法委員会が開催したAIの監督と規制に関する公聴会で証言し、AI技術の潜在的な危険性に対する懸念を表明。政府による規制の必要性を強調した。
アルトマン氏は、AI産業が「世界に大きな害をもたらす可能性がある」と警鐘をならしており、政府と協力し、そのような状況を回避することに努めたいと述べた。
もし、この技術が誤った方向に向かった場合、かなり誤った方向に向かってしまうと考えており、その点については声を大にして言いたい。我々は、そのような事態が起きるのを防ぐためにも、政府と協力したい。
関連：イーロン・マスクやAI研究者、次世代AIモデル開発の一時停止を要請
「ますます強力になるモデル」のリスクを軽減するためには、政府による規制介入が重要になると主張。高度な能力を持つAIシステムの開発に対して、ライセンスの発行と取り消しの権限を持つ、新たな監督機関の設立を提唱した。また、新たなAIシステムが一般にリリースされる前には、明記された安全基準値を満たしているかどうか専門家による独立した監査が行われるべきだと述べた。
アルトマン氏は、ChatGPTなどの生成AIによって作成されたコンテンツが、来年の大統領選挙に影響することも懸念しており、何らかの規制を設けることが大事だと付け加えた。さらに、作品がAIの学習訓練に使用された場合のクリエーターに対する補償や、消費者がAI製品で損害を被った場合に開発企業を訴える権利について、同氏は認める意向を示した。
AIモデルの能力に応じた規制
一方、アルトマン氏はOpenAIモデルに及ばないレベルのAIの開発や研究に対しては、負担の重い規制要件を課すべきではないとの考えだ。
同氏は「能力の閾値」を定義することによって、特定の機能を実行するAIモデルを厳格な規制の対象とするよう提案。ライセンスの対象となる可能性のあるAIモデルとして、以下のような例を示した。
- 説得、巧みな操作、人の行動や信念に影響を与えることができるAIモデル
- 新しい生物学的薬剤の作成を助けるAIモデル
IBMの規制に対する考え
公聴会にはIBMのプライバシー・信頼部門役員のクリスティーナ・ モンゴメリー氏も証言した。プライバシー保護や政府による監視強化、第三者監査、AI規制導入の必要性についての議論の大半で証人の意見は一致したが、モンゴメリー氏は、新たな連邦機関の設置については、反対の立場を表明。IBMとしては、AIに関して「より精密な規制のアプローチの採用」を強く議会に求めるとして、次のように述べた。
これは、技術そのものを規制するのではなく、特定のユースケースにおけるAIの展開を監督するためのルールを確立することを意味する。
モンゴメリー氏はまず、議会がAIのリスクを明確に定義した上で、「異なるリスクには異なるルール」を適用することを求めている。そして、最も厳格なルールは「人や社会に対するリスクが最も大きいユースケース」に適用するべきだと主張。「選挙等に関する誤情報を流すAI」を展開している企業については、速やかにその責任を問うべきだと述べた。
AI開発は止められない
公聴会を開催したプライバシー・テクノロジー・法律小委員会のリチャード・ブルメンタール議長は、AIの発展を止めようとすることは不可能であるため、AIに対する規制が不可欠であることを強調した。
世界は待ってくれないし、世界の科学界は一時停止するつもりはない。前進している対戦相手がいるのに、砂の中に頭を突っ込んでいるのは答えではない。
