AI脅威論にどう向き合うべきか

安全確保と開発競争の両立に向けた企業間協調の可能性と限界

RSS

2026年10月09日

経済調査部主任研究員田邉美穂
経済調査部主任研究員新田尭之

PDFダウンロード

サマリー

◆最先端AIの急速な能力向上に伴い、AIがもたらす脅威への警戒が再び強まっている。2026年9月、Anthropicのダリオ・アモデイCEOは、安全性の検証や対策が追いつく範囲に開発速度を抑える必要性を訴え、企業間協調を提案した。企業や政府の間では、開発ペースの調整や国際的な統制をめぐって立場が分かれる一方、能力評価やインシデント報告などでは協調が模索されており、9月29日には米国のAI関連企業6社が、ホワイトハウスで安全確保に関する自主的な共同コミットメントに署名した。

◆AI脅威論には、AIの高度化そのものがもたらす脅威と、AIの開発・保有・普及をめぐる脅威という二つの側面がある。前者には、人間による制御の喪失やサイバー攻撃などへの悪用があり、後者には、高度なAI能力の一部の企業・国家への集中や、利用できる主体とできない主体間の格差拡大がある。前者に備えて単独で開発を減速すれば他者に優位を奪われ、危険な能力へのアクセスを制限すれば後者の集中や格差を強めかねない。安全確保と開発競争の間には、こうした二つのジレンマがある。

◆これらへの対応には企業や国家による協調が必要だが、その難しさは企業間と国家間で異なる。企業間では他社も同等の安全対策を実施すると確認できれば、能力評価や情報共有などで協調の余地がある。ただし、協調が機能するには①主要企業の参加、②検証の信頼性、③副作用の抑制が求められるが、企業間の合意だけではこれらを満たしにくい。さらに国家間では相手国の減速を確認しにくく、開発を続けることが合理的になりやすい。このため企業間協調だけでは限界があり、企業間の安全基準や評価方法を各国の制度に取り込み、各国の言語や利用環境における実効性を独立した立場から検証できる主体を増やす必要がある。

◆日本に期待されるのは、こうした検証を担い、企業間で形成された安全基準を国際的な枠組みへ接続する橋渡し役である。日本は広島AIプロセスを通じて国際指針や行動規範の形成を主導してきたものの、AIセーフティ・インスティテュート（AISI）の本格的な評価・検証体制の整備はこれからである。AIの能力向上と企業間協調をめぐる議論が急速に進む中、最先端AIの能力・リスクに関する評価結果や安全対策の実効性を自ら技術的に検証できる体制を、早急に整えることが求められる。

このコンテンツの著作権は、株式会社大和総研に帰属します。著作権法上、転載、翻案、翻訳、要約等は、大和総研の許諾が必要です。大和総研の許諾がない転載、翻案、翻訳、要約、および法令に従わない引用等は、違法行為です。著作権侵害等の行為には、法的手続きを行うこともあります。また、掲載されている執筆者の所属・肩書きは現時点のものとなります。

PDFダウンロード

執筆者のおすすめレポート

同じカテゴリの最新レポート

よく読まれているリサーチレポート

レポート・コラム検索

よく検索されているキーワード

研究員紹介

大和総研の研究員を紹介します。

コンサルタント紹介

大和総研のコンサルタントを紹介します。

CONTACT各種お問い合わせはこちら

研究員・コンサルタント

研究員・コンサルタントへの取材・執筆・講演のご相談やご依頼

事業・ソリューション

各種コンサルティング、システムソリューションなど事業・ソリューションに関するお問い合わせ、ご相談

大和総研全般

ニュースリリース、会社情報、採用、パブリシティ（書籍・刊行物）など