2026年10月09日
サマリー
◆最先端AIの急速な能力向上に伴い、AIがもたらす脅威への警戒が再び強まっている。2026年9月、Anthropicのダリオ・アモデイCEOは、安全性の検証や対策が追いつく範囲に開発速度を抑える必要性を訴え、企業間協調を提案した。企業や政府の間では、開発ペースの調整や国際的な統制をめぐって立場が分かれる一方、能力評価やインシデント報告などでは協調が模索されており、9月29日には米国のAI関連企業6社が、ホワイトハウスで安全確保に関する自主的な共同コミットメントに署名した。
◆AI脅威論には、AIの高度化そのものがもたらす脅威と、AIの開発・保有・普及をめぐる脅威という二つの側面がある。前者には、人間による制御の喪失やサイバー攻撃などへの悪用があり、後者には、高度なAI能力の一部の企業・国家への集中や、利用できる主体とできない主体間の格差拡大がある。前者に備えて単独で開発を減速すれば他者に優位を奪われ、危険な能力へのアクセスを制限すれば後者の集中や格差を強めかねない。安全確保と開発競争の間には、こうした二つのジレンマがある。
◆これらへの対応には企業や国家による協調が必要だが、その難しさは企業間と国家間で異なる。企業間では他社も同等の安全対策を実施すると確認できれば、能力評価や情報共有などで協調の余地がある。ただし、協調が機能するには①主要企業の参加、②検証の信頼性、③副作用の抑制が求められるが、企業間の合意だけではこれらを満たしにくい。さらに国家間では相手国の減速を確認しにくく、開発を続けることが合理的になりやすい。このため企業間協調だけでは限界があり、企業間の安全基準や評価方法を各国の制度に取り込み、各国の言語や利用環境における実効性を独立した立場から検証できる主体を増やす必要がある。
◆日本に期待されるのは、こうした検証を担い、企業間で形成された安全基準を国際的な枠組みへ接続する橋渡し役である。日本は広島AIプロセスを通じて国際指針や行動規範の形成を主導してきたものの、AIセーフティ・インスティテュート(AISI)の本格的な評価・検証体制の整備はこれからである。AIの能力向上と企業間協調をめぐる議論が急速に進む中、最先端AIの能力・リスクに関する評価結果や安全対策の実効性を自ら技術的に検証できる体制を、早急に整えることが求められる。
このコンテンツの著作権は、株式会社大和総研に帰属します。著作権法上、転載、翻案、翻訳、要約等は、大和総研の許諾が必要です。大和総研の許諾がない転載、翻案、翻訳、要約、および法令に従わない引用等は、違法行為です。著作権侵害等の行為には、法的手続きを行うこともあります。また、掲載されている執筆者の所属・肩書きは現時点のものとなります。
執筆者のおすすめレポート
-
Fable 5の提供再開が示すAI規制の限界
個別モデルの規制から普及を前提としたルール形成へ
2026年07月03日
-
米国政府はなぜ最先端AIを停止させたのか
最先端AIモデルへの輸出規制措置が示すAI統治の転換点
2026年06月17日
同じカテゴリの最新レポート
-
2026年10月全国消費者物価
電気代などエネルギーが上昇に転じ、コアCPIは伸び率拡大
2026年11月20日
-
2026年9月機械受注
製造業が堅調で7-9月期の民需(船電除く)は4四半期連続で増加
2026年11月19日
-
2026年10月貿易統計
自動車やAI関連の輸出が堅調も、原油高で貿易赤字は継続
2026年11月18日
最新のレポート・コラム
よく読まれているリサーチレポート
-
日本の長期金利、2035年に5%台の可能性
2035年に3.5~4.2%程度で、海外保有拡大で1%pt超の上乗せも
2026年10月16日
-
増える高齢富裕層とその地域分布
高齢富裕層はどこにいるのか、その資産は今後どこへ向かうのか
2026年10月01日
-
金利上昇と「資本コストや株価を意識した経営」
金利上昇による資本コスト上昇は限定的だが引き続き要注視
2026年10月13日
-
預貸率における地域間格差
東京都への一極集中と地域金融機関に期待される対応
2026年10月02日
-
飲食料品の消費減税による消費行動への影響
買い控え・反動増は限定的。外食支援策は実態を見極めた対応を
2026年10月19日
日本の長期金利、2035年に5%台の可能性
2035年に3.5~4.2%程度で、海外保有拡大で1%pt超の上乗せも
2026年10月16日
増える高齢富裕層とその地域分布
高齢富裕層はどこにいるのか、その資産は今後どこへ向かうのか
2026年10月01日
金利上昇と「資本コストや株価を意識した経営」
金利上昇による資本コスト上昇は限定的だが引き続き要注視
2026年10月13日
預貸率における地域間格差
東京都への一極集中と地域金融機関に期待される対応
2026年10月02日
飲食料品の消費減税による消費行動への影響
買い控え・反動増は限定的。外食支援策は実態を見極めた対応を
2026年10月19日

