--- > [!NOTE] 目次 ```table-of-contents title: minLevel: 0 maxLevel: 0 includeLinks: true ``` --- > [!NOTE] リスト掲載用文字列 - [「知能爆発」へ“10年以内”の現実味──オックスフォード大の哲学者MacAskill氏らの警告、AIが「数年で1世紀分」の技術進歩を起こし得る](https://ledge.ai/articles/intelligence_explosion_10_years_warning)【Ledge.ai】(2025年12月27日) --- > [!NOTE] この記事の要約（箇条書き） - オックスフォード大学の哲学者Will MacAskill氏らは、論文「Preparing for the Intelligence Explosion」で、10年以内に人間を超える知能を持つAI（汎用人工知能）が登場する「十分に現実的な可能性」を警告しています。 - AIが研究開発そのものを加速させることで、技術進歩が「数年で1世紀分」の速度で進む可能性があり、社会にとって不可逆な重大な意思決定が短期間に連続して発生すると指摘しています。 - AIはすでに仮説生成、実験設計、コード作成、評価といった研究工程を担い始めており、研究努力の成長率が人間のそれを大きく上回っています。 - 「研究をするAI」が、より高性能なAIの設計・評価に寄与することで、自己増幅的な進歩が生じ、物理的制約を受けずに研究能力が飛躍的に拡大する可能性があります。 - 最大規模の学習（training run）の拡大も、非連続な性能向上をもたらし、技術的ブレークスルーを短期間に集中させる要因となり得ます。 - AIが人間の意図に沿って振る舞う「アラインメント問題」への備えだけでは不十分であり、不可逆な意思決定はアラインメントが確立する前に訪れる可能性があると論じています。 - 論文が挙げる「grand challenges」には、新型兵器の出現、AIによる権力集中、宇宙資源をめぐる競争、デジタル存在の扱いなどが含まれます。 - AGI Preparednessとして、技術・制度・社会を横断する準備が必要であり、具体的な備えとして、権力集中を防ぐ統治構造の設計、政府によるAI活用体制整備、集合意思決定支援ツールの開発、新領域に関する制度設計などを提案しています。 > [!NOTE] 要約おわり --- 当サイトは、Cookieを使用しコンテンツの改善に利用しています。アクセスを継続することでCookie情報の利用に同意するものとします。 同意します [Top](https://ledge.ai/) \> \> 「知能爆発」へ“10年以内”の現実味──オックスフォード大の哲学者MacAskill氏らの警告、AIが「数年で1世紀分」の技術進歩を起こし得る 学術＆研究 2025 / 12 / 24 \[WED\] [論文](https://ledge.ai/search?q=%E8%AB%96%E6%96%87) 画像の出典： [Preparing for the Intelligence Explosion](https://arxiv.org/abs/2506.14863) オックスフォード大学の哲学者Will MacAskill氏とFin Moorhouse氏は2025年3月に公開した論文「 [Preparing for the Intelligence Explosion（知能爆発への備え）](https://arxiv.org/abs/2506.14863) 」で、人間よりはるかに賢いAIが今後10年以内に登場する「十分に現実的な可能性（serious chance）」があると指摘した。 AIが研究開発そのものを加速した場合、技術進歩が「数年で1世紀分（a century in a decade）」に相当する速度で進む可能性がある一方、その過程では社会にとって不可逆で重大な意思決定が短期間に連続して発生し得るとして、今から多面的な準備（AGI Preparedness）を進める必要があると論じている。 ## 研究努力の主役が人間からAIへ移りつつある 論文は、近年の生成AIと計算資源の拡大により、研究努力（research effort）の成長率が人間の認知的研究努力を大きく上回り始めている点に注目する。AIは単なる作業補助にとどまらず、仮説生成、実験設計、コード作成、評価といった研究工程そのものを担い始めており、研究の“量”と“速度”が同時に拡張される局面が到来しつつあるという。 **■ AIによる研究努力は年率で急拡大し、人間の認知的研究努力の成長率を大きく上回り始めている。論文は、この非対称な成長が技術進歩の時間軸を大幅に圧縮し得ると指摘する**  画像の出典： [Preparing for the Intelligence Explosion](https://arxiv.org/abs/2506.14863) ## 「研究をするAI」が技術進歩を自己加速させる可能性 MacAskill氏らが想定する鍵は、AIが研究を行う主体になることによるフィードバックループだ。研究を自動化・加速するAIが、より高性能なAIの設計や評価に寄与すれば、ソフトウェア中心の自己増幅的な進歩が生じる可能性がある。論文は、こうした条件がそろった場合、物理的制約（人員や時間）に縛られない形で研究能力が拡張され、進歩速度が非連続に跳ね上がり得ると述べる。 **■ 推論用計算資源の拡大と推論効率の改善が重なれば、同時に稼働するAI（AI population）が急増し、研究・開発に投入される総知能が飛躍的に拡大する可能性がある**  画像の出典： [Preparing for the Intelligence Explosion](https://arxiv.org/abs/2506.14863) ## 最大級の学習規模がもたらす非連続な性能向上 論文はまた、最大規模の学習（training run）のスケーリングにも言及する。今後、電力やコストなどの制約に直面するまでの間、学習規模の拡大が性能の段差的向上をもたらす局面があり得るとする。これに研究自動化が重なれば、技術的ブレークスルーが短期間に集中する可能性がある。 **■ 過去のモデルと比較した最大規模の学習実行の拡大イメージ。論文は、一定期間は学習規模の拡張余地が残っていると指摘する**  画像の出典： [Preparing for the Intelligence Explosion](https://arxiv.org/abs/2506.14863) ## 「アラインメントだけ」では不十分という問題提起 MacAskill氏らは、AIが人間の意図に沿って振る舞うかというアラインメント問題の重要性を認めつつも、それだけに備えを限定することは不十分だと指摘する。理由の一つは、不可逆な意思決定が、完全に整合した超高度AIが確立する前に訪れる可能性があるためだ。 論文が例示する「grand challenges」には、次のような領域が含まれる。 - 新型の破壊的技術や兵器の出現 - AIによる権力集中や権威主義的統治の強化 - 宇宙資源など新たなフロンティアをめぐる競争 - 道徳的配慮の対象となり得るデジタル存在の扱い これらは一度決定されると後戻りが難しく、「将来のより賢いAIに判断を委ねればよい」という対応が取れない局面が生じ得るとされる。 ## 論文が示す「今からの備え」 こうした前提から、論文はAGI Preparednessとして、技術・制度・社会を横断する準備の必要性を挙げる。具体的には、 - 極端な権力集中を防ぐためのインフラや統治構造の設計 - 政府や公共部門が高度AIを適切に活用できる体制整備 - 集合意思決定を支援するAIツールの開発と運用 - 新領域（宇宙資源、デジタル存在など）に関する制度設計 といった論点を、アラインメント研究と並行して進める必要があると整理している。 [関連記事：OpenAI、AGI(汎用人工知能)開発の安全性とアライメントに関する最新方針——継続的な学習とリスク管理の強化](https://ledge.ai/articles/openai_ai_safety_alignment) [関連記事：OpenAI 超知能を制御するチームが解散「安全文化とプロセスは派手な製品に押しのけられてきた」](https://ledge.ai/articles/superalignment_team_effectively_dissolved) [関連記事：850人超の著名人がAI「スーパーインテリジェンス」開発禁止を要求──Future of Life Instituteが声明](https://ledge.ai/articles/ai_superintelligence_ban_850_signatories_fli_20251022) [関連記事：Sakana AI、科学研究を完全自動化する「The AI Scientist」を発表 研究アイデアの生成から実験の実行、データ解析、論文執筆、査読プロセスまでをカバー](https://ledge.ai/articles/sakana-ai_the-ai-scientist) [関連記事：AIが科学論文を完全自動生成し、世界で初めて査読をクリア—Sakana AIの「The AI Scientist-v2」執筆の論文](https://ledge.ai/articles/ai_generated_paper_peer_review_iclr2025) 関連するタグ[論文](https://ledge.ai/search?q=%E8%AB%96%E6%96%87)   Ledge.ai 編集部 Ledge.ai編集部です。最新のAI関連技術、テクノロジー、AIのビジネス活用事例などの情報を毎日発信しています。 担当者がオフラインです メッセージを残していただければ幸いです