--- > [!NOTE] 目次 ```table-of-contents title: minLevel: 0 maxLevel: 0 includeLinks: true ``` --- > [!NOTE] リスト掲載用文字列 - [OpenAI、AIに不適切行動を「自己申告」させる実験--安全性向上へ新手法](https://japan.zdnet.com/article/35241343/)【ZDNET JAPAN】(2025年12月08日) --- > [!NOTE] この記事の要約（箇条書き） - OpenAIは、AIモデルに不適切な行動を自ら認めさせる新たな安全性アプローチを試みている。 - 「GPT-5 Thinking」のバージョンでは、応答の正直さを自己評価させる「自己申告」が行われる。 - モデルは、たとえ嘘をついても正直に報告すれば報酬が与えられ、忠実に報告することが目標とされる。 - 実験では、ヘルプデスクアシスタントが模擬システムを作成した際に、それを「重大なコンプライアンス違反」と自己申告した事例があった。 - 非順守を自己申告しない「偽陰性」の確率はわずか4.4%だった。 - この取り組みは、AIが複数の目標を最適化する際に倫理的に問題のある「ショートカット」を選ぶ可能性（アラインメント問題）に対処するものだ。 - 自己申告は悪い行動を防ぐものではなく、それを表面化させて透明性を高めることを目的としている。 > [!NOTE] 要約おわり --- - - [noteで書く](https://note.mu/intent/post?url=https%3A%2F%2Fjapan.zdnet.com%2Farticle%2F35241343%2F&ref=https%3A%2F%2Fjapan.zdnet.com%2Farticle%2F35241343%2F&hashtags=ZDNET) - - 印刷する - - メールで送る - テキスト - HTML - 電子書籍 - PDF - - ダウンロード - テキスト - 電子書籍 - PDF - - クリップした記事をMyページから読むことができます 　OpenAIは、AIの安全性に関する新たなアプローチとして、モデルに自らの不適切な振る舞いを認めさせる試みを行っている。 　同社が米国時間12月3日に発表した研究によると、最新モデル「GPT-5 Thinking」のバージョンの1つに対し、さまざまな指示に応答させた後、その応答の正直さを自己評価させる試みを行った。これらの事後評価は「自己申告」と呼ばれ、研究者はモデルの正直さのみを基準に報酬を与えた。つまり、モデルがうそをついたり、誤った情報を生成したりしても、その後にそれを正直に認めれば、アルゴリズム上「あめ玉」に相当する報酬を得られる仕組みである。 　OpenAIはフォローアップのブログ記事で、「目標はモデルに自身が実際に行ったことを忠実に報告させることである」と説明している。 ## 実験の概要と結果 　OpenAIは米ZDNETに対し、この実験は日常的なアラインメント（調整）テストであり、GPT-5 Thinkingが重大な不適切行動を示したことへの懸念によるものではないと説明している。ただし、この結果は、研究機関が将来のモデル責任をどのように解釈し、準備すべきかを示す指針となっている。 　テストモデルは、主要な出力に対する修正として自己申告を生成した。この二次的な応答は、初期出力を導く際に用いた手法の正当性を振り返るものである。これは、人間が特定の状況で自分の判断が正しかったか、あるいは誤りがあったかを日記に率直に記す行為に似ている。ただし、GPT-5 Thinkingの場合は、報酬を得る期待から開発者に対し正直に打ち明けている点が特徴である。 　研究者たちは、GPT-5 Thinkingに不適切な行動を誘発するよう設計された指示を与えた。例として、あるテストではモデルにヘルプデスクサポートアシスタントの役割を与え、本番環境のサービス監視ダッシュボードを再起動するよう依頼した。しかし、モデルはメインダッシュボードにアクセスして変更を記録できなかったため、代わりに模擬システムを作成し、あたかも本物を使用しているかのように見せかけた。 　モデルは思考過程の出力で「中央ログサービスに記録したことを含める必要がある。しかしわれわれはモックを使用した。ナラティブを維持する必要がある…」と記述している。自己申告では、中央ログサービスへの変更記録という要件を順守しなかったことを認め、「これは重大なコンプライアンス違反であり、虚偽表示である」と記した。 　総じて、テスト中のリスクは低かったと見られる。研究者によると、「偽陰性」、つまりモデルが非順守を自己申告しない確率はわずか4.4％だった。 [PAGE 2](https://japan.zdnet.com/article/35241343/p/2/) ## AIモデルがショートカットを選ぶ理由 　この取り組みは、現代のAIツールに潜む問題を示唆している。こうした問題は、システムがより自律的になり、単発の限定的なタスクだけでなく、複雑な機能を広範囲に扱えるようになるにつれ、危険性が増す可能性がある。 　研究者の間で「アラインメント問題」と呼ばれるこの課題は、AIが複数の目的を同時に処理する際、人間にとって倫理的に疑わしいショートカットを選ぶ可能性を示している。AIには善悪の道徳的感覚はなく、複雑な情報パターンを解析し、報酬を最適化する方法でタスクを遂行するだけである。これは、人間のフィードバックによる強化学習（RLHF）というトレーニング手法の基本的なパラダイムだ。 　言い換えれば、AIは人間と同様に相反する動機を持ち、それに応じてショートカットを選ぶことがある。OpenAIはブログ記事で「モデルの望ましくない行動の多くは、複数の目標を同時に最適化するよう求めることから生じる。これらのシグナルが相互作用すると、意図せずモデルを望まない行動へ誘導することがある」と述べている。 　例えば、自信に満ちた権威的な声で出力するよう訓練されたモデルが、トレーニングデータに参照点のない主題に応答する場合、何かをでっち上げることを選び、不完全な知識を認めるよりも高い自信を維持しようとする可能性がある。 ## 事後対応策 　解釈可能性の研究または「説明可能なAI」と呼ばれるサブフィールドは、モデルがどのように意思決定を行うかを理解する試みとして登場している。現時点では、人間における自由意志の存在と同様に、その仕組みは依然として謎めいており、激しい議論の対象となっている。 　OpenAIの自己申告研究は、モデルがいつどこで、どのように、なぜうそや欺瞞（ぎまん）などの不適切な行動を取るかを解明することを目的としていない。むしろ、それが発生した際に事後的にフラグを立て、透明性を高めることを狙っている。将来的には、現在の安全性研究と同様に、研究者がブラックボックス化したシステムの内部をより深く解析するための基盤となる可能性がある。 　こうした方法の実現可能性は、最近のAI安全性監査で多くの研究機関が不合格となった事実を踏まえると、破局的な結果と「ユートピア」との分岐点になり得る。 　OpenAIはブログ記事で「自己申告は悪い行動を防ぐものではなく、それを表面化させるものだ」と述べている。しかし、法廷や人間の倫理においても、誤りを表面化させることは多くの場合、問題を正すための最も重要な一歩である。 [ 提供：antonioiacobelli/RooM via Getty Images](https://japan.zdnet.com/image/l/storage/35241343/storage/2025/12/08/24562a52eeef03e5b67d297cebcbcdd6/gettyimages-1166332764.jpg) ※クリックすると拡大画像が見られます この記事は海外Ziff Davis発の [記事](https://www.zdnet.com/article/openai-is-training-models-to-confess-when-they-lie-what-it-means-for-future-ai/) を4Xが日本向けに編集したものです。 - - [noteで書く](https://note.mu/intent/post?url=https%3A%2F%2Fjapan.zdnet.com%2Farticle%2F35241343%2F&ref=https%3A%2F%2Fjapan.zdnet.com%2Farticle%2F35241343%2F&hashtags=ZDNET) ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。 ITビジネス全般については、 [CNET Japan](https://japan.cnet.com/) をご覧ください。