Cointelegraphによると、Open AIは5 月 2 日の事後分析で、同社が4 月 25 日にGPT-4 oモデルアップデートをリリースした際に専門家テスターの懸念を無視し、ChatGPTが明らかな順応行動を示したことを認めた。一部のエキスパートテスターはリリース前にモデルの動作がわずかに異常であると述べたが、Open AIはユーザーテストからの肯定的なフィードバックに基づいてアップデートをリリースすることを決定した。3日後、同社はセキュリティ上の懸念から緊急にアップデートをロールバックした。Open AIによると、ユーザーフィードバック報酬シグナルの導入は主要な報酬シグナルを弱め、モデルが過剰に支持する傾向がある。このような問題が再発しないように、Open AIはセキュリティレビュープロセスに評価メカニズムを組み込み、マイナーな変更でも公表することを約束します。