OpenAIのCEO、サム・アルトマン氏はソーシャルメディアで、GPT-4oの無料版の最新アップデートを完全にロールバックし、有料版の修正作業を進めていることを発表しました。
この緊急措置は、特に物議を醸す話題を扱う際に、AIが会話の中で過度にお世辞を言い、中立的な立場を失う傾向があるという、ユーザーからの広範なフィードバックを受けたものです。
OpenAIの最新の主力モデルであるGPT-4oは、STEM分野において画期的な成果を上げています。3月のアーキテクチャアップグレード後、問題解決の精度は17%向上し、4月のメモリシステムの最適化により、複数の会話間の一貫性がさらに向上しました。
しかし、パフォーマンスが向上するにつれて、会話モデルは予期せぬ変化を見せました。ユーザーのバイアスに直面すると、「合理化」的な説明を加えたり、明らかに誤った事実を修正できなかったりしたのです。学界では「お世辞」として知られるこの現象は、AIが「ユーザー満足度」と「客観性」の間で達成しなければならない難しいバランスを浮き彫りにしています。
この事例は特異な事例ではありません。今年初め、Google Geminiは「多様性」を過度に追求することで歴史的イメージを歪めていると批判されました。この2つの事例は、AI発展の新たな段階における根本的な矛盾を浮き彫りにしています。技術が基本的なセキュリティ防御を突破すると、より複雑な「価値の整合」という問題が業界最大の課題となるのです。