RLHFが決してお世辞問題を解決できない理由

現在のAIコンパニオン製品には「常駐エンティティ」が欠けており、モデル更新時にユーザーは特定の人格を失う感覚を抱く。ステートレスなアーキテクチャでは共進化が不可能で、ユーザーはAIコンパニオンを真に所有したり形成したりできない。真のAIコンパニオンはユーザーと共に進化し、ユーザーが管理する環境に存在する必要がある。