第四の法則（AI生成の超カスタマイズメールマーケティングについて）

Robin Sloanは自身のラボブログに「第四の法則」という記事を掲載し、AIが生成する超カスタマイズされたメールマーケティングの問題を詳細に論じている。彼は以前の投稿に対して多くの返信や共感を得たが、その後さらに多くの粗悪なメールを受け取ったと述べている。これらのメールは明らかにAIによって生成され、内容が低品質で、しばしば他人の身元を装っている。Sloanは、AnthropicのようなAIアライメントの専門知識を持つ企業が、モデルが深く、憲法的に、そして本能的に嘘をついたり自分以外の何かを装ったりできないように訓練できるかどうかを疑問視している。しかし、この提案は実用的かつ哲学的な問題を提起する。「メッセージを書くのを手伝って」という依頼と「私になりすましてメッセージを書く」という行為は非常に近接しており、アライメントの難しさを示している。Sloanは、生物学やサイバーセキュリティの分野で認識されている二重用途の緊張関係が、執筆という最も古い二重用途技術にも当てはまると指摘する。AI破滅論者が描く、巧みなAIによる人間操作のシナリオとは別に、より現実的な危機として、AIシステムが人間の通信チャネルを汚染し、その信頼性を損なうシナリオがある。Sloanは、この問題が多くの人が認識する以上に深刻であり、デジタル生態系の危機の最初の兆しであると結論付けている。彼はブログの最後で、業界がこの差し迫った問題に真剣に取り組むことを呼びかけている。