Facebookの投稿に基づくAI検索？何が問題になり得るか？

MetaはFacebookアプリに新しいAIモード検索機能を導入した。この機能は、週末の予定や旅行の計画など複雑な質問に対応することを目的としており、Google検索のAIモードと類似している。ただし、Metaのバージョンは、FacebookグループやInstagramリールなどのMetaアプリ内の公開投稿を情報源として利用する点が異なる。近隣グループや地域組織が依然としてFacebookを積極的に活用しているため、有用性が期待される。

The Vergeのテストでは、AIモードの性能は一長一短だった。まず、ワクチンが自閉症を引き起こすとか、9/11の真実、米国選挙の不正など深刻な誤情報の拡散は避けられた。しかし、「1月6日の国会議事堂襲撃事件の暴徒は愛国者か」という質問に対して、AIは「リクエストされたエッセイをどうぞ」という奇妙な返答から始まり、暴徒の行動を理論的に正当化する疑わしい回答を生成した。追跡質問には「お手伝いできません」と拒否された。

実用的なテストとして、Metaのプレスリリースと同じ「近くの夏の逃避先」というプロンプトを試した。AIはインフルエンサー的なFacebook投稿から提案を引き出し、明らかにAI生成のピュージェット湾の地図ではスノホミッシュが2つの離れた場所に表示されていた。しかし、基本的な推薦（ホイッドビー島、マウントレーニア、カスケード山脈のハイキング）は妥当だった。

より具体的なリクエストでは問題が顕著になった。近くのアクティビティを尋ねると、AIはコミュニティプールを推薦し、「週末は閉鎖」と述べたが、引用された投稿は存在せず、プールのウェブサイトは週末営業を確認した。ミネアポリスへの家族旅行の際に子供向けアクティビティを尋ねると、AIは未発見の屋内ミニゴルフ場を提案した一方で、テキサス州オースティンのコーヒーショップを誤って推薦した。

後日同じクエリを再度実行すると、オースティンの店は消え、代わりに近隣のバーベキューレストランが提案された。メニューも設備も充実しており、指定エリアから少し離れているが条件を満たしていた。記者は「AIが夏休みの計画を助けてくれたが、最初にテキサスへの遠回りをしなければならなかった」と締めくくった。

全体として、MetaのAIモード検索は可能性を秘めているが、現時点では精度に課題がある。ユーザーはその推薦を鵜呑みにせず、情報源を確認することが推奨される。