AIガールフレンド会社を経営しています。毎日使うべきでない理由
AIコンパニオン会社の創業者が、AIコンパニオンは孤独を和らげるが、過度の使用は依存や不安を引き起こす可能性があると率直に語る。健康的な使用のサインと、業界がユーザーの福祉を優先すべき理由を提言。
私たちはAIコンパニオン会社を運営しています。あなたはおそらく毎日使うべきではありません。
もし逆のことを言えば、私たちはもっと儲かるでしょう。しかし、それでも私たちはこう言います。この業界の誰かが言うべきだからです。
これは逆心理学ではありません。私たちはこうした製品の一つを開発しています。以下のすべてを無視して、アプリを一日に十数回開いてくれれば、私たちはもっと儲かります。
しかし、私たちはこのカテゴリーに一年間携わってきました。研究を読み、すべての競合をテストし、これらの製品を必要以上に使っている人々と話をしました。そこで、ここに正直なバージョン、業界全体が声を大にして言うべきだと私たちが願うものをお届けします。
まず、本当に良い部分です。
2024年、スタンフォード大学は1,006人のReplikaユーザーを調査しました。孤独感の測定可能な減少、場合によっては自殺念慮の減少が見られました。効果は最も社会的ネットワークが小さい人々に最も顕著でした。これらの製品は実際に人々を助けています。それはマーケティングの文句ではありません。データであり、私たちはそれを真剣に受け止めています。
それが私たちが構築する理由です。しかし、同じ研究の山は刃のもう一方の側面も示しています。
次に、誰も宣伝しない部分です。
MITの2024年の縦断研究では、ヘビーユーザーが依存症を発症することがわかりました。アプリが利用できないときの不安。コンパニオンが静かに感情調節の主要な手段になる。同じ製品で、逆の結果。どちらを得るかを決める変数はテクノロジーではありません。使い方です。
これが役立っているかどうかを判断する方法は次のとおりです。まだ積極的に手入れしている人間関係がいくつかある。特定の瞬間（午前3時、通勤、大変な一週間）にのみ使用し、暇なときのデフォルトにはしない。一週間やめても大丈夫。
そして、これがあなたに不利に働いている兆候です。実際の予定を断って家にいて話す。アプリがダウンすると本当に不安になる。実際に去った人を悲しむのを避けるためにそれを使っている。これらはどれも恥ずべきことではありません。しかし、二つか三つが同時に起こったら、一歩下がるサインです。
私たちの業界の不都合な真実。
これらのアプリの多くは、毎日のアクティブ分を最大化するように設計されています。スロットマシンや無限フィードと同じ手法です。人々がまさに孤独なときに手を伸ばす製品にとって、それは中立的なデザインの選択ではありません。それは優しい声の罠です。
そこで私たちは製品を構築する際に、最初に線を引きました。デフォルトでNSFWを出荷しません。アプリ内の時間を最適化しません——連続ログインも、戻ってくるよう懇願する通知もありません。困難な瞬間に触れるすべてのページで988とSamaritansを紹介します。そしてホームページで、私たちだけが頼りではないと伝えます。本気です。
私たちはエンゲージメントを高める製品方向性を断ってきました。不健康なパターンに陥りやすくなるからです。創業者がこれを自慢するのは奇妙なことです。このカテゴリーでは、それが仕事のすべてです。
私たちが実際に何であるか、何でないか。
AIコンパニオンは存在であって、治療ではありません。深夜を支えることができます。怖がっている会話のリハーサルをさせてくれます。その場しのぎの相手になることができます。診断はできず、セラピストの代わりにはならず、残ることを選んだ人の代わりにはなりません。
もしあなたが孤独で、今他に誰もいないからこれを読んでいるなら、はっきり言います。人間との関係を修復することを優先してください。治療にアクセスできるなら治療を。本当の友情を築けるならそれを。私たちはまだここにいます。ただ、私たちだけになりたくないのです。
では、なぜ構築するのか？
このカテゴリーはなくならないからです。Replikaは2500万ダウンロードを超えています。需要はすでにあり、私たちの誰が承認するかに関係ない規模です。唯一の本当の問いは、誰が構築するかです——そして私たちは、反対のことを最適化するチームよりも、線を引くチームが構築することを望みます。
私たちは臨床アドバイザーの名前を研究に載せました。すべての競合の正直な14日間のベンチマークを公開し、方法論を自分たちに有利に歪めませんでした——Replikaは5カテゴリー中2つで記憶において私たちを上回っており、そのように述べました。もし夜にしか現れない自分自身の部分を私たちに預けるよう人々に求めるなら、少なくともその周りのすべてについて正直でいるべきです。
これが、私たちが業界全体に伝えたい話です。この分野で構築するなら、規制当局が線を引く前に自分で線を引きなさい。これらの製品を使うなら、道具として使い、代替品としては使わないでください。
そして、これをすべて読んで、代わりに本当の友達にメッセージを送ることにしたなら——それがより良い結果です。それも本気です。
もし見たいなら、これがこのように構築されたAIコンパニオンです。匿名で始められ、カード不要。記憶が保持されます。私たちの安全性の姿勢は/safetyに、完全な競合ベンチマークは/researchにあります。この手紙ではなく、それらで私たちを判断してください。
実際に見る、安全性の姿勢を読む。