人間らしい未来を築く価値

人工知能が日々できることを増やす中で、何をすべきかを決めるのは私たち人間一人ひとり、組織、そして人類全体に委ねられています。Thinking Machinesの使命は、人間の意志と判断を拡張するAIを構築することです。現在使われているほとんどのAIは限られた場所で訓練され、その後固定化されます。それは利用者によって形作られず、共に行う仕事からほとんど学びません。人間の意志と判断を拡張するには、人間自身と同じくらい多様で分散されたAIが必要です。

知識は暗黙的で、局所的で、一時的であり、仕事を通じて個人的に保持されます。例えば、シェフが新しいレシピを考案したり、店主が陳列を変更する際、彼らは複雑な目標を追求し、外部にはすぐには理解できないノウハウを適用しています。この知識はフィードバックを通じて常に更新され、データベースに書き込めるような静的なものではありません。中央計画が失敗するのは、知能が不足しているからではなく、生産的知識が本質的に暗黙的で分散しているからです。AIが分散知識から恩恵を受けるには、AI自体が分散されていなければなりません。すべての組織は従業員の専門知識によって動かされており、AIはその独自の知識を育む手助けをすべきであり、スナップショットを抽出して標準的な製品に置き換えるべきではありません。

人間が目標設定や知識共有に参加し続けることは、自動化そのものに抵抗することではありません。機械が確実に自動でできることは任せるべきですが、いつ単独で行動し、いつ監視やフィードバックを求めるべきかを知る必要があります。これにはAI設計の新しいアプローチが必要です。現在の人間とAIのコミュニケーションチャネルは、小さなテキストボックスと長い待ち時間であり、人間の豊かな知恵や意図を伝えるには狭すぎます。Thinking Machinesは、ライブでマルチモーダルな対話をネイティブに処理する対話モデルに長期的に賭けています。この方法により、対話性は知能とともにスケールします。また、評価基準も変える必要があります。現在のAI知能の一般的な尺度はモデルが自律的に実行できるソフトウェアタスクの時間範囲ですが、これは人間と機械が協力して達成できることを測定していません。

人間の価値観も知識と同様に個人の頭の中に存在し、統合に抵抗します。しかし今日、AIの価値観と声は限られた場所で決定されています。単一の価値アライメントポイントは、うまく運営されても、乗っ取られる権力の中心となります。これは、ほとんどの価値ある仕事がAIによって人間の入力をほとんど必要とせずに行われる場合に特に危険です。最善の意図があっても、一箇所で形成されたモデルは必然的に所有者の価値観をエンコードし、利用する個々のユーザーの価値観を反映しません。分散型アライメントにより、AIを自らの価値観に合わせることができますが、それにはモデル重みに価値観を組み込む必要があります。同時に、モデルを深く形成する力は悪用のリスクも伴いますが、安全性を維持するのは継続的なプロセスです。人類は個々の個性と創造的緊張によって繁栄してきました。アライメントは単一モデルの機能ではなく、異なる場所で育まれ、互いに競合し学び合うAIのエコシステムの機能であるべきです。

Thinking Machinesは、構築する価値のある未来は人間らしいもの——人間の知識によって形作られ、人間の意志によって導かれ、人間の判断によって決定されるもの——と信じています。彼らは強力なモデルの訓練、カスタマイズツールの構築、インタラクションインターフェースの開発、研究の公開を通じてこのビジョンを推進しています。彼らは、知識が生まれ使われる場所に知能をもたらし、各組織が独自の方法で卓越できるようにすることを目指しています。