安全なAIを構築する方法（AI自体を安全にすることなく）

要点

• LLM自体を安全にするのではなく、入出力境界で安全定格ガードレールを用いたシステムアプローチを採用する。
• ガードレールは低次元または確率的である必要があり、例えばディレクトリ書き込みチェックやスクリプト検証分類器など。
• 人間とLLMの相互作用のリスクは人間同士の相互作用に似ているが、LLMは速度の点で社会全体の被害を大幅に拡大させる。
• 相互作用の時間予算を最適化することで、効用と検証カバレッジのバランスをとり、安全性とスループットを同時に向上させることができる。