AIセキュリティとガバナンスの1年が私のAI観をどう変えたか

AIセキュリティとガバナンスの分野で1年間働いたことで、AIに対する私の見方は大きく変わりました。最初はAIセキュリティといえば、ジェイルブレイクやプロンプトインジェクションなどの明白な脅威を想像していましたが、実際には組織内でAIがどのように使われているかを発見することから始まることに気づきました。従業員が個人的なアカウントやブラウザ拡張、SaaSツールに組み込まれたAI機能を利用していることが多く、企業はその実態を把握していません。セキュリティポリシーを策定する前に、まずAIのインベントリを作成する必要があります。

日常的なAI利用は一見無害です。マーケターがキャンペーンデータの要約をLLMに依頼したり、営業担当が顧客ノートをチャットボットに貼り付けてフォローアップメールを作成したり、CSVをアップロードして簡単なレポートを作成したりします。これらの行動は生産性向上のために行われますが、機密データが外部システムに漏れるリスクを伴います。GTMチームは特にAIの導入が早く、効率性へのインセンティブが大きいため、ガバナンスの盲点が生まれやすいです。

私自身がAI支援ワークフローや自動化を構築するようになって、理解はさらに深まりました。AIツールがSlack、メール、CRM、ドキュメントなどに接続されると、「このツールは何を読み取れるのか？書き込めるのか？データはどこに行くのか？保存されるのか？ベンダーはデータを学習に使えるのか？」といった疑問が重要になります。多くのAIリスクは、マシンが悪意を持つからではなく、権限やコンテキスト、判断が既に混乱しているシステムの中で、ツールが役立とうとした結果生じます。

データサイエンスと機械学習の修士号を取得したことも、AIの誇大広告に対する見方を変えました。ベンチマークは実際のワークフローを反映しておらず、入力が乱雑でユーザーが混乱している状況ではスコアは意味を持ちません。「AIが全仕事を置き換える」といった主張は単純化しすぎていて、実際の仕事は文脈や判断、責任、システムの複雑さを伴います。

全体として、私はAI反対になったわけではありませんが、利便性よりも制御を重視するようになりました。可能な場合はローカルまたはセルフホストのツールを選びます。それが常に実用的とは限りませんが、デフォルトを変えることでデータの流れに対する意識が変わります。AIの便利さはリスクを抽象的に見せますが、権限や保存、説明責任について考え始めると、これらの「退屈な」問いこそが重要だと気づきます。