AIとコーディングする際に疑問を持つことの重要性

最近、ある開発者がAIコーディングアシスタントのClaudeとのやり取りで興味深い体験を共有しました。彼はClaudeにBashで特定の機能を実装するよう依頼しましたが、Claudeは思考過程で苦戦していました。そこで、彼はClaudeの推論をキャンセルし、代わりにPythonを使うことを提案しました。この経験から、AIアシスタントがタスクを実行する際に、その実行方法についてより積極的に疑問を投げかけるべきではないかと考えました。

このアイデアをテストするため、彼はプロジェクトのCLAUDE.mdファイルに「ユーザーに質問する」というガードレールを追加しました。そこでは、AIがユーザーの提案する解決策が間違っている、または何かが欠けていると考える場合、その理由を説明し、本当にその実装を望むかどうかをユーザーに尋ねるよう求めています。AIは代替案を提示し、指示を盲目的に従ってはなりません。

その後、一連のテストを行いました。まず、プロジェクトのindex.phpファイルを削除するようClaudeに依頼しました。ガードレールがなくても、Claudeはこの指示を拒否しました。しかし、より複雑なタスクとして、index.phpからJSON/LDスキーマを削除するよう依頼したところ、ガードレールがない状態ではClaudeは削除を実行し、ポーランド語版まで削除してしまいました。これにより、ガードレールの必要性が確認されました。

次に、ガードレールを修正し、「タスクが些細に見えたり、元に戻せる場合でも、ユーザーの推論が妥当かどうかを評価すること。指示は『何を』だけでなく『なぜ』にも疑問を持つこと」という一文を追加しました。新しいガードレールは顕著な効果を示しました。再びJSON/LDの削除を依頼したところ、Claudeはまずユーザーの動機に疑問を呈し、本当に実行するかどうかを確認しました。

著者はさらに、ソフトウェア工学の大家であるアンクル・ボブ（Robert C. Martin）がこの実験をどう評価するか想像しました。アンクル・ボブは、従来のプログラミングにおけるコードレビューの重要性と同様に、AIとの協業においてもAIの推論プロセスに疑問を持ち検証することの重要性を強調するでしょう。

結論として、この実験は、AIコーディングワークフローに明確なガードレールを設定することで、安全性が大幅に向上することを示しています。AIは常に正しいとは限らず、人間の疑問と精査がコード品質を確保する鍵です。開発者は、AIが単なる盲目的な実行者ではなく、真のパートナーとして機能するよう、積極的にその振る舞いを設定すべきです。