マーティン・トーマス氏は読者投稿の中で、鋭い疑問を投げかけている。独立した監督と規制があれば十分だと、一体どうして理性的な人間が主張できるのだろうか、という問いである。
きっかけは、またしてもフロンティアAIモデルが撤回されたことだった。このモデルは安全テストに合格しなかったため公開が取りやめになった（9月28日の報道によれば、OpenAIは内部テストにおける安全上の懸念から新モデルのリリースを断念した）。これに伴い、いつも通り「独立した監督と規制」を求める声が上がったが、トーマス氏は、その声が規制の具体的な仕組みを説明したことは一度もなく、ましてや最も重要な点——規制当局がAIシステムを「十分に安全」と判断するために、どのような証拠が必要なのか——を明らかにしたこともないと指摘する。
同氏は比較対象として、工学の世界に長く受け継がれてきた伝統を挙げる。航空機や原子力発電所を制御するソフトウェアのような、安全上重要なシステムは、長年にわたり厳格な規制の枠組みの下に置かれてきた。関連する国際規格は「セーフティケース」の提出を求めており、これは、起こり得る危険がすべて特定され制御されていること、そして事故が発生する確率が極めて低いことを示す厳密な分析を意味する。
トーマス氏の見立てでは、こうした点こそが現在のAI安全性をめぐる議論から欠けているものである。独立した監督と規制を求める声を繰り返すだけでは、安全性を判断する証拠の基準を明確に定義することの代わりにはならない。規制当局が何を見て、何に基づいて判断すべきなのかを示せなければ、どれほど規制を叫んでも、AIシステムの安全性を真に保証することは難しい。