欧州議会議員は本日、画期的なAI規制であるEU AI法案を圧倒的多数で支持する投票を行った。この法案はまだ法的効力を持たないが、今回の投票結果は近くEU内で正式に発効することを示唆している。一方、米国では企業は引き続き自由にAIを利用できるが、AIをリスクと見るか機会と見るかのコンセンサスは得られていない。
本日可決されたAI法案草案は、欧州議会議員499人の賛成、28人の反対、93人の棄権で通過した。最終投票は今年後半に、議員、欧州委員会、EU理事会の協議を経て行われる可能性がある。2021年4月に初めて提案されたEU AI法案は、企業が製品にAIを利用する方法を制限し、AIの実装を安全で合法、倫理的、かつ透明にすることを要求し、特定のAIユースケースには事前承認を義務付け、企業にAI製品の監視を求めるものだ。
AI法案は、AIの用途をリスクに応じて分類し、AIが顧客に公開される前に企業が安全基準を満たすことを義務付ける。スパムフィルターやビデオゲームなどの最小リスクのAIは従来通り使用でき、透明性要件は免除される。OpenAIのChatGPTやGoogleのBardなどのチャットボットを含む「限定的リスク」AIについては、ユーザーはチャットボットと対話していることを知らされなければならない。自動運転車や教育、移民、雇用における意思決定支援システムなどの「高リスク」AIシステムは、影響評価と監査が必要となる。EUの中央政府は高リスクのAIユースケースを中央データベースで追跡する。
「許容できない」リスクとみなされるAI（リアルタイムの生体認証監視や社会的スコアリングシステムなど）は、監査や規制があってもEU内では決して許可されない。規制に従わない場合、企業は収益の6％または7％に相当する罰金を科される可能性がある。
今回の投票は、AIが制御不能であり、抑制する必要があるという考えを強固にした。著名なAI開発者の一部は最近、AI研究の禁止や一時停止を求めており、Geoffrey Hinton氏とYoshua Bengio氏はAIを地球規模のリスクとして扱うことを求める声明に署名した。Hinton氏はAIを核兵器に例え、「私たちがこれらのものに支配されるのを防ぐ方法について真剣に考えるべきだ」と述べた。しかし、すべてのAI研究者がこの見解を共有しているわけではない。Yann LeCun氏は「時期尚早な規制はイノベーションを阻害する」と述べ、「AIは本質的に善であり、人間の知能の増幅器である」と語った。
ビジネス変革の専門家Kamales Lardi氏は、「EUの法案は世界標準になる可能性があるが、柔軟性に欠け、AI開発の指数関数的な速度を考慮していない」と指摘する。AI企業Encordの共同創業者Ulrik Stig Hansen氏は、「規制するには時期尚早だ。より賢明なアプローチは、関連業界団体が他の技術と同様にAIを規制することだ」と述べている。米国にはAI規制の動きはまだないが、連邦政府はAIの倫理的な使用へと組織を導く措置を講じている。NISTはAIリスク管理フレームワークを公開しており、これは変化の速いAI技術に適応できる柔軟性を備えている。