フロンティアモデルのお客様への安全な提供

AWSは、あらゆるワークロードを実行するための最も安全な場所であることを目指しており、20年以上前の創業以来、セキュリティに深く投資してきました。Amazon BedrockのようなAIサービスもこの基盤の上に構築されており、同じ焦点を持っています。Bedrockは、お客様にワールドクラスのパフォーマンス、セキュリティ、プライバシー、そしてどこでも利用可能な最も幅広いモデル選択肢を提供します。昨年、業界をリードするプライバシーとモデル重みの保護を備えたBedrock Mantleを立ち上げました。お客様からは、最新モデルをリリース後できるだけ早く入手したいという声を頻繁に伺っており、Bedrockはそれをお客様に提供するとともに、AWSに期待されるエンタープライズ機能を提供します。AnthropicのClaude Fable 5モデルが明日から再びBedrockでお客様にご利用いただけるようになり、悪用を防ぐためのさらに強力なガードレールを備えていることを嬉しく思います。

モデルをリリースする際、私たちはお客様への責任だけでなく、インターネットと社会全体への責任も考慮しています。AnthropicのClaude Mythosのような最新世代のフロンティアモデルは、特にサイバーセキュリティの分野で強力な新しい機能を持っています。Project Glasswingの一環としてこれを直接体験することができ、Mythosクラスのモデルを防御者の手に渡すことを切望しています。防御者として、これらのモデルを使って私たち全員が依存するシステムをより安全にすることができます。しかし同時に、企業、政府、学術機関が先に資産を保護する機会を与えずに、敵対者に著しく高度な可視性と能力を与えないようにしなければなりません。このバランスを取ることが、広範なモデルリリースの重要な課題であり、私たちはAnthropicや他の業界パートナーとProject Glasswingで協力して、この新しいクラスのモデルのガードレールを改良してきました。敵対者が深い脆弱性研究を行う能力を得ることを防ぐことが、これらのガードレールの最も重要な目的であるという点で全員が一致しています。

また、AIにとってエキサイティングな時期であり、ほぼ毎日新しい機能が提供されています。私たちは、これらの先進モデルの能力を安全でプライバシーが保護された環境ですべてのお客様が利用できるようにすることが、セキュリティリスクを生み出すことなく多くの利点を得るために重要であると信じています。現在のガードレールがどの程度機能しているかについての学習や新しいモデルのリリースに伴い、新しいガードレールを開発し続けることが重要です。私たちはパートナーとともに反復を続け、より多くの価値を提供し、業界の変化に対応していきます。

同様に重要なのは、リリース後にこれらのモデルに問題が発生した場合に適切に対処することです。Anthropicはブログ「Fable 5の再展開」を公開し、この新しいクラスのモデルの能力についての考え方や、報告された問題に対応するためのコミットメントとSLAを説明しています。サイバー能力モデルのための問題の重大度と対応に関する初めての構造を明確にしたAnthropicの透明性と協力に感謝しており、学習と改良を進める中で業界全体での継続的な対話を楽しみにしています。

当社のAIレッドチームはAnthropicと協力してFableの保護をさらに改善し、最新のガードレールは非常に有能なモデルを生み出しながら、敵対者による悪用のリスクをさらに最小限に抑えていると確信しています。ほとんどのドメインでより強力な推論能力を提供しつつ、敵対者に重要な新たなセキュリティ能力を与えることはありません。ガードレールがトリガーされると、自動的にOpus 4.8にフォールバックします。Opus 4.8自体は既に公開されているワールドクラスのモデルです。

Anthropicのパートナーシップと防御者へのコミットメントに感謝し、彼らや業界の他の皆様と協力して、フロンティアモデルを安全かつ確実に提供し続けることを楽しみにしています。