Anthropic CEO: オープンソースAIは危険になりつつある

AnthropicのCEOであるDario Amodei氏は最近、オープンソースの人工知能が「非常に危険な道」を進んでいると立法者に警告した。彼は、強力なAIモデルが公開されると、企業は悪用の監視、アクセスの取り消し、または安全ガードレールの更新が不可能になると指摘した。この発言は、特にテクノロジーコミュニティで瞬く間に議論を巻き起こした。

Amodei氏の見解は、オープンソースAI運動への直接的な挑戦と受け止められた。彼は、オープンモデルが悪意ある行為者に悪用される可能性があり、中央集権的な管理がないためリスクへの対処が極めて困難になると考えている。しかし、多くのネットユーザーは懐疑的であり、Amodei氏の真の動機はAnthropicの商業的利益を守ることにあると非難した。あるユーザーは「聞こえてくるのは、オープンソースモデルが自社モデルより優れているから、ユーザーに課金できなくなる、ということだけだ」と皮肉った。別のユーザーは「我々はこれらの人々から金を稼ぐ能力を失う。自分で実行できれば。それを違法にしてください」とコメントした。

さらに、一部のコメントは歴史上の類似例を挙げ、かつてLinuxなどのオープンソースソフトウェアを抑制するために同様の主張が使われたことを指摘した。あるユーザーは「ビル・ゲイツがかつてLinux OSについて泣き言を言ったのと同じだ。これらの連中は自分の財布のことしか考えていない」と書いた。また別のユーザーは「オープンソースが国家の安全保障リスクなら、政府がライセンスを発行して、ローカルサーバーでウェイトをホストすることを許可する必要があるのか？」と疑問を呈した。これらのコメントは、大手ハイテク企業の動機に対する一般の不信感を反映している。

批判が多数を占める中、Amodei氏の見解を支持する声も僅かにあった。あるユーザーは「彼が純粋に自身の利益のために言っているのは間違いないが、非常に真実で妥当な点もある」と述べた。しかし、全体としての風潮は、オープンソースAIを危険と見なす見方に反対するものだった。多くの人々は、知識自体は犯罪を構成せず、真の悪用は法律で裁かれるべきであり、民間企業が決定するものではないと強調した。

この論争は、AI分野におけるオープンソースとクローズドソースの深い溝を再び浮き彫りにした。DeepSeekなどのオープンソースモデルが台頭する中、クローズドソース企業は競争圧力の増大に直面している。Amodei氏の警告は、安全面の懸念だけでなく、ビジネスモデルへの脅威への対応でもあるかもしれない。いずれにせよ、この出来事はAIの開発方向性とそのガバナンスメカニズムについての再考を促している。ソーシャルメディアでの広範な反応は、少数の企業によるAI技術の管理に対する公衆の懸念を示しており、オープンソース運動はその集中に対抗する重要な力と見なされている。