Anthropic CEO、オープンソースAIは「非常に危険な道」と警告

Anthropicの最高経営責任者であるDario Amodei氏は、立法者に対し、オープンソースの人工知能が「非常に危険な道」を進んでいると厳しく警告しました。Amodei氏は、強力なAIモデルが公開されると、開発企業はその使用状況を監視できなくなり、悪用が発覚した場合でもアクセスを無効にすることが不可能になると指摘しています。このような管理不能な状態は、AI技術が悪意のある目的に利用されるリスクを高め、深刻な社会的・安全上の問題を引き起こす可能性があります。

Amodei氏の発言は、オープンソースAIの潜在的な危険性に対する業界の懸念を反映しています。オープンソースモデルは技術革新と民主化を促進する一方で、効果的な規制メカニズムが欠如しているため、AIシステムが悪用される危険性があります。同氏は立法者に対し、安全性を損なうことなく技術の進歩を可能にするための規制枠組みを真剣に検討するよう求めています。現在、開放性と安全性のバランスをどう取るかについての議論が続いています。