不満：AIカスタマーサービスの導入の4分の3が期待外れ

人間のコールセンタースタッフをサーバー群のボットに置き換えられると思っているなら、考え直したほうがいい。Sinchの新しい研究によると、AIカスタマーコミュニケーションエージェントを導入した企業の約4分の3が後にロールバックまたは停止しており、AIシステムを本番環境で確実に管理することがAIの誇大広告が示唆するよりはるかに困難であることが示された。

スウェーデンの通信サービス企業Sinchは、さまざまな国や業界から2500人以上のAI意思決定者を対象に『AIプロダクションパラドックス』調査を実施した。最も顕著な発見は、ガバナンスの失敗により導入されたAIカスタマーコミュニケーションエージェントの74%がロールバックまたは停止されたことだが、企業のAI導入が期待に応えていないことを示す兆候はそれだけではない。

Sinchによると、AIロールバック率は特に、導入後に実際のサービスから引き上げられたプロジェクトを指し、開始前に失敗したプロジェクトは含まない。「完全に成熟したガードレール」を持つ組織では、この割合は81%に上昇する。Sinchの最高製品責任者Daniel Morrisは、ガバナンスだけでは問題を解決できないと述べている。

「最も先進的な組織は失敗が少ないのではなく、失敗をより早く認識している。ロールバック率が高いのは、パフォーマンスが弱いからではなく、監視と制御が優れているからだ」とMorrisはプレスリリースで述べた。「ガバナンスが解決策なら、最も成熟したチームのロールバックは少なくなるはずだ。私たちのデータはより深い問題を示している。」

調査結果によると、AIエンジニアリングチームの84%が少なくとも半分の時間をセキュリティインフラに費やしており、AI開発に充てる時間はほとんどない。さらに、ほとんどの企業がAIの信頼性、セキュリティ、コンプライアンスへの支出をAI開発自体よりも優先している。

「75%が信頼性、セキュリティ、コンプライアンスを上位3つに挙げ、AI開発自体（63%）を上回っていることは、AIカスタマーコミュニケーションプログラムにおける優先順位がどこにあるかを示している」とSinchの広報担当者は電子メールで述べた。言い換えれば、ほとんどの組織はAIの問題が適切に動作させることではなく、まず安全に動作させることにあると認識しているようだ。

「安全なAIを大規模に運用するための運用コストは、ほとんどの組織の予想よりもはるかに大きい」とSinch担当者は説明した。

Sinchによると、これらの数字は組織の規模や予算に関係なく一貫している。「ロールバック率は調査のすべての地域と業界で一貫しており、規模は有効な保護因子ではないことを示している。ロールバックは投資不足や適切なガードレールを設けられない規模の小ささの症状ではない。」

もちろん、ビジネスコミュニケーションサービスプロバイダーとして、Sinchはこの結果をAIエージェント向けに設計されたコミュニケーションインフラにAIカスタマーサービスエージェントが適切に導入されていないことに結び付けており、同社はその解決策を提供する立場にある。

いずれにせよ、3/4のロールバック率は、最近のカスタマーサービス自動化ニュースを考慮するとそれほど的外れではない。当サイトが何度も報じているように、カスタマーサービススタッフをAIに置き換えることは多くの企業で計画通りに進んでいない。Gartnerは2025年6月、AIがカスタマーサービスの人員を大幅に削減すると期待する組織の半数が2027年までにその計画を断念すると述べた。Sinchの数字は、問題が人員削減からAIエージェント自体に及ぶ可能性を示唆している。Gartnerが昨年、完全にエージェントレスのコンタクトセンターは現実的ではないと警告していたことと一致する。

「当社のベンダー評価では、エージェントレスのコンタクトセンターは技術的に実現可能ではなく、運用上も望ましくないことが明らかになった」とGartnerのカスタマーサービス＆サポートプラクティスのVPアナリストBrian WeberはThe Registerに語り、予期せぬコストと意図しない結果が断念計画に寄与していると付け加えた。これはSinchが現在報告していることとまったく同じである。