FedTR: 産業用ビジュアル検査のための転移学習を組み込んだ連合学習フレームワーク
FedTRは連合学習と転移学習を組み合わせ、産業用ビジュアル検査におけるデータ不足と複雑性の問題に対処し、ラベル欠陥識別で高精度を達成。
連合学習(Federated Learning, FL)は、協力者がローカルデータを共有せずに深層学習モデルを共同で訓練するための協調学習スキームであり、データプライバシーを保持します。しかし、産業用ビジュアル検査(Industrial Visual Inspection, IVI)にFLを実装する場合、限られたデータ可用性と検査タスクの複雑さがモデルのパフォーマンスに大きな影響を与えます。本稿では、FedTRを紹介します。これは、転移学習(Transfer Learning)を組み込んだ新しいFLフレームワークで、自律型IVI向けに設計され、エンドツーエンドのテキスト認識によるラベル欠陥識別という困難なタスクに焦点を当てています。
転移学習は、事前学習済みモデルの知識を活用して異なるデータセットに適応する手法です。FedTRはまず公開データセット(例えば汎用テキスト認識データセット)を使用してモデルを事前学習し、基本的な特徴抽出能力を獲得します。その後、分散された限られたプライベートデータでモデルをファインチューニングしながら、必須の連合学習プロセスを実行します。この2段階戦略により、公開データの豊富さとプライベートデータの特異性を最大限に活用し、データプライバシーを守りながらモデル性能を向上させます。
広範な実験結果は、プライベートインクカートリッジデータセットにおけるラベル欠陥識別に対するFedTRの有効性と実現可能性を示しています。FedTRは、同種データ(データ分布が類似)で95.5%、異種データ(データ分布が大きく異なる)で94.2%のエンドツーエンドテキスト認識単語レベル精度を達成します。さらに注目すべきは、FedTRの性能が集中学習(全データを一箇所に集めて訓練)と同等である点であり、実用化における有効性を示しています。本論文の著者アクセプト版は、2024年Great Lakes Symposium on VLSI(GLSVLSI '24)のプロシーディングス(pp. 310-314)に掲載されており、産業用ビジュアル検査分野に新たな知見と解決策を提供しています。