少類保真度：用最佳化的擾動評估真實條件下CNN分類器的解釋

卷積神經網路（CNN）因其高精度和自動化速度被廣泛應用於多個領域和現實世界的分類任務，幫助使用者專注於更高專業度的任務。為了更好理解模型並避免部署中的偏差，可在訓練後使用可解釋人工智慧（XAI）技術。然而，隨著XAI解決方案的增多，它們之間的比較出現分歧，對其評估難以達成共識。本文提出了一種基於保真度的XAI度量變體，重點關注類數通常較少的真實條件應用。該方法生成分佈內、引發不確定性的擾動，以確保正確測量XAI方法的忠實度。作為評估框架實用性的演示，該框架與以人為中心的物件定位和分割指標進行了比較。將方法應用於醫學和自然影像應用後，突出了領域、資料整理和XAI方案選擇之間的複雜相關性，以驗證新CNN模型的訓練。具體來說，該方法透過生成與訓練資料分佈一致的擾動，並引入不確定性來模擬真實世界的變異，從而更準確地評估XAI方法的忠實度。與傳統的基於隨機擾動的方法相比，這種最佳化擾動能夠更好地反映模型在實際應用中的行為。此外，該研究還發現，在不同的領域（如醫學影像和自然影像）中，資料整理的方式和XAI方案的選擇之間存在顯著的互動作用，這提示我們在部署CNN模型時需要綜合考慮這些因素。這項工作的意義在於，它提供了一種更加可靠和實用的XAI評估方法，有助於推動人工智慧在關鍵領域的可信應用。