AI在研究中的應用：我們不應將所有AI相關問題視為不當行為

隨着人工智能在研究領域的應用日益普遍，如何界定其合理使用範圍成為關注焦點。一項獲獎白皮書指出，AI在研究中的應用正逐年快速增長，許多研究者感到必須採用AI，否則可能落後。然而，關於如何負責任地使用AI的共同規範仍在發展中。

調查顯示，71%的受訪者擔心AI工具被誤用，53%的研究人員表示他們觀察到同行存在所謂的“AI誤用”行為。這種擔憂反映出一個關鍵問題：研究者採用AI工具的速度快於負責任使用規範的形成。為了維護學術記錄的可信度，研究界需要更清晰、更一致的方式來區分負責任的使用、不良實踐、誤用和故意不當行為。

“AI誤用”這一術語目前使用廣泛但含義模糊，常被用作涵蓋從誠實錯誤、未經批判性依賴AI輸出、未披露到故意欺詐等各種行為的籠統標籤。研究者將其應用於從故意不當行為（如捏造數據）到不良實踐（如未經適當驗證即依賴AI輸出）的各種情況。這種混淆並非無害：當故意欺騙和誠實錯誤被視為同樣的問題時，我們就失去了做出適當回應的能力，削弱了政策和懲罰措施的有效性，扭曲了問責制，並影響了有效的培訓。

缺乏共享定義正開始影響對制裁和問責的態度。調查結果顯示，觀點高度兩極分化，從零容忍到更務實的透明度要求不一。例如，有人主張對使用AI的作者永久列入黑名單，而另一些人則呼籲區分無意誤用和故意欺詐，並強調披露的重要性。最近還有提議對虛構參考文獻等行為實施長達一年的臨時禁令，這顯示了一種趨向懲罰性回應的態度，即使意圖尚不明確。

實際上，AI相關問題（像任何形式的不當行為一樣）可以從因不良做法導致的無意錯誤到帶有惡意的故意欺詐不等。一些現有框架已經認識到行為可以是一個連續譜，但在AI討論中，這些區別常常被扁平化為單一類別。

僅憑意圖維度不足，意圖難以判斷，而僅憑影響維度也不夠，因為一些有害行為初期影響有限。因此，穩健的評估需要同時考慮意圖和影響，以及行為發生的背景，以一致且相稱的方式區分錯誤、誤用和不當行為。

為應對這一挑戰，我們提出了一個簡單框架，沿意圖和影響兩個維度區分AI相關問題。這為評估哪些情況屬於負責任使用、低風險誤用、高風險誤用或嚴重不當行為提供了更實用的基礎。

負責任使用意味着在適當的人工監督、驗證和問責下使用AI，包括透明披露、驗證AI輸出、明確人類對最終工作的責任、關注偏見、包容性、隱私和數據保護，以及遵守期刊、機構和領域指南。這些原則已得到廣泛認可。

AI誤用（不當或疏忽使用）定義為無明確欺騙意圖的不當、粗心或疏忽使用，包括納入未經適當審查的AI生成文本、引用未驗證或捏造的參考文獻、依賴引入錯誤或偏見的輸出、在沒有充分監督或專業判斷的情況下重複使用AI，以及未按要求披露AI協助。並非所有誤用後果相同：低風險誤用可通過更正糾正，不影響研究有效性；高風險誤用則影響解釋、可重複性或信任。

嚴重不當行為（故意欺騙或欺詐）定義為故意使用AI嚴重損害研究誠信，包括偽造數據、結果或圖像，將虛假或AI生成參考文獻呈現為真實，隱瞞AI使用以誤導，將大量AI生成內容作為原創貢獻呈現，以及利用AI逃避抄襲檢查或掩蓋重複內容。

框架的目標不是原諒不良實踐或降低標準，而是支持對AI在研究中的使用做出更一致和適當的回應。通過區分負責任使用、誤用和不當行為，研究界可以在出現錯誤時進行教育，在存在欺騙時實施制裁，在繼續受益於AI潛力的同時維護學術記錄的可信度。