在教育中使用人工智能，我們應該討論哪些問題？

隨着各類人工智能系統在社會和教育領域的應用日益廣泛，教育工作者和管理者迫切需要暫停腳步，深入探討這些技術所引發的社會與倫理問題。AI在教育領域是一個快速演變的領域，雖然具有諸多潛在益處，但教育和社會的後果過於重大，不能不以審慎和倫理的態度行事。許多人認為生成式AI的風險超過了其收益。學生有權質疑、探索、抵制、拒絕或學習如何負責任且合乎倫理地使用AI，以促進個人、社會和生態的繁榮。

以下是在AI政治經濟與社會權力層面需要關注的總體問題：第一，顯著的環境危害，包括大量用水、加劇碳排放、生態破壞、空氣污染增加以及數據中心快速擴張的負面影響。第二，AI教育公司的逐利和市場佔有可能將教育降格為商業產品。第三，通過語言特權和文化偏見導致文化、思想和知識的同質化；全球北方數據偏見；課程、評估和教育目標的窄化與扁平化。第四，“快速行動，打破常規”的做法可能危及教育的社會契約，違背學校的保護性目的，破壞改進努力並損害社會關係。

在AI模型開發和訓練過程中產生的危害包括：第五，用於訓練AI模型的知識產權被竊取。第六，“數字血汗工廠”中存在不公平勞動實踐，以及AI內容審核員遭受嚴重的心理傷害。第七，AI模型中“內嵌”的有偏見反應可能產生倒退和邊緣化的結果（如種族主義、性別歧視、仇外心理）。

在師生和教育領導者使用過程中出現的問題：第八，虛假信息被當作真實信息推廣（即幻覺），且通過AI系統分享錯誤信息和虛假信息。第九，必須考慮並應對對年輕人的不利健康影響（如對心理健康和青少年自殺的影響）。第十，社交學習過程、認知和社會發展的干擾（如將學習任務外包給AI系統，減少元認知參與和創造力）。第十一，數據隱私和學生安全可能受到損害，需建立防禦。

在教師和教育領導者使用過程中：第十二，通過將任務外包給AI系統而削弱教學和領導的專業性，減少對人類專業知識的需要。第十三，鼓勵自動化，但自動化不能替代人類勞動和工作；教育本質上是一項人類事業。

關於公平性問題：一些團體正在探索AI是否能支持教育公平。然而，目前生成式AI在教育中的風險超過了其收益。由於AI是一把“雙刃劍”，我們都需要為AI在教育中的倫理考量做出空間。AI使用對社會的影響對非主流社區尤為不利，需要努力促進公平。

建議採取的行動包括：基於社會與倫理分析進行教學；教育工作者團隊應就13項社會與倫理關切進行反思並指導教學；學習如何教授抵抗AI以及如何塑造更公正的社會技術未來；使用關於人們如何學習的專業知識以及“慢行並建設”的方法來減少傷害；與學生和教師共同設計AI使用方式；讓學生參與社會和倫理關切的討論，共同理解負責任地使用AI；教育學生“科學技術可能引發倫理問題，而科學本身無法提供答案和解決方案”；教育工作者應傳授AI系統的環境和社交影響，並採用倫理決策。