教育におけるAI利用について議論すべき懸念事項は何か？

社会や教育における様々な人工知能（AI）システムの利用拡大に伴い、教育者や管理者は立ち止まり、これらの技術がもたらす社会的・倫理的懸念の範囲を探る時間を確保することが極めて重要です。教育におけるAIは急速に進化する分野であり、有望な潜在的利点がある一方で、教育や社会への影響はあまりにも大きいため、熟慮と倫理的な行動を怠るわけにはいきません。多くの人は、生成AIのリスクが利点を上回ると考えています。生徒は、個人、社会、生態系の繁栄を支えるために、AIを批判的に検討し、探求し、抵抗し、拒否し、あるいは責任ある倫理的な使用方法を学ぶ権利があります。

以下は、AIの政治経済と社会的権力に関する全体的な懸念です。第一に、大量の水使用、炭素排出の加速、生態系の破壊、大気汚染の増加、データセンターの急速な拡大による悪影響など、重大な環境被害があります。第二に、「教育におけるAI」企業の利益追求と市場獲得の動機が、教育を営利目的の商品に貶める可能性があります。第三に、言語的特権化や文化的偏見、グローバル・ノースのデータバイアス、カリキュラム・評価・教育目標の狭小化・平坦化による文化・思考・知識の均質化。第四に、「すぐに動き、物事を壊せ」というアプローチが教育と公衆の社会的契約を危険にさらし、学校の保護的役割を侵害し、改善努力を妨げ、社会的関係を損なう可能性があります。

AIモデルの開発と訓練中に生じる害として、第五に、AIモデルの訓練のために知的財産が盗用されています。第六に、「デジタルスウェットショップ」での不公正な労働慣行や、AIコンテンツモデレーターへの重大な心理的害が報告されています。第七に、AIモデルに「組み込まれた」偏った応答は、差別的で周縁化する応答（例えば、人種差別的、性差別的、排外的なもの）を生み出す可能性があります。

生徒、教師、教育リーダーによる使用中に生じる問題として、第八に、虚偽が真実として促進され（すなわちハルシネーション）、誤情報や偽情報がAIシステムを通じて拡散されます。第九に、若者への悪影響（精神的健康や青少年の自殺への影響など）を考慮し対処する必要があります。第十に、社会的学習プロセス、認知、社会的発達の混乱（例えば、学習課題をAIシステムに委託することによる、メタ認知関与の低下や創造性の低下）。第十一に、データプライバシーと生徒の安全性が損なわれる可能性があり、防御策を講じる必要があります。

教師と教育リーダーによる使用中に、第十二に、タスクをAIシステムに委託し、人間の専門知識の必要性を減少させることによる、教育と教育リーダーシップの脱専門化。第十三に、人間の労働や仕事の代替として適さない自動化を促進すること。教育は根本的に人間の営みです。

公平性への配慮：AIが教育の公平性を支援できるかどうかを探るグループもあります。しかし、現在、教育における生成AIのリスクは便益を上回っています。AIは「諸刃の剣」であるため、教育におけるAIについて倫理的な熟考と情報に基づいた意思決定の余地をすべての人が作る必要があります。AI使用が社会に与える悪影響は、非支配的コミュニティに不均衡に及び、公平性を促進する努力が必要です。

推奨される行動：社会的・倫理的分析に基づく教育 - 教育者のチームは13の社会的・倫理的懸念に取り組み、それらを振り返り、指導に活かすべきです。AIに対抗する教え方と、より公正な社会技術的未来を形成する方法を学びましょう。AIの取り組みや製品は、責任ある使用に関する議論を上回るペースで進んでいます。人間の学習方法に関する専門知識と「ゆっくり進め、構築する」アプローチを用いて害を減らしましょう。生徒と教師とともにAIの使用方法を設計する - 生徒を社会的・倫理的懸念に関与させ、AIへの責任ある関与について協力的に理解させましょう。「科学技術は倫理的問題を引き起こす可能性があり、科学だけでは答えや解決策を提供できない」ということを教えましょう。教育者は、倫理的意思決定を用いて、AIシステムの環境的・社会的影響について教えるべきです。