當代大型語言模型（LLM）雖已支持多種語言，但僅靠語言覆蓋並不足以保證AI具備文化感知力。隨着AI迅速發展，數字弱勢文化羣體面臨被技術排斥的風險。一項針對全球用户的調查揭示，AI在文化理解上的缺口正造成廣泛影響。
語言切換問題尤為突出：在非英語用户中，89.5%的人因認為英語回答質量更高而切換語言，這導致AI工具對英語不熟練者的效用大打折扣。超過三分之一的受訪者（38%）認為AI未能充分理解其文化，63%的用户表示AI曾至少一次違反其文化規範。問題涵蓋從語言形式到歷史敍事的多方面，例如AI默認使用法國法語而非魁北克法語，或在處理印地語和旁遮普語時忽視代碼切換的語境。
此外，用户擔憂AI會進一步邊緣化其文化：67%的受訪者中度或強烈認同這一觀點。文化是通過人際互動滋養的，而AI無法補償這一點。在現實場景中，63%的用户使用AI瞭解其他文化，若AI歪曲文化規範，將加劇誤解。
調查還顯示，AI在多個任務領域缺乏文化意識，包括創意寫作、翻譯、本地信息查詢、法律和政府相關任務、社交媒體內容生成以及醫療健康問題。用户列舉的具體失敗案例包括：用卡伊方言（kajkavian croatian）查詢薩格勒布電車信息時無法獲得答案，而用英語提問多倫多地鐵線路則能正確回應；埃及用户詢問婚禮平均費用時，AI給出的估算脱離當地實際；魁北克用户用法語請求食譜，AI卻使用法國法語而非魁北克法語。
文化意識不僅僅關乎語言，更涉及對禮儀、歷史敍事和社會規範的深刻理解。例如，德國用户指出AI在正式性、文化細微差別和性別處理上表現糟糕；韓國用户認為AI的回答過於泛化或西方中心主義；使用印地語或旁遮普語時，AI常默認西方社交規範，無法捕捉代碼切換的語境，使回答顯得不自然甚至失禮。多位用户反映，在埃及阿拉伯語、韓語、日語、意大利語、克羅地亞語或印地語中，AI經常呈現西方歷史敍事而忽視當地的傳統和視角。
如果不解決這些文化障礙，使用動態將自我強化：獲得糟糕結果的用户會減少使用，導致來自這些社區的數據無法反饋到模型開發中，從而進一步加劇文化差距。要構建文化感知AI，需實現區域本地化、校準禮貌程度、引用多元來源，並自然處理混合語言。隨着AI融入日常生活，文化意識必須作為核心設計要求，從模型之初就予以重視，以打造反映並尊重全球用户需求的技術。