在當今數字化商業環境中,買家和賣家透過訊息系統直接溝通時,繞過官方渠道交換聯絡資訊可能導致嚴重的收入損失和品牌聲譽損害。對於經紀業務等依賴安全連線的中介服務來說,檢測並阻止此類違規行為至關重要。傳統的正規表示式(regex)方法在處理結構化模式(如電話號碼、郵箱地址)時有效,但面對日益複雜的偽裝手段——例如使用表情符號、leet語言、虛構單位或分散資訊——則顯得力不從心。
Amazon Bedrock提供的Amazon Nova基礎模型為這一問題提供了先進的生成式AI解決方案。Amazon Bedrock是一項完全託管的無伺服器服務,提供來自領先公司的高效能AI基礎模型。透過精心設計的提示詞(prompt),模型能夠理解上下文,識別各種隱藏形式的聯絡資訊。例如,一條偽裝訊息“I can get that done for you directly :five: :five: :five:-:five: :five: :five:-:zero: :one: :one: :one: .”中,模型能識別出表情符號代表的電話號碼。更復雜的場景下,模型能同時檢測出多個電話號碼、企業名稱、郵箱地址、郵寄地址和個人資訊,並以JSON格式輸出每個發現的類別、內容、置信度(1-5分)和推理理由。
提示詞最佳化工具可進一步改進提示語結構,提升模型輸出的一致性和可讀性。經過最佳化的提示詞包含明確的任務描述、指令和輸出格式要求,確保模型準確遵循。除了檢測違規資訊,同一套方法還可用於情感分析和行動項識別。例如,模型可判斷使用者對供應商的情感傾向(正面、中性或負面),並提取需要處理的行動項(如“調查經紀應用問題”)。這些結果可整合到後端工單系統,實現自動響應。
實際測試中,使用生成式AI的提示詞方法在10條真實經紀訊息上達到了100%的準確率,而正規表示式則難以應對不斷演變的偽裝技術。生成式AI的優勢包括:上下文理解(檢測跨訊息的偽裝資訊)、適應性(無需頻繁更新即可識別新偽裝)、多維分析(同時檢測情感、行動項和違規)、置信度評分(支援精細決策)以及自然語言處理能力(如解釋leet語言)。
開發者可以將最終提示詞儲存在Amazon Bedrock Prompt Management中,透過版本控制實現團隊協作和無縫更新。下一步,可透過Amazon Bedrock API整合到現有工作流中,利用AWS Step Functions或Amazon EventBridge編排複雜流程,或透過Amazon Bedrock AgentCore構建自主AI系統。總之,結合生成式AI的智慧訊息防禦系統能有效保護企業利益,同時提升客戶體驗。