基於自批判掩碼語言模型的廣告標題生成

為了吸引顧客，電商網站上的廣告標題生成是一個具有挑戰性的任務，尤其是在大規模生產時，創意質量往往難以保證。針對這一問題，來自Yashal Shakti Kanungo等人的研究團隊提出了一種基於自批判掩碼語言模型（Self-Critical Masked Language Model）的自動化廣告標題生成方法。該工作已被NAACL-HLT 2021行業軌道接收，並發表在會議論文集中。

該方法的核心創新在於將強化學習中的策略梯度方法應用於Transformer架構的掩碼語言模型，通過自批判機制優化模型參數。具體而言，模型不僅能夠為單一產品生成標題，還可以同時考慮賣家希望推廣的多個產品，在生成過程中聯合建模產品之間的關聯，從而產生更具吸引力和相關性的廣告語。這種多產品聯合條件式生成方式，使得標題能夠更好地展示產品組合的賣點，提升廣告的整體效果。

在實驗驗證階段，研究團隊將新方法與現有的Transformer模型以及結合LSTM和強化學習的方法進行了對比。評估使用了重疊度量指標（如ROUGE）以及人工質量審核兩種方式。結果顯示，新方法在各項指標上均顯著優於基線模型。更令人關注的是，人工審核發現，模型生成的標題在語法正確性和創意新穎性方面甚至超越了由專業文案人員撰寫的標題。這意味着，自動化生成的廣告標題不僅達到了人工水平，還在某些維度上實現了超越。

這項研究的實際意義在於，它為電商平台提供了一種可擴展的低成本廣告創意解決方案。隨着電商業務規模的擴大，對高質量廣告文案的需求日益增長，而人工創作的成本和速度成為瓶頸。該方法通過深度學習與強化學習的結合，能夠高效產出符合平台要求的廣告標題，同時保持或提升用户的點擊和轉化效果。此外，研究團隊已公開了相關代碼和數據，以便學術界和工業界進一步研究和應用。

從技術角度來看，該工作展示了預訓練語言模型與強化學習結合的潛力，為自然語言生成在廣告領域的應用樹立了新的標杆。未來，該方法有望擴展到更多語言和更復雜的廣告格式，進一步推動廣告創意的自動化進程。

更多細節：方法的具體實現使用了自批判序列訓練（Self-Critical Sequence Training, SCST），這是一種在圖像描述等領域成功的強化學習策略。通過將模型生成的標題與人類寫的參考標題進行對比，計算獎勵信號，從而優化策略。Transformer掩碼語言模型則在大量文本上預訓練，具備強大的語言理解能力。在推理時，模型可以靈活控制標題的長度和風格。此外，研究還分析了不同超參數的影響，如温度採樣、beam搜索等。這些技術細節保證了方法的可行性和穩定性。總之，這項研究不僅在學術上有所貢獻，也具有很強的工業應用價值。