跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

ICG:基于多模态大模型提示与个性化偏好对齐的封面图像生成改进

文章摘要

本文提出ICG框架,利用多模态大模型生成提示并融入个性化偏好对齐,以端到端方式生成高质量、个性化封面图像。实验表明,该方法在图像质量、语义保真度和用户吸引力方面均有显著提升。

来源arXiv Computational Linguistics作者: Zhipeng Bian, Jieming Zhu, Qijiong Liu, Wang Lin, Guohao Cai, Zhaocheng Du, Jiacheng Sun, Zhou Zhao, Zhenhua Dong
ICG:基于多模态大模型提示与个性化偏好对齐的封面图像生成改进
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

近日,一篇发表于EMNLP 2025的论文提出了一种名为ICG的新框架,旨在通过多模态大模型(MLLM)生成的提示与个性化偏好对齐,显著提升封面图像的生成质量与用户吸引力。该研究由Zhipeng Bian等九位作者合作完成,并已被计算语言学顶级会议EMNLP 2025主会收录。

在数字平台上,封面图像对于吸引用户点击和提升参与度至关重要。然而,个性化的封面生成仍未得到充分探索。现有的基于扩散模型的方法通常依赖手工设计的提示词,且模块之间相互独立,难以实现端到端的优化,更无法根据用户偏好进行个性化调整。ICG框架正是针对这些痛点而设计,它将多模态大模型的语义理解能力与扩散模型的图像生成能力相结合,并引入个性化偏好对齐机制。

ICG的核心创新在于其提示生成与个性化注入机制。首先,框架从物品标题和参考图像中通过元令牌提取语义特征,这些特征随后与用户嵌入向量进行融合,形成个性化的上下文表示,并直接注入到扩散模型的条件输入中。这样一来,生成的封面不仅与内容语义一致,还能反映特定用户的审美偏好。为了在缺乏标注数据的情况下训练模型,研究团队设计了一种多奖励学习策略:一方面利用公共的美学质量和语义相关性奖励来保证生成图像的基本品质;另一方面,利用从用户历史行为中训练得到的个性化偏好模型来引导生成方向,使封面更符合个体用户的喜好。

与以往将多模态大模型和扩散模型作为独立模块串联的流水线不同,ICG通过一个适配器将两者桥接,实现了端到端的联合训练。该适配器具有即插即用的特性,能够兼容常见的模型检查点,无需对原有网络结构进行大规模修改。在优化过程中,ICG完全不需要真实标签,而是通过多奖励信号进行强化学习式的优化,这大大降低了数据标注成本,并提升了方法的通用性。

实验结果表明,ICG在多个评价指标上均取得了显著提升。生成的封面在图像质量、语义保真度以及个性化程度上均优于基线方法,并且在下游推荐任务中表现出更强的用户吸引力和离线推荐准确率。这验证了将多模态大模型与扩散模型通过适配器进行端到端训练的有效性,也为个性化内容生成开辟了新的思路。

总体而言,ICG框架为个性化封面图像生成提供了一套完整的解决方案,其即插即用的设计、无需真实标签的训练方式以及显著的性能提升,使其在工业界和学术界均具有广阔的应用前景。未来,该框架有望扩展到更广泛的内容生成任务中,进一步推动AI生成内容的个性化发展。

展开要点与分析

文章情报

工程师进阶

要点

  • ICG通过元令牌和多模态大模型提取标题与参考图的语义特征,结合用户嵌入注入扩散模型,实现个性化封面生成。
  • 采用多奖励学习策略,融合公共美学奖励、相关性奖励与用户行为训练的个性化偏好模型,无需真实标签即可优化。
  • 适配器桥接多模态大模型与扩散模型,支持端到端训练,且兼容常见检查点,即插即用。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。