ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

CAP-LLM: Context-Augmented Personalized Large Language Models for News Headline Generation

CAP-LLM: Context-Augmented Personalized Large Language Models for News Headline Generation 文章主要内容和创新点主要内容本文提出了一种名为CAP-LLM(Context-Augmented Personalized LLM)的新型框架,旨在解决个性化新闻标题生成中“捕捉复杂用户兴趣”与“保证事实一致性”的核心挑战。该框架基于预训练大语言模型(如Llama-2、Mistral),通过三个核心组件实现优化:用户偏好编码器(User Preference Encoder):通过Transformer自注意力网络聚合用户历史阅读数据,提取长期兴趣向量;上下文注入适配器(Context Injection Adapter):将用户兴趣向量和当前新闻文章的语义表示融入LLM的生成过程,引导个性化生成;事实一致性强化模块(Fact-Consistency Reinforcement Module):采用新颖的对比损失函数,通过构建正负样本对,减少LLM的“幻觉”(hallucination),确保标题与新闻原文事实一致。通过联合训练策略(优化流畅性、个性化和事实准确性的总损失函数),CAP-LLM在真实世界的PENS数据集上进行了验证,其性能在个性化指标(Pc(avg)、Pc(max))、事实一致性指标(FactCC)和内容覆盖度指标(ROUGE-1/2/L)上均超越现有基线模型(如BART、Transformer等),实现了个性化与事实准确性的平衡。创新点
返回列表