HaNoRec：多模态大语言模型与自适应偏好优化在序列推荐中的创新实践

本文介绍HaNoRec项目，该项目将多模态大语言模型与自适应偏好优化相结合，为序列推荐系统提供了一种全新的技术方案，支持Microlens、Netflix和Movielens等主流数据集。

推荐系统已成为现代数字平台的核心组件，从视频流媒体到电商购物，无处不在。然而，传统的序列推荐方法面临诸多挑战：用户兴趣随时间动态变化、冷启动问题严重、以及难以捕捉用户偏好的细微差别。随着大语言模型（LLM）的兴起，研究者们开始探索将LLM的强大语义理解能力引入推荐领域，但如何有效融合多模态信息并优化用户偏好对齐，仍是开放性问题。

HaNoRec（Multimodal Large Language Models with Adaptive Preference Optimization for Sequential Recommendation）是由研究者wangyu0627开源的项目，旨在解决上述挑战。该项目创新性地将多模态大语言模型与自适应偏好优化（Adaptive Preference Optimization）相结合，为序列推荐任务提供了一种端到端的解决方案。

项目的核心思想是利用大语言模型处理文本信息（如电影标题、商品描述）的能力，同时结合用户行为序列，通过偏好优化技术使模型输出更符合用户真实意图。

HaNoRec采用多模态架构，能够同时处理不同类型的输入数据。项目中提供了对Microlens、Netflix和Movielens等主流推荐数据集的完整支持。每个数据集包含以下组件：

• dataset_pairs：用户-物品交互对，记录用户的历史行为序列
• dataset_titles：物品标题文本，用于语义理解
• train/val/test.tsv：标准的数据划分，用于模型训练与评估
• SFT数据变体：针对不同的评估指标（HR@1、HR@3、NDCG@3）优化的监督微调数据

这种设计使得模型能够同时利用协同过滤信号和语义内容信息，显著提升推荐质量。

项目的核心创新在于自适应偏好优化机制。与传统的监督学习方法不同，HaNoRec通过优化模型输出与用户真实偏好之间的对齐程度，使推荐结果更加个性化。这种方法借鉴了RLHF（基于人类反馈的强化学习）的思想，但针对推荐场景进行了专门设计。

HaNoRec充分利用大语言模型的语义理解能力，将物品标题等文本信息编码为稠密向量表示。通过在大语言模型基础上进行领域适配，模型能够更好地理解物品之间的语义关系，例如识别两部电影在主题、风格上的相似性，即使它们的交互历史很少。

项目提供了对三个主流推荐数据集的完整支持：

1. Microlens：短视频推荐场景的数据集
2. Netflix：电影评分数据，经典的推荐系统 benchmark
3. Movielens：电影推荐领域最常用的公开数据集之一

每个数据集都经过预处理，包含训练集、验证集和测试集。验证集用于确定最佳停止点，防止过拟合。这种标准化的数据划分确保了实验结果的可复现性和可比性。

项目提供了简洁的安装流程，用户可以通过conda快速搭建环境：

conda create -y -n hanorec python=3.10
conda activate hanorec
pip install -r requirement.txt

数据集可通过Google Drive下载，项目维护者提供了预处理后的版本，包含完整的训练、验证和测试划分。