THEMIS：专为印度法律打造的参数化法律知识大语言模型

THEMIS是专为印度成文法微调的法律领域专用大语言模型，采用参数化知识架构将法律推理能力嵌入模型权重（非依赖检索系统）。项目展示了资源受限环境下训练专业LLM的可行性，并规划了从v1到v4的完整发展路线，代码与数据集等以MIT许可证开源。

THEMIS聚焦印度成文法，是参数化知识模型（区别于检索式问答或API包装），核心理念为"HECTOR检索，THEMIS推理"。开发者认为法律智能需理解条文逻辑、适用场景及关系，而非仅查找条文。

基础模型与训练技术

基于Mistral 7B Instruct v0.3，采用LoRA高效微调，平衡推理能力与计算效率（支持Kaggle免费T4 GPU训练）。

训练数据

覆盖BNS2023、IPC1860、BNSS2023、BSA2023等印度核心法律。

v1已实现功能

• Kaggle端到端训练流程成功
• LoRA适配器发布至HuggingFace
• 掌握Alpaca指令格式与法律助手风格响应
• 正确训练免责声明行为

v1局限

• BNS2023缩写识别混淆
• 条款编号引用不准确（幻觉）
• 深层法律知识不足（1939训练对有限）
• IPC到BNS过渡知识保留不足

根本原因

Mistral预训练数据无BNS2023（2023年12月颁布），LoRA微调仅教会"回答方式"未掌握具体法律内容。

v1参数与目标对比

参数	v1值	v2目标
LoRA秩	8	32
序列长度	512	2048
训练对数	1939	50000-90000

v2路线（进行中）

目标：10000-15000训练对、LoRA秩16、序列长度1024；改进方向含扩展数据集、消歧BNS缩写、引入引用准确率指标；成功标准：70%以上刑法查询正确识别BNS并准确引用条款。

v3目标（规划中）

目标：50000-90000训练对、LoRA秩32、序列长度2048；训练数据覆盖刑法、程序法、证据法等多领域（总计74000对）；成功标准：引用准确率>85%，幻觉率<10%。

终极目标融合THEMIS（参数化推理）与HECTOR（检索增强）：

1. 用户查询→查询分类器判断"参数化或检索"
2. THEMIS处理公民级问答推理
3. HECTOR处理需PDF引用的深度研究
4. 统一路由器分发，输出含引用+推理的响应。

1. 领域模型可行性：LoRA技术使资源受限环境（免费GPU）能训练专业LLM，为垂直领域AI提供参考。
2. 数据规模重要性：v1的1900对仅教会"说话方式"，7万对才能"理解领域"，对医疗/金融等领域有借鉴。
3. 法律AI架构思考：选择参数化知识定位，强调法律推理需深层理解而非仅检索。
4. 开源价值：MIT许可证开源代码、数据集等，促进技术传播与复用。

THEMIS是法律AI领域的重要探索，证明构建有用领域模型需足够数据、合理架构、诚实评估及长期迭代。其从v1局限到v3雄心的路线图，为垂直领域AI开发者提供宝贵参考。