LaWGPT是一个基于中文法律知识的开源大语言模型,可以用它来打造一个 AI 专属法律顾问。基于Python编写,遵守GPL3.0该系列模型在通用中文基座模型(如 Chinese-LLaMA、ChatGLM 等)的基础上扩充法律领域专有词表、大规模中文法律语料预训练,增强了大模型在法律领域的基础语义理解能力。在此基础上,构造法律领域对话问答数据集、中国司法考试数据集进行指令精调,提升了模型对法律内容的理解和执行能力。

项目基于中文裁判文书网公开法律文书数据、司法考试数据等数据集展开。

  1. 初级数据生成:根据 Stanford_alpaca 和 self-instruct 方式生成对话问答数据
  2. 知识引导的数据生成:通过 Knowledge-based Self-Instruct 方式基于中文法律结构化知识生成数据。
  3. 引入 ChatGPT 清洗数据,辅助构造高质量数据集。

源代码:https://github.com/pengxiao-song/LaWGPT