marrywise-llm是一个有趣的开源AI项目,分析男性是否值得嫁。输入年龄,身高,收入,学历,父母情况,择偶标准等即可分析(建议娱乐心态为主)。项目基于Python编写,遵守Apache2.0开源协议。

功能特色:

  • AI 相亲分析师:利用先进的 AI 技术,自动分析约会中的行为和言语模式,揭示隐藏的动机和真实的性格特征。
  • AI 打假媒婆:帮助用户识别约会过程中的潜在欺骗行为,确保伴侣的真实性和可靠性。

本地启动

详细步骤:
# 下载Qwen2-7B-Instruct模型:https://modelscope.cn/models/qwen/Qwen2-7B/files
git lfs install
git clone https://www.modelscope.cn/qwen/Qwen2-7B.git

# 下载lora权重,中文区使用modelscope下载会更快
git clone https://oauth2:pVjFTH_CP5Jrqu6DNVVF@www.modelscope.cn/saofund/marrywise-7b-lora.git

# 安装 LLaMA-Factory
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git    
cd LLaMA-Factory
pip install -e ".[torch,metrics]"   # 安装依赖,这里最好按官方乖乖装完

# 使用LLaMA-Factory 合并lora权重
# 需要GPU,大概12G显存占用
llamafactory-cli export \
        --model_name_or_path Qwen2-7B-Instruct \    # 刚下载的Qwen2-7B权重
        --adapter_name_or_path output_qwen\         # lora权重路径
        --template qwen \                           # 默认
        --finetuning_type lora \                    # 默认
        --export_dir lora_full_param_model \        # 完整权重的输出路径
        --export_size 2 \                           # 默认
        --export_legacy_format False                # 默认

# Qwen2的官方推理测试脚本,替换权重路径为刚才的合并后的路径
python cli_demo.py -c 合并后的权重路径  # 大概15G显存

# 请注意,由于lora微调的“风格”特性,需要在问题的开头加入特定提示词:
# 你的身份是一个相亲条件分析师,专门寻找男方条件中“隐瞒没有说”的条件,分析“相亲中男生没有说的秘密”。xxxx(后面跟具体条件)

源代码:https://github.com/saofund/marrywise-llm