AI 相亲分析师-marrywise-llm
marrywise-llm是一个有趣的开源AI项目,分析男性是否值得嫁。输入年龄,身高,收入,学历,父母情况,择偶标准等即可分析(建议娱乐心态为主)。项目基于Python编写,遵守Apache2.0开源协议。
功能特色:
- AI 相亲分析师:利用先进的 AI 技术,自动分析约会中的行为和言语模式,揭示隐藏的动机和真实的性格特征。
- AI 打假媒婆:帮助用户识别约会过程中的潜在欺骗行为,确保伴侣的真实性和可靠性。
本地启动
详细步骤:
# 下载Qwen2-7B-Instruct模型:https://modelscope.cn/models/qwen/Qwen2-7B/files
git lfs install
git clone https://www.modelscope.cn/qwen/Qwen2-7B.git
# 下载lora权重,中文区使用modelscope下载会更快
git clone https://oauth2:pVjFTH_CP5Jrqu6DNVVF@www.modelscope.cn/saofund/marrywise-7b-lora.git
# 安装 LLaMA-Factory
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]" # 安装依赖,这里最好按官方乖乖装完
# 使用LLaMA-Factory 合并lora权重
# 需要GPU,大概12G显存占用
llamafactory-cli export \
--model_name_or_path Qwen2-7B-Instruct \ # 刚下载的Qwen2-7B权重
--adapter_name_or_path output_qwen\ # lora权重路径
--template qwen \ # 默认
--finetuning_type lora \ # 默认
--export_dir lora_full_param_model \ # 完整权重的输出路径
--export_size 2 \ # 默认
--export_legacy_format False # 默认
# Qwen2的官方推理测试脚本,替换权重路径为刚才的合并后的路径
python cli_demo.py -c 合并后的权重路径 # 大概15G显存
# 请注意,由于lora微调的“风格”特性,需要在问题的开头加入特定提示词:
# 你的身份是一个相亲条件分析师,专门寻找男方条件中“隐瞒没有说”的条件,分析“相亲中男生没有说的秘密”。xxxx(后面跟具体条件)
源代码:https://github.com/saofund/marrywise-llm
发表回复