LLM – 开源派

Tag archives for LLM

想做个AI小工具，但一看到那些API文档就头皮发麻？我不是程序员，但我最近发现了一个神器，Dify。这玩意儿有多离谱？你只需要在屏幕上拖拖拽拽，就能搭出一个AI聊天机器人、文本处理工作流、甚至是企…

你有没有想过，在自己的笔记本上跑一个几千亿参数的大模型？别笑，真的有人这么干了。 ## 一个疯狂的实验最近GitHub上有个项目火得不行——flash-moe。一个Objective-C老哥，用纯…

当 ChatGPT、Claude 这些云端 AI 助手已经成为无数人的日常工具时，一个悄然兴起的趋势正在开源社区蓬勃发展——把大语言模型搬到你自己的电脑上运行。这就是 Ollama 正在做的事情。 …

你有没有遇到过这种情况？本地跑个大模型，结果显卡风扇转得跟直升机似的，显存直接爆掉。别问我怎么知道的，说多了都是泪。但微软最近开源的一个项目，可能要改变这个局面。 ## 什么是BitNet？ Bit…

Fullmoon 开源项目是一款基于苹果生态的 iOS/macOS 本地大语言模型（LLM）聊天应用。它利用 Apple Silicon 强大的算力和 Apple 开源的 MLX Swift 框架，实…