阿联酋推出全球最快开源推理模型K2 Think
阿联酋穆罕默德·本·扎耶德人工智能大学(MBZUAI)与科技集团G42于9月11日联合发布开源AI推理系统K2 Think,该系统以仅320亿参数的紧凑架构,在数学推理性能上超越规模大20倍的商业旗舰模型(如OpenAI的o3 high),同时实现每秒超2000个token的全球最快推理速度,达到传统GPU部署的10倍以上。这一突破标志着高效AI推理范式的重大革新。
技术亮点:六大创新支柱驱动性能跃升
- 长链式思维监督微调:通过逐步逻辑推理训练增强模型深度,解决复杂数学问题(如IMO奥赛题);
- 可验证奖励的强化学习:提升解题精度,确保答案正确性;
- 推理阶段动态扩展:实时分配计算资源优化表现;
- 智能体规划技术:将复杂问题分解为可执行子任务;
- 推测解码与硬件加速:依托Cerebras平台优化解码流程,实现超高吞吐量;
- 全栈开源:模型权重、训练数据及部署代码已在Hugging Face和GitHub公开。
性能验证:数学推理与速度双突破
- 在IMO、AIME等数学测试中保持高速输出且答案正确;
- 安全测试达行业高水平,但暂不支持文档传输及多模态功能;
- 实际体验可通过官网测试。
战略意义:阿联酋确立全球AI第三极地位
K2 Think基于阿里巴巴Qwen 2.5-32B模型构建,是MBZUAI基础模型研究所”主权AI”战略的核心成果。研究所所长Hector Liu强调:”我们将其视为完整系统而非单一模型,通过持续部署迭代推动进化”。该模型使阿联酋在美中AI争霸格局中成为关键竞争者,并推动全球开源社区向低成本、高性能推理迈进。
MBZUAI校长Eric Xing指出:”K2 Think重新定义了紧凑模型的潜力,是阿联酋AI2031战略的决定性里程碑”。随着模型登陆Cerebras平台,企业可快速部署这一高效工具,进一步加速AI应用。
官方公告:https://mbzuai.ac.ae/news/mbzuai-and-g42-launch-k2-think-a-leading-open-source-system-for-advanced-ai-reasoning/
发表回复