ai/qwen2.5 Docker 镜像 - 轩辕镜像

Qwen2.5-7B Instruct

!logo

Qwen2.5-7B-Instruct 是阿里云开发的指令微调大语言模型，属于 Qwen2.5 系列。该系列模型参数规模覆盖 0.5B 至 72B，而本模型在知识储备、代码生成、数学推理能力上有显著提升，同时增强了指令跟随和长文本生成表现。它支持最长 131,072 tokens 的上下文窗口，输出长度可达 8,192 tokens，并提供 29 种以上语言的多语言支持，包括中文、英文、法语、西班牙语、葡萄牙语、德语、意大利语、俄语、日语、韩语、越南语、泰语、阿拉伯语等。

适用场景

Qwen2.5-7B-Instruct 可辅助完成多种自然语言处理任务，具体包括：

• 对话式AI：与用户进行自然交互，提供信息丰富且贴合上下文的回应。
• 文本生成：基于输入提示生成连贯、符合语境的文本内容。
• 多语言支持：理解和生成多语言文本，助力跨语言沟通。
• 结构化数据理解：处理表格、JSON 及半结构化输入/输出数据。

模型特性

可用模型变体

¹：显存基于模型特性估算。

latest 标签默认对应 7B-Q4_K_M 版本。

使用 Docker Model Runner 运行模型

步骤1：拉取模型

bash
docker model pull ai/qwen2.5

步骤2：运行模型

bash
docker model run ai/qwen2.5

更多关于 Docker Model Runner 的使用细节，可参考 官方文档。

使用注意事项

• 请遵守 Apache 2.0 许可证的使用要求。
• 处理长上下文输入时，需注意设备的计算资源是否充足。
• 建议定期更新模型至最新版本，以获取功能优化和安全更新。

性能基准测试

相关链接

• Qwen2.5：基础模型系列介绍
• Qwen2.5 技术报告