ai/llama3.3 Docker 镜像 - 轩辕镜像
ai/llama3.3最新LLama 3版本，具备改进的推理能力和生成质量。
17 收藏0 次下载activeai
Llama 3.3
!logo
镜像概述和主要用途
Meta Llama 3.3 是由Meta设计的700亿参数多语言语言模型，专为聊天和内容生成等文本任务而优化。其指令调优版本针对多语言对话进行了优化，在常见基准测试中性能优于许多开源和商业模型。作为最新的Llama 3版本，该模型在推理能力和生成质量方面均有显著提升。
使用场景和适用范围
- 多语言助手式聊天：使用指令调优模型构建跨语言对话AI，支持在多种语言环境下实现自然且上下文感知的交互。
- 编码支持与软件开发任务：辅助代码生成、调试、文档编写及其他软件工程工作流。
- 多语言内容创作与本地化：跨语言和文化生成及调整书面内容，支持全球沟通与用户 engagement。
- 知识型应用：将大型语言模型与结构化或非结构化数据源集成，用于问答、洞察提取或决策支持。
- 通用自然语言生成：各类自然语言生成任务，如摘要、翻译或跨领域内容创作。
- 合成数据生成（synth）：创建真实、高质量的合成文本数据，用于扩充训练、测试数据集或***化处理。
核心功能和特性
关键特性
- 最新Llama 3版本：相比前代模型，推理能力和生成质量显著提升
- 多语言支持：覆盖英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语
- 工具调用能力：支持工具调用功能（✅）
- 代码生成能力：输出模态包括文本和代码，适用于软件开发任务
- 长上下文窗口：支持131K tokens的上下文窗口，可处理长文本输入
基本属性
| 属性 | 详情 |
|---|---|
| 提供者 | Meta |
| 架构 | llama |
| 数据截止日期 | 2023年12月 |
| 支持语言 | 英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本和代码 |
| 许可证 | Llama 3.3 社区许可证 |
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/llama3.3:latestai/llama3.3:70B-Q4_K_M | 70B | IQ2_XXS/Q4_K_M | 131K tokens | 41.11 GiB | 39.59 GB |
ai/llama3.3:70B-Q4_0 | 70B | Q4_0 | 131K tokens | 38.73 GiB | 37.22 GB |
ai/llama3.3:70B-Q4_K_M | 70B | IQ2_XXS/Q4_K_M | 131K tokens | 41.11 GiB | 39.59 GB |
¹: 显存基于模型特性估算。
latest标签对应70B-Q4_K_M变体
使用方法和配置说明
通过 Docker Model Runner 使用
1. 拉取模型镜像
bashdocker model pull ai/llama3.3
2. 运行模型
bashdocker model run ai/llama3.3
有关 Docker Model Runner 的更多信息，请参阅 官方文档。
基准性能
| 类别 | 基准测试 | Llama-3.3 70B 指令版 |
|---|---|---|
| 通用能力 | MMLU (CoT) | 86.0 |
| MMLU Pro (CoT) | 68.9 | |
| 可控性 | IFEval | 92.1 |
| 推理能力 | GPQA Diamond (CoT) | 50.5 |
| 代码能力 | HumanEval | 88.4 |
| MBPP EvalPlus (base) | 87.6 | |
| 数学能力 | MATH (CoT) | 77.0 |
| 工具使用 | BFCL v2 | 77.3 |
| 多语言能力 | MGSM | 91.1 |
链接
- Meta Llama 3 发布：迄今为止能力最强的开源LLM
- Llama 3 模型集群
ai/qwen3
by Docker
认证
Qwen3是通义千问系列最新推出的大语言模型，作为新一代人工智能技术成果，它专为顶尖级代码编写、数学计算、逻辑推理及语言处理任务打造，凭借先进的算法架构与深度优化的模型性能，能够高效应对多领域复杂场景下的专业需求，为用户提供精准、智能的解决方案，展现出在技术研发与应用落地中的卓越潜力。
90100K+ pulls
上次更新：2 个月前
ai/gemma3
by Docker
认证
Google最新推出的AI模型Gemma，虽体型小巧却性能强劲，尤其在聊天交互与内容生成领域表现突出；其轻量化设计不仅便于高效部署，还能在保证响应速度的同时，持续输出高质量内容，为用户带来便捷且智能的使用体验，是一款兼顾小巧体型与强大功能的新一代AI模型。
50100K+ pulls
上次更新：3 个月前
ai/gpt-oss
by Docker
认证
OpenAI的开源权重模型系列，设计用于强大的推理、代理任务和多用途开发场景，提供多种量化版本以适应不同资源需求。
32100K+ pulls
上次更新：2 个月前
ai/gemma3n
by Docker
认证
为低资源设备提供高效多模态AI，支持文本、图像、音频和视频处理。
1050K+ pulls
上次更新：6 个月前
ai/smollm2
by Docker
认证
为速度、边缘设备和本地开发构建的小型语言模型
28100K+ pulls
上次更新：3 个月前
ai/llama3.2
by Docker
认证
LLaMA 3的此次稳定更新显著提升了模型性能，在编码开发、日常聊天及各类问答任务中均展现出可靠表现，能够高效处理多样化的用户需求，无论是辅助编写代码、进行流畅对话还是解答专业问题，都具备稳定且出色的任务执行能力，为用户提供了更为实用的人工智能工具支持。
22100K+ pulls
上次更新：8 个月前
轩辕镜像配置手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
登录仓库拉取
通过 Docker 登录认证访问私有仓库
Linux
在 Linux 系统配置镜像服务
Windows/Mac
在 Docker Desktop 配置镜像
Docker Compose
Docker Compose 项目配置
K8s Containerd
Kubernetes 集群配置 Containerd
K3s
K3s 轻量级 Kubernetes 镜像加速
宝塔面板
在宝塔面板一键配置镜像
群晖
Synology 群晖 NAS 配置
飞牛
飞牛 fnOS 系统配置镜像
极空间
极空间 NAS 系统配置服务
爱快路由
爱快 iKuai 路由系统配置
绿联
绿联 NAS 系统配置镜像
威联通
QNAP 威联通 NAS 配置
Podman
Podman 容器引擎配置
Singularity/Apptainer
HPC 科学计算容器配置
其他仓库配置
ghcr、Quay、nvcr 等镜像仓库
专属域名拉取
无需登录使用专属域名
需要其他帮助？请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
镜像拉取常见问题
轩辕镜像免费版与专业版有什么区别？
免费版仅支持 Docker Hub 访问，不承诺可用性和速度；专业版支持更多镜像源，保证可用性和稳定速度，提供优先客服响应。
轩辕镜像支持哪些镜像仓库？
专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等；免费版仅支持 docker.io。
流量耗尽错误提示
当返回 402 Payment Required 错误时，表示流量已耗尽，需要充值流量包以恢复服务。
410 错误问题
通常由 Docker 版本过低导致，需要升级到 20.x 或更高版本以支持 V2 协议。
manifest unknown 错误
先检查 Docker 版本，版本过低则升级；版本正常则验证镜像信息是否正确。
镜像拉取成功后，如何去掉轩辕镜像域名前缀？
使用 docker tag 命令为镜像打上新标签，去掉域名前缀，使镜像名称更简洁。
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"