d1a-e2b-it-qat-4bit仓库完整拆解主干、LoRA适配器、指针头、校准配置与媒体编码器5大文件【免费下载链接】d1a-e2b-it-qat-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/d1a-e2b-it-qat-4bitd1a-e2b-it-qat-4bit 是一个面向 Apple Silicon 的 4-bit 量化 AI 决策模型仓库它把 Google Gemma 4 E2B-it 的 QAT int4 权重原封不动搬进 MLX 格式再叠一个仅 97 MB 的 LoRA 适配器让模型能对一段状态 几个问题一次性给出每个选项的校准概率关掉适配器它还是能聊天、看图、听语音的通用模型。本文带你把仓库里 5 大核心文件逐个拆透。 一分钟看懂仓库全景文件对照表整个仓库只有 4 个目录层级但每个文件都有明确分工。先看全局文件大小角色model.safetensors2.7 GB4-bit 主干权重276 个 int4 线性层model.safetensors.index.json—权重索引约 46.3 亿参数、1096 个张量adapter/adapter_config.json—LoRA rank 16 决策适配器的配置adapter/adapter_model.safetensors97 MB适配器权重未合并进主干head.safetensors约 3 MB指针头决策任务的答案出口d1a_config.json—决策服务配置 校准温度 1.55 的完整拟合记录media/model.safetensors1.0 GB视觉 音频编码器bf16tokenizer.json32 MB分词器26.2 万词表chat_template.jinja—Gemma 4 官方聊天/工具调用模板386 行 合计约 3.8 GB。主干和编码器是大头适配器 指针头加起来不到 100 MB——这正是 LoRA 路线的意义。 文件一模型主干 —— 与 Google QAT 权重逐位一致的 4-bit 基座主干就是 google/gemma-4-E2B-it-qat-w4a16-ct 的 MLX 版本核心卖点在 README.md 里说得很直白276 个 int4 线性层**逐位bit for bit**存储 Google 量化感知训练QAT的原始权重反量化误差为 0.0没有任何一层是从 bf16 重新压出来的4-bit 模型 训练时那个模型。量化方案写在 config.json线性层4-bit、affine 模式、group_size 32对称、每 32 个权重一组词表与逐层嵌入4-bit、group_size 64QAT 只修 Linear嵌入用更大的组省空间。文本主干是 config.json 定义的 35 层结构hidden_size 1536、词表 262144、上下文 131072采用滑动窗口注意力 每 6 层一次全注意力的混合布局支持 128K 长文。为什么 QAT 这么重要直接把旧 bf16 主干上的 v0.6 适配器挪到 QAT 主干上hard-v1 从 0.689 掉到 0.6699.6% 的明确答案被改变见 README.md 的对照表。QAT 权重与 bf16 权重的余弦相似度只有 0.992——差的那一点就足以让适配器水土不服。 文件二LoRA 适配器 —— 97 MB 的决策技能包adapter/adapter_config.json 记录了适配器的全部参数peft_type: LORA秩r16lora_alpha32dropout 0.05作用在 7 个投影层上q_proj、k_proj、v_proj、o_proj、gate_proj、up_proj、down_projinference_mode: true只用于推理。它是在 QAT 主干上重新训练出来的配方见 README.md从 D1A-E2B-it v0.6 适配器热启动一轮训练混合 11 个数据源、23,427 条记录英/日 PR 标签、影响范围、hard、devtools、documents、JGLUE、routing、decision-v7主干冻结在 QAT 检查点取值上精确反量化学习率 2e-52929 步Apple M1 Max 上跑了 12.5 小时。一个精巧的设计是 d1a_config.json 里的adapter: unmerged——适配器不合并进主干。关掉适配器时模型就是 Gemma 4 E2B-it QAT 本身所以同一个仓库既能做决策也能当聊天模型用。 文件三指针头 head.safetensors —— 3 MB 的答案出口head.safetensors 只有约 3 MB却是把语言能力翻译成决策能力的最后一块它对应 d1a_config.json 中的head_dim: 256、hidden_size: 1536负责把主干输出读成每个选项一个概率的指针形式。这也是 D1ASystem 1 式决策的关键不生成自由文本而是单次前向直接输出选项概率所以每个答案都必然是合法选项天然可校准、可审计。️ 文件四校准配置 d1a_config.json —— 温度 1.55 是怎么炼成的d1a_config.json 里那串temperature: 1.5511447618337346不是拍脑袋定的完整拟合记录都在 d1a_config.json数据3,178 行 decision-v7 校准切分 1,148 行 PR 标签开发集 2,030 行与 v0.6 同一配方方法在 0.25~4 的 121 点日志网格上最小化微平均 NLL5 折交叉验证按来源分层同组问题不拆开效果期望校准误差 ECE 从 0.064 降到0.018折外口径90% 置信区间 [1.48, 1.62]5 折温度都稳定在 1.51~1.59诚实声明文件里用same_corpus字段明确记录了校准集与训练语料同源这一局限新手做模型评估时很值得参考这种做法。另外两个实操要点leading_ids: [2]表示请求必须前置bosid 2adapter_sha256与 adapter/adapter_model.safetensors 的指纹一致可做完整性校验。 文件五媒体编码器 media/ —— 1.0 GB 的视觉 听觉media/ 目录存放 Gemma 4 的视觉与音频编码器bf16约 951 MB与主干来自同一个 QAT 检查点只有视觉投影层是为 int4 文本模型重新训练的。media/processor_config.json 里的两个数字决定了媒体上限音频16 kHz 采样、每 token 40 ms、最多 750 token →最长 30 秒语音WAV/FLAC/OGG图像每张图编码为 280 个软 tokenmedia/config.json 的vision_soft_tokens_per_image支持 JPEG/PNG/WebP。视频走 MP4/MOV/WebM≤32 MB均匀抽 16 帧、不用音轨。实测 14 条演示媒体请求全部答出p50 延迟 1.6 秒28 个答案里 25 个与 8-bit 版一致。 快速上手一条命令起决策服务先安装带serve、mlx、media组件的 d1a 工具然后启动服务python -m d1a.serving.serve --run mlx-community/d1a-e2b-it-qat-4bit --port 8009服务暴露三个端点见 README.md端点用途适配器状态/v1/systemone决策传入状态 问题返回选项概率开启/v1/systemone/media照片 / 语音 / 视频决策开启/v1/chat/completionsOpenAI 格式聊天含流式关闭即原生 Gemma 4 E2B-it QAT也可以进程内直接调用D1A.load(mlx-community/d1a-e2b-it-qat-4bit).decide(state, questions)。 总结什么时候用它、什么时候回退 v0.6✅首选场景PR 标签/严重度、路由、难决策等 D1A 本职任务——比 v0.6 快 11%、体积 4-bit22 套评测池化 0.40 分⚠️已知短板训练分布外的 transfer-v4 掉 5.2 分作者已建议此类任务回退固定JohnP1/d1a-e2b-itv0.6⚠️限制问题必须用英文文档可为英/日媒体能力仅经过 14 条零样本演示请求验证整体标注为实验性。一句话记忆2.7 GB 的 QAT 主干负责聪明97 MB 的 LoRA 负责会做决定3 MB 的指针头负责给出概率1.0 GB 的编码器负责看图听话而 d1a_config.json 让所有概率可信——五个文件各司其职拼成一个能在 Mac 上本地跑的多模态决策系统。【免费下载链接】d1a-e2b-it-qat-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/d1a-e2b-it-qat-4bit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/11/3 19:22:42 · 阅读 1.2k d1a-e2b-it-qat-4bit仓库完整拆解：主干、LoRA适配器、指针头、校准配置与媒体编码器5大文件
d1a-e2b-it-qat-4bit仓库完整拆解主干、LoRA适配器、指针头、校准配置与媒体编码器5大文件【免费下载链接】d1a-e2b-it-qat-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/d1a-e2b-it-qat-4bitd1a-e2b-it-qat-4bit 是一个面向 Apple Silicon 的 4-bit 量化 AI 决策模型仓库它把 Google Gemma 4 E2B-it 的 QAT int4 权重原封不动搬进 MLX 格式再叠一个仅 97 MB 的 LoRA 适配器让模型能对一段状态 几个问题一次性给出每个选项的校准概率关掉适配器它还是能聊天、看图、听语音的通用模型。本文带你把仓库里 5 大核心文件逐个拆透。 一分钟看懂仓库全景文件对照表整个仓库只有 4 个目录层级但每个文件都有明确分工。先看全局文件大小角色model.safetensors2.7 GB4-bit 主干权重276 个 int4 线性层model.safetensors.index.json—权重索引约 46.3 亿参数、1096 个张量adapter/adapter_config.json—LoRA rank 16 决策适配器的配置adapter/adapter_model.safetensors97 MB适配器权重未合并进主干head.safetensors约 3 MB指针头决策任务的答案出口d1a_config.json—决策服务配置 校准温度 1.55 的完整拟合记录media/model.safetensors1.0 GB视觉 音频编码器bf16tokenizer.json32 MB分词器26.2 万词表chat_template.jinja—Gemma 4 官方聊天/工具调用模板386 行 合计约 3.8 GB。主干和编码器是大头适配器 指针头加起来不到 100 MB——这正是 LoRA 路线的意义。 文件一模型主干 —— 与 Google QAT 权重逐位一致的 4-bit 基座主干就是 google/gemma-4-E2B-it-qat-w4a16-ct 的 MLX 版本核心卖点在 README.md 里说得很直白276 个 int4 线性层**逐位bit for bit**存储 Google 量化感知训练QAT的原始权重反量化误差为 0.0没有任何一层是从 bf16 重新压出来的4-bit 模型 训练时那个模型。量化方案写在 config.json线性层4-bit、affine 模式、group_size 32对称、每 32 个权重一组词表与逐层嵌入4-bit、group_size 64QAT 只修 Linear嵌入用更大的组省空间。文本主干是 config.json 定义的 35 层结构hidden_size 1536、词表 262144、上下文 131072采用滑动窗口注意力 每 6 层一次全注意力的混合布局支持 128K 长文。为什么 QAT 这么重要直接把旧 bf16 主干上的 v0.6 适配器挪到 QAT 主干上hard-v1 从 0.689 掉到 0.6699.6% 的明确答案被改变见 README.md 的对照表。QAT 权重与 bf16 权重的余弦相似度只有 0.992——差的那一点就足以让适配器水土不服。 文件二LoRA 适配器 —— 97 MB 的决策技能包adapter/adapter_config.json 记录了适配器的全部参数peft_type: LORA秩r16lora_alpha32dropout 0.05作用在 7 个投影层上q_proj、k_proj、v_proj、o_proj、gate_proj、up_proj、down_projinference_mode: true只用于推理。它是在 QAT 主干上重新训练出来的配方见 README.md从 D1A-E2B-it v0.6 适配器热启动一轮训练混合 11 个数据源、23,427 条记录英/日 PR 标签、影响范围、hard、devtools、documents、JGLUE、routing、decision-v7主干冻结在 QAT 检查点取值上精确反量化学习率 2e-52929 步Apple M1 Max 上跑了 12.5 小时。一个精巧的设计是 d1a_config.json 里的adapter: unmerged——适配器不合并进主干。关掉适配器时模型就是 Gemma 4 E2B-it QAT 本身所以同一个仓库既能做决策也能当聊天模型用。 文件三指针头 head.safetensors —— 3 MB 的答案出口head.safetensors 只有约 3 MB却是把语言能力翻译成决策能力的最后一块它对应 d1a_config.json 中的head_dim: 256、hidden_size: 1536负责把主干输出读成每个选项一个概率的指针形式。这也是 D1ASystem 1 式决策的关键不生成自由文本而是单次前向直接输出选项概率所以每个答案都必然是合法选项天然可校准、可审计。️ 文件四校准配置 d1a_config.json —— 温度 1.55 是怎么炼成的d1a_config.json 里那串temperature: 1.5511447618337346不是拍脑袋定的完整拟合记录都在 d1a_config.json数据3,178 行 decision-v7 校准切分 1,148 行 PR 标签开发集 2,030 行与 v0.6 同一配方方法在 0.25~4 的 121 点日志网格上最小化微平均 NLL5 折交叉验证按来源分层同组问题不拆开效果期望校准误差 ECE 从 0.064 降到0.018折外口径90% 置信区间 [1.48, 1.62]5 折温度都稳定在 1.51~1.59诚实声明文件里用same_corpus字段明确记录了校准集与训练语料同源这一局限新手做模型评估时很值得参考这种做法。另外两个实操要点leading_ids: [2]表示请求必须前置bosid 2adapter_sha256与 adapter/adapter_model.safetensors 的指纹一致可做完整性校验。 文件五媒体编码器 media/ —— 1.0 GB 的视觉 听觉media/ 目录存放 Gemma 4 的视觉与音频编码器bf16约 951 MB与主干来自同一个 QAT 检查点只有视觉投影层是为 int4 文本模型重新训练的。media/processor_config.json 里的两个数字决定了媒体上限音频16 kHz 采样、每 token 40 ms、最多 750 token →最长 30 秒语音WAV/FLAC/OGG图像每张图编码为 280 个软 tokenmedia/config.json 的vision_soft_tokens_per_image支持 JPEG/PNG/WebP。视频走 MP4/MOV/WebM≤32 MB均匀抽 16 帧、不用音轨。实测 14 条演示媒体请求全部答出p50 延迟 1.6 秒28 个答案里 25 个与 8-bit 版一致。 快速上手一条命令起决策服务先安装带serve、mlx、media组件的 d1a 工具然后启动服务python -m d1a.serving.serve --run mlx-community/d1a-e2b-it-qat-4bit --port 8009服务暴露三个端点见 README.md端点用途适配器状态/v1/systemone决策传入状态 问题返回选项概率开启/v1/systemone/media照片 / 语音 / 视频决策开启/v1/chat/completionsOpenAI 格式聊天含流式关闭即原生 Gemma 4 E2B-it QAT也可以进程内直接调用D1A.load(mlx-community/d1a-e2b-it-qat-4bit).decide(state, questions)。 总结什么时候用它、什么时候回退 v0.6✅首选场景PR 标签/严重度、路由、难决策等 D1A 本职任务——比 v0.6 快 11%、体积 4-bit22 套评测池化 0.40 分⚠️已知短板训练分布外的 transfer-v4 掉 5.2 分作者已建议此类任务回退固定JohnP1/d1a-e2b-itv0.6⚠️限制问题必须用英文文档可为英/日媒体能力仅经过 14 条零样本演示请求验证整体标注为实验性。一句话记忆2.7 GB 的 QAT 主干负责聪明97 MB 的 LoRA 负责会做决定3 MB 的指针头负责给出概率1.0 GB 的编码器负责看图听话而 d1a_config.json 让所有概率可信——五个文件各司其职拼成一个能在 Mac 上本地跑的多模态决策系统。【免费下载链接】d1a-e2b-it-qat-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/d1a-e2b-it-qat-4bit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考