亚马逊开源 Strands Decider 2B 决策模型,支持本地部署

作者:作者:溯波(实习) 发布时间:2026-10-04 04:14:23 浏览:7
关键字:
亚马逊 Strands Agents 团队推出开源决策模型 Strands Decider 2B,可在本地 CPU/GPU 运行,决策时延低至 113ms。

亚马逊 Strands Agents 团队于 10 月 1 日推出 Strands Decider 2B 决策模型,并已在 GitHub 开源,权重发布于 Hugging Face,支持在本地 CPU / GPU 上运行。

该模型基于预训练的 Qwen3.5-2B 作为“躯干”,将原本具备文本生成能力的语言模型“头部”替换为具备评分功能的指针“头部”。新“头部”规模较小,总参数仅略超过一百万;“躯干”则通过一个 rank-16 LoRA 适配器进行微调。

在 JevBench 公开数据集上,Strands Decider 2B 展现出不错的准确率和校准度表现,在 2B 级别模型中排名第 3,优于所有严格不超过 2B 的竞争对手。

在市面常见硬件上本地运行时,该模型交出了 113ms 的决策时延中位数;在 NVIDIA GeForce RTX 3090 上执行小型决策任务,中位数时延为 153ms。

阅读原文

本文由AI融业云采集并编辑,仅供学习使用!

本文来自ithome.com,作者溯波(实习)

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/