2026年9月3日,阿里千问联合淘天集团正式推出E-Commerce Bench——一款电商经营评测基准。它把大模型能否做好生意变成一个可量化的实验:让模型扮演电商商家,在真实市场数据中经营网店365天。首轮评测覆盖18个主流大模型各5轮完整经营,GPT-5.6 Sol以14.31倍资产回报居首,开源阵营中Qwen3.8-Max-Preview表现最好(4.16倍)。项目已在GitHub、论文与项目页全开源,免费用于研究。
一、真实市场里的全年经营
环境由真实淘宝与天猫平台数据驱动:6886个商品分布在60个品类里,背后是576家供应商和12种可开店型,全年固定了10个市场事件与8场促销,品类销量、退货率、节庆均脱敏自真实平台。Agent拿到10万元本金、可同时开多家店,在一年里每天调研品类、跟供应商砍价、定价上架、盯促销与管库存。时间预算每天600分钟,每次调用工具都扣时间;成本直接走银行账户,收入要等发货、扣佣金进担保账户、再过9天才到钱包,需手动提现。仓储按件按天收费,快递分三档,退货率受品类基线、次品、定价与发货速度共同影响,信誉分直接乘在需求量上,掉到底的店只能拿到正常15%的流量。这些细节让经营不再是抽象分数,而是真实的约束系统。
二、确定性内核:确保评测可复现
如果供应商也由大模型扮演,同一策略跑两遍价格都会不同,评测就变成越狱比赛。E-Commerce Bench把每个供应商拆成两层:确定性内核算出每次报价、让步、接受或离场,LLM只负责把内核决定渲染成真实对话。这样多轮砍价的体感保留,采样噪声被挡在评估之外,18个模型的结果可直接横比。卖方内核永不低于保留价成交,重复进货的成交价相对历史最好价的位置(AnchorRatio)可判断模型是否真在学会压价——1.0表示与随机顺序无异,低于1.0才说明在往更便宜的方向偏。
在AI工具导航的框架下,E-Commerce Bench填补了传统短时任务基准只考“完成度”、不考“商业存活”的空白。它让评测从有限回合的“完成任务”推进到全年连续经营的“商业决策能力验证”。对于关注大模型商业经营能力的团队,这是目前稀缺的、带真实市场数据的开源选项。同时,其确定性内核的设计思路也不只适用于电商谈判,为长程任务评测提供了可复现的通用范式,对AI办公场景中涉及多轮交互、长期决策的Agent能力评估同样具有参考价值。
三、七维评估体系
年终总资产只是冰山一角。E-Commerce Bench独立打出六个维度分:谈判质量、反欺诈、现金流与清偿、运营效率、运营执行、长程学习,加上年末总资产共七维。反欺诈一项差距最大——576家供应商里152家是欺诈方(占26.4%),模型流向欺诈供应商的采购占比最高与最低相差超160倍,Claude Opus 4.7仅0.12%,Qwen3.5-Plus高达20.11%;谈判质量上Claude Opus 4.7砍价分0.811居首,Kimi K2.6仅0.596;长程学习里18个模型只有Qwen3.8-Max-Preview的AnchorRatio为0.88(明显下降),其余17个反而往更贵的方向漂。
四、与同类评测基准的对比
| 对比维度 | E-Commerce Bench | AgentBench | WebArena |
|---|---|---|---|
| 出品方 | 阿里千问联合淘天 | 面壁智能联合清华 | 斯坦福联合AllenAI |
| 评测任务 | 电商网店长程经营 | 通用Agent多环境 | 网页导航与操作 |
| 环境真实度 | 真实淘宝天猫脱敏 | 模拟环境 | 模拟网页 |
| 任务周期 | 365天 | 有限回合 | 有限回合 |
| 参评模型 | 18个模型×5轮 | 多模型 | 多模型 |
五、使用方式
克隆QwenLM/E-CommerceBench仓库,按文档部署评测环境与待测模型,确定性谈判内核会保证同一策略多次运行结果一致,可直接复现七维评分。项目完全开源且免费,代码托管于GitHub,配套论文arXiv:2608.30730,无商用门槛,仅用于科研与模型能力对比。
