Ai2开源8B科研报告模型:51秒出带引用报告,24GB显卡可跑

流云 2026-10-04 604 0条评论
摘要: 10月2日,艾伦人工智能研究所(Ai2)开源了AstaBrief 8B——一个专门把研究问题和检索到的文献片段写成带引用科研报告的模型。它基于阿里Qwen3-8B微调,权重和训练数...

10月2日,艾伦人工智能研究所(Ai2)开源了AstaBrief 8B——一个专门把研究问题和检索到的文献片段写成带引用科研报告的模型。它基于阿里Qwen3-8B微调,权重和训练数据已放上Hugging Face,GitHub同步提供了用自有PDF改造报告流程的示例。

AstaBrief现在是Ai2科研智能体平台Asta里“Fast模式”的底座。原来的Thinking模式由Claude驱动,平均一份报告要178.5秒;换成AstaBrief后平均51.1秒,快了约3.5倍。Ai2在博客里解释动机:“我们想帮科研人员更快写出带引用的报告,用的还是他们能自己下载、自己跑的模型。”

不碰强化学习,只做两轮数据

训练分两段。监督微调阶段,Ai2从Asta真实用户提问里筛出9万条,用Claude 3.5/3.7 Sonnet、o3、o4-mini和GPT-4.1生成目标答案,最后留下约4.7万条可用样本。偏好优化阶段换了一批问题:一边是Claude驱动的ScholarQA流程写出的报告,另一边是o3、o4-mini、DeepSeek-V3或DeepSeek-R1的版本,由GPT-4.1和DeepSeek-R1两个裁判比对,两者意见一致才留下,最终约6000条。Ai2称这两个裁判与人工判断的一致率为95%。团队没用强化学习,理由是不稳定、成本高。流程也做了减法:整篇报告一次写完,不再逐节生成,省掉了片段摘要和聚类两个费算力的环节。

几种数据过滤办法里,效果最明显的一条很朴素:把引用密度低的合成样本剔掉。Ai2的总结是,“输出有没有依据”这种直接信号,比层层设计的复杂过滤更管用。

和闭源流水线比,赢在可下载

主评测用的是SQABench-CS2,200道计算机科学问题,看四项:内容覆盖、段落相关性、引用能否支撑论断、论断是否都有引用。在大模型当裁判的对比里,AstaBrief和Claude驱动的流程、Ai2早先开源的研究模型DR Tulu互有高低。人工评测规模不大:3位研究者各看14到15道题,其中两位把AstaBrief的引用准确度排在第一。线上数据来自374名Asta用户:29.1%在两天以上用过Fast模式,人均生成3.67个报告对话;23%之后只用Fast,18%在两种模式之间来回切换。

同类工具里,OpenAI和谷歌的深度研究功能都跑在闭源大模型上,用户拿不到权重,也没法把流程搬进自己的文献库。AstaBrief的取舍是把规模压到8B,换成可下载、可改造。粗略估算,半精度权重约16GB,一张24GB显存的显卡就能加载,高校实验室接入的门槛低了不少。基座是Qwen3,不过训练用的提问以英文计算机科学为主,处理中文文献的效果,Ai2没有给出数据。

评测停在2025年,引用夸大问题待解

Ai2自己标出了限制:这些评测在2025年做完,对照的是当时的前沿模型,没拿今天的模型重跑。所以“跟Claude流程打得有来有回”,对应的是Claude 3.7那一代,眼下Anthropic已经发到Opus 5.5。Ai2还点了一个引用指标抓不住的毛病:模型可能引对了文献,却把话说得比原文更满,比如把特定样本里的发现推成普遍规律,或者把描述性结果写成操作建议。现有四项指标量不出这种偏差,Ai2说下一步要专门测模型能否守住原始论断的范围和证据强度。

对于关注AI工具导航的科研团队,AstaBrief 8B提供了一个可本地部署、可二次改造的选项——不必把文献库交给闭源API。在AI办公软件推荐的语境下,它更适合高校实验室、科研机构中需要批量生成带引用初稿的场景。8B规模、24GB显存门槛,加上训练数据公开,意味着复现和微调的成本都被压到了可承受的范围。


文章版权及转载声明:

作者:流云本文地址:https://www.sanwenge.com/post/1471.html发布于 2026-10-04
文章转载或复制请以超链接形式并注明出处三文阁