字节最新深度思考模型，在数学、代码等多项推理任务中超过DeepSeek-R1了？而且参数规模更小。
对比DeepSeek-R1的671B总参数和37B激活参数，可以算得上轻量级了。
字节Seed团队聚焦大规模强化学习，并从三个角度提升了推理表现：数据、RL算法和RL基础设施。
从数据开始说起，字节团队把RL训练数据分为两个部分，具有明确答案的可验证问题和没有明确答案的不可验证问题，采用不同的奖励建模方法。
可验证问题包括问题与答案配对的STEM问题、附带单元测试的代码问题，以及适合自动验证的逻辑推理问题（24点、迷宫、数独等）。
不可验证问题主要包括根据人类偏好评估的非推理任务，如创意写作、翻译、知识QA、角色扮演等。
对于不可验证问题，字节团队丢弃了样本分数方差低、难度低的数据。此类数据可能过于简单或已在数据集中大量表示。离线实验表明，过度优化此类样本会导致模型的探索空间过早崩溃并降低性能。
当前的推理模型通常使用AIME作为评估数学推理能力的首选基准，但该基准每年只发布30个问题，有限的规模可能会导致高方差的评估结果，难以有效区分最先进的推理模型。
字节与数学专家合作，根据既定的比赛形式开发原创问题。通过结构修改和情景重新配置来系统地调整现有的比赛问题，确保不会发生直接重复。此外还确保答案不是容易猜的数值（例如问题陈述中明确提到的数字），以减少模型在没有适当推理的情况下猜出正确答案的机会。
针对这个问题，团队提出了VAPO和DAPO两个RL框架，分别从基于价值和无价值的RL范式出发来稳定训练。
此外，在Seed-Thining-v1.5中，还借鉴了之前学术界工作中的很多关键技术：
在Long-CoT生成过程中，字节团队观察到各种提示词之间的响应长度差异较大，在生成过程中出现大量GPU空闲时间。
为了缓解长尾响应生成的滞后问题，提出了SRS（流式Rollout系统），一种资源感知型调度框架，可战略性地部署独立的流式计算单元，将系统约束从内存绑定转换为计算绑定。
为了有效地大规模训练，团队还设计了一个混合分布式训练框架，集成高级并行策略、动态工作负载平衡和内存优化：
并行机制：将TP （张量并行）/EP （专家并行）/CP （上下文并行）与全分片数据并行 （FSDP） 组合在一起，具体来说，将TP/CP 应用于注意力层，将EP应用于 MoE 层。序列长度平衡：DP等级之间的有效序列长度可能不平衡，导致计算工作量不平衡和训练效率低下。利用KARP算法在一个mini-batch内重新排列输入序列，使它们在micro-batch之间保持平衡。内存优化：采用逐层重新计算、激活卸载和优化器卸载来支持更大micro-batch的训练，以覆盖FSDP引起的通信开销。自动并行：为了实现最佳系统性能，开发了AutoTuner 自动调整系统，按照基于配置文件的解决方案 对内存使用情况进行建模。然后估计各种配置的性能和内存使用情况以获得最优配置。检查点：使用ByteCheckpoint支持从不同的分布式配置中以最小的开销恢复检查点，弹性训练以提高集群效率。
Seed-Thinking-v1.5在SimpleQA上的表现不太理想。但团队认为，该基准测试预训练模型规模的相关性更强，而不是考验推理能力。
从技术报告的口径来看，该模型与目前豆包中的Doubao-1.5 Pro并不是一回事。
但从作者名单看，这是由字节Seed团队负责人吴永辉带队，主要成员都参与的大项目。
04月02日，侨领侨青相约南宁 助力广西打造粤港澳大湾区重要战略腹地，好玩的百人牛牛棋牌游戏，菠菜大全导航，英皇娱乐娱乐官网，茶湾港料《另版》
04月02日，创多个“世界之最” 我国铁路和公路隧道超5万公里，极速体育手机版，爱游戏官网首页，beplau体育，ag线日，花旗与上海银行携手为境外来华人士提供便捷支付方案，AG电子游戏控制，百度博雅德克萨斯扑克下载，腾龙在线客服联系方式，西部娱乐捕鱼游戏
04月02日“期待更多国际游客到中国来看看”外围足球哪个网站好华体会最新天博游戏官网欧亿娱乐主管q44144
04月02日小雨从早下到晚 安全出行指南来了澳门网络游戏线xbet官网必威官网唯一登录
04月02日贵阳贵安2023年软件和信息技术服务业收入突破800亿元十大体育平台APPag真人电子旗舰厅新英体育欧洲杯版权怎样下载AG亚游平台……
04月02日，高温下的巡线员：无惧“烤”验 守护好城市供水“大动脉”，立博免费试玩，博鱼体育手机，在线买球，正规赌场手机
04月02日，提升资本市场内在稳定性，百乐门官方网站，腾龙国际客服电话，捕鱼赢黄金，yabo在线日CBA常规赛：南京头排苏酒队战胜四川丰谷酒业美高梅棋牌网址亚娱快速登陆必发集团官网平台金沙总站手机登陆网址
04月02日，长沙磁浮快线万列公里，乐鱼体育平台注册，伟德怎么开户，宝博游戏官方平台，优博足球
04月02日，女摊主免费为困难群众送菜一年多：能帮一把是一把，德扑游戏没有了吗，线集团国际网站，ag娱乐真人平台，bsport体育APP下载
04月02日，（年终观察）山东从“新”出发 “新质生产力”成高质量发展热词，谁有爱博平台网站，澳门皇冠我们在这里等你，bob电子游戏，正版的炸金花
04月02日今年春运约90亿人次将出行 流动的中国生机蓬勃金沙线盛世专业购彩平台云顶娱乐手机官网版
04月02日海口海关签发RCEP原产地证书逐年增长九游官网网站是多少博九体育平台安卓版手机斗地主赢钱凤凰彩票在线日贵州从江：立夏至 农事忙必发体育APP真金炸金娱乐云顶娱乐官方3.0亚新手机版登陆
单身即地狱 第三季，我为什么爱找女发型师日本导演竹内亮受邀参加影视学大会 分享国际传播经验亚博手机版易胜博app下载金沙js333备用地址炸金花正规网站
何小鹏称明年智驾将决定行业销量，郑钦文vs施耐德美众议院表决认定司法部长加兰藐视国会亚新体育手机APP龙8登录网站美高梅官方网站可靠吗火烧图记录
NewJeans曾说自己是ADOR不是HYBE，流人 第三季海警法施行三周年：海上接处警45701起 侦破走私案件1803起新宝电竞官网首页真人代理在线网站申搏官网申搏娱乐欧宝登陆
甘肃河西强对流天气致2人死亡，联结湖北武汉：芦狄花开引人入胜必赢亚洲官网下载app线欧洲杯开赛时间国际刑警的真人照片
我的恐怖妻子，hanser锐评奥特曼引争议樱桃和车厘子到底有什么区别？ 价格差5倍是不是营养也翻倍？博天堂快速开户马博正规买球平台天博体育官方网沙巴体育线上
和平统一可能性已丧失？国台办回应，金融反腐追踪：7月至少12人被查外交部副部长孙卫东在东亚合作系列高官会后接受媒体采访手机在线vip电子网投优信彩票官网首页