苹果推出AI训练新方法 用任务清单替代人工评分显著提升模型性能
苹果公司研究团队近日在最新论文中提出了一种名为"基于清单反馈的强化学习"(RLCF)的创新训练方法,通过用具体任务清单替代苹果传统的人工点赞评分机制,大幅提升了大语言模型执行复杂指令的能力。
据了解,RLCF全称为Reinforcement Learnin推出g from Checklist Feedback,与目前广泛采用的"人类反馈强化学习"(RLHF)方法形成鲜明对比。传统RLHFAI方法主要依赖人工进行简单的点赞或点踩评价,而RLCF则为每条用户指令生成详细的检查清单,并按0-100分的标准对各项内容进行精确训练评分,以此作为模型优化的指导依据。
苹果研究团队选择了强指令跟随模型Qwen2.5-7B-Instruct作为测试对象,并在五个常新方用评测基准上进行了全面验证。测试结果显示,RLCF是唯一在所有测试项目中都取得性能提升的训练方案。
具体数据显示,在Follow法 Bench测试中,硬性满意率提升了4个百分点。InFoBench评分提高6点,Arena-Hard胜率增加3点。在某些特定用任任务中,性能提升幅度最高达到8.2%。这些数据表明,清单反馈方法在处理复杂多步骤任务时表现尤为突出。
在技术实现方面,苹果团队的清单务清生成过程颇具创新性。他们采用更大规模的Qwen2.5-72B-Instruct模型,结合现有研究方法,为13万条指令构建了单替名为"WildChecklists"的专用数据集。清单内容设计为明确的二元判断项,例如"是否翻译成西班牙语"等具体要求。随后,大模代人型对候选回答进行逐项评分,通过综合加权处理后形成训练奖励信号,指导小模型的学习优化过程。
不过,苹果研究人员也坦率承认了该方法的局限性工评。首先,RLCF需要依赖更强大的模型作为评判标准,这在计算资源受限的场景下可能面临实施困难。其次,该方法专门针对复杂指令执分显行能力的提升而设计,并非用于安全对齐目的,因此无法替代现有的安全性评估和调优机制。对于其他类型的AI任务,RLCF方法的适用性还需要著提进一步的实验验证。
业界专家认为,苹果此次提出的RLCF方法为AI模型训练提供了新的思路,特别是在处理复杂多步骤任务方面展现出明显优势升模。随着技术的进一步完善,这一方法有望在实际应用中发挥更大作用。
- ·怎么让三色灯默认白光
- ·谷歌将提供基于AMD最新服务器芯片的云计算服务
- ·标签: 阿维塔12 荣耀Magic8 华为乾崑 天玑9500
- ·标签: AMD 春雨计划 锐龙AI MAX+395 AI教育
- ·我想吃火锅是什么梗
- ·标签: 字节跳动 AI基础设施 数据中心 高通芯片
- ·分析师:谷歌、Facebook等科技公司第四季度广告营收将迎来井喷
- ·标签: 博西家电 嘉格纳 Thermador 博世
- ·中国标准化迎来“AI 专家”!国内首个标准大模型“同道”互联网版上线,告别“人找标准”!
- ·Anthropic 推出 Claude “skills” 功能,提升 AI 工作效率
- ·谷歌的 TPU 业务或将冲击 9000 亿美元市场,挑战英伟达
- ·古诗敕勒歌
- ·云安全日报210329:Debian垃圾邮件过滤器发现注入攻击漏洞,需要尽快升级
- ·美术生都要膜拜的AI,照片迅速被画成艺术画
- ·标签: 英伟达 黄仁勋 Deepseek R1 自动驾驶 CES2026
- ·云计算核心技术Docker教程:Docker使用AUFS存储驱动程序
- ·应对万亿数据上亿并发!字节跳动的图数据库研发实践
- ·蚂蚁百灵大模型团队开源Ring-flash-linear-2.0-128K,混合注意力+MoE架构重塑长文本编程效率
- ·标签: 阿里巴巴 蔡崇信 马云 首席财务官
- ·多任务实现SOTA,UBC谷歌等提出3D点云的无监督胶囊网络
- ·标签: 松下 YKK 松下家居 住宅设备
- ·标签: CapCut 剪映 DreaminaSeedance2.0 字节跳动
- ·贝索斯将于7月5日卸任亚马逊CEO:由云计算负责人贾西接任
- ·阿里又有大动作:阿里云不再分拆 盒马上市暂缓 马云减持
- ·妈妈的味道图片什么梗
- ·标签: 浙江人形 熊蓉 人形机器人 Pre-A轮融资
