|
OpenAI 直播第二天发布"强化微调"(Reinforcement Fine-Tuning)功能，这一功能让 AI 训练迎来重大变革：仅需几十到数千条高质量数据，即可获得专业领域的 AI 模型。 最引人注目的是其惊人的效果提升： - 经微调的 o1-mini 版本性能提升 80%
- 在特定任务中超越 o1 正式版
- 训练所需数据量从百万级降至几十条
OpenAI CEO 奥特曼称其为"2024 年最大惊喜"。但现场未见奥特曼出席，由三位 OpenAI 研究员与伯克利实验室计算生物学家 Justin Reese 进行了实际应用演示。以遗传病诊断为例：- 使用约 1100 个病例数据进行训练
- 让 AI 预测致病基因并提供医学解释
- 通过多项评估指标验证模型表现
该技术结合了监督微调(SFT)和强化学习(RL)的优势： - 先通过标准数据建立基础能力
- 再通过强化学习自主探索最优解
- 最终实现在特定领域的深度专业化
值得一提的是，这一技术理念最早出现在字节跳动发表于 ACL 2024 的论文(REFT: Reasoning with REinforced Fine-Tuning)中, OpenAI 在此基础上实现了突破性的工程化应用。 OpenAI 已在生物化学、法律、医疗等多个领域完成内测验证，计划 2025 年春季，面向企业、高校和研究机构开放申请测试资格 强化微调将加速 AI 在垂直领域的应用。它不仅降低了数据需求和计算资源门槛，更为各行业打造专属 AI 模型提供了可能。
| 
