AI动态跟踪系列(三):复杂推理大模型OPENAIO1亮相 数学与代码能力飞跃
事项:
9 月13 日,OpenAI 正式发布并上线o1 系列模型o1-preview 和o1-mini。
平安观点:
OpenAI 计数器重置回1,o1 系列开启复杂推理序幕。本次OpenAI 发布的是o1-preview(预览版)和o1-mini(擅长STEM、更快、更便宜)两个版本,ChatGPT 付费用户和API 用户可以使用。根据OpenAI 官网介绍,o1 系列被定位为用于解决难题的推理模型。对于复杂的推理任务来说,OpenAI 认为o1 是一个重大进步,代表了AI 能力的新水平,鉴于此,OpenAI 将计数器重置回1 并将此系列模型命名为OpenAI o1。OpenAI 研究发现,随着强化学习(训练时计算)和思考时间(测试时计算)的增加,o1 的性能会不断提高。因此在体验上,与此前模型不同点在于,OpenAIo1 在作出反应之前,需要像人类一样,花更多时间思考问题。
o1 基准表现明显优于GPT-4o,数学与编码能力实现飞跃。OpenAI 实验结果表明,在绝大多数推理任务中,o1 的表现明显优于GPT-4o。尤其是在具有挑战性的推理基准上,o1 实现了能力飞跃,1)数学能力:在美国数学奥林匹克(AIME2024)预选赛题目中,GPT-4o 平均只能解决12%的问题,o1 正式版达到平均74%的准确率,在使用学习评分函数重新排名1000个样本后准确率达到93%,相当于美国排名前500 的学生水平。2)编码能力:在竞争性编程问题(Codeforces)比赛中,o1-preview、o1 分别超越了62%、89%的人类竞争者,而对比GPT-4o 仅超过11%。3)特定专业领域能力:GPQA diamond 测试(专门用于评估模型在化学、物理和生物学等领域的专业知识水平)中,o1 不仅成功完成了测试,更是超越了人类专家的表现,成为首个在GPQA diamond 基准上击败人类专家的AI 模型。
o1 引入思维链优化逻辑推理,助力模型性能与安全提升。o1 优越能力的背后,核心突破在于运用思维链(chain of thought)方法来处理复杂任务,OpenAI 介绍到,类似于人类在回答困难问题之前可能会思考很长时间,o1 在尝试解决问题时会使用思维链。通过强化学习,o1 学会打磨其思维链并改进它所使用的策略。o1 学会了识别和纠正错误,学会了将棘手的步骤分解为更简单的步骤,学会了在当前方法不起作用时尝试不同的方法,此过程显著提高了模型的推理能力。在OpenAI 的一个官方演示中展示了o1-preview 解答复杂问题的逻辑推理过程,o1-preview 在过程中逐步显示思考、翻译问题、定义变量、理解问题、构建方程、解方程等与人类推理相似的步骤,最终输出结论。同时,OpenAI 认为思维链推理也为大模型安全性的提升提供了新思路,o1-preview 在关键越狱评估和用于评估模型安全拒绝边界的最严格内部基准上取得了显著的改进。
声明:
- 风险提示:以上内容仅来自互联网,文中内容或观点仅作为原作者或者原网站的观点,不代表本站的任何立场,不构成与本站相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。本站竭力但不能证实上述内容的真实性、准确性和原创性,对此本站不做任何保证和承诺。
- 本站认真尊重知识产权及您的合法权益,如发现本站内容或相关标识侵犯了您的权益,请您与我们联系删除。
推荐文章: