近年来，视觉-语言-动作模型（Vision-Language-Action, VLA）在诸多机器人任务上取得了显著的进展，但它们仍面临一些关键问题，例如由于仅依赖从成功的执行轨迹中进行行为克隆，导致对新任务的泛化能力较差。

基于人类反馈的强化学习（RLHF）是优化大语言模型（LLM）行为的关键技术，能够让模型更符合人类偏好和需求，提升生成质量。 然而，目前关于 RLHF 的 ...

点击上方“Deephub Imba”,关注公众号,好文章不错过 !基于人类反馈的强化学习(RLHF)已成为大型语言模型(LLM)训练流程中的关键环节，并持续获得研究界的广泛关注。本文将探讨RLHF技术，特别聚焦于直接偏好优化(Direct ...

RLHF 的 scaling 效率要低于预训练。 基于人类反馈的强化学习（RLHF）是优化大语言模型（LLM）行为的关键技术，能够让模型更符合人类偏好和需求 ...

娜塔莎·雅克（Natasha Jaques）是美国华盛顿大学的助理教授。此前在美国麻省理工学院读博期间，她曾开发一种语言模型微调技术，后被用于 OpenAI 使用基于人类反馈强化学习（RLHF，Reinforcement Learning from ...

“网上有个说法，‘国外一开源，国内就创新’，自主创新基础不牢。大量国产模型采用国外的开源架构进行训练，由于国外的原生创新是用国外的语料进行训练，导致国内与国际的顶尖水平还有一定的差距。”潘锋谈到，AI行业“百模大战”之下，真正有竞争力的模型并不多，不 ...

本文来自微信公众号：量子位，作者：梦晨、西风，原文标题：《翁荔离职OpenAI后第一个动作：万字长文探讨RLHF的漏洞，网友们抢着传看》，题图来自：AI生成 之前领导OpenAI安全团队的北大校友翁荔（Lilian Weng），离职后第一个动作来了。 当然是发～博～客。

“网上有个说法，‘国外一开源，国内就创新’，自主创新基础不牢。大量国产模型采用国外的开源架构进行训练，由于国外的原生创新是用国外的语料进行训练，导致国内与国际的顶尖水平还有一定的差距。”潘锋谈到，AI行业“百模大战”之下，真正有竞争力的模型并不多，不 ...