近年来，视觉-语言-动作模型（Vision-Language-Action, VLA）在诸多机器人任务上取得了显著的进展，但它们仍面临一些关键问题，例如由于仅依赖从成功的执行轨迹中进行行为克隆，导致对新任务的泛化能力较差。

基于人类反馈的强化学习（RLHF）是优化大语言模型（LLM）行为的关键技术，能够让模型更符合人类偏好和需求，提升生成质量。 然而，目前关于 RLHF 的 ...

娜塔莎·雅克（Natasha Jaques）是美国华盛顿大学的助理教授。此前在美国麻省理工学院读博期间，她曾开发一种语言模型微调技术，后被用于 OpenAI 使用基于人类反馈强化学习（RLHF，Reinforcement Learning from ...

点击上方“Deephub Imba”,关注公众号,好文章不错过 !基于人类反馈的强化学习(RLHF)已成为大型语言模型(LLM)训练流程中的关键环节，并持续获得研究界的广泛关注。本文将探讨RLHF技术，特别聚焦于直接偏好优化(Direct ...

RLHF 的 scaling 效率要低于预训练。 基于人类反馈的强化学习（RLHF）是优化大语言模型（LLM）行为的关键技术，能够让模型更符合人类偏好和需求 ...

本文来自微信公众号：量子位，作者：梦晨、西风，原文标题：《翁荔离职OpenAI后第一个动作：万字长文探讨RLHF的漏洞，网友们抢着传看》，题图来自：AI生成 之前领导OpenAI安全团队的北大校友翁荔（Lilian Weng），离职后第一个动作来了。 当然是发～博～客。

近期，OpenAI的研究团队宣布了一项名为“深思熟虑的对齐”的创新技术，旨在提升人工智能模型的安全性，特别是在大型语言模型（LLMs）领域。这项技术已经在o系列模型中得到了成功应用，并显示出显著的成效。

她强调奖励黑客行为在大模型的RLHF训练中的潜在影响，并呼吁更多研究关注理解和缓解这一问题。 在我看来，这是现实世界部署更多自主AI模型应用 ...

最近，来自东南大学、哈佛医学院、新加坡国立大学、新加坡南洋理工大学、新加坡国立脑科学研究院、清华大学、中山大学等多达15个顶尖机构的研究人员联合发表了一篇论文，在理论上证明了AI超越人类的可能性，即通过结合神经科学中的新型AI技术，可以创建出一个新的 ...