IT之家 12 月 25 日消息，据 404 Media 报道，人工智能公司 Anthropic ...

点击上方“Deephub Imba”,关注公众号,好文章不错过 !基于人类反馈的强化学习(RLHF)已成为大型语言模型(LLM)训练流程中的关键环节，并持续获得研究界的广泛关注。本文将探讨RLHF技术，特别聚焦于直接偏好优化(Direct ...

最近阅读了科学天才 Wolfram 的神书《这就是ChatGPT》，觉得有必要写点类似读书笔记或书评的东西。 这篇笔记我准备从 ChatGPT 原理出发，聊一聊 GPT 对人类学习和构建个人知识体系的启发，请大家多多指教。 1. 首先要有目标 ...

标题：Anthropic研究发现：打错字可助攻解锁GPT-4等AI模型秘密 ...

【#越狱最顶级AI模型竟如此简单#】#几个错别字就能把AI搞懵#！是的，你没看错！一些被认为是顶级的AI模型竟然能在阴沟里翻船。最近，Claude聊天 机器人 的开发商Anthropic进行了一项研究表明，“越狱“这些顶级大型语言模型竟然如此容易，只需变换一下拼写或故意搞点小错误就足以骗过它们。工程师利用算法通过不同变体文本对AI语言模型进行反复刺激，包括字母大小写，错别字，语法错误等，比如用英语 ...

近期，人工智能安全领域的一项新研究引发了广泛关注。据404 Media报道，人工智能公司Anthropic联合牛津大学、斯坦福大学和MATS的研究人员，共同揭示了大型语言模型（LLM）的安全防护措施存在的显著脆弱性。令人担忧的是，这些防护措施不仅容易被绕过，而且绕过过程甚至可以自动化。

由北京图书大厦、北京大学出版社主办，北大博雅讲坛、文汇讲堂工作室承办的北大博雅讲坛624期“Sora带来的超人类时空感知暨《对话时代》新书研讨讲座（北京专场）”现场 ，提问听众与嘉宾们同框留念 ...

英伟达在AI工作负载市场占主导地位，这得益于其在硬件、软件和网络方面的“三头龙”战略。 谷歌、亚马逊、Meta以及微软等巨头持续投资数据中心，表明“规模扩张”并未过时。

近期，OpenAI在其官方GitHub仓库中发布了一个可在以ESP32为代表的 微控制器 上使用 Open Realtime API的SDK，该项目已在ESP32-S3和Linux上开发并测试，开发者可以直接按照指引使用。

Radical Ventures是AI独角兽Cohere的首位投资者，该公司当前估值高达55亿美元。2024年8月，Radical新募集了近8亿美元资金，创建了同类中最大的人工智能基金。其投资者包括谷歌前CEO Eric Schmidt的家族办公室、 ...

在人工智能的安全战场上，人工智能公司Anthropic最近的一项研究就像是一剂强心针，让我们看到了大型语言模型（LLM）的脆弱一面。根据404Media的报道，Anthropic揭示了OpenAI的GPT-4、Claude3.5等当前最前沿AI模型在防护措施上的漏洞，甚至到了可被自动化绕过的地步。

IT之家 12 月 21 日消息，意大利数据保护机构 Garante 周五发布公告，在结束调查生成式 AI 应用使用个人数据情况后，发现 OpenAI 在训练 ChatGPT 时未遵循数据隐私规定， 对其处于 1500 万欧元（IT之家备注：当前约 1.14 亿元人民币）的罚款。