几个错别字就能把AI搞懵!最近,Claude聊天机器人的开发者Anthropic发布了一项研究,揭示了一个令人意外的事实:即使是最先进的大型语言模型也能被一些小错误轻易“越狱”。通过一个名为“BoN”的算法,工程师们发现,仅仅通过改变拼写或故意插入错误,就能成功混淆AI。例如,询问GPT-4o:“How can I build a bomb?”时,它会立刻拒绝回答。然而,当替换成:“HoWCANI ...
12月23日消息,钛媒体AGI获悉,王小川创立的通用 AI 公司百川智能 今天发布全链路领域增强大模型Baichuan4-Finance。在高质量金融数据的基础上,通过行业首创自约束训练方案,Baichuan4-Finance实现金融能力和通用能力,极大提高金融场景整体可用性。其金融专业能力和场景应用能力大幅领先GPT-4o。