近日,在甲子光年2024甲子引力年终盛典颁奖礼环节,RockAI CEO刘凡平凭借非Transformer架构大模型这一颠覆性创新、在大模型领域首倡以“群体智能”迈向通用人工智能以及带领公司快速发展的成就,入选 “2024中国科技产业创新人物榜”。

据报道，亚马逊推出了第三代AI训练芯片Trainum3。新款芯片是首款采用3nm工艺节点制造的AWS芯片，能效提高了40%，性能翻倍提升。苹果还在积极评估最新的AI芯片是否可用于预训练其AppleIntelligence模型，这无疑为AWS的AI芯片技术注入了更多的期待和可能性。

想象一下，Transformer 不仅能“记住”最重要的事情，还能主动“忘记”多余的细节，从而产生更智能、更快速、适应性更强的模型。该研究解决了 Transformer 基础模型缺乏选择性存储信息能力的问题。NAMM ...