想象一下，Transformer 不仅能“记住”最重要的事情，还能主动“忘记”多余的细节，从而产生更智能、更快速、适应性更强的模型。该研究解决了 Transformer 基础模型缺乏选择性存储信息能力的问题。NAMM ...

DIFF ...

总部位于东京的创业公司Sakana AI的研究人员开发了一种新技术，使语言模型能够更有效地利用内存，帮助企业降低在大型语言模型 (LLM) 和其他基于Transformer的模型之上构建应用程序的成本。

近日,在甲子光年2024甲子引力年终盛典颁奖礼环节,RockAI CEO刘凡平凭借非Transformer架构大模型这一颠覆性创新、在大模型领域首倡以“群体智能”迈向通用人工智能以及带领公司快速发展的成就,入选“2024中国科技产业创新人物榜”。

此次 Liquid AI 获得由 AMD 领投的 2.5 亿美元融资，将进一步推动其技术研发和市场化进程。据 Liquid AI 联合创始人兼首席执行官 Ramin Hasani 透露，这笔资金将被用于扩大技术团队规模，并加速模型的行业落地。AMD ...

据报道，亚马逊推出了第三代AI训练芯片Trainum3。新款芯片是首款采用3nm工艺节点制造的AWS芯片，能效提高了40%，性能翻倍提升。苹果还在积极评估最新的AI芯片是否可用于预训练其AppleIntelligence模型，这无疑为AWS的AI芯片技术注入了更多的期待和可能性。

今日，清华大学交叉信息研究院长聘副教授，北极雄芯创始人马恺声宣布，北极雄芯“启明935A”芯片成功点亮并完成各项功能性测试，达到车规级量产标准。 “启明935A”并不是一颗芯片，而是一个家族系列。通过启明935 HUB ...

在一项基准测试中，Liquid AI开发的LFM模型跑赢了Meta和微软的流行模型，同时需要的内存更少。该公司推出的STAR新框架在与混合模型相比实现了高达37%的缓存大小减少，与Transformers相比则减少了90%。

再往后，就是人工智能时代了。尽管“人工智能”（AI）这一术语早在计算机领域广泛应用，但直到2020年前后，它才在生物医药领域真正得到重视，这一变革的关键推动力是AlphaFold等突破性模型的问世。

根据AI大模型测算昆仑万维后市走势。短期趋势看，该股当前无连续增减仓现象，主力趋势不明显。主力轻度控盘。中期趋势方面，上方有一定套牢筹码积压。近期筹码减仓，但减仓程度减缓。舆情分析来看，7家机构预测目标均价48.48，高于当前价19.97%。目前市场情绪极度悲观。

2017 年 12 月，他加入 DeepMind 担任研究科学家，并一直在此工作了 7 年。 目前 ... 论文《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》。