大型语言模型 (LLM) 在自然语言处理 (NLP) 领域取得了显著进展，使其在文本生成、摘要和问答等应用中大放异彩。然而，LLM 对令牌级处理（一次预测一个词）的依赖也带来了一些挑战。这种方法与人类的交流方式形成对比，后者通常在更高层次的抽象层面运作，例如句子或想法。

训练数据即将遭遇的瓶颈已悄然浮现。有研究机构预测，到2028年左右，用于训练AI模型的数据集典型规模将达到公共在线文本总估计量的规模。换句话说，AI可能会在大约4年内耗尽训练数据。与此同时，数据所有者（如报纸出版商）开始打击对其内容的滥用行为，进一步 ...

对 AI 研究者来说，数学既是一类难题，也是一个标杆，能够成为衡量 AI 技术的发展重要尺度。近段时间，随着 AI 推理能力的提升，使用 AI ...

研究人员警告，如果不加以监管，“意图经济”将把用户的动机作为新的交易货币，对那些瞄准、引导和出售人类意图的人来说，这将是一场“淘金热”。这种趋势可能对人类愿望产生重大影响，包括自由公正的选举、新闻自由和公平的市场竞争。 返回搜狐，查看更多 ...

IT之家 12 月 20 日消息，Meta 公司携手华盛顿大学和卡内基梅隆大学，组建科研团队，合作开发了 ExploreToM 框架， 旨在更有效地评估和训练大语言模型（LLM）的心智理论（Theory of Mind，ToM）能力。

SemiKong是由Aitomatic及其“AI联盟”（AI ...

训练数据即将遭遇的瓶颈已悄然浮现。有研究机构预测，到2028年左右，用于训练AI模型的数据集典型规模将达到公共在线文本总估计量的规模。换句话说，AI可能会在大约4年内耗尽训练数据。与此同时，数据所有者（如报纸出版商）开始打击对其内容的滥用行为，进一步 ...

Meta在今年7月的时候推出了AI Studio这一个基于Llama 3.1大模型而开发的功能，它允许用户创建个性化的AI助手。而根据Neowin、Futurism的报道，Meta高管在一次采访中表达了他们对AI ...

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。 投稿邮箱：liyazhou ...

IT之家12 月 20 日消息，Meta 公司携手华盛顿大学和卡内基梅 ... 是复杂社交互动的支柱。 让 AI 也具备 ToM 能力，对于创建能与人类无缝互动的智能体至关重要，只是当前大型语言模型（LLM）在 ToM 方面仍面临巨大挑战。 现有的基准通常缺乏复杂性和多样性，导致 ...

他曾在8年前的一次演讲中提出“自监督学习就像是人工智能领域的暗物质”这个说法，当时他的同事凯尔·克兰默（纽约大学高能物理学家）还指正说，用暗能量类比更合适，毕竟宇宙大部分质量是暗能量。

从各个方面来看，2024年对于AI科技而言都是迄今为止最为重要的一年——至少在技术商业化角度上是如此。