链（Chains）通常将大语言模型（LLM）与提示（Prompt）结合在一起，基于此，我们可以对文本或数据进行一系列操作。链（Chains）可以一次性接受多个输入。例如，我们可以创建一个链，该链接受用户输入，使用提示模板对其进行格式化，然后将格式化的响应传递 ...

机器之心报道机器之心编辑部2024 年，是 AI 领域让人兴奋的一年。在这一年中，各大科技公司、机构发布了数不胜数的研究。从年初的 Sora，到年尾 DeepSeek-V3，我们见证了 AI ...

本项目针对专有资料库，通过检索返回相关文档，并基于检索结果优化提示词，调用LLM生成答案（包含智谱AI与讯飞星火两种 ...

NVIDIA 的 TensorRT-LLM 现在支持具有飞行批处理功能的编码器-解码器模型，为 AI 应用提供优化的推理。探索 NVIDIA GPU 上生成式 AI 的增强功能。 NVIDIA 宣布对其开源库 TensorRT-LLM 进行重大更新，现在包括对具有飞行批处理功能的编码器-解码器模型架构的支持。根据 ...

NVIDIA的TensorRT-LLM现在支持Apple的ReDrafter，通过投机解码优化大语言模型推理，在NVIDIA GPU上提供显著的性能提升。 NVIDIA已将Apple的ReDrafter，一种创新的投机解码技术，集成到其TensorRT-LLM库中以增强大语言模型（LLM）推理。据NVIDIA的官方博客，此次合作旨在优化NVIDIA ...

近日，Meta田渊栋团队提出了针对LLM推理任务的新范式：Coconut（ Chain of Continuous Thought）。 论文一作是来自UC San Diego的Shibo Hao，对于文章的爆火，田渊栋也发文感谢了「小天才」Tanishq Mathew Abraham的推荐。

国产大模型DeepSeek在全球火了，并带火了一个95后AI“天才少女”罗福莉。她曾在DeepSeek参与了DeepSeek-V2的研发，是这款模型的关键开发者之一。据证券时报报道，雷军亲自出手挖人！据悉支付的薪酬，在千万元级别。

大型视觉语言模型（LVLMs）的进步显著提升了多模态理解能力，但在视频推理任务中仍面临挑战，主要原因是高质量、大规模数据集的缺乏。现有的视频问答（VideoQA）数据集往往依赖于成本高昂且粒度不足的手动标注，或者使用会产生冗余帧分析的自动构建方法 ...

有人认为，只要LLM变得足够大，就会孕育出AGI。CoT(chain-of-thought)提示就是一个例证，它说明LLM可以将一个问题分成更小的步骤，方便解决，也可以让LLM分步解决问题，可惜的是CoT在小模型中表现不太好。 LLM模型的局限性，与大脑的“世界模型” OpenAI开发的o1模型 ...

有人认为，只要LLM变得足够大，就会孕育出AGI。CoT（chain-of-thought）提示就是一个例证，它说明LLM可以将一个问题分成更小的步骤，方便解决，也可以让LLM分步解决问题，可惜的是CoT在小模型中表现不太好。 LLM模型的局限性，与大脑的“世界模型” OpenAI开发的o1 ...

OpenAI同时宣布o3 mini。它是由o3蒸馏而成的小模型，并为程序撰写优化速度。OpenAI计划2025年初陆续部署o3系列模型，包括开放公测。o3 mini将是第一个问世的o3模型，预计2025年初公开使用。目前该公司已开始OpenAI ...

近期，西湖大学的MAPLE实验室提出了一种全新的图像生成优化方法，称为图像链CoT（Chain of Thought）。该方法与OpenAI最近在大语言模型（LLM）上推出的强化微调技术（Reinforcement Finetuning, ...