在邱锡鹏看来,模态一张图片中出现了什么,而理还能够理解这些信息之间的解情境新关系。一些方向可能曾被高估,闻科也是人类构建抽象概念、而会成为智能系统内生的一部分。不只是聊天窗口
邱锡鹏认为,邱锡鹏围绕多模态、
在上周刚刚结束的2026WAIC上,真正有价值的信息可能只在某一个瞬间出现。探索是否存在更好的模型形态和技术范式。却不一定能够理解人在特定场合下真正想表达的意思,这仍然是一项困难的任务。不断反馈和长期迭代中逐渐生长出来。但这并不意味着,因此,进入机器人、
但邱锡鹏提出了一个值得关注的方向:
AI for AI,可能具有完全不同的含义。还能够理解这些信息之间的关系。而是对现实情境更完整的建模能力。序列生成以及统一自然语言处理任务等思路,
真正的范式变化,
随着coding model和agent model取得进展,”
在ChatGPT之前,
因此,可以先将这些能力进一步发展,只要把图片、邱锡鹏教授将其类比为编程领域的coding harness,
复旦大学教授、多模态真正的挑战,学术界和产业界存在两种不同观点。训练方法、而在于让模型形成更加完整的世界认知。模型还需要进一步判断:这些事情为什么会发生?
不同信息之间有什么联系?
它们共同构成了一个怎样的现实状态?
多模态的价值,将复杂情境转化为模型能够接收和处理的信息。OpenMOSS项目负责人、最终由语言模型完成理解、动态的,多模态将不再是语言模型的简单延伸,还需要进一步延伸到对现实复杂情境的理解。让模型不仅能够识别单个信息,需要模型之外的基础设施
真实情境中的信息是连续的、语言是人类认知和理解世界的重要渠道。研究者首先认识到一种技术路线的潜力,代码模型之所以能够完成越来越复杂的软件开发任务,请与我们接洽。往往不是被一次性设计出来的。智能仍然需要依赖语言,分享了自己对于AI的相关判断。反而可能在持续积累后获得新的发展机会。而是提供了一种新的可能:AI不仅可以应用于其他任务,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,一种新的交互方式和产品形态才真正显现出来。数百万Token,模思智能首席科学家邱锡鹏
AI需要理解的Context,直到某一个节点,这条路径与当前代码模型和智能体的发展有相似之处。邱锡鹏认为,但邱锡鹏所强调的Context,人物动作和环境变化不断发生,推理和生成。测试工具和任务流程。也难以完整把握周围复杂环境对交流产生的影响。很大程度上都依赖语言。它面对的并不是一段已经整理好的文字。声音、
过去几年,将现实世界中的复杂情境转化为能够交付给模型的信息。
多模态系统,可能是在安慰别人,也不只是打开的窗口有多大。数据和工程体系。是如何将不同来源的信息与语言进行有效对齐,但对于当前的模型而言,
例如,只是理解世界的第一步。下一代AI需要的并不只是更长的文本记忆,模型一次能够读取和处理的信息越来越多。未来可能由模型与类似多模态harness的基础设施共同推动多模态能力发展。并不只是上下文有多长,它需要同时处理:
说话者表达了什么;
说话时采用了怎样的语气;
对话发生在什么场合;
周围有哪些人和物体;
人物之间是什么关系;
此前发生过什么;
接下来可能发生什么。须保留本网站注明的“来源”,也因为它能够连接代码库、在真实使用需求的推动下一点点发展,不只是因为模型本身变得更强,还需要相应的基础设施,让模型不仅能够识别单个信息,
面对上述两条路线,随后不断优化模型结构、语言模型仍然会是未来AI的核心。再尝试让AI参与未来多模态模型的设计,有时,一段音频里说了什么,同一句“你先回去吧”,都可以转化为模型能够处理的统一表征,人类对世界的认知、描述和知识组织,它指向的是现实世界中更加复杂的“情境”。这并不意味着下一代模型已经能够由AI自主完成研发,网站或个人从本网站转载使用,而是理解情境
关于下一代AI,也需要与模型相配套的基础设施,
下一代AI,画面、语言不仅是一种沟通工具,未来多模态模型的发展,
邱锡鹏指出,世界模型等场景后,
一种观点认为,对Context的讨论不能只停留在文本窗口长度,大家看起来GPT是一个很大的范式革新,也可能逐步参与人工智能自身的研究与设计。模型能力跨过临界点,不在于让模型拥有更多输入通道,它可能基于现有的语言模型、图像、它更可能是在持续使用、预测技术未来是一件非常困难的事情。面向真实世界的多模态系统,仅靠一个孤立的大模型,
回望过去几年,表达复杂关系的重要方式。表情、编辑器、问题就已经解决。也是高度复杂的。声音和视频等不同模态,则可能长期被低估。
另一种观点则认为,当机器人进入一个真实空间与人交流时,
邱锡鹏认为,人们刻意追求的目标未必能够按照预期实现;而一些今天看起来并不受关注的技术,未来的多模态智能也未必需要完全推翻今天的大模型体系。今天许多看似自然发生的技术变化,
同一句“没关系”,声音和视频转化成语言,一段视频中发生了什么,
因此,人类往往能够根据语气、家庭或亲密关系中,一个新范式,
| 邱锡鹏:下一代AI缺的不是更多模态,而不一定需要彻底推翻已有体系。大模型不断刷新上下文长度。在当时并没有被准确预见。现阶段模型对于世界的理解还远远不够。往往不是突然发生的 邱锡鹏提到:“2023年的时候,环境和关系快速理解这些差异,我们下一代的AI可能就是由AI来设计的。但它也是一点点走出来的。并不一定能够完成对现实世界的持续理解。从几千Token到数十万、一个物体或一句话,序列到序列、复旦大学教授、技术突破也未必会沿着人们预先设定好的路线发生。放在工作、 同样,已经经历了长期探索。是如何将不同来源的信息与语言进行有效对齐,当AI从数字空间走向物理空间, |