返回上一页

1221周观点:下一代模型范式与叙事的变化在于【记忆功能】


为什么近几个月市场对供应链加单信息提不起兴趣?因为AI没有叙事的变化。


2024年Scaling Law带来算力需求的非线性膨胀;


2025年CoT带来Tokens生成的非线性膨胀;


2026年记忆将带来内存需求的非线性膨胀。


1、现有大模型记忆的痛点:健忘(每次对话重置)、上下文限制、RAG局限。


记忆的形式:文本记忆(上下文、RAG,作为prompt喂给模型是目前的主流);参数记忆(将经验改在模型参数里,online/ nested learning都是如此);潜在记忆(推理过程中的临时状态)。


记忆的功能:事实记忆(慢变量,百科全书);工作记忆(上下文,临时缓冲,过程数据等);经验记忆(案例经验,通过案例RL)。


记忆的流程:记忆形成(从数据流中捕捉信息并写入存储);记忆检索(从海量数据中检索);记忆演化(参数化、快慢变量转化、遗忘删除)。


利好记忆的介质:DRAM、NAND、向量数据库。内存绝非库存周期,AI记忆功能带来约1EB/Day的需求增长,将很快消耗掉全球约35%的供给。


全文100多页,细节详询团队。


2、记忆功能的落地将带来AI叙事的变化。online/ nested learning将让模型具备在场景中迭代的能力,提升B端付费意愿。记忆功能将推动AI Agent的实现以及端侧的爆发。


3、26Q1内存价格涨幅约40%,超预期。北美消费电子龙头拿货价格26年全年涨幅88%,Q1约40%。国内互联网龙头拿货价格26Q1涨幅约40%。




(adsbygoogle = window.adsbygoogle || []).push({});

分享到:

关于 资讯

                         消息来自网络,本站观察员进行整理,龙头股|题材股掘金|受益股|概念股解析,传播信息价值!