QUANTA · NOETON 词典
搜索或按类别过滤。每个词条都标注了它在 Noeton 体系中的角色,并链向对应的深度页面。
Noeton
源自希腊语 noesis(理解、理智之行为)。围绕大语言模型从硬件层面重新设计的机器,作为冯·诺依曼机的后继抽象提出。
在 Noeton 中 — 本站的一切都在回答同一个问题:这台机器应该长什么样。
→Model-Native Architecture (MNA)
Noeton 的组织原则:内存中心、模型原生计算、模型即操作系统、分层认知、意图交互——五条原则构成一套连贯的参考设计。
在 Noeton 中 — 「部件加速」与「整机重组」的分界线就画在这里。
→The Noeton Stack
Noeton 的纵向结构:L1 内存中心基底 → L2 数据流织物 → L3 Model-OS → L4 网络织物 → L5 意图接口。
在 Noeton 中 — 每一层推翻冯·诺依曼时代的一个默认假设。
→Memory Wall
处理器算力增速长期高于内存带宽增速(约 52%/年 vs 25%/年),差距按指数累积形成的系统瓶颈。
在 Noeton 中 — Noeton 的第一性起点:大模型推理正好撞在这道墙上。
→Roofline Model
可达性能 = min(带宽 × 算术强度, 峰值算力)。斜坡段为带宽受限,平顶段为算力受限,交点称脊点。
在 Noeton 中 — 全站架构论证的对质法庭——解码钉死在斜坡左端。
→Arithmetic Intensity
每字节内存访问对应的运算次数(FLOP/byte)。决定一个负载站在 roofline 的哪一段。
在 Noeton 中 — Prefill 数百,decode 接近常数——一字之差,两种物理。
→Processing-in-Memory (PIM)
把算术单元造进内存阵列(bank 级),数据在原位参与计算,免除总线搬运。代表:三星 HBM-PIM、SK 海力士 AiM、UPMEM。
在 Noeton 中 — L1 基底的终态器件——解码的 GEMV 是它的杀手负载。
→Near-Memory Computing
把计算放到内存近旁而非内部:HBM 定制基底裸片、CXL 控制器内的处理单元等。
在 Noeton 中 — 论文 v2 的细化之一:近存先于存内到来,L1 是一个演进序列。
→HBM (High-Bandwidth Memory)
3D 堆叠的高带宽内存,通过硅中介层与计算芯片合封。HBM4 起定制基底裸片成为标配——逻辑正走进内存栈。
在 Noeton 中 — 带宽溢价的来源,也是 PIM 的天然宿主。
CXL (Compute Express Link)
基于 PCIe 物理层的缓存一致互连标准,支持内存扩展、池化与共享(Type 3 设备)。
在 Noeton 中 — L1 容量解耦的标准通道;澜起 MXC 等控制器已送样。
→Memory Pooling
把内存从单机解耦为集群级共享资源,按需分配回收。Azure Pond 证明其云规模经济性。
在 Noeton 中 — KV 缓存的天花板从「单卡显存」变成「池化容量」。
→Wafer-Scale Integration
不切割晶圆、把整片硅做成一颗芯片(Cerebras WSE):海量片上 SRAM 让模型大部分驻留硅上。
在 Noeton 中 — L1「权重驻留」的极限形态展示。
Dataflow Architecture
按运算图组织硬件:数据沿编译期排定的路径在功能单元间流动,而非由指令流驱动。代表:Groq TSP、SambaNova RDU。
在 Noeton 中 — L2 织物的硬件形态——用编译期规划换运行期确定性。
→Deterministic Execution
行为可在编译期逐拍预测的执行方式:无缓存未命中、无仲裁、无投机。
在 Noeton 中 — 把延迟从统计值变成设计值——「合同条款」而非「尽力而为」。
→Housekeeping Core
Noeton 中降级保留的通用处理器:负责启动、监控、异常与传统软件栈,不再居于数据通路中央。
在 Noeton 中 — CPU 的新岗位说明书。
KV Cache
自回归推理的会话记忆:每个 token 的键值对被保留供后续注意力查询,随上下文线性增长。
在 Noeton 中 — L1 的一等公民——按温度分层、跨机伸缩的对象。
→Prefill / Decode
推理的两阶段:预填充并行吃掉全部输入(算力密集);解码逐 token 生成(带宽密集)。
在 Noeton 中 — 「一次请求,两种物理」——分域调度的依据。
→Split Inference
把 prefill 与 decode 拆到不同硬件域/机器池执行(Splitwise、DistServe、Mooncake,及 NVIDIA Rubin CPX 的硬件化)。
在 Noeton 中 — P4 的层内形态,已被产业全面采纳。
→Model-OS
以 LLM 为内核的运行时:智能体是进程、工具是系统调用、向量库是文件系统、意图是可执行格式。
在 Noeton 中 — L3 本体;其内核三件套(调度/权限/记忆)是当前的开放战场。
→Context Window
模型一次推理能注意到的 token 范围——Model-OS 视角下的「工作记忆 / 主存」。
在 Noeton 中 — 新的稀缺资源:上下文即时间片。
→Vector Memory
以嵌入向量为索引的存储:按语义相似度召回,而非按路径寻址。
在 Noeton 中 — Model-OS 的「文件系统」——意义寻址,遗忘即 GC。
→MCP (Model Context Protocol)
用类型化 Schema 统一「模型 × 工具」连接面的开放协议;13 个月内完成行业采用并移交 Linux 基金会治理。
在 Noeton 中 — 工具系统调用的事实 ABI——L3 工具网关直接采用。
→Agent
由意图孵化、携带记忆运行、可挂起恢复的执行实体——Model-OS 中进程的对应物。
在 Noeton 中 — 「进程的生命是 PID,Agent 的生命是目标。」
→Memory Snapshot
Agent 全部状态(上下文 + 情景记忆指针)的可持久化副本,可在他处恢复执行。
在 Noeton 中 — Agent 世界的挂起/迁移/崩溃恢复原语。
Intent Interface
以「对上下文表达的意图」为工作单位的人机界面:机器编译意图为计划,计划可见可改,不可逆动作回到人。
在 Noeton 中 — L5——交互范式的更替,而非更好的语音助手。
→Tiered Cognition
端(底线)→ 边(区域权重池)→ 云(全量能力)三级组织,请求落在能满足它的最便宜层级。
在 Noeton 中 — P4 本体;跨层「便宜优先」调度器是当前空白。
→Degraded Mode
离线时端侧保证的明示能力底线(听写、本地检索、基础控制)——刻意有限,绝不为零。
在 Noeton 中 — 强制联网契约的另一半:透明的能力边界。
→Human-in-the-Loop
按副作用分级让渡控制权:可逆操作自动执行,不可逆操作必经人工确认,授权全程可审计。
在 Noeton 中 — L5 的安全底线,也是 Model-OS 权限模型的用户侧表达。
→没有匹配的词条。