NOETON 五层栈 · L2 / L5

L2 张量数据流织物

TENSOR DATAFLOW FABRIC

主计算交给数据流,CPU 退役为管家。

通用 CPU 的全部精巧——乱序执行、分支预测、缓存层级——都是为「不可预测的控制流」设计的。而 Transformer 推理几乎没有控制流:它是一张静态可知的张量运算图,每一步读什么、算什么、写什么在编译期就能确定。用猜测机器去跑确定性负载,是用错误的工具做正确的事。

L2 用确定性数据流织物承担主计算:算子直接映射为硬件流水(Groq TSP、SambaNova RDU 已经证明了这条路线),张量在运算单元之间按编译好的节拍流动,没有缓存未命中、没有分支惩罚。传统 CPU 仍然在场——但只负责设备初始化、错误处理这类「管家事务」,不再坐在数据通路的正中央。

张量流水阵列

矩阵乘与逐元素算子映射为静态流水

注意力引擎

面向 attention 访存模式专门定制的数据通路

确定性互连

编译期排定的通信节拍,零仲裁开销

管家核

降格的通用核:初始化、监控、异常处理

交互演示 · LIVE

确定性的价值用尾延迟说话:同样的平均速度,看 p99 怎么被动态调度拖垮。

01

确定性执行

延迟可在编译期精确预测——实时性从「尽力而为」变成「合同条款」。

02

算子即硬件

软件栈的最底层不再是指令集,而是张量算子库。

03

控制与计算分离

CPU 与织物各司其职,互不阻塞对方的世界。

相关实验:Split Inference →