Reader、compute、writer：缓冲区里的生产与消费

三段工作为什么分开

考虑逐块执行加一。Reader把输入从较远的存储位置搬到本地，compute读取本地输入并算出输出，writer把结果搬到目的地。三段分开后，有机会在计算当前块时准备下一块。真正难点是各段速度不同：计算还没读完，reader不能覆盖；writer还没写完，compute不能随意复用输出空间。

Circular buffer可以先理解为容量有限的先进先出区域。环形只说明物理位置会回绕，不说明读写一定安全。协议必须区分空闲空间、已预留但未完成的数据、已发布数据以及已消费空间。例一容量为二，连续放入10、20后已满；取走10才有位置放30，剩余消费顺序仍是20、30。

预留与发布是两次不同动作

Metalium的公开CB接口使用reserve/push和wait/pop等操作表达这些关系。预留空间使生产者获得写入位置；填入数据并满足搬运完成条件之后，才能发布可消费项。消费者先等待足够已发布数据，使用结束后再释放相应位置。不能把拿到地址理解为数据已经完成。具体到cb_reserve_back，它阻塞等待足够空位，本身不前移任何CB指针；实际发布与写入侧推进由cb_push_back完成。这里的“预留”也不是一个可让任意多个生产者并发抢占空间的通用锁。

// CB生产侧顺序示意，未在SDK/设备执行。
// in_cb已配置；reserve/push数量符合对应版本的容量约束。
cb_reserve_back(in_cb, 1);
const auto destination = get_write_ptr(in_cb);
// 在此提交写入destination的NoC读取，参数取决于地址生成器。
noc_async_read_barrier();
cb_push_back(in_cb, 1);

片段故意没有编造适用于所有版本的NoC地址构造调用。完整程序必须先正确发起搬运；barrier等待已提交操作，不能凭空生成数据。消费者侧相应地等待已发布tile，完成读取后pop。实际kernel还需要配置一致的CB编号、格式、页面大小与处理数量。

NoC是通信路径，不是全局共享变量

NoC把数据在芯片节点间移动。一次异步搬运提交后，生产者需要知道什么时候目标本地数据可用，才可以通知compute。通知过早会让计算读到旧数据；过晚可能降低重叠。例二用reserved、transferred、published三个布尔状态展示这种先后关系，不模拟网络延迟、带宽或硬件流控。

NoC请求中的地址、长度和目标buffer容量也都是合同。元素数量和字节数量混淆，常导致只复制部分tile；配置两页但按三页发布，可能导致指针与可用量错位。调试时从一块tile开始，核对生产数、消费数及每次状态变化，比一开始运行整个矩阵更容易定位。

有限容量会改变程序能否前进

假设输入和输出buffer都只有一页，compute只有在输出有空位时才能完成工作。如果writer等待一个永远不会到来的额外tile，输出空间一直不释放，compute停住，reader也可能最终停住。这不是“设备慢”，而是等待图中出现了无法满足的条件。

分析死锁时逐段列出正在等待什么、由谁产生、总共应该生产多少。把所有buffer变大也许掩盖问题，却不修复数量或依赖错误。正确协议应在规定容量和边界规模下仍能结束；随后才用设备trace与profiling评估吞吐。

当前能验收什么

本章CPU模型检查FIFO顺序与发布条件，未执行线程、NoC或Metalium。它提供一种读代码的方法：每次找到reserve就追问谁填数据，找到push就追问数据是否完成，找到pop就追问最后一次使用是否结束。能逐项回答后，再去阅读对应版本的完整reader/compute/writer示例。

// Original CPU teaching model; not a device simulator or benchmark.
#include <iostream>
#include <array>
#include <cstddef>
#include <stdexcept>

void require(bool ok) { if (!ok) throw std::runtime_error("model check failed"); }

int main() {
 std::array<int,2> slots{}; std::size_t head=0,tail=0,count=0;
 auto push=[&](int v){require(count<2);slots[tail]=v;tail=(tail+1)%2;++count;};
 auto pop=[&](){require(count>0);int v=slots[head];head=(head+1)%2;--count;return v;};
 push(10);push(20);const int a=pop();push(30);const int b=pop(),c=pop();
 require(a==10 && b==20 && c==30 && count==0);
 std::cout<<"order="<<a<<' '<<b<<' '<<c<<'\n';
}

clang++ -std=c++20 -Wall -Wextra -Wpedantic -Werror -pthread 39-a.cpp -o example && ./example

order=10 20 30

// Original CPU teaching model; not a device simulator or benchmark.
#include <iostream>
#include <stdexcept>

void require(bool ok) { if (!ok) throw std::runtime_error("model check failed"); }

int main() {
 bool reserved=true,transferred=false,published=false;
 const bool early=reserved && transferred;
 require(!early);
 int payload=7; transferred=true;
 published=reserved && transferred;
 require(published && payload==7);
 std::cout<<"early_publish=blocked consumer="<<payload<<'\n';
}

clang++ -std=c++20 -Wall -Wextra -Wpedantic -Werror -pthread 39-b.cpp -o example && ./example

early_publish=blocked consumer=7