TreeHeap 旋转私有协议:秩序不是假设,而是幸存结果

本文记录一次从危险直觉到受控实验的完整转向。最初的想法是:一棵有序树经过旋转,能否用很少的递归步骤观察很大的候选空间?实验确认这种结构可以高效复用,但也暴露出严重风险:如果把每次旋转都复制成新树,逻辑空间会指数膨胀。于是我们把架构收紧为固定容量,只允许 subheap 在原地址池内旋转。随后两个实验回答了更重要的问题:旋转能否承载 encoder-decoder 私有协议,以及有用的秩序能否在没有秩序标签时由任务自己筛选出来。


1. 从两个有序切片说起

先看两个很小的有序片段:

[0, 1, 2]
[3, 4, 5]

它们不只是六个数字。每个片段还携带一个关系:后面的元素大于前面的元素。如果把它们分别写成有根树,再通过一个合法的组合算子连接起来,新的结构可能继续支持搜索、比较和分解。

这里最有价值的不是数字本身,而是秩序缩小了求解空间。如果查询目标是 4,我们不必逐个检查所有节点;只要每一步都能根据局部状态选择 stop / left / right,就可能沿一条路径坍缩到答案。

这给出了一个几何推理的直觉:

局部有序结构
  -> 合法旋转或组合
  -> 更大范围仍然保留可用关系
  -> 一个局部 kernel 可以递归复用

但直觉里藏着两个完全不同的问题:

  1. 旋转能否扩大可观察范围
  2. 旋转是否必须扩大物理内存

第一件事可能有价值,第二件事必须被严格限制。


2. 第一条路为什么危险

最初的递归构造可以写成:

$$ H_{n+1}=\operatorname{CAT}\left(H_n,R_n(H_n)\right) $$

其中,$R_n$ 是第 $n$ 轮旋转,CAT 把原树和旋转后的树连接起来。若每一轮都保留两个副本,逻辑候选数近似翻倍:

$$ N_n \approx 2^n N_0 $$

这很诱人。递归 16 次,就能描述两百多万个逻辑候选。但如果把每个候选都实体化,内存同样会迅速耗尽。一个“搜索很快”的算法,如果靠无限复制内存换取速度,并不是真正的低成本推理。

我们做了一个边界实验。它在规则、保序、可懒展开的旋转轨道上得到:

指标 结果
最深层逻辑候选数 2,031,616
测试查询数 52,898
确定性查询准确率 1.0000
学习 kernel 的 OOD 最低准确率 1.0000
逆变换准确率 1.0000
最深层 TreeHeap 平均比较次数 20.1682
无序扫描平均比较次数 1,014,613.8684
显式存储 / 懒存储比 32,247.873 倍
破坏秩序后的单路径准确率 0.0360

这个结果证明了一个窄结论:规则的保序轨道可以被紧凑表示,查询工作量随递归深度线性增长。

它没有证明“TreeHeap 免费搜索指数空间”。显式排序数组也能用对数次比较完成同类查询,只是需要保存全部数据。实验还专门设置了预算上限,超过上限时返回 BUDGET_EXHAUSTED,不允许继续扩容。

因此,指数 CAT 生长被归档为边界证据,不再作为运行时架构。我们保留旋转,删除无界复制。


3. 固定容量:旋转只能改变观察方向

新的架构只有一条硬规则:系统启动时获得容量为 $C$ 的节点池,此后任何旋转都必须留在同一空间内。

$$ R_{S,\phi}:\mathcal{H}_C\rightarrow\mathcal{H}_C $$

$S$ 是已有 subheap,$\phi$ 是一个有限、合法、可逆的地址置换。旋转前后必须满足:

节点数不变
容量不变
subheap 外部状态不变
R_inverse(R(H)) = H
不申请新的 TreeHeap 节点

以最小三节点树为例:

      A
     / \
    B   C

正常地址顺序是 [A, B, C],mirror 后是 [A, C, B]。设局部卷积 kernel 为:

$$ u=w_0 A+w_L B+w_R C $$

镜像后,同一个 kernel 看到的是:

$$ u'=w_0 A+w_L C+w_R B $$

数据没有被复制,变化的是“哪个状态位于 left,哪个状态位于 right”。随后用逆置换把结果写回原坐标。这样,旋转就不再是扩容器,而是一个固定内存中的观察坐标变换

整棵树上的传播写成:

$$ H_{t+1}=\operatorname{ApplyAllSubheaps} \left(H_t,K_\theta,R,g\right) $$

其中 $K_\theta$ 是共享局部 kernel,$g$ 是是否启用某个旋转的 gate。经过 $t$ 轮,信息大约传播 $t$ 个结构跳数。增长的是感受野,不是节点池:

$$ \text{space}=O(C),\qquad \text{time}=O(T_{\max}C\cdot \operatorname{cost}(K)) $$

$C$ 和 $T_{\max}$ 都是硬上限。达到上限仍然没有答案,就返回 UNRESOLVED。拿不到的解不是系统故障,而是接受有限算力的客观边界。


4. 旋转如何成为私有协议

TreeHeap 的参数和运行状态需要分开说清楚:

H_state:当前样本写入后的 TreeHeap 状态
theta:kernel、gate、读写器中的可学习参数
R:合法的结构旋转算子

encoder 可以执行一段旋转程序,再通过 FOLD 把输入写进 $H_{state}$:

$$ H_{state}=E_{\theta_E}(X;R_1,\ldots,R_m) $$

decoder 不需要让人类看懂中间状态,只要能学习对应的逆程序,再用 UNFOLD 读回目标:

$$ \hat X=D_{\theta_D}(H_{state};R_1^{-1},\ldots,R_m^{-1}) $$

训练损失可以只看最终 echo:

$$ L_{echo}=\lVert \hat X-X\rVert_2^2 $$

这像每个人不同的笔迹。纸上的轨迹可以不同,但只要写和读形成了稳定配对,协议就能工作。私有协议不是“无法验证”,因为我们仍能检查:原配是否成功、交叉配对是否失败、破坏一个旋转是否增大损失、地址和内存是否保持合法。

固定协议实验

实验使用容量 127、每节点 4 维状态的 TreeHeap,并注册 6 个相互重叠的 subheap mirror 算子。两个 encoder 使用不同的 6-bit 旋转程序:

程序 A = [1, 1, 0, 1, 0, 1]
程序 B = [0, 1, 1, 0, 1, 1]

decoder 只有 6 个可训练 gate logit。它不知道正确程序,只能通过 echo MSE 学习逆变换。

检查 程序 A 程序 B
学到的 bit 是否完全匹配
原配 echo MSE 0 0
交叉协议 MSE 2.012999 2.012999
单 bit 错误 MSE 2.012695 0.471290
逆序执行 MSE 0.440443 0

状态形状始终是 [2048, 127, 4],没有增加一个节点。gate 也明显硬化:启用项约为 0.9950.997,关闭项约为 0.003

这里出现了一个重要修正。程序 A 的有效算子不交换,因此执行顺序是协议的一部分;程序 B 的有效组合恰好顺序等价,因此正序和逆序都能解码。结论不是“递归一定依赖顺序”,而是:

只有当被选中的结构算子彼此非交换时,顺序才携带额外协议信息。

这个实验支持“固定容量旋转可以承载私有协议”,但 encoder 程序是人工固定的。它还没有解释有用的秩序从哪里来。


5. Echo 不会自动产生秩序

这是本轮最关键的理论分界。

如果 encoder 使用任意可逆置换 $R$,decoder 使用精确逆变换 $R^{-1}$,那么:

$$ R^{-1}(R(H))=H $$

不论 $R$ 是否保留父子关系,echo 都可以是零误差。因此:

可逆性 != 秩序
能 echo != 学会有用结构
私有协议存在 != 私有协议具有推理价值

只训练 echo 时,一套漂亮的保序编码和一套完全混乱的加密式编码可能同样优秀。要让秩序出现,数据和任务必须给它提供选择压力。

这也修正了“旋转后天然保序”的说法。旋转只是候选操作。保序不是预设奖励,而应当是非保序候选在具体环境中表现更差以后留下的结果。


6. 不告诉模型秩序,让环境选择

我们构造了一个固定种群,共 24 个容量相同的候选旋转:

候选组 数量 特征
exact 6 精确保留父子边的树自同构
mild 6 轻微破坏父子关系
random 12 在同一深度内随机置换

训练 loss 中没有“保序”“边正确”或“路径前缀”标签。模型只需要用共享局部 decoder,根据 parent、sibling 和 children 恢复被遮住的节点。gate 根据这个预测误差选择候选旋转。

为了区分真正的结构选择与优化器偶然偏好,实验使用两个世界。

结构世界

子节点与父节点相关:

$$ x_{child}=\rho x_{parent}+\sqrt{1-\rho^2}\,\epsilon, \qquad \rho=0.92 $$

父子边保存了可用于预测的信息。破坏边会让局部 decoder 更难工作。

IID 世界

取 $\rho=0$,所有节点互相独立。此时父子关系没有预测价值,exact、mild 和 random 理论上应该近似打平。

单个 seed 的结果一度令人困惑:结构世界几乎全选 exact,但 IID 世界也把 90.59% 的 gate 质量压到了 exact。我们没有把它包装成成功,而是登记为 7/8 gate 通过,并怀疑 gate 与 decoder 的共同训练产生了“先领先者锁死”的中性漂移。

随后按预注册方案运行 8 个随机种子:

1, 7, 19, 42, 73, 99, 314, 2026

8-seed 结果

指标 结果 应如何理解
结构世界 exact winner 8 / 8 每个 seed 都选择保边变换
结构世界 exact gate mass 均值 0.999657 质量几乎全部集中到 exact 组
结构世界 exact gate mass 最小值 0.999215 最差 seed 仍超过 99.92%
边保留率与 loss 的 Pearson -0.997404 越保边,loss 越低
IID winner 分布 2 exact / 1 mild / 5 random 没有稳定偏爱 exact
IID exact gate mass 均值 0.283272 接近初始占比 6/24 = 0.25
IID exact-random loss 差 0.000992 三组实际上近似打平
IID 边保留率与 loss 的 Pearson -0.018631 无结构关系
exact echo 最大逆变换误差 0 所有可逆协议都能无损 echo

九条预注册 gate 全部通过。

这个结果支持的不是“宇宙天然喜欢二叉树”,而是一个更具体的命题:

当数据的可预测关系沿 TreeHeap 父子边传播时,不含秩序标签的任务损失会稳定淘汰破坏这些关系的旋转;当数据没有这种关系时,选择退化为中性漂移。

这里的“秩序”不是数字升序,而是父子边、路径前缀和局部关系得到保存。秩序成为知识,是因为它减少了预测不确定性。


7. 这与 encoder、decoder 有什么关系

现在可以把三段证据连起来:

固定容量旋转
  -> 提供有限、可逆的结构编码候选

echo loss
  -> 让 encoder 与 decoder 学会彼此兼容的私有写法

结构预测 loss
  -> 从多种可逆写法中筛掉破坏有用关系的写法

剩下的旋转程序
  -> 成为既可解码、又保留任务相关结构的私有协议

这比“人工规定左边是主语、右边是宾语”更接近我们一直寻找的涌现路径。研究者规定的只是有限内存、合法算子、可微 gate 和任务;具体协议由 encoder 与 decoder 联合形成,结构价值由数据检验。

它也解释了为什么只做 token echo 不够。echo 负责可读回,结构预测负责读回之前不要把有用关系打乱。两者缺一不可。


8. 当前证据没有证明什么

这轮结果很强,但边界同样明确:

  1. 候选旋转来自固定的 24 个算子,模型还没有自己发明新的旋转公式。
  2. 数据是 Gaussian tree world,不是真实语言、图像或世界模型。
  3. exact 候选保留的是给定父子边,不代表现实任务一定应该使用这棵树。
  4. 实验没有证明 TreeHeap 比 Transformer、MLP、图网络或经典数据结构更快。
  5. 两百万逻辑候选实验不适用于密码破解,也不构成对加密算法的威胁证据。
  6. 旋转扩大的是固定内存中的观察范围,不允许解释为无限算力或无限答案。

尤其需要避免一个新的循环论证:先人工构造“正确树”,再证明保留这棵树最好。下一阶段必须让树的 placement、compose 与旋转共同面对真实数据,而不是把正确结构偷偷写进输入。


9. 下一阶段:让语言决定哪种旋转活下来

下一条可证伪路线应保持固定容量,不再申请外部 TreeHeap 内存:

  1. 从真实语料生成 $H_{state}$,禁止 decoder 旁路读取原字符串。
  2. 注册一组有限的 subheap 旋转和不同递归深度,仍不提供语法标签。
  3. 使用 echo、上下文预测或 seq2seq loss 联合训练 encoder gate 与 decoder。
  4. 比较结构候选、随机同深度置换和不旋转 baseline。
  5. 在训练后审计父子边、路径前缀、地址复用、OOD 深度与推理成本。
  6. 检查不同 seed 是否选择稳定关系,而不是复现一次 winner lock-in。

预期不应写成“语言必然选择 mirror”。更谨慎的 predict 是:

若 TreeHeap 的局部关系与语料中的可预测关系对齐,则结构保持更好的旋转程序应获得更低验证 loss、更稳定的多 seed 选择,以及更好的未见深度或未见地址外推;若随机置换同样有效,则旋转私有协议没有提供额外结构价值。

这条 predict 同时允许成功和失败。失败时,我们应该修改 placement、FOLD 或候选算子,而不是继续扩大内存寻找答案。


10. 航行结论

这轮工作把一个容易失控的想法变成了有限工程对象:

旧想法:旋转一次,复制一个新空间
新设计:旋转一次,重排固定 subheap

旧假设:合法旋转天然保序
新结论:可逆旋转只是候选,秩序必须被任务选择

旧证据:echo 可以恢复输入
新证据:echo 证明私有协议,结构预测证明协议保留有用关系

TreeHeap 旋转目前已经有三层受控证据:可逆、固定容量、可学习配对;非交换组合可以携带顺序;结构化环境会在多 seed 中稳定选择保留关系的候选。它还不是语言 encoder,也不是完成的智能系统,但已经不再只是一个几何比喻。

更重要的是,我们接受了一条工程伦理:一个算法越容易让人想无限递归,越需要先写死容量、轮数和失败返回值。有限不是遗憾。有限使实验可以复现,使系统可以停止,也使真正的结构收益不再被无限内存掩盖。

ARA 代码、预注册和原始 evidence 保存在 SameTime 仓库的以下目录:

ara/m0-treeheap-math/evidence/bounded_rotation_search_probe/
ara/m0-treeheap-math/evidence/fixed_capacity_rotation_protocol_probe/
ara/m0-treeheap-math/evidence/rotation_selection_evolution_probe/
ara/m0-treeheap-math/evidence/rotation_selection_multiseed_probe/

对应提交:8cf183df97f136b2af86a。项目公开仓库为 houming818/sametime

本文与相关代码沿用项目现有开源许可证。实验数字是受控 toy evidence,不应脱离边界宣传为真实语言、通用推理或密码学能力。