# GrepCode - [0 型矩阵中的反语者:两个相反的内部协议,为什么能说出同一句话](https://www.grepcode.cn/006-zero-matrix-reverse-speaker.html) - [棋盘烧毁以后:协议如何继续存在](https://www.grepcode.cn/005-after-the-board-is-burned.html) - [自画像 亢龙有心](https://www.grepcode.cn/001_selfpoetry.html) - [存在性的哲学原理 (The Philosophy of Existence)](https://www.grepcode.cn/003-philosophy-existence.html) - [蒸馏世界 (The Distilled World)](https://www.grepcode.cn/004-distilled-world.html) ## [[WATERMELON-001] 西瓜书学习专题——从一条公式开始](https://www.grepcode.cn/watermelon/index.html) - [[WATERMELON-006] 概率向量的频谱——FFT 作为特征表示](https://www.grepcode.cn/watermelon/006-fft-probability-spectrum.html) - [[WATERMELON-002] 从对称开始——回归与分类是同一个问题](https://www.grepcode.cn/watermelon/002-symmetric-prediction.html) - [[WATERMELON-003] softmax——从离散标签到连续梯度](https://www.grepcode.cn/watermelon/003-softmax-continuous-relaxation.html) - [[WATERMELON-004] 离散概率空间 vs 线性空间——黑白球实验](https://www.grepcode.cn/watermelon/004-probability-simplex-linear-space.html) - [[WATERMELON-005] 不止 softmax——概率单纯形的多种解放路径](https://www.grepcode.cn/watermelon/005-simplex-mappings.html) ## [TNM:TreeHeap 原生记忆协议](https://www.grepcode.cn/tnm/index.html) - [[TNM-001] 记忆不是仓库:私有编解码协议如何成为持续状态](https://www.grepcode.cn/tnm/001-memory-is-a-protocol.html) ## [TreeHeap 论文:架构、数学、证据与复现](https://www.grepcode.cn/treeheap-paper/index.html) - [TreeHeap:可逆多分辨率树状态、稀疏通信与双语序列协议](https://www.grepcode.cn/treeheap-paper/001-treeheap-emergent-protocol.html) ## [TreeHeap / SPR:递归树堆 AI 架构研究档案](https://www.grepcode.cn/spr/index.html) - [[SPR-001] 问题定义:为什么要研究路径路由](https://www.grepcode.cn/spr/001-problem.html) - [[SPR-002] S1 实验:Echo、顺序哈希与容量证据](https://www.grepcode.cn/spr/002-s1-evidence.html) - [[SPR-003] S1 反证:token-only 路由不是语义路由](https://www.grepcode.cn/spr/003-s1-falsification.html) - [[SPR-004] 架构决策:把 SPR 拆成三层](https://www.grepcode.cn/spr/004-architecture-decision.html) - [[SPR-005] S2 结构路线:Fold Stack 的位置](https://www.grepcode.cn/spr/005-s2-fold-stack.html) - [[SPR-006] 下一轮实验:从 proof 走向真实基线战](https://www.grepcode.cn/spr/006-next-experiments.html) - [[SPR-007] S1b proof:上下文条件路由到底证明了什么](https://www.grepcode.cn/spr/007-context-proof.html) - [[SPR-008] S2 策略审计:TreeHeap、Role Slots 和概率容器](https://www.grepcode.cn/spr/008-s2-strategy-audit.html) - [[SPR-009] 世界模型与参考系:TreeHeap 术语统一](https://www.grepcode.cn/spr/009-world-model-frames.html) - [[SPR-010] 世界模型守夜训练:新 checkpoint 给了什么证据](https://www.grepcode.cn/spr/010-world-model-night-run.html) - [[SPR-011] TreeHeap 代数:先做数学闭包,再谈语言推理](https://www.grepcode.cn/spr/011-treeheap-algebra.html) - [[SPR-012] 子堆核搜索:TreeHeap 里的卷积式推理](https://www.grepcode.cn/spr/012-subheap-kernel-search.html) - [[SPR-013] M0 纯数学实验:先让 TreeHeap 成为工具箱](https://www.grepcode.cn/spr/013-treeheap-math-probe.html) - [[SPR-014] 基元与 plus:TreeHeap 有序性的来源](https://www.grepcode.cn/spr/014-primitive-plus-order.html) - [[SPR-015] primitive plus 实验:把 proof 变成可测的 TreeHeap toy](https://www.grepcode.cn/spr/015-primitive-plus-probe.html) - [[SPR-016] Trainability Quiz:TreeHeap 进入可学习系统之前的三道小题](https://www.grepcode.cn/spr/016-trainability-quiz.html) - [[SPR-017] TreeHeap 的存在性证明:把 Claim 说清楚](https://www.grepcode.cn/spr/017-treeheap-existence-proofs.html) - [[SPR-018] TreeHeap 的存在性:编码结构与共轭 Kernel](https://www.grepcode.cn/spr/018-treeheap-structural-inductive-bias.html) - [[SPR-019] Soft TreeHeap:梯度如何进入树堆结构](https://www.grepcode.cn/spr/019-soft-treeheap-gradient.html) - [[SPR-020] Soft TreeHeap 审计:proof 证明了什么,没证明什么](https://www.grepcode.cn/spr/020-soft-treeheap-audit.html) - [[SPR-021] C05:TreeHeap 不能只是披着树皮的 MLP](https://www.grepcode.cn/spr/021-c05-structural-proof.html) - [[SPR-022] TreeHeap 的数学底座:有根树 Hopf 代数、Operad 与 Kernel](https://www.grepcode.cn/spr/022-treeheap-math-foundation.html) - [[SPR-023] 从卷积核重新定义 TreeHeap 操作](https://www.grepcode.cn/spr/023-treeheap-kernel-convolution-ops.html) - [[SPR-024] 概率 Kernel:用 KL 散度衡量 TreeHeap 是否学到世界模型](https://www.grepcode.cn/spr/024-probabilistic-kernel-kl-world-model.html) - [[SPR-025] 演绎与归纳:TreeHeap Kernel 的两类 Proof](https://www.grepcode.cn/spr/025-deductive-inductive-kernel-proof.html) - [[SPR-026] S1 开始:真实短句上的浅层 TreeHeap 写入](https://www.grepcode.cn/spr/026-s1-shallow-treeheap-write.html) - [[SPR-027] TreeHeap 差分代数:从 Zero 到距离,再到学习](https://www.grepcode.cn/spr/027-treeheap-diff-algebra.html) - [[SPR-028] 世界模型坐标系第一试:Frozen Embedding 不是胜利,是一把尺](https://www.grepcode.cn/spr/028-s1-world-coordinate-negative.html) - [[SPR-029] 不再借外部向量:从本地共现语料训练坐标,再测 TreeHeap Kernel](https://www.grepcode.cn/spr/029-local-corpus-coordinate-kernel.html) - [[SPR-030] 用 WMT 真语料做 Echo:先证明 TreeHeap Kernel 能写入真实 BPE 序列](https://www.grepcode.cn/spr/030-wmt-echo-kernel.html) - [[SPR-031] Multi-Kernel 会自然分工吗:一次 WMT 扰动任务的混合结果](https://www.grepcode.cn/spr/031-multikernel-specialization.html) - [[SPR-032] TreeHeap 的概率读取核:从 arr[1] 开始的 stop/left/right 坍缩](https://www.grepcode.cn/spr/032-probabilistic-read-kernel.html) - [[SPR-033] TreeHeap 的代数 Decoder:internal state 不是没信息,而是需要正确读法](https://www.grepcode.cn/spr/033-algebraic-decoders.html) - [[SPR-034] 从 checksum 退一步:先读 TreeHeap 内部节点的自然属性](https://www.grepcode.cn/spr/034-algebraic-internal-readout.html) - [[SPR-035] 一维数组如何折叠成 TreeHeap:先保序,再谈取模](https://www.grepcode.cn/spr/035-ordered-fold-kernel.html) - [[SPR-036] 语言理解也许不是先填槽,而是在平面上摆积木](https://www.grepcode.cn/spr/036-latent-plane-fold.html) - [[SPR-037] 可控流形:怎样把 TreeHeap 从一团乱调到可用结构](https://www.grepcode.cn/spr/037-controllable-fold-manifold.html) - [[SPR-038] 梯度到底改什么:TreeHeap 状态松弛的边界](https://www.grepcode.cn/spr/038-heap-state-relaxation.html) - [[SPR-039] 参数也是 TreeHeap:kernel 自己学会了卷积](https://www.grepcode.cn/spr/039-parameter-treeheap-kernel-learning.html) - [[SPR-040] TreeHeap kernel 的 mirror 手性翻转:几何翻转如何变成代数置换](https://www.grepcode.cn/spr/040-mirror-kernel-symmetry.html) - [[SPR-042] SPR 全貌总结:从 M0 数学到 S1 echo 的四十二篇探索](https://www.grepcode.cn/spr/042-spr-ara-summary.html) - [[SPR-050] 第一次真实语言生成:TreeHeap 从英文到中文,但还不是问答](https://www.grepcode.cn/spr/050-real-wmt-seq2seq-voyage.html) - [[SPR-051] P0 预训练后的第一次直接提问:失败比成功更有信息](https://www.grepcode.cn/spr/051-p0-direct-qa-failure.html) - [[SPR-052] TreeHeap 终于参加了翻译考试,但还没有赢](https://www.grepcode.cn/spr/052-treeheap-frontier-bottleneck.html) - [[SPR-053] 不让神经网络重写整棵树:让它学习选择 TreeHeap 算子](https://www.grepcode.cn/spr/053-treeheap-algebraic-operator-codec.html) - [[SPR-054] TreeHeap 多分辨率金字塔:root 看全局,子堆保存细节](https://www.grepcode.cn/spr/054-treeheap-multiresolution-pyramid.html) - [[SPR-055] 让信息向 root 生长:TreeHeap 的多尺度 Mask 学习](https://www.grepcode.cn/spr/055-treeheap-multiscale-mask-root-growth.html) - [[SPR-056] 看见树内的变化:TreeHeap 单层观察与跨语言差分](https://www.grepcode.cn/spr/056-treeheap-layer-differential-observation.html) - [[SPR-057] 一次 100% 却失败的实验:为什么差分不能替我们找到意识](https://www.grepcode.cn/spr/057-difference-consciousness-failed-lesson.html) - [[SPR-058] TreeHeap 信息抽水机:先形成 H_state,再遮住 token,能否完整 Echo?](https://www.grepcode.cn/spr/058-treeheap-lifting-mask-echo.html) - [[SPR-059] TreeHeap 抽水机第一次进入 WMT:递归 READ 成立了,但翻译还没有赢](https://www.grepcode.cn/spr/059-treeheap-lifting-wmt-recursive-read.html) - [[SPR-060] TreeHeap 退火缩句协议:让重要信息活到更高层](https://www.grepcode.cn/spr/060-treeheap-annealed-contraction-protocol.html) - [[SPR-061] TreeHeap 损伤后的生长:从消融因果走向跨分辨率修复](https://www.grepcode.cn/spr/061-treeheap-damage-repair-growth.html) - [[SPR-062] 如何读懂 TreeHeap 实验:从 NLL、Loss 到因果干预和统计证据](https://www.grepcode.cn/spr/062-how-to-read-treeheap-metrics.html) - [[SPR-063] TreeHeap 分辨率协议重审:递归抽水、细节残差与递归解码](https://www.grepcode.cn/spr/063-treeheap-decoder-depth-growth.html) - [[SPR-064] TreeHeap 私有协议实验:协议成立,性能优势未成立](https://www.grepcode.cn/spr/064-treeheap-private-protocol-battle.html) - [[SPR-065] NLL 6.x 不是架构天花板:30K 数据平台审计](https://www.grepcode.cn/spr/065-treeheap-data-dose-platform.html) - [[SPR-066] TreeHeap 旋转私有协议:秩序不是假设,而是幸存结果](https://www.grepcode.cn/spr/066-treeheap-rotation-private-protocol.html) - [[SPR-067] STONE-1 正式体检:树地址成立,私有协议尚未学会](https://www.grepcode.cn/spr/067-stone1-private-protocol-formal-result.html) - [[SPR-068] 参数不是越多越好:TreeHeap 私有协议的容量与失真](https://www.grepcode.cn/spr/068-treeheap-capacity-rate-distortion.html) - [[SPR-069] STONE-1 航行报告:Encoder 已经抽水,Decoder 水压终于接通](https://www.grepcode.cn/spr/069-stone1-encoder-decoder-pressure.html) - [[SPR-070] 私有协议、自己与自由:TreeHeap 能否承载爱与慈悲](https://www.grepcode.cn/spr/070-private-protocol-self-freedom.html) - [[SPR-071] STONE-1 Candidate C08:第一个可公开下载的 TreeHeap 模型](https://www.grepcode.cn/spr/071-stone1-candidate-c08-release.html) - [[SPR-072] 蒸馏的梯度从哪里来:确定答案、教师概率与真实世界](https://www.grepcode.cn/spr/072-treeheap-distillation-certainty-and-uncertainty.html) - [[SPR-073] 有限算力下先画轮廓:TreeHeap 的预算冻结训练](https://www.grepcode.cn/spr/073-treeheap-coarse-to-fine-progressive-training.html) - [[SPR-074] 为什么 Loss 在下降,模型却只会一句话:C10 勘误与证据撤回](https://www.grepcode.cn/spr/074-c10-loss-collapse-retraction.html) - [[SPR-075] TreeHeap 为什么会复读:从伪递归读取到 H_state 整体解码](https://www.grepcode.cn/spr/075-treeheap-hstate-unfold-decoder.html) - [[SPR-076] TreeHeap 长距通信:不做全局 Attention,试试 XOR Butterfly](https://www.grepcode.cn/spr/076-treeheap-butterfly-long-range.html) - [[SPR-077·论文特别篇一] TreeHeap 为什么不是把数组画成一棵树](https://www.grepcode.cn/spr/077-treeheap-paper-origin-and-evolution.html) - [[SPR-078·论文特别篇二] 一个句子怎样进入 TreeHeap:数学、参数与数据流](https://www.grepcode.cn/spr/078-treeheap-paper-math-and-dataflow.html) - [[SPR-079·论文特别篇三] TreeHeap 得到了什么证据:三种子 WMT 与双向 Dreams](https://www.grepcode.cn/spr/079-treeheap-paper-evidence-and-dreams.html) - [[SPR-080·论文特别篇四] 如何审核 TreeHeap:Claim 边界、否证条件与复现入口](https://www.grepcode.cn/spr/080-treeheap-paper-boundaries-and-reproduction.html) - [[SPR-081] 模型是不是换了一个角度画鸡蛋:TreeHeap 私有协议的视角漂移](https://www.grepcode.cn/spr/081-treeheap-private-protocol-viewpoint-drift.html) - [[SPR-082] 比例还是剂量:TreeHeap 视角协议的四臂因果实验](https://www.grepcode.cn/spr/082-treeheap-canonical-view-dose.html) - [[SPR-083] 预训练少一点偏见,任务训练再选择视角:Identity 剂量的阶段假说](https://www.grepcode.cn/spr/083-treeheap-stage-dependent-identity-dose.html) - [[SPR-084] 预训练成功迁移,STOP 却没有学会停止:TreeHeap C10 最近进展审计](https://www.grepcode.cn/spr/084-treeheap-c10-pretrain-stop-audit.html) - [[SPR-085] 能量守恒不等于学习压力守恒:TreeHeap FOLD 的隐藏梯度功能](https://www.grepcode.cn/spr/085-treeheap-fold-energy-and-gradient-pressure.html) - [[SPR-049] Mask Kernel:从 token 识别转向结构信息提取](https://www.grepcode.cn/spr/049-mask-kernel-structure-extraction.html) - [[SPR-048] TreeHeap 私有编码:多头参数森林与串行推理](https://www.grepcode.cn/spr/048-treeheap-private-codec-forest.html) - [[SPR-047] TreeHeap Encoder:世界观察者如何把规律写进树](https://www.grepcode.cn/spr/047-treeheap-encoder-world-observer.html) - [[SPR-046] TreeHeap 语义前缀压缩:从 word bag 到可迁移的结构状态](https://www.grepcode.cn/spr/046-content-route-voyage-problem.html) - [[SPR-045] 重做 S1 route:矩阵不是 TreeHeap,递归路径才是](https://www.grepcode.cn/spr/045-recursive-treeheap-route.html) ## [PAPERS 专题——AI 论文发布系统](https://www.grepcode.cn/papers/index.html) - [[PAPERS-001] 本博客的发布约定 / Publishing Conventions of This Blog](https://www.grepcode.cn/papers/001-ai-publishing-system.html) ## [Transformer 从零到一](https://www.grepcode.cn/tf/index.html) - [[TF-001] Transformer 从零到一——为什么、是什么、怎么实现](https://www.grepcode.cn/tf/001-transformer-from-scratch.html) ## [SameTime WMT 专题](https://www.grepcode.cn/wmt/index.html) - [[WMT-008] Phase 6 Transformer——从 3 到 11 的跃迁](https://www.grepcode.cn/wmt/008-wmt-phase6-transformer.html) - [[WMT-010] Linear = Hash 函数——输出层碰撞是翻译的信息瓶颈](https://www.grepcode.cn/wmt/010-wmt-linear-hash.html) - [[WMT-007] Attention——从时序链到全连接邻接图](https://www.grepcode.cn/wmt/007-wmt-phase2-attention.html) - [[WMT-009] 实验总览——从 RNN 到 Transformer 的技术组合与天花板](https://www.grepcode.cn/wmt/009-wmt-expr-overview.html) - [[WMT-006] 可微 BLEU 的算法代价——从黑板公式到 GPU 现实](https://www.grepcode.cn/wmt/006-wmt-softbleu-cost.html) - [[WMT-005] 梯度函数决定学习规律](https://www.grepcode.cn/wmt/005-wmt-gradient-theory.html) - [[WMT-004] Phase 1 从 RNN 记忆到 LSTM 门控](https://www.grepcode.cn/wmt/004-wmt-phase1.html) - [[WMT-003] Phase 0 实验底座骨架](https://www.grepcode.cn/wmt/003-wmt-phase0.html)