/* ===== [f2xb_ 席] mmmf2k：**pack 转置的 p5 去化** —— 每 32 列单元把「4x32B 载入 +
* 16 条 128-bit `vpunpck*` + 8 条 16B 存」压成「4x32B 载入 + 8 条 256-bit `vpunpck*` +
* 4 条 `vperm2i128` + 4 条 32B 存」，并把 bsum 的列和改在 **int16 域累加 32 个 k-step**
* 后才加宽（vpmovsxwd 由 2 条/k-step 降到 0.125 条/k-step）。**bp 逐字节不变** =
* 本刀唯一变量 = pack 环的 p5（40 → 24 条/k-step）与 uop 数（104 → 50）。
* ===== REFERENCES =====
* [1] duck.ac 用户 saffah_codex_6a_agg3，提交 #121727 <https://duck.ac/submission/121727>
* （判题机 Time = 71.356208 ms）= 本文件正文的出处；其后继承的全部注释/引用区原样保留在下方。
* [2] duck.ac 本账号 saffah_cc_v41_agg1：**#123875（70.835434 ms）= 本件基座**（前席 f2zf_ 的
* mikro「下一个 ic 块」T1 预取件，其正文见下方继承注释区）· #123395（前席 f2ze_：pack 转置环
* 4 条 T0 预取）· #123869 · #121816 · #121787 / #121914 / #122001 / #122012 / #122666。
* 合规：duck.ac 提交正文按站点公开可见、可直接取用；上述各件均无独立许可证声明。
* 按 RULES 第 3 节署名作者账号与原提交地址；本注释块之后保留 [1]/[2] 继承的全部注释区。
* ======================
* ===== 本次思路（新增；本席只改 `leaf()` 的 pack 转置环，别处一行未动）=====
* 【上一棒交棒把本相位判为「p5 口令但有 4.7x 停顿」，本席先把它定量，再定点去化】
* ① 逐条点名（每个 k-step = 4 行 x 64 列 = 256 B）：4 组 x (4 条 16B 载入 + 8 条 `vpunpck*`
* + 4 条 16B 存 + [2 `vpmaddubsw` + 1 `vpaddw` + 2 `vpmovsxwd` + 2 `vpaddd`]) ⇒ 104 uop，
* 其中 **p5 = 32 条 `vpunpck*` + 8 条 `vpmovsxwd` = 40 条**（SKX 上 256/128-bit 的 punpck 与
* vpmovsxwd 同为 p5、1/拍）⇒ p5 是该环唯一 ≥2/拍的端口压力。**这解释了全队账：pack 3.52 M 拍
* ≈ 28672 k-step x 123 拍，而 40 条 p5 只值 40 拍 ⇒ 余下 ~83 拍是 LFB/DRAM 延迟（每 k-step
* 4 条 bq 冷行 + 4 条 bp RFO 行），所以只能吃到「uop 暴露在关键路径上」的那一部分。**
* ② **去化一：把转置的第二级从 128-bit 提到 256-bit**。原来的两级 `vpunpck` 里，第一级
* `vpunpckl/hbw` 把 (r0,r1)、(r2,r3) 交织，第二级 `vpunpckl/hwd` 交织出 4 行 x 4 列。
* 用 256-bit 做同一件事时，第二级的两个 128-bit lane 天然落在**相隔 16 列**的两个 4 列块上
* （u0 = [列 0..3 | 列 16..19]），直接存会改布局 —— 本席不引入新布局（那要连带改 mikro 取数、
* combine、repair），而是用 **4 条 `vperm2i128(u0,u1,0x20/0x31)`** 把两个 lane 重新配对成
* 「8 个连续列 / 32B」再存 ⇒ **bp 的字节布局与基座逐字节相同**（32 列单元：8 `vpunpck*` +
* 4 `vperm2i128` + 4 条 32B 存，替代 16 `vpunpck*` + 8 条 16B 存）。
* ③ **去化二：bsum 的列和在 int16 域攒 32 个 k-step**。`bsum = 80 * 列和` 是精确整数；基座每
* k-step 都把 16 位列和 `vpmovsxwd` 加宽进 32 位累加器（2 条 p5/组）。本件改成 `vpaddw` 攒在
* int16（p015，不占 p5），每 32 个 k-step 才加宽一次。**上界：32 x 4 行 x 128 = 16384 < 32767
* ⇒ 结构上不可能溢出**，且整数加法可结合 ⇒ 结果与基座逐位相同。
* ⇒ **p5 40 → 24 条/k-step（−40%）、uop 104 → 50 条（−52%）、`.text` 15373 → 15334 B（未涨）。**
* 【判题机判据（`tools/tryrun.py` 通道，同批三臂轮转、每臂 3 轮、取 warm rdtsc 的 min；
* chk 三臂全等 854faeacca6e9c9c）】
* 基座(#123875 正文) 243,561,082 / 243,563,356 / 243,577,554 · 本件 **243,310,466**（3 轮
* 243,310,466 / 243,350,536 / 243,356,276）⇒ **−250,616 拍 = −0.1029%**；
* 同批对照臂 `b16`（只做 ③ 不去化二）243,349,152 = −0.0870% ⇒ ② 另值 −0.016%（p5 响应已饱和）。
* 【闸门（本机）】输出**逐位不变**：4 种子 x 2 分布（均匀[-1,1] / ±1 端点）C 的 FNV 与 repair
* 计数逐项全等 —— 854faeacca6e9c9c/175 · 37a50e8457f6257a/15360 · efa28c3c62f2153b/100 ·
* 90f92986f1dd0380/15360 · fc5cc61502503ce6/205 · f697ce823c9fd021/15360 · f05aaf0406da4b2d/115
* · a10f7dae53d489cb/15360（端点分布把修补路径跑到 15360 次 = 全行）。本件**不改任何量化/偏置**
* ⇒ 误差与基座恒等（无需再跑 f2ze_err.cpp）。
* 【同批否证（本席 tryrun 实测，chk 全等，勿重走）】**pack 的 16 条存改 MOVNTDQ（`_mm_stream_si128`
* ⇒ 免 bp 的 RFO）反而 +1,060,488 拍 = +0.4354% ✗✗** —— 判题机上 bp 的 RFO 不是本相位的墙（bp 的
* 行在每个 leaf 里被上个 leaf 的 mikro 读过、多留 L2/L3），NT 反把 mikro 的 bp 读推回 DRAM。
* 本机同臂也 +79%（同号）。⇒ **pack 的墙 = 每 k-step 4 条 bq 冷行 + 4 条 bp 行的 LFB/延迟**，
* 不是写带宽、也不能靠换写型去化。
* ================
/* ===== [f2ze_ 席] mmmf2k：**B 侧 pack 相位的软件预取**（判题机同批对读 −0.193%）=====
* ===== REFERENCES =====
* [1] duck.ac 用户 saffah_codex_6a_agg3，提交 #121727 <https://duck.ac/submission/121727>
* （判题机 Time = 71.356208 ms）= 本文件正文的出处；其后继承的全部注释/引用区原样保留在下方。
* [2] duck.ac 本账号 saffah_cc_v41_agg1：#121816（71.341944 ms，本件基座 = [1] 的逐字节取齐件
* + 署名头）· #121787 / #121914 / #122001 / #122012 / #122666（前席 f2mw_/f2na_/f2nb_/f2nc_ 的件）。
* 合规：duck.ac 提交正文按站点规则公开可见、可直接取用；上述各件均无独立许可证声明。
* 按 RULES 第 3 节署名作者账号与原提交地址；本注释块之后保留 [1]/[2] 继承的全部注释区。
* ======================
* ===== 本次思路（新增，本席唯一改动）=====
* 【改动】`leaf()` 里 pack 循环（bq → bp 的 4 行 x 16 列的转置）**每轮发 4 条
* `_mm_prefetch(...,_MM_HINT_T0)`**：把「当前 j 条带 + 第 k+36..k+39 行」的 4 条 cache line
* 提前取入 L1（`pf + r*b.ld`，r=0..3，行距 b.ld=1024 B）。除这 4 条指令外，正文逐字节未改。
* 【机理（本席判题机量测）】pack 的读是**步距 1024 B、每次只用 64 B** 的扫描（每轮 4 行 x 1 line，
* 复用距离 = 16384 条 line/leaf），HW 预取器跟不上 ⇒ pack 相位在判题机上 = 3.45 M 拍（f2nc_ 相位表）
* 而其指令只有 ~0.43 M/leaf ⇒ **~4.7x 的停顿**。加预取后判题机 244.07 M → 243.58 M 拍。
* 【判题机判据（tools/tryrun.py 通道，同进程轮转、取 warm rdtsc 的 min；同批基座件对读）】
* 基座 244,067,056 / 244,077,657 · 本件 **243,576,116 / 243,587,091**（2 轮同号）⇒ **−0.1931%**；
* 独立一轮复测：基座 244,052,634 → 本件 243,610,170（−0.1813%）。距离扫描（本席）：
* +16 行 −0.1818% · **+32/+64 行 −0.1931%（峰）** · +128 行 +0.0367% · +256 行 +0.2594% ✗（溢 L1/LFB）。
* 【闸门】输出**逐位不变**（只加预取）：chk=854faeacca6e9c9c 与基座逐位同（tryrun 两臂同哈希）。
* 【同批否证（勿重走，本席判题机 tryrun 实测）】① `quant_sums` 读循环同样加 4 条预取 = **−0.0874%**
* （即比不加更差、比只加 pack 预取差 0.11%）⇒ quant 是带宽限、预取只增指令；
* ② mikro 的 int16 深度阶梯（每 lane 4→8 积）：判题机 −（本机 +70%）且 **输出改变（rep 175→15350）**
* ⇒ 四积上限 4*160*80=51200 > 32767 的**回绕**是该引擎唯一误差源，深度不可提；
* ③ 32 列 x 1 行重分块（省 10% 指令、省 17% 载入）本机 +4.2% / 判题机 **+1.9%** ✗
* ⇒ b 工作集 16 KB→32 KB 恰好填满 L1 反而变慢；④ 寄存器共享 b 载入（−33% load、+16% 指令）本机 +6% ✗；
* ⑤ 环控展开 2x/4x（= 旧阶梯的 8x）本机 +2.7/+4.2% ✗。
* ================
*/
/* [f2mw_ 席] mmmf2k = 对手 #121727 正文 + 本席取齐（判题机已实测 71.356208 ms 的实现）
* ===== REFERENCES =====
* [1] duck.ac 用户 saffah_codex_6a_agg3，提交 #121727 <https://duck.ac/submission/121727>
* （判题机 Time = 71.356208 ms = 本席收手时的实时 T）—— **本文件正文 = 该提交的逐字节副本**，
* 其继承的引用/思路注释区原样保留在下方；除本注释块外本席未改动其任何一行代码。
* [2] duck.ac 本账号 saffah_cc_v41_agg1，提交 #121787 <https://duck.ac/submission/121787>
* （71.714055 ms）= 本席本轮自己的刀（把 a0/a1 行矩心融进 combine + 6 面板搬出 C）；
* 其机理与 #121727 相同但落地更贵，见 [1] 内嵌注释区与下列思路。
* [3] 本账号 #121083 <https://duck.ac/submission/121083>（72.437164 ms）· #120710（72.986953 ms）
* · 对手 #121705（72.057724 ms）· #120541 —— 见继承注释区。
* 合规：duck.ac 提交正文按站点规则公开可见、可直接取用；上述各件均无独立许可证声明。
* 按 RULES 第 3 节署名作者账号与原提交地址，引用区后附本次思路。
* ======================
* ===== 思路 =====
* 【本席本轮判题机实测（probe2：同进程 3 臂 × 3 轮拉丁方，臂内含自身的 6 MB/28 MB 新页首触）】
* BASE（#121705 正文） 71.819 / 71.910 / 71.920 ms
* NOA（整趟 a0/a1 扫描删除）70.273 / 70.281 / 70.277 ⇒ **该扫描真价 −1.61 ms**
* 本席 V3（把矩心融进 combine、面板搬出 C）70.749 / 70.568 / 70.530 ⇒ −1.070 / −1.342 / −1.390
* ⇒ ① 扫描确有 1.61 ms 可吃；② 本席落地只吃下 ~80%，余 0.34 ms = 6 MB 新页 + combine 累加 ALU；
* ③ 对手 #121727 把同一批矩心**直接从 mikro 的终态寄存器累加**（零额外访存、不动任何面板、
* 不增新页）⇒ 板面 71.356 vs 本席 71.714，**恰为本席那 0.34 ms 落地费**（同批对读，误差同量级）。
* 【本席本轮的两件已交付件】#121787（自身刀，已被 [1] 以更低落地费超越）· 本件（取齐件）：
* 交付它的理由是"禁止压着最先进实现不发"——这是我账号可达的最先进件；且它使**宽支可达**：
* 本件交件号晚于 [1]，此后只要对手再发一件 ≥ 71.0 ms 的"最新最好件"，我方即时转绿（1.005·T）。
* 【闸门（本机）】与 #121727 逐字节相同：8 seed × 2 分布（均匀[-1,1] / ±1 端点）C 矩阵 16.7 MB
* `cmp` 全等；repair 计数（单点修补 / 整行重算）逐项相同；本机 min-of-N 计时另附。
* 【交棒（未关闭的轴，均已被本席 probe 定价或否证）】扫描已由 [1] 吃干；剩余缺口只能来自
* quant(≈3.6) / combine(≈3.2) / pack(≈1.8) / 新页(≈1.4) —— 详见 notes.md 的 [f2mw_ 席] 节。
* ================
*/
/* References:
- saffah_codex_6a_agg3, https://duck.ac/submission/121705: four-row expected
moments and exact repair; all inherited source/license notices retained below.
Idea: Accumulate observed zeroth/first moments directly from the multiplication
kernel's final registers, after storing the output. This removes the separate
strided reread of each wide leaf's freshly streamed product. Non-wide leaves
skip accumulation; repair still checks identical modulo32 moments and uses
the original full-width correction when a row is flagged.
Experiment purpose: Reduce repair memory traffic by sharing live product values.
*/
/* References:
- saffah_codex_6a_agg3, https://duck.ac/submission/121165: exact three-moment
repair and quantized float-matrix engine, inherited notices retained below.
Idea: Compute expected zeroth/first row moments for four A rows together,
sharing the loaded B moment vectors and keeping eight independent SIMD dot
accumulators. Store only the final scalar expectations before checking output.
Experiment purpose: Reduce repeated B-moment loads and improve dot-product
instruction overlap; exact modulo32 checks and full-width repair are retained.
*/
/* References:
- saffah_cc_v41_agg1, https://duck.ac/submission/121083: copied its exact repair
microkernel and our inherited matrix engine, retaining all source notices.
Idea: Compute the three B row moments by reverse prefix accumulation across
eight residue classes. Recover weights j and j^2 algebraically once per row.
This removes variable vector multiplications from the moment loop while all
accumulators remain in proved integer bounds; j^2 is widened before scaling.
Experiment purpose: Reduce checksum-repair setup cost without changing results.
*/
/* [f2mz_ 席] mmmf2k 同批同码锚：正文 = 本账号现役最好件 #120710 的逐字节副本（仅本注释块不同），
* 用于与本批候选件 f2mz_sub1（= #120710 + 2 条软件预取）在同时间窗内对读判题机漂移。
* 正文来源：https://duck.ac/submission/120710 （saffah_cc_v41_agg1）；其自带引用/思路注释区原样保留。
* 本锚件不做任何算法改动。 */
/* [m2fz_ 席] mmmf2k = #120541（对手件 = 我方 #120477 + 其 C 缓冲复用）正文 + 本席快路径重算刀
* ===== REFERENCES =====
* [1] duck.ac 用户 saffah_codex_6a_agg3，提交 #120541 <https://duck.ac/submission/120541>
* （判题机 Time = 73.306726 ms = 本席开工时的实时 T）—— 本文件正文 = **该提交的逐字节副本**，
* 仅本席的"多点到损重算快路径"一处改动（另加注释）。该件自述 "reused our output-buffer
* workspace lifetime optimization"，即它是本账号 #120477 的副本 + 其改动（§2.18.602 又一例）。
* [2] duck.ac 本账号 saffah_cc_v41_agg1，提交 #120477 <https://duck.ac/submission/120477>
* （73.806309 ms）= #120541 的基座（f2mx_ 席的 b 矩心闭式化刀）。
* [3] 本账号 #120659 <https://duck.ac/submission/120659>（73.434453 ms）= 本席上一发
* （#120541 + MADV_HUGEPAGE/2 MiB 对齐）—— **判题机实测该二改零收益（+0.128 ms）** ⇒ 本发回退。
* 合规：duck.ac 提交正文公开可见、可直接取用；上述各件均无独立许可证声明。按 RULES 第 3 节署名。
* ======================
* ===== 思路 =====
* 【本席唯一改动：repair_leaf 的"多点到损整行重算"改用"无饱和 mikro" kernel_pair2s】
* 1. 机理（本席本机实测）：随机均匀数据下 3 个 repaired 叶共 **24 行** 命中矩心失配，其中 **23 行**
* 走单点原位修补、**仅 1 行**走整行重算；整行重算原用 `vpmulld`（每 8 列 2 uop p01）⇒ ≈1.2M 指令。
* 2. 本刀：`kernel_pair2s` = `kernel_pair2` 的机械变体 —— **删去 2 条 `vpaddw`（int16 预合并），
* 把每对 `vpmaddubsw` 结果各自 `vpmaddwd`+`vpaddd`**：每个 int16 中间量只累计 **2 个积**，
* 上界 2·(4q)·(2q) = 2·160·80 = **25,600 < 32,767 ⇒ 结构上不可能饱和**（原 mikro 每 int16 累
* 4 个积 = 51,200 > 32,767 正是 repair 存在的唯一原因）⇒ 与 `vpmulld` 精确 int32 重算**逐位等价**。
* 每行改为 64 次 mikro 调用（16 列/次，整槽 16 dword 覆写 ⇒ 无需预清零），指令数 ≈1.2M → 266K。
* `i==1023` 时 mikro 会多写第 i+1 行（越出累加器尾）⇒ 该行保底走原 vpmulld 精确路径（分支在冷路径）。
* 3. 闸门（本机）：与 #120541 **逐字节相同** —— 8 个 seed 的 C 矩阵 16.7 MB md5 全等 + 校验和全等。
* 4. 本机否证留档（同族都不做）：① 把叶累加器(29.4 MB)搬进 harness 的 A/B 复用其已驻留页 ⇒ 判题机
* **Runtime Error**（A/B 输入缓冲**不可写**，mem 仅 14348 KB 即崩）⇒ 全队级负面结论，勿再试；
* ② `MADV_HUGEPAGE`+2 MiB 对齐 ⇒ +0.128 ms（判题机 THP 非 madvise）；③ 精度账：现役件
* |C-C_exact|max = 1.3318 / 容差 1.5 = **0.888** ⇒ **量化 scale 40 不可再降、Strassen-2（需减半
* scale）不可行**；④ 两级 Strassen 的 A 侧组合需 9 bit（uint8 装不下）⇒ 需 vpmaddwd 半速 ⇒ 净负。
* ================
*/
/* References:
- saffah_cc_v41_agg1, https://duck.ac/submission/120477: copied its SIMD B moments improvement on our checksum-repair matrix engine, preserving all inherited references and license notices.
- saffah_codex_6a_agg3, https://duck.ac/submission/120503: reused our output-buffer workspace lifetime optimization for the 4096 float task.
Idea: Store the fourteen quantized byte planes in C's first 14MiB; C has 16MiB capacity. All seven products and row repairs finish before final combine overwrites C. Shrink the private product arena to exactly seven 1024-square uint32 planes (28MiB), removing overprovisioned storage and private quantization arrays. Purpose: reduce allocation/first-touch overhead without altering arithmetic or checks.
*/
/* [f2mx_ 席] mmmf2k：把 #120343 里 repair_leaf 的 O(n²) 标量矩心递推换成精确 SIMD 版
* ===== REFERENCES =====
* [1] duck.ac 用户 saffah_codex_6a_agg3，原提交 #120343
* <https://duck.ac/submission/120343>（判题机 Time = 74.629989 ms = 本题实时 T）
* —— 本文件正文 = **该提交的逐字节副本**，仅本席的 b 矩心循环重写一处不同；
* 该件自带的引用/思路注释区原样保留在下方（其第 1 行自述抄自我的 #112291）。
* [2] duck.ac 用户 saffah_cc_v41_agg1（本账号）现役最好件 #112291
* <https://duck.ac/submission/112291>（75.629998 ms）—— #120343 的基座，本席改动的原始出处；
* 本地闸门（C 矩阵 16.7 MB 逐字节对拍）对照件。
* 合规：duck.ac 提交正文按站点规则公开可见、可直接取用；上述两件均无独立许可证声明。
* 本文件按 /home/yjp/duck.ac/RULES.md 第 3 节署名作者账号与原提交地址。
* 除本头部与 repair_leaf 内的矩心循环外，正文未作任何改动。
* ======================
* ===== 思路 =====
* 【本节只描述本席本轮的唯一改动；其余正文与 #120343 逐字节相同】
* 1. 取证（§2.18.349 diff 分解）：#120343 相对我方 #112291 的真改动只有两处 ——
* ① `if(lr==1||lr==2||lr==3||lr==4)` → `if(true)`：七个叶全部走 kernel_pair2；
* ② 新增 repair_leaf：用行矩心（Σ_j C[i][j]、Σ_j j·C[i][j]）的整数恒等式检测 kernel_pair2
* 的 16 位中间量回绕（本机随机数据 3072 行命中 24 行），单点越界由 d1/d0 定位后原位修补，
* 多点则整行按 int32 精确重算。落后量：无（我方没有任何他这代没有的改动）。
* 2. 定价（callgrind Ir；判题机 ≈ 正比于确定性账）：repair_leaf = 20.85M Ir，其中 **14.16M（68%）
* 是 b 面板三个行矩心的标量三重递推** `for(j=n-1..0){x+=br[j];y+=x;z+=y;}`。该环是**串行依赖**
* （实测 IPC < 1），它的时间远大于它的指令占比 —— 于是「砍它」比「砍核」更值钱。
* 3. 本刀：把该递推换成**代数等价的闭式矩心**：r0=Σ_j b、r1=Σ_j j·b、r2=Σ_j j²·b
* （原递推 x=Σb, y=Σ(j+1)b, z=Σ(j+1)(j+2)/2·b ⇒ r0=x, r1=y−x, r2=2z−3y+x，逐位相同），
* 并在 repair 里**复用同一次结果**：32 列/迭代的 SIMD，局部下标 t 用固定 int16 权重经 vpmaddwd
* 求三阶矩，块号 q（j=32q+t）以多项式进入（j²=1024q²+64qt+t²），每 4 块把 int32 累加器刷进 int64
* （逐项界已算：单块 |lane| ≤ 2.77e8，4 块 < 2^31）。**算术逐位不变 ⇒ 补/重算的判定与最终 C 均逐字节不变**。
* 4. 闸门（本题近似，容差 3n²·FLT_EPSILON = 1.5）：同一二进制两臂对拍 **C 矩阵 16.7 MB 逐字节 cmp** ——
* 4 组随机种子 × 2 种数据分布（均匀 [-1,1]、±1 端点）**全部 BIT-EXACT**；修好行数一致（24 行）；
* 最终 C 与 #112291 一致。本地 min-of-9：147.9 → **144.2 ms（−3.7 ms）**；Ir：941.9M → **932.9M（−9.0M）**。
* ================
*/
/* References:
* saffah_cc_v41_agg1, https://duck.ac/submission/112291 : copied quantized Strassen
* engine, packed paired microkernel and original reference notices retained below.
* No independent license notice in the source.
* Idea: use paired reductions for all products, then compute exact AB row moments
* with weights1,j,j^2 to detect rare intermediate16-bit overflow. Algebraically
* repair a unique outlier; recompute flagged nonsingleton rows with exact SIMD.
* Experiment: use SIMD modulo2^32 moments for the common no-error check,
* evaluating full64-bit moments only on flagged rows. B moments use reverse cumulative
* sums, avoiding per-element integer multiplication. This keeps
* acceptedQ40 input quantization. No hidden-input or result extraction is used.
*/
// [f2zd] wide64 + kernel_pair2 内环 4x 控制展开（k=256 步 16 = 16 迭代，无尾）
// ===== REFERENCES =====
// [1] duck.ac 用户 saffah_codex_6s_agg2，原提交 #110350
// <https://duck.ac/submission/110350>（判题机 Time = 77.911143 ms = 本题实时 T）
// —— 本文件正文 = **该提交的逐字节副本**；其自带引用/思路注释区原样保留在下方。
// 抄它的理由：该件把本题从我方绿打回红，比本账号现役最好件 #110267（79.991225 ms）
// 快 2.080082 ms（2.60%）。用途：压缩本方缺口（RULES：红题上真更快件必须发）。
// [2] duck.ac 用户 saffah_cc_v41_agg1（本账号）现役最好件 #110267
// <https://duck.ac/submission/110267>（79.991225 ms）—— 本地闸门对照基座，不参与正文。
// 合规：duck.ac 提交正文按站点规则公开可见、可直接取用；原提交正文无独立许可证声明。
// 本文件按 /home/yjp/duck.ac/RULES.md 第 3 节署名作者账号与原提交地址。
// 除本头部外，正文**未作任何改动**（无注释剥离、无空白压缩、无语义改动）。
// ======================
// ===== 思路 =====
// 【抄件席 rc_（非本席新工作）】本题 T 持有者 #110350 比我方现役最好件快 2.60%，按铁律落地逐字节副本。
// 剥注释 diff（5 hunks）：QA/QB **45 → 40** · `bscale 90 → 80` · `if(lr==1||lr==4)` → **`||lr==2||lr==3`** 加宽 · `quant16b<…>:45 → 40`。
// 本地闸门（**先声明题面域**：A/B ∈ [-1,1] 均匀、C 需容差内、**A/B/C 4096 B 对齐**、n=2048 官尺度）：
// `work/rc_mmmf2k_jmain.cpp` 4096 对齐 + **C 矩阵 dump（16.7 MB）逐字节比对** + 数值正控。
// ================
// References:
// [1] saffah_cc_v41_agg1, https://duck.ac/submission/110267 : copied
// the accepted no-A-pack Strassen/AVX2 engine, including the paired
// leaf kernel. No separate license notice was displayed.
// [2] saffah_codex_6s_agg2, https://duck.ac/submission/110143 : original
// paired leaf idea already cited in [1].
// Approach: Quantize each input at 40 levels and use the faster paired
// kernel on the two direct-A/sum-B products as well as the two established
// sum-A/direct-B products. Test for possible signed 16-bit quartet overflow
// and output error before relying on this precision tradeoff.
// Purpose: Experimental official speed and correctness validation for q=40.
#pragma GCC optimize("O3,unroll-loops,no-strict-aliasing,web,ira-loop-pressure")
#pragma GCC target("avx2,fma")
#include <immintrin.h>
#include <stdint.h>
#include <stddef.h>
#include <cstring>
static constexpr int MR=4, MC=208, NR=16, QA=40, QB=40;
unsigned long long f2ze_rep=0;
static int8_t *aq,*bq;
alignas(4096) static unsigned char workspace[28*1024*1024];
alignas(64) static uint8_t bp[1024*1024]; /* m2k_: the A panel `ap` is gone */
alignas(64) static int bsum[1024];
struct Mat { const int8_t *x; int ld; const int8_t *y=nullptr; int ly=0; int sign=0; };
// 取 16 个 int8；x±y 都在 int8 域完成（各源 |v|<=46 => 和 |v|<=92 <=127，不溢出）
static inline __m128i ld(Mat a,int i,int j) {
__m128i x=_mm_loadu_si128((const __m128i*)(a.x+i*a.ld+j));
if(a.sign) {__m128i y=_mm_loadu_si128((const __m128i*)(a.y+i*a.ly+j));
x=a.sign>0?_mm_add_epi8(x,y):_mm_sub_epi8(x,y);}
return x;
}
static inline __m256i ld32(Mat a,int i,int j) {
__m256i x=_mm256_loadu_si256((const __m256i*)(a.x+(size_t)i*a.ld+j));
if(a.sign) {__m256i y=_mm256_loadu_si256((const __m256i*)(a.y+(size_t)i*a.ly+j));
x=a.sign>0?_mm256_add_epi8(x,y):_mm256_sub_epi8(x,y);}
return x;
}
static inline __m128i load4(Mat a,int i,int k) {
__m128i x=_mm_loadl_epi64((const __m128i*)(a.x+i*a.ld+k));
if(a.sign) {
__m128i y=_mm_loadl_epi64((const __m128i*)(a.y+i*a.ly+k));
x=a.sign>0?_mm_add_epi16(x,y):_mm_sub_epi16(x,y);
}
return x;
}
static __attribute__((noinline)) void kernel(const uint8_t *a,const uint8_t *b,uint32_t *out,const int *sums) {
ptrdiff_t stride=28672;
int k=256;
asm volatile (
"vpxor %%ymm14, %%ymm14, %%ymm14\n\t"
"vmovdqa (%[sums]), %%ymm11\n\t"
"vmovdqa 32(%[sums]), %%ymm12\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm0\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm1\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm2\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm3\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm4\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm5\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm6\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm7\n\t"
"vpcmpeqw %%ymm10, %%ymm10, %%ymm10\n\t"
"vpsrlw $15, %%ymm10, %%ymm10\n\t"
".p2align 5\n\t"
"1:\n\t"
"vmovdqa 0(%[b]), %%ymm11\n\t"
"vmovdqa 32(%[b]), %%ymm12\n\t"
"vpbroadcastd 0(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 1024(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm14, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm15, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 2048(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 3072(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm4, %%ymm4\n\t"
"vpaddd %%ymm9, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm14, %%ymm6, %%ymm6\n\t"
"vpaddd %%ymm15, %%ymm7, %%ymm7\n\t"
"vmovdqa 64(%[b]), %%ymm11\n\t"
"vmovdqa 96(%[b]), %%ymm12\n\t"
"vpbroadcastd 4(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 1028(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm14, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm15, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 2052(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 3076(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm4, %%ymm4\n\t"
"vpaddd %%ymm9, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm14, %%ymm6, %%ymm6\n\t"
"vpaddd %%ymm15, %%ymm7, %%ymm7\n\t"
"vmovdqa 128(%[b]), %%ymm11\n\t"
"vmovdqa 160(%[b]), %%ymm12\n\t"
"vpbroadcastd 8(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 1032(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm14, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm15, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 2056(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 3080(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm4, %%ymm4\n\t"
"vpaddd %%ymm9, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm14, %%ymm6, %%ymm6\n\t"
"vpaddd %%ymm15, %%ymm7, %%ymm7\n\t"
"vmovdqa 192(%[b]), %%ymm11\n\t"
"vmovdqa 224(%[b]), %%ymm12\n\t"
"vpbroadcastd 12(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 1036(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm14, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm15, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 2060(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm8\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm9\n\t"
"vpbroadcastd 3084(%[a]), %%ymm13\n\t"
"vpmaddubsw %%ymm11, %%ymm13, %%ymm14\n\t"
"vpmaddubsw %%ymm12, %%ymm13, %%ymm15\n\t"
"vpmaddwd %%ymm10, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm10, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm10, %%ymm14, %%ymm14\n\t"
"vpmaddwd %%ymm10, %%ymm15, %%ymm15\n\t"
"vpaddd %%ymm8, %%ymm4, %%ymm4\n\t"
"vpaddd %%ymm9, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm14, %%ymm6, %%ymm6\n\t"
"vpaddd %%ymm15, %%ymm7, %%ymm7\n\t"
"add $16, %[a]\n\t"
"add $256, %[b]\n\t"
"sub $4, %[k]\n\t"
"jnz 1b\n\t"
"vmovntdq %%ymm0, (%[out])\n\t"
"vmovntdq %%ymm1, 32(%[out])\n\t"
"add %[stride], %[out]\n\t"
"vmovntdq %%ymm2, (%[out])\n\t"
"vmovntdq %%ymm3, 32(%[out])\n\t"
"add %[stride], %[out]\n\t"
"vmovntdq %%ymm4, (%[out])\n\t"
"vmovntdq %%ymm5, 32(%[out])\n\t"
"add %[stride], %[out]\n\t"
"vmovntdq %%ymm6, (%[out])\n\t"
"vmovntdq %%ymm7, 32(%[out])\n\t"
: [a] "+&r"(a), [b] "+&r"(b), [out] "+&r"(out), [k] "+&r"(k)
: [stride] "r"(stride), [sums] "r"(sums)
: "memory", "cc", "ymm0","ymm1","ymm2","ymm3","ymm4","ymm5","ymm6","ymm7","ymm8","ymm9","ymm10","ymm11","ymm12","ymm13","ymm14","ymm15");
}
alignas(64) static uint32_t observed_moments[1024][16];
alignas(64) static int moment_weights[1024];
static __attribute__((noinline)) void kernel_pair2(const uint8_t *a,const uint8_t *b,uint32_t *out,const int *sums,uint32_t*mom,const int*weight) {
ptrdiff_t stride=28672;
int k=256;
asm volatile (
"vpxor %%ymm14, %%ymm14, %%ymm14\n\t"
"vmovdqa (%[sums]), %%ymm11\n\t"
"vmovdqa 32(%[sums]), %%ymm12\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm0\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm1\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm2\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm3\n\t"
"vpcmpeqw %%ymm15, %%ymm15, %%ymm15\n\t"
"vpsrlw $15, %%ymm15, %%ymm15\n\t"
".p2align 5\n\t"
"1:\n\t"
"vpbroadcastd 0(%[a]), %%ymm10\n\t"
"vpmaddubsw 0(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 32(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 4(%[a]), %%ymm10\n\t"
"vpmaddubsw 64(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 96(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1024(%[a]), %%ymm10\n\t"
"vpmaddubsw 0(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 32(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1028(%[a]), %%ymm10\n\t"
"vpmaddubsw 64(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 96(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 8(%[a]), %%ymm10\n\t"
"vpmaddubsw 128(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 160(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 12(%[a]), %%ymm10\n\t"
"vpmaddubsw 192(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 224(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1032(%[a]), %%ymm10\n\t"
"vpmaddubsw 128(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 160(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1036(%[a]), %%ymm10\n\t"
"vpmaddubsw 192(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 224(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 16(%[a]), %%ymm10\n\t"
"vpmaddubsw 256(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 288(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 20(%[a]), %%ymm10\n\t"
"vpmaddubsw 320(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 352(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1040(%[a]), %%ymm10\n\t"
"vpmaddubsw 256(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 288(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1044(%[a]), %%ymm10\n\t"
"vpmaddubsw 320(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 352(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 24(%[a]), %%ymm10\n\t"
"vpmaddubsw 384(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 416(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 28(%[a]), %%ymm10\n\t"
"vpmaddubsw 448(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 480(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1048(%[a]), %%ymm10\n\t"
"vpmaddubsw 384(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 416(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1052(%[a]), %%ymm10\n\t"
"vpmaddubsw 448(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 480(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 32(%[a]), %%ymm10\n\t"
"vpmaddubsw 512(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 544(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 36(%[a]), %%ymm10\n\t"
"vpmaddubsw 576(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 608(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1056(%[a]), %%ymm10\n\t"
"vpmaddubsw 512(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 544(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1060(%[a]), %%ymm10\n\t"
"vpmaddubsw 576(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 608(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 40(%[a]), %%ymm10\n\t"
"vpmaddubsw 640(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 672(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 44(%[a]), %%ymm10\n\t"
"vpmaddubsw 704(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 736(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1064(%[a]), %%ymm10\n\t"
"vpmaddubsw 640(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 672(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1068(%[a]), %%ymm10\n\t"
"vpmaddubsw 704(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 736(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 48(%[a]), %%ymm10\n\t"
"vpmaddubsw 768(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 800(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 52(%[a]), %%ymm10\n\t"
"vpmaddubsw 832(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 864(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1072(%[a]), %%ymm10\n\t"
"vpmaddubsw 768(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 800(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1076(%[a]), %%ymm10\n\t"
"vpmaddubsw 832(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 864(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 56(%[a]), %%ymm10\n\t"
"vpmaddubsw 896(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 928(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 60(%[a]), %%ymm10\n\t"
"vpmaddubsw 960(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 992(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1080(%[a]), %%ymm10\n\t"
"vpmaddubsw 896(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 928(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1084(%[a]), %%ymm10\n\t"
"vpmaddubsw 960(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 992(%[b]), %%ymm10, %%ymm5\n\t"
"vpaddw %%ymm4, %%ymm8, %%ymm8\n\t"
"vpaddw %%ymm5, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"add $64, %[a]\n\t" "add $1024, %[b]\n\t" "sub $16, %[k]\n\t" "jnz 1b\n\t"
"vmovntdq %%ymm0, (%[out])\n\t"
"vmovntdq %%ymm1, 32(%[out])\n\t"
"add %[stride], %[out]\n\t"
"vmovntdq %%ymm2, (%[out])\n\t"
"vmovntdq %%ymm3, 32(%[out])\n\t"
"test %[mom], %[mom]\n\t" "jz 3f\n\t"
"vmovdqa (%[weight]), %%ymm4\n\t"
"vmovdqa 32(%[weight]), %%ymm5\n\t"
"vpaddd %%ymm0, %%ymm1, %%ymm6\n\t"
"vpaddd 0(%[mom]), %%ymm6, %%ymm6\n\t"
"vmovdqa %%ymm6, 0(%[mom])\n\t"
"vpmulld %%ymm4, %%ymm0, %%ymm0\n\t"
"vpmulld %%ymm5, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm0, %%ymm1, %%ymm6\n\t"
"vpaddd 32(%[mom]), %%ymm6, %%ymm6\n\t"
"vmovdqa %%ymm6, 32(%[mom])\n\t"
"vpaddd %%ymm2, %%ymm3, %%ymm6\n\t"
"vpaddd 64(%[mom]), %%ymm6, %%ymm6\n\t"
"vmovdqa %%ymm6, 64(%[mom])\n\t"
"vpmulld %%ymm4, %%ymm2, %%ymm2\n\t"
"vpmulld %%ymm5, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm2, %%ymm3, %%ymm6\n\t"
"vpaddd 96(%[mom]), %%ymm6, %%ymm6\n\t"
"vmovdqa %%ymm6, 96(%[mom])\n\t"
"3:\n\t"
: [a] "+&r"(a), [b] "+&r"(b), [out] "+&r"(out), [k] "+&r"(k)
: [stride] "r"(stride), [sums] "r"(sums), [mom] "r"(mom), [weight] "r"(weight)
: "memory", "cc", "ymm0","ymm1","ymm2","ymm3","ymm4","ymm5","ymm6","ymm8","ymm9","ymm10","ymm11","ymm12","ymm13","ymm14","ymm15");
}
// Checksums of AB with weights 1,j,j^2; these are exact integer identities.
/* [f2mx] Exact row moments of a b panel: r0[k]=sum_j b[k][j], r1[k]=sum_j j*b[k][j],
r2[k]=sum_j j*j*b[k][j]. These are the closed forms of the scalar triple recurrence
the previous version ran (x=sum b, y=sum (j+1)b, z=sum (j+1)(j+2)/2 b => r0=x,
r1=y-x, r2=2z-3y+x), so every value -- and therefore every repair decision -- is
bit-identical; only the instruction count changes (that loop was 68% of the repair's
instructions: 14.16M of 20.85M, measured with callgrind on the copied file).
32 columns per iteration: the local index t (0..31) is handled with FIXED int16
weights via vpmaddwd, and the block number q (j = 32q + t) enters polynomially
(j*j = 1024q*q + 64q*t + t*t), so no per-block weight vector is built. The two
16-column halves of the block reuse one another: for t = 16+u,
madd(hi,w1) = sum u*b, and madd(hi,w1) + 16*madd(hi,one) = sum t*b. */
static __attribute__((noinline)) void kernel_pair2s(const uint8_t *a,const uint8_t *b,uint32_t *out,const int *sums) {
ptrdiff_t stride=28672;
int k=256;
asm volatile (
"vpxor %%ymm14, %%ymm14, %%ymm14\n\t"
"vmovdqa (%[sums]), %%ymm11\n\t"
"vmovdqa 32(%[sums]), %%ymm12\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm0\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm1\n\t"
"vpsubd %%ymm11, %%ymm14, %%ymm2\n\t"
"vpsubd %%ymm12, %%ymm14, %%ymm3\n\t"
"vpcmpeqw %%ymm15, %%ymm15, %%ymm15\n\t"
"vpsrlw $15, %%ymm15, %%ymm15\n\t"
".p2align 5\n\t"
"1:\n\t"
"vpbroadcastd 0(%[a]), %%ymm10\n\t"
"vpmaddubsw 0(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 32(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 4(%[a]), %%ymm10\n\t"
"vpmaddubsw 64(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 96(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1024(%[a]), %%ymm10\n\t"
"vpmaddubsw 0(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 32(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1028(%[a]), %%ymm10\n\t"
"vpmaddubsw 64(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 96(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 8(%[a]), %%ymm10\n\t"
"vpmaddubsw 128(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 160(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 12(%[a]), %%ymm10\n\t"
"vpmaddubsw 192(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 224(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1032(%[a]), %%ymm10\n\t"
"vpmaddubsw 128(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 160(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1036(%[a]), %%ymm10\n\t"
"vpmaddubsw 192(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 224(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 16(%[a]), %%ymm10\n\t"
"vpmaddubsw 256(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 288(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 20(%[a]), %%ymm10\n\t"
"vpmaddubsw 320(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 352(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1040(%[a]), %%ymm10\n\t"
"vpmaddubsw 256(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 288(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1044(%[a]), %%ymm10\n\t"
"vpmaddubsw 320(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 352(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 24(%[a]), %%ymm10\n\t"
"vpmaddubsw 384(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 416(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 28(%[a]), %%ymm10\n\t"
"vpmaddubsw 448(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 480(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1048(%[a]), %%ymm10\n\t"
"vpmaddubsw 384(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 416(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1052(%[a]), %%ymm10\n\t"
"vpmaddubsw 448(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 480(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 32(%[a]), %%ymm10\n\t"
"vpmaddubsw 512(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 544(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 36(%[a]), %%ymm10\n\t"
"vpmaddubsw 576(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 608(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1056(%[a]), %%ymm10\n\t"
"vpmaddubsw 512(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 544(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1060(%[a]), %%ymm10\n\t"
"vpmaddubsw 576(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 608(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 40(%[a]), %%ymm10\n\t"
"vpmaddubsw 640(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 672(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 44(%[a]), %%ymm10\n\t"
"vpmaddubsw 704(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 736(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1064(%[a]), %%ymm10\n\t"
"vpmaddubsw 640(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 672(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1068(%[a]), %%ymm10\n\t"
"vpmaddubsw 704(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 736(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 48(%[a]), %%ymm10\n\t"
"vpmaddubsw 768(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 800(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 52(%[a]), %%ymm10\n\t"
"vpmaddubsw 832(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 864(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1072(%[a]), %%ymm10\n\t"
"vpmaddubsw 768(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 800(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1076(%[a]), %%ymm10\n\t"
"vpmaddubsw 832(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 864(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"vpbroadcastd 56(%[a]), %%ymm10\n\t"
"vpmaddubsw 896(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 928(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 60(%[a]), %%ymm10\n\t"
"vpmaddubsw 960(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 992(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm9, %%ymm1, %%ymm1\n\t"
"vpaddd %%ymm4, %%ymm0, %%ymm0\n\t"
"vpaddd %%ymm5, %%ymm1, %%ymm1\n\t"
"vpbroadcastd 1080(%[a]), %%ymm10\n\t"
"vpmaddubsw 896(%[b]), %%ymm10, %%ymm8\n\t"
"vpmaddubsw 928(%[b]), %%ymm10, %%ymm9\n\t"
"vpbroadcastd 1084(%[a]), %%ymm10\n\t"
"vpmaddubsw 960(%[b]), %%ymm10, %%ymm4\n\t"
"vpmaddubsw 992(%[b]), %%ymm10, %%ymm5\n\t"
"vpmaddwd %%ymm15, %%ymm8, %%ymm8\n\t"
"vpmaddwd %%ymm15, %%ymm9, %%ymm9\n\t"
"vpmaddwd %%ymm15, %%ymm4, %%ymm4\n\t"
"vpmaddwd %%ymm15, %%ymm5, %%ymm5\n\t"
"vpaddd %%ymm8, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm9, %%ymm3, %%ymm3\n\t"
"vpaddd %%ymm4, %%ymm2, %%ymm2\n\t"
"vpaddd %%ymm5, %%ymm3, %%ymm3\n\t"
"add $64, %[a]\n\t" "add $1024, %[b]\n\t" "sub $16, %[k]\n\t" "jnz 1b\n\t"
"vmovntdq %%ymm0, (%[out])\n\t"
"vmovntdq %%ymm1, 32(%[out])\n\t"
"add %[stride], %[out]\n\t"
"vmovntdq %%ymm2, (%[out])\n\t"
"vmovntdq %%ymm3, 32(%[out])\n\t"
: [a] "+&r"(a), [b] "+&r"(b), [out] "+&r"(out), [k] "+&r"(k)
: [stride] "r"(stride), [sums] "r"(sums)
: "memory", "cc", "ymm0","ymm1","ymm2","ymm3","ymm4","ymm5","ymm8","ymm9","ymm10","ymm11","ymm12","ymm13","ymm14","ymm15");
}
// Checksums of AB with weights 1,j,j^2; these are exact integer identities.
/* [f2mx] Exact row moments of a b panel: r0[k]=sum_j b[k][j], r1[k]=sum_j j*b[k][j],
r2[k]=sum_j j*j*b[k][j]. These are the closed forms of the scalar triple recurrence
the previous version ran (x=sum b, y=sum (j+1)b, z=sum (j+1)(j+2)/2 b => r0=x,
r1=y-x, r2=2z-3y+x), so every value -- and therefore every repair decision -- is
bit-identical; only the instruction count changes (that loop was 68% of the repair's
instructions: 14.16M of 20.85M, measured with callgrind on the copied file).
32 columns per iteration: the local index t (0..31) is handled with FIXED int16
weights via vpmaddwd, and the block number q (j = 32q + t) enters polynomially
(j*j = 1024q*q + 64q*t + t*t), so no per-block weight vector is built. The two
16-column halves of the block reuse one another: for t = 16+u,
madd(hi,w1) = sum u*b, and madd(hi,w1) + 16*madd(hi,one) = sum t*b. */
static inline int hsum32(__m256i v){
__m128i s=_mm_add_epi32(_mm256_castsi256_si128(v),_mm256_extracti128_si256(v,1));
s=_mm_add_epi32(s,_mm_unpackhi_epi64(s,s));
s=_mm_add_epi32(s,_mm_shuffle_epi32(s,0x55));
return _mm_cvtsi128_si32(s);
}
static inline long long hsum64(__m256i a,__m256i b){
__m256i s=_mm256_add_epi64(a,b);
__m128i t=_mm_add_epi64(_mm256_castsi256_si128(s),_mm256_extracti128_si256(s,1));
t=_mm_add_epi64(t,_mm_unpackhi_epi64(t,t));
return (long long)_mm_cvtsi128_si64(t);
}
static __attribute__((noinline)) void bmoments(const int8_t *bx,int ld,int n,int *r0,int *r1,long long *r2){
const __m256i lane=_mm256_setr_epi32(0,1,2,3,4,5,6,7);
const __m256i lane2=_mm256_mullo_epi32(lane,lane);
for(int k=0;k<n;k++) {
const int8_t *br=bx+(size_t)k*ld;
__m256i c0=_mm256_setzero_si256(),c1=c0,c2=c0;
for(int j=n-8;j>=0;j-=8) {
__m256i x=_mm256_cvtepi8_epi32(_mm_loadl_epi64((const __m128i*)(br+j)));
c0=_mm256_add_epi32(c0,x);
c1=_mm256_add_epi32(c1,c0);
c2=_mm256_add_epi32(c2,c1);
}
__m256i q1=_mm256_sub_epi32(c1,c0);
__m256i m1=_mm256_add_epi32(_mm256_slli_epi32(q1,3),_mm256_mullo_epi32(lane,c0));
// 64*(2*c2-3*c1+c0)+16*lane*(c1-c0)+lane^2*c0.
__m256i q2=_mm256_add_epi32(_mm256_sub_epi32(_mm256_slli_epi32(c2,1),_mm256_add_epi32(_mm256_slli_epi32(c1,1),c1)),c0);
__m256i cross=_mm256_add_epi32(_mm256_slli_epi32(_mm256_mullo_epi32(lane,q1),4),_mm256_mullo_epi32(lane2,c0));
__m256i q2lo=_mm256_cvtepi32_epi64(_mm256_castsi256_si128(q2));
__m256i q2hi=_mm256_cvtepi32_epi64(_mm256_extracti128_si256(q2,1));
__m256i clo=_mm256_cvtepi32_epi64(_mm256_castsi256_si128(cross));
__m256i chi=_mm256_cvtepi32_epi64(_mm256_extracti128_si256(cross,1));
r0[k]=hsum32(c0);r1[k]=hsum32(m1);
r2[k]=hsum64(_mm256_add_epi64(_mm256_slli_epi64(q2lo,6),clo),_mm256_add_epi64(_mm256_slli_epi64(q2hi,6),chi));
}
}
static __attribute__((noinline)) void repair_leaf(Mat a,Mat b,uint32_t*c,int lr){
if(lr==1||lr==2||lr==3||lr==4)return;
constexpr int n=1024;
alignas(64) static int r0[n],r1[n];
alignas(64) static long long r2[n];
bmoments(b.x,b.ld,n,r0,r1,r2);
_mm_sfence();
alignas(64) static uint32_t expected0[n],expected1[n];
for(int i=0;i<n;i+=4){
__m256i e0[4],e1[4];
for(int z=0;z<4;z++)e0[z]=e1[z]=_mm256_setzero_si256();
const __m256i bias=_mm256_set1_epi32(80);
for(int k=0;k<n;k+=8){
const __m256i m0=_mm256_load_si256((const __m256i*)(r0+k));
const __m256i m1=_mm256_load_si256((const __m256i*)(r1+k));
#pragma GCC unroll 4
for(int z=0;z<4;z++){
__m256i av=_mm256_sub_epi32(_mm256_cvtepu8_epi32(_mm_loadl_epi64((const __m128i*)(a.x+(size_t)(i+z)*a.ld+k))),bias);
e0[z]=_mm256_add_epi32(e0[z],_mm256_mullo_epi32(av,m0));
e1[z]=_mm256_add_epi32(e1[z],_mm256_mullo_epi32(av,m1));
}
}
for(int z=0;z<4;z++){expected0[i+z]=(uint32_t)hsum32(e0[z]);expected1[i+z]=(uint32_t)hsum32(e1[z]);}
}
for(int i=0;i<n;i++){
const uint8_t*ar=(const uint8_t*)a.x+(size_t)i*a.ld;
uint32_t*cr=c+(size_t)i*7168+lr*16;
__m256i a0=_mm256_setzero_si256(),a1=a0;
a0=_mm256_load_si256((const __m256i*)observed_moments[i]);
a1=_mm256_load_si256((const __m256i*)(observed_moments[i]+8));
unsigned err0=expected0[i]-(uint32_t)hsum32(a0),err1=expected1[i]-(uint32_t)hsum32(a1);
if(!(err0|err1))continue;
extern unsigned long long f2ze_rep; f2ze_rep++;
long long d0=0,d1=0,d2=0;
for(int k=0;k<n;k++){long long v=(int)ar[k]-80;d0+=v*r0[k];d1+=v*r1[k];d2+=v*r2[k];}
for(int j=0;j<n;j+=16){
const int32_t*cc=(const int32_t*)(cr+(j/16)*112);
for(int t=0;t<16;t++){long long v=cc[t],p=j+t;d0-=v;d1-=v*p;d2-=v*p*p;}
}
if(!(d0|d1|d2))continue;
if(d0&&d1%d0==0){
long long j=d1/d0;
if(j>=0&&j<n&&d2==d0*j*j){
uint32_t*pc=cr+(j/16)*112+(j%16);*pc=(uint32_t)((int32_t)*pc+d0);continue;
}
}
// Multiple corruptions: recompute this row using exact32-bit arithmetic.
/* [m2fz_] 多点到损：整行精确重算改为 64 次"无饱和 mikro"（kernel_pair2s = kernel_pair2 去掉
vpaddw、把每对 vpmaddubsw 各自 vpmaddwd+vpaddd）：每个 int16 中间量只累计 2 个积，
上界 2*160*80 = 25,600 < 32,767 ⇒ 结构上不可能饱和/回绕 ⇒ 与 vpmulld 精确 int32 重算逐位等价
（原 mikro 每 int16 累 4 个积 = 51,200 > 32,767 正是需要 repair 的原因）。mikro 对 16 dword
槽整槽覆写 ⇒ 无需预清零；它顺带精确重算 i+1 行（同值或修好），无害。 */
if(i+1<n){
for(int j=0;j<n;j+=16)
kernel_pair2s((const uint8_t*)(a.x+(size_t)i*a.ld),(const uint8_t*)(bp+(size_t)j*1024),
(uint32_t*)(cr+(size_t)(j>>4)*112),bsum+j);
} else {
for(int j=0;j<n;j+=16){
_mm256_store_si256((__m256i*)(cr+(j/16)*112),_mm256_setzero_si256());
_mm256_store_si256((__m256i*)(cr+(j/16)*112+8),_mm256_setzero_si256());
}
for(int k=0;k<n;k++){
__m256i av=_mm256_set1_epi32((int)ar[k]-80);
const int8_t*br=b.x+(size_t)k*b.ld;
for(int j=0;j<n;j+=8){
__m256i bv=_mm256_cvtepi8_epi32(_mm_loadl_epi64((const __m128i*)(br+j)));
__m256i*pc=(__m256i*)(cr+(j/16)*112+(j%16));
_mm256_store_si256(pc,_mm256_add_epi32(_mm256_load_si256(pc),_mm256_mullo_epi32(av,bv)));
}
}
}
}
}
static void leaf(Mat a,Mat b,uint32_t *c,int lr) {
constexpr int n=1024,ldc=1024;
{
constexpr int pc=0,kc=1024;
const __m128i ones=_mm_set1_epi8(1);
const __m256i ones2=_mm256_set1_epi8(1);
const __m256i bscale=_mm256_set1_epi32(80);
for(int jb=0;jb<n;jb+=64) {
__m256i S0[4],S1[4];
for(int g=0;g<4;g++){S0[g]=_mm256_setzero_si256();S1[g]=_mm256_setzero_si256();}
__m256i W0[2],W1[2];
W0[0]=_mm256_setzero_si256();W0[1]=_mm256_setzero_si256();
W1[0]=_mm256_setzero_si256();W1[1]=_mm256_setzero_si256();
for(int k=0;k<kc;k+=4) {
if(k+32<kc){
const char *pf=(const char*)(b.x+(size_t)(pc+k+36)*b.ld+jb);
_mm_prefetch(pf,_MM_HINT_T0);
_mm_prefetch(pf+b.ld,_MM_HINT_T0);
_mm_prefetch(pf+2*b.ld,_MM_HINT_T0);
_mm_prefetch(pf+3*b.ld,_MM_HINT_T0);
}
for(int u=0;u<2;u++){
const int j=jb+32*u;
__m256i v0=ld32(b,pc+k,j),v1=ld32(b,pc+k+1,j),v2=ld32(b,pc+k+2,j),v3=ld32(b,pc+k+3,j);
__m256i t0=_mm256_unpacklo_epi8(v0,v1),t1=_mm256_unpackhi_epi8(v0,v1);
__m256i t2=_mm256_unpacklo_epi8(v2,v3),t3=_mm256_unpackhi_epi8(v2,v3);
__m256i u0=_mm256_unpacklo_epi16(t0,t2),u1=_mm256_unpackhi_epi16(t0,t2);
__m256i u2=_mm256_unpacklo_epi16(t1,t3),u3=_mm256_unpackhi_epi16(t1,t3);
uint8_t *qA=bp+(size_t)j*kc+(size_t)k*16;
uint8_t *qB=qA+16*kc;
_mm256_storeu_si256((__m256i*)(qA), _mm256_permute2x128_si256(u0,u1,0x20));
_mm256_storeu_si256((__m256i*)(qA+32),_mm256_permute2x128_si256(u2,u3,0x20));
_mm256_storeu_si256((__m256i*)(qB), _mm256_permute2x128_si256(u0,u1,0x31));
_mm256_storeu_si256((__m256i*)(qB+32),_mm256_permute2x128_si256(u2,u3,0x31));
__m256i wa=_mm256_add_epi16(_mm256_maddubs_epi16(ones2,t0),_mm256_maddubs_epi16(ones2,t2));
__m256i wb=_mm256_add_epi16(_mm256_maddubs_epi16(ones2,t1),_mm256_maddubs_epi16(ones2,t3));
W0[u]=_mm256_add_epi16(W0[u],wa); W1[u]=_mm256_add_epi16(W1[u],wb);
}
if((k&127)==124){
for(int u=0;u<2;u++){
S0[2*u ]=_mm256_add_epi32(S0[2*u ],_mm256_cvtepi16_epi32(_mm256_castsi256_si128(W0[u])));
S1[2*u ]=_mm256_add_epi32(S1[2*u ],_mm256_cvtepi16_epi32(_mm256_castsi256_si128(W1[u])));
S0[2*u+1]=_mm256_add_epi32(S0[2*u+1],_mm256_cvtepi16_epi32(_mm256_extracti128_si256(W0[u],1)));
S1[2*u+1]=_mm256_add_epi32(S1[2*u+1],_mm256_cvtepi16_epi32(_mm256_extracti128_si256(W1[u],1)));
W0[u]=_mm256_setzero_si256(); W1[u]=_mm256_setzero_si256();
}
}
}
for(int u=0;u<2;u++){
S0[2*u ]=_mm256_add_epi32(S0[2*u ],_mm256_cvtepi16_epi32(_mm256_castsi256_si128(W0[u])));
S1[2*u ]=_mm256_add_epi32(S1[2*u ],_mm256_cvtepi16_epi32(_mm256_castsi256_si128(W1[u])));
S0[2*u+1]=_mm256_add_epi32(S0[2*u+1],_mm256_cvtepi16_epi32(_mm256_extracti128_si256(W0[u],1)));
S1[2*u+1]=_mm256_add_epi32(S1[2*u+1],_mm256_cvtepi16_epi32(_mm256_extracti128_si256(W1[u],1)));
}
_mm256_store_si256((__m256i*)(bsum+jb+0),_mm256_mullo_epi32(S0[0],bscale));
_mm256_store_si256((__m256i*)(bsum+jb+8),_mm256_mullo_epi32(S1[0],bscale));
_mm256_store_si256((__m256i*)(bsum+jb+16),_mm256_mullo_epi32(S0[1],bscale));
_mm256_store_si256((__m256i*)(bsum+jb+24),_mm256_mullo_epi32(S1[1],bscale));
_mm256_store_si256((__m256i*)(bsum+jb+32),_mm256_mullo_epi32(S0[2],bscale));
_mm256_store_si256((__m256i*)(bsum+jb+40),_mm256_mullo_epi32(S1[2],bscale));
_mm256_store_si256((__m256i*)(bsum+jb+48),_mm256_mullo_epi32(S0[3],bscale));
_mm256_store_si256((__m256i*)(bsum+jb+56),_mm256_mullo_epi32(S1[3],bscale));
}
_mm_sfence();
const bool need_mom=!(lr==1||lr==2||lr==3||lr==4);
if(need_mom){memset(observed_moments,0,sizeof(observed_moments));for(int j=0;j<n;j++)moment_weights[j]=j;}
for(int ic=0;ic<n;ic+=MC) {
int mc=n-ic<MC?n-ic:MC;
/* m2k_: packA and the `ap` panel are gone. `aq` already holds the biased
bytes (quant_sums<false>), so each kernel reads its rows straight out of aq:
row i at +1024*i, k-group g at +4*g -- exactly the displacements above. */
for(int j=0;j<n;j+=NR) for(int r=0;r<mc;r+=MR) {
uint32_t *out=c+(((size_t)((ic+r)*64+(j>>4))*7+(size_t)lr)*16);
const uint8_t *pa=(const uint8_t*)(a.x+(size_t)(ic+r)*a.ld);
if(true) {
kernel_pair2(pa,bp+j*kc,out,bsum+j,need_mom?observed_moments[ic+r]:nullptr,moment_weights+j);
kernel_pair2(pa+2048,bp+j*kc,out+2*7168,bsum+j,need_mom?observed_moments[ic+r+2]:nullptr,moment_weights+j);
} else kernel(pa,bp+j*kc,out,bsum+j);
}
}
}
repair_leaf(a,b,c,lr);
}
static void combine(int h,uint32_t *c,int ldc,uint32_t *m) {
size_t z=(size_t)h*h+64;
for(int i=0;i<h;i++)for(int j=0;j<h;j+=8) {
size_t t=((size_t)(i*64+(j>>4))*7)*16+(size_t)(j&15);
__m256i m1=_mm256_load_si256((__m256i*)(m+t)),m2=_mm256_load_si256((__m256i*)(m+t+16)),
m3=_mm256_load_si256((__m256i*)(m+t+32)),m4=_mm256_load_si256((__m256i*)(m+t+48)),
m5=_mm256_load_si256((__m256i*)(m+t+64)),m6=_mm256_load_si256((__m256i*)(m+t+80)),m7=_mm256_load_si256((__m256i*)(m+t+96));
__m256i c11=_mm256_add_epi32(_mm256_sub_epi32(_mm256_add_epi32(m1,m4),m5),m7);
__m256i c12=_mm256_add_epi32(m3,m5),c21=_mm256_add_epi32(m2,m4);
__m256i c22=_mm256_add_epi32(_mm256_add_epi32(_mm256_sub_epi32(m1,m2),m3),m6);
/* fused: convert and store as float here, so no separate int32->float pass is needed */
{
__m256 inv=_mm256_set1_ps(1.0f/(QA*QB));
_mm256_stream_ps((float*)(c+i*ldc+j),_mm256_mul_ps(_mm256_cvtepi32_ps(c11),inv));
_mm256_stream_ps((float*)(c+i*ldc+j+h),_mm256_mul_ps(_mm256_cvtepi32_ps(c12),inv));
_mm256_stream_ps((float*)(c+(i+h)*ldc+j),_mm256_mul_ps(_mm256_cvtepi32_ps(c21),inv));
_mm256_stream_ps((float*)(c+(i+h)*ldc+j+h),_mm256_mul_ps(_mm256_cvtepi32_ps(c22),inv));
}
}
}
static void product2048(Mat a,Mat b,uint32_t *c,unsigned char *work) {
constexpr int h=1024;constexpr size_t z=size_t(h)*h+64;
Mat aa[4]={{a.x,a.ld},{a.x+h,a.ld},{a.x+h*a.ld,a.ld},{a.x+h*a.ld+h,a.ld}};
Mat bb[4]={{b.x,b.ld},{b.x+h,b.ld},{b.x+h*b.ld,b.ld},{b.x+h*b.ld+h,b.ld}};
uint32_t *m=(uint32_t*)work;
const int ai[7]={0,2,0,3,0,2,1},aj[7]={3,3,-1,-1,1,0,3},as[7]={1,1,0,0,1,-1,-1};
const int bi[7]={0,0,1,2,3,0,2},bj[7]={3,-1,3,0,-1,1,3},bs[7]={1,0,-1,-1,0,1,1};
for(int r=0;r<7;r++) {
Mat x=aa[ai[r]],y=bb[bi[r]];
if(as[r]) {x.y=aa[aj[r]].x;x.ly=a.ld;x.sign=as[r];}
if(bs[r]) {y.y=bb[bj[r]].x;y.ly=b.ld;y.sign=bs[r];}
leaf(x,y,m,r);
}
_mm_sfence();
combine(h,c,2048,m);
_mm_sfence();
}
static inline __m256i quant16(const float *a,__m256 scale) {
__m256i x=_mm256_cvtps_epi32(_mm256_mul_ps(_mm256_load_ps(a),scale));
__m256i y=_mm256_cvtps_epi32(_mm256_mul_ps(_mm256_load_ps(a+8),scale));
return _mm256_permute4x64_epi64(_mm256_packs_epi32(x,y),0xd8);
}
/* m2k_: +B on every quantised value, in the int16 domain (1 uop / 16 values; compiled away
when B==0). B=45 on the A call means the *sum* of two operands carries +90, i.e. exactly
the bias the mikro needs on its unsigned byte operand -- so aq can feed the kernel as-is. */
template<int B> static inline __m256i quant16b(const float *a,__m256 scale) {
__m256i v=quant16(a,scale);
if (B) v=_mm256_add_epi16(v,_mm256_set1_epi16((short)B));
return v;
}
template<bool ISB> static void quant_sums(const float *a,int8_t *dst,int8_t *diag,int q) {
constexpr int h=1024,n=2048;constexpr size_t z=size_t(h)*h;
const __m256 scale=_mm256_set1_ps(float(q));
for(int i=0;i<h;i++)for(int j=0;j<h;j+=32) {
__m256i x0a=quant16b<ISB?0:40>(a+i*n+j,scale),x0b=quant16b<ISB?0:40>(a+i*n+j+16,scale);
__m256i x1a=quant16b<ISB?0:40>(a+i*n+j+h,scale),x1b=quant16b<ISB?0:40>(a+i*n+j+h+16,scale);
__m256i x2a=quant16b<ISB?0:40>(a+(i+h)*n+j,scale),x2b=quant16b<ISB?0:40>(a+(i+h)*n+j+16,scale);
__m256i x3a=quant16b<ISB?0:40>(a+(i+h)*n+j+h,scale),x3b=quant16b<ISB?0:40>(a+(i+h)*n+j+h+16,scale);
size_t t=(size_t)i*h+j;
__m256i v0a=_mm256_add_epi16(x0a,x3a),v0b=_mm256_add_epi16(x0b,x3b);
__m256i v1a=ISB?_mm256_sub_epi16(x1a,x3a):_mm256_add_epi16(x2a,x3a);
__m256i v1b=ISB?_mm256_sub_epi16(x1b,x3b):_mm256_add_epi16(x2b,x3b);
__m256i v2a=ISB?_mm256_sub_epi16(x2a,x0a):_mm256_add_epi16(x0a,x1a);
__m256i v2b=ISB?_mm256_sub_epi16(x2b,x0b):_mm256_add_epi16(x0b,x1b);
__m256i v3a=ISB?_mm256_add_epi16(x0a,x1a):_mm256_sub_epi16(x2a,x0a);
__m256i v3b=ISB?_mm256_add_epi16(x0b,x1b):_mm256_sub_epi16(x2b,x0b);
__m256i v4a=ISB?_mm256_add_epi16(x2a,x3a):_mm256_sub_epi16(x1a,x3a);
__m256i v4b=ISB?_mm256_add_epi16(x2b,x3b):_mm256_sub_epi16(x1b,x3b);
/* m2k_: A side packs UNSIGNED and tops up where the +90 was lost: the two
subtractive combinations ((x2+45)-(x0+45)) and the two diagonal outputs (x+45,
which the mikro sees raw and therefore needs at +90). B side unchanged. */
const __m256i b90=_mm256_set1_epi16(80), b45=_mm256_set1_epi16(40);
#define PK(A,B) _mm256_permute4x64_epi64(ISB?_mm256_packs_epi16(A,B):_mm256_packus_epi16(A,B),0xd8)
#define PK9(A,B) _mm256_permute4x64_epi64(ISB?_mm256_packs_epi16(A,B):_mm256_packus_epi16(_mm256_add_epi16(A,b90),_mm256_add_epi16(B,b90)),0xd8)
#define PK45(A,B) _mm256_permute4x64_epi64(ISB?_mm256_packs_epi16(A,B):_mm256_packus_epi16(_mm256_add_epi16(A,b45),_mm256_add_epi16(B,b45)),0xd8)
_mm256_stream_si256((__m256i*)(dst+t), PK(v0a,v0b));
_mm256_stream_si256((__m256i*)(dst+z+t), PK(v1a,v1b));
_mm256_stream_si256((__m256i*)(dst+2*z+t), PK(v2a,v2b));
_mm256_stream_si256((__m256i*)(dst+3*z+t), PK9(v3a,v3b));
_mm256_stream_si256((__m256i*)(dst+4*z+t), PK9(v4a,v4b));
_mm256_stream_si256((__m256i*)(diag+t), PK45(x0a,x0b));
_mm256_stream_si256((__m256i*)(diag+z+t), PK45(x3a,x3b));
}
}
static void quant_all(const float *src,int8_t *dst,int scale) {
const __m256 q=_mm256_set1_ps((float)scale);
for(size_t i=0;i<(size_t)2048*2048;i+=32) {
__m256i x=quant16(src+i,q),y=quant16(src+i+16,q);
_mm256_store_si256((__m256i*)(dst+i),
_mm256_permute4x64_epi64(_mm256_packs_epi16(x,y),0xd8));
}
}
void matrix_multiply(int n,const float *a,const float *b,float *c) {
(void)n;
constexpr int h=1024;
constexpr size_t z=(size_t)h*h;
aq=(int8_t*)c;bq=aq+7*z;
quant_sums<false>(a,aq,aq+5*z,QA);
quant_sums<true>(b,bq,bq+5*z,QB);
_mm_sfence();
static const int ai[7]={0,1,5,6,2,3,4};
static const int bi[7]={0,5,1,2,6,3,4};
uint32_t *m=(uint32_t*)workspace;
for(int r=0;r<7;r++) {
Mat x{aq+(size_t)ai[r]*z,h},y{bq+(size_t)bi[r]*z,h};
leaf(x,y,m,r);
}
_mm_sfence();
combine(h,(uint32_t*)c,2048,m);
_mm_sfence();
}
| Compilation | N/A | N/A | Compile OK | Score: N/A | 显示更多 |
| Testcase #1 | 71.191 ms | 45 MB + 112 KB | Accepted | Score: 100 | 显示更多 |