/* MMMC2K-TILE arm sw2: SECOND DRAW of arm sw (body below is byte-identical; only this header line differs). Purpose = reproduce the +214 us pure-reorder delta of sid 146371 against the same-code control sid 146375 (45,415.003) and the layout control sid 146381 (45,420.261). */
/* MMMC2K-ATTR nullB: end-of-window same-code control for the function-level optimize-token scan; text byte-identical to live best 145995 (89a601bb/49,891). Purpose: close the time-interpolation bracket. Comments stripped for the 102,400-codepoint cap; code byte-identical. */
__asm__(".pushsection .text\n.fill 4096,1,0x90\n.popsection\n");
#pragma GCC optimize("O3")
#pragma GCC optimize("no-tree-vectorize")
#pragma GCC optimize("align-loops=64")
#include <immintrin.h>
#include <xmmintrin.h>
#include <stdint.h>
#include <string.h>
#include <stdio.h>
#ifndef PFMODE
#define PFMODE 1
#endif
#if PFMODE==0
#define PF_STR "prefetcht0 512(%[bib],%[bidx])\n\t" "prefetcht0 1024(%[bib],%[bidx])\n\t"
#elif PFMODE==1
#define PF_STR ""
#elif PFMODE==2
#define PF_STR "prefetcht0 512(%[bib],%[bidx])\n\t"
#elif PFMODE==3
#define PF_STR "prefetcht0 256(%[bib],%[bidx])\n\t" "prefetcht0 512(%[bib],%[bidx])\n\t"
#elif PFMODE==4
#define PF_STR "prefetcht0 1024(%[bib],%[bidx])\n\t" "prefetcht0 2048(%[bib],%[bidx])\n\t"
#elif PFMODE==5
#define PF_STR "prefetchnta 512(%[bib],%[bidx])\n\t" "prefetchnta 1024(%[bib],%[bidx])\n\t"
#elif PFMODE==6
#define PF_STR "prefetcht0 512(%[bib],%[bidx])\n\t" "prefetcht0 1024(%[bib],%[bidx])\n\t" \
"prefetcht0 1536(%[bib],%[bidx])\n\t" "prefetcht0 2048(%[bib],%[bidx])\n\t"
#endif
#define AVX2 __attribute__((target("avx2")))
#define NMAX 4096
#ifndef PADA
#define PADA 0
#endif
#define LDAQ ((int)(2*NMAX + PADA))
#ifndef PADB
#define PADB 0
#endif
#define LDB ((int)(NMAX + PADB))
static int8_t A0b[(size_t)NMAX*LDAQ] __attribute__((aligned(64)));
static int GLDA = LDAQ, GLDB = LDB;
static uint64_t A1b[NMAX*NMAX/8] __attribute__((aligned(64)));
static uint64_t Bpb[NMAX*NMAX/8] __attribute__((aligned(64)));
static uint64_t Pbb[NMAX*NMAX/8-8] __attribute__((aligned(64)));
static int8_t Qpbb64[64] __attribute__((used,aligned(64)));
static uint8_t PBb[(size_t)NMAX*LDB] __attribute__((aligned(64)));
static void generic_mm(int n, const int8_t*A, const int8_t*B, int8_t*C){
for (int i=0;i<n;i++) for (int j=0;j<n;j++){
int s=0; for(int k=0;k<n;k++) s += (int)A[(size_t)i*n+k]*(int)B[(size_t)k*n+j];
C[(size_t)i*n+j]=(int8_t)s;
}
}
AVX2 static inline __m256i bcast16(const int8_t*p){
__m256i v; __asm__("vpbroadcastw %1, %0" : "=x"(v) : "m"(*(const short*)p)); return v;
}
AVX2 static inline __m256i packlo8(__m256i a, __m256i b){
const __m256i m=_mm256_set1_epi16(0x00FF);
return _mm256_permute4x64_epi64(
_mm256_packus_epi16(_mm256_and_si256(a,m), _mm256_and_si256(b,m)), 0xD8);
}
AVX2 static void build_A1bits(int n, const int8_t*A){
int W=n/64;
for (int i=0;i<n;i++){
const int8_t*row=A+(size_t)i*n; uint64_t*w=A1b+(size_t)i*W;
for (int k=0;k<n;k+=64){
uint32_t lo=(uint32_t)_mm256_movemask_epi8(_mm256_load_si256((const __m256i*)(row+k)));
uint32_t hi=(uint32_t)_mm256_movemask_epi8(_mm256_load_si256((const __m256i*)(row+k+32)));
w[k>>6]=(uint64_t)lo|((uint64_t)hi<<32);
}
}
}
AVX2 static void build_Bpbits(int n, const int8_t*B){
const __m256i one=_mm256_set1_epi8(1);
int W=n/64;
for (int k=0;k<n;k++){
const int8_t*row=B+(size_t)k*n; uint64_t*w=Bpb+(size_t)k*W;
for (int j=0;j<n;j+=64){
__m256i a=_mm256_slli_epi16(_mm256_and_si256(_mm256_load_si256((const __m256i*)(row+j)),one),7);
__m256i b=_mm256_slli_epi16(_mm256_and_si256(_mm256_load_si256((const __m256i*)(row+j+32)),one),7);
uint32_t lo=(uint32_t)_mm256_movemask_epi8(a);
uint32_t hi=(uint32_t)_mm256_movemask_epi8(b);
w[j>>6]=(uint64_t)lo|((uint64_t)hi<<32);
}
}
}
AVX2 static void corr_bits(int n){
int W=n/64, NY=W>>2;
for (int i=0;i<n;i++){
__m256i acc[16];
for(int t=0;t<NY;t++) acc[t]=_mm256_setzero_si256();
const uint64_t*row=A1b+(size_t)i*W;
for(int w=0;w<W;w++){
uint64_t b=row[w];
while(b){
int t=__builtin_ctzll(b); b&=b-1;
const uint64_t*br=Bpb+(size_t)(w*64+t)*W;
for(int q=0;q<NY;q++)
acc[q]=_mm256_xor_si256(acc[q],_mm256_load_si256((const __m256i*)(br+4*q)));
}
}
uint64_t*o=Pbb+(size_t)i*W;
for(int q=0;q<NY;q++) _mm256_store_si256((__m256i*)(o+4*q),acc[q]);
}
}
static uint64_t A1T[NMAX*NMAX/8] __attribute__((aligned(64)));
AVX2 static void transpose64(uint64_t *a){
int j,k; uint64_t m,t;
for (j=32,m=0XFFFFFFFF00000000ULL; j; j>>=1, m^=m>>j)
for (k=0;k<64;k=(k+j+1)&~j){
t=(a[k]^(a[k+j]<<j))&m;
a[k]^=t; a[k+j]^=(t>>j);
}
}
AVX2 static void build_A1T(int n){
int W=n/64;
for (int kb=0; kb<n; kb+=64)
for (int ib=0; ib<n; ib+=64){
uint64_t blk[64];
for (int i=0;i<64;i++) blk[i]=A1b[(size_t)(ib+i)*W+(kb>>6)];
transpose64(blk);
for (int k=0;k<64;k++) A1T[(size_t)(kb+k)*W+(ib>>6)]=blk[k];
}
}
AVX2 static void corr_pass3(int n){
int W=n/64, NY=W>>2;
memset(Pbb,0,(size_t)n*W*8);
const int KB=256;
for (int kb=0; kb<n; kb+=KB){
int w0=kb>>6, w1=w0+(KB>>6);
for (int i=0;i<n;i++){
__m256i acc[16];
for (int q=0;q<NY;q++) acc[q]=_mm256_setzero_si256();
const uint64_t*row=A1b+(size_t)i*W;
for (int w=w0;w<w1;w++){
uint64_t b=row[w];
while(b){
int t=__builtin_ctzll(b); b&=b-1;
const uint64_t*br=Bpb+(size_t)(w*64+t)*W;
for (int q=0;q<NY;q++) acc[q]=_mm256_xor_si256(acc[q],_mm256_load_si256((const __m256i*)(br+4*q)));
}
}
uint64_t*o=Pbb+(size_t)i*W;
for (int q=0;q<NY;q++){
__m256i*po=(__m256i*)(o+4*q);
_mm256_store_si256(po,_mm256_xor_si256(_mm256_load_si256((const __m256i*)po),acc[q]));
}
}
}
}
#define AVX2BMI __attribute__((target("avx2,bmi")))
AVX2BMI static void corr16(void){
const int n=4096, W=64;
memset(Pbb,0,(size_t)n*W*8);
const int KB=64;
for (int kb=0; kb<n; kb+=KB){
int w0=kb>>6;
const char *bp0=(const char*)Bpb+(size_t)w0*32768;
const char *bp1=bp0; (void)bp1;
for (int i=0;i<n;i++){
const uint64_t*row=A1b+(size_t)i*W+w0;
uint64_t b0=row[0], b1=0;
uint64_t *o=Pbb+(size_t)i*W;
asm volatile(
"vpxor %%xmm0,%%xmm0,%%xmm0\n\tvpxor %%xmm1,%%xmm1,%%xmm1\n\tvpxor %%xmm2,%%xmm2,%%xmm2\n\tvpxor %%xmm3,%%xmm3,%%xmm3\n\tvpxor %%xmm4,%%xmm4,%%xmm4\n\tvpxor %%xmm5,%%xmm5,%%xmm5\n\tvpxor %%xmm6,%%xmm6,%%xmm6\n\tvpxor %%xmm7,%%xmm7,%%xmm7\n\tvpxor %%xmm8,%%xmm8,%%xmm8\n\tvpxor %%xmm9,%%xmm9,%%xmm9\n\tvpxor %%xmm10,%%xmm10,%%xmm10\n\tvpxor %%xmm11,%%xmm11,%%xmm11\n\tvpxor %%xmm12,%%xmm12,%%xmm12\n\tvpxor %%xmm13,%%xmm13,%%xmm13\n\tvpxor %%xmm14,%%xmm14,%%xmm14\n\tvpxor %%xmm15,%%xmm15,%%xmm15\n\ttestq %[b0], %[b0]\n\tjz 3%=f\n\t1%=:\n\ttzcntq %[b0], %%r11\n\tshlq $9, %%r11\n\taddq %[bp0], %%r11\n\tvpxor 0(%%r11), %%ymm0, %%ymm0\n\tvpxor 32(%%r11), %%ymm1, %%ymm1\n\tvpxor 64(%%r11), %%ymm2, %%ymm2\n\tvpxor 96(%%r11), %%ymm3, %%ymm3\n\tvpxor 128(%%r11), %%ymm4, %%ymm4\n\tvpxor 160(%%r11), %%ymm5, %%ymm5\n\tvpxor 192(%%r11), %%ymm6, %%ymm6\n\tvpxor 224(%%r11), %%ymm7, %%ymm7\n\tvpxor 256(%%r11), %%ymm8, %%ymm8\n\tvpxor 288(%%r11), %%ymm9, %%ymm9\n\tvpxor 320(%%r11), %%ymm10, %%ymm10\n\tvpxor 352(%%r11), %%ymm11, %%ymm11\n\tvpxor 384(%%r11), %%ymm12, %%ymm12\n\tvpxor 416(%%r11), %%ymm13, %%ymm13\n\tvpxor 448(%%r11), %%ymm14, %%ymm14\n\tvpxor 480(%%r11), %%ymm15, %%ymm15\n\tblsrq %[b0], %[b0]\n\tjnz 1%=b\n\t3%=:\n\ttestq %[b1], %[b1]\n\tjz 4%=f\n\t2%=:\n\ttzcntq %[b1], %%r11\n\tshlq $9, %%r11\n\taddq %[bp1], %%r11\n\tvpxor 0(%%r11), %%ymm0, %%ymm0\n\tvpxor 32(%%r11), %%ymm1, %%ymm1\n\tvpxor 64(%%r11), %%ymm2, %%ymm2\n\tvpxor 96(%%r11), %%ymm3, %%ymm3\n\tvpxor 128(%%r11), %%ymm4, %%ymm4\n\tvpxor 160(%%r11), %%ymm5, %%ymm5\n\tvpxor 192(%%r11), %%ymm6, %%ymm6\n\tvpxor 224(%%r11), %%ymm7, %%ymm7\n\tvpxor 256(%%r11), %%ymm8, %%ymm8\n\tvpxor 288(%%r11), %%ymm9, %%ymm9\n\tvpxor 320(%%r11), %%ymm10, %%ymm10\n\tvpxor 352(%%r11), %%ymm11, %%ymm11\n\tvpxor 384(%%r11), %%ymm12, %%ymm12\n\tvpxor 416(%%r11), %%ymm13, %%ymm13\n\tvpxor 448(%%r11), %%ymm14, %%ymm14\n\tvpxor 480(%%r11), %%ymm15, %%ymm15\n\tblsrq %[b1], %[b1]\n\tjnz 2%=b\n\t4%=:\n\tvpxor 0(%[o]), %%ymm0, %%ymm0\n\tvmovdqu %%ymm0, 0(%[o])\n\tvpxor 32(%[o]), %%ymm1, %%ymm1\n\tvmovdqu %%ymm1, 32(%[o])\n\tvpxor 64(%[o]), %%ymm2, %%ymm2\n\tvmovdqu %%ymm2, 64(%[o])\n\tvpxor 96(%[o]), %%ymm3, %%ymm3\n\tvmovdqu %%ymm3, 96(%[o])\n\tvpxor 128(%[o]), %%ymm4, %%ymm4\n\tvmovdqu %%ymm4, 128(%[o])\n\tvpxor 160(%[o]), %%ymm5, %%ymm5\n\tvmovdqu %%ymm5, 160(%[o])\n\tvpxor 192(%[o]), %%ymm6, %%ymm6\n\tvmovdqu %%ymm6, 192(%[o])\n\tvpxor 224(%[o]), %%ymm7, %%ymm7\n\tvmovdqu %%ymm7, 224(%[o])\n\tvpxor 256(%[o]), %%ymm8, %%ymm8\n\tvmovdqu %%ymm8, 256(%[o])\n\tvpxor 288(%[o]), %%ymm9, %%ymm9\n\tvmovdqu %%ymm9, 288(%[o])\n\tvpxor 320(%[o]), %%ymm10, %%ymm10\n\tvmovdqu %%ymm10, 320(%[o])\n\tvpxor 352(%[o]), %%ymm11, %%ymm11\n\tvmovdqu %%ymm11, 352(%[o])\n\tvpxor 384(%[o]), %%ymm12, %%ymm12\n\tvmovdqu %%ymm12, 384(%[o])\n\tvpxor 416(%[o]), %%ymm13, %%ymm13\n\tvmovdqu %%ymm13, 416(%[o])\n\tvpxor 448(%[o]), %%ymm14, %%ymm14\n\tvmovdqu %%ymm14, 448(%[o])\n\tvpxor 480(%[o]), %%ymm15, %%ymm15\n\tvmovdqu %%ymm15, 480(%[o])\n\t"
: [b0]"+r"(b0), [b1]"+r"(b1)
: [bp0]"r"(bp0), [bp1]"r"(bp1), [o]"r"(o)
: "r11","cc","memory","ymm0","ymm1","ymm2","ymm3","ymm4","ymm5","ymm6","ymm7","ymm8","ymm9","ymm10","ymm11","ymm12","ymm13","ymm14","ymm15");
}
}
}
AVX2 static void expand_bits(int n){
static uint8_t T[256*8]; static int ti=0;
if(!ti){ for(int v=0;v<256;v++) for(int b=0;b<8;b++) T[v*8+b]=((v>>b)&1)?0x80:0x00; ti=1; }
int W=n/64;
for(int i=0;i<n;i++){
const uint64_t*w=Pbb+(size_t)i*W; uint8_t*o=PBb+(size_t)i*GLDB;
for(int q=0;q<W;q++){
uint64_t v=w[q];
__m128i a0=_mm_loadl_epi64((const __m128i*)(T+((v>> 0)&0xFF)*8));
__m128i a1=_mm_loadl_epi64((const __m128i*)(T+((v>> 8)&0xFF)*8));
__m128i a2=_mm_loadl_epi64((const __m128i*)(T+((v>>16)&0xFF)*8));
__m128i a3=_mm_loadl_epi64((const __m128i*)(T+((v>>24)&0xFF)*8));
__m128i a4=_mm_loadl_epi64((const __m128i*)(T+((v>>32)&0xFF)*8));
__m128i a5=_mm_loadl_epi64((const __m128i*)(T+((v>>40)&0xFF)*8));
__m128i a6=_mm_loadl_epi64((const __m128i*)(T+((v>>48)&0xFF)*8));
__m128i a7=_mm_loadl_epi64((const __m128i*)(T+((v>>56)&0xFF)*8));
__m128i l01=_mm_unpacklo_epi64(a0,a1), l23=_mm_unpacklo_epi64(a2,a3);
__m128i l45=_mm_unpacklo_epi64(a4,a5), l67=_mm_unpacklo_epi64(a6,a7);
_mm256_storeu_si256((__m256i*)(o+q*64), _mm256_set_m128i(l23,l01));
_mm256_storeu_si256((__m256i*)(o+q*64+32), _mm256_set_m128i(l67,l45));
}
}
}
#define NIB 2
#define NJ 4
static const int8_t PSCTRL[32] __attribute__((aligned(32))) =
{0,0,0,0,0,0,0,0, 1,1,1,1,1,1,1,1, 2,2,2,2,2,2,2,2, 3,3,3,3,3,3,3,3};
static const int8_t PSBIT[32] __attribute__((aligned(32))) =
{1,2,4,8,16,32,64,(int8_t)128, 1,2,4,8,16,32,64,(int8_t)128,
1,2,4,8,16,32,64,(int8_t)128, 1,2,4,8,16,32,64,(int8_t)128};
static const int8_t PS80[32] __attribute__((aligned(32))) =
{(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,
(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,
(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,
(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128,(int8_t)128};
static const int16_t W0FF[16] __attribute__((aligned(32))) =
{0x00FF,0x00FF,0x00FF,0x00FF,0x00FF,0x00FF,0x00FF,0x00FF,
0x00FF,0x00FF,0x00FF,0x00FF,0x00FF,0x00FF,0x00FF,0x00FF};
static int8_t BI3b[NMAX*NMAX] __attribute__((aligned(64)));
AVX2 static void build_BI3(int n, const int8_t*B){
int ng=n/64;
for (int p=0;p<n/2;p++){
const int8_t *r0=B+(size_t)(2*p)*n, *r1=r0+n;
for (int g=0;g<ng;g++){
const int8_t *a=r0+64*g, *b=r1+64*g;
int8_t *o=BI3b+((size_t)g*(n/2)+p)*128;
for (int t=0;t<64;t+=32){
__m256i va=_mm256_load_si256((const __m256i*)(a+t));
__m256i vb=_mm256_load_si256((const __m256i*)(b+t));
__m256i lo=_mm256_unpacklo_epi8(va,vb), hi=_mm256_unpackhi_epi8(va,vb);
_mm256_store_si256((__m256i*)(o+2*t), _mm256_permute2x128_si256(lo,hi,0x20));
_mm256_store_si256((__m256i*)(o+2*t+32), _mm256_permute2x128_si256(lo,hi,0x31));
}
}
}
}
template<bool NativeLane=false,int ROWS=1,bool Defer=false>
AVX2 static void mikro_u4(int n,const int8_t*A0,const int8_t*BI,int8_t*C,const uint8_t*PB,int jb,int lda,int ldb){
const int8_t *bib=BI+(long)(n>>3)*512;
const long da=2*(long)lda, dc=2*(long)n, db=2*(long)ldb;
const int8_t *pa=A0;int8_t *pc=C+jb;const uint8_t *pp=PB+jb;
for(int rr=0;rr<ROWS;rr++){
const int8_t *x0=pa;
const int8_t *x1=x0+lda;
long bidx=-((long)(n>>3)*512);
int8_t *C0=pc, *C1=C0+n;
const uint8_t *PB0=pp, *PB1=PB0+ldb;
asm volatile(
"vpbroadcastd 0(%[x0]), %%ymm0\n\tvpbroadcastd 0(%[x0],%[glda]), %%ymm1\n\tvmovdqa 0(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm8\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm12\n\tvmovdqa 32(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm9\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm13\n\tvmovdqa 64(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm10\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm14\n\tvmovdqa 96(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm11\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm15\n\tjmp 4f\n\t.p2align 5\n\t2:\n\tvpbroadcastd 0(%[x0]), %%ymm0\n\tvpbroadcastd 0(%[x0],%[glda]), %%ymm1\n\tvmovdqa 0(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 32(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 64(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 96(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\t4:\n\tvpbroadcastd 4(%[x0]), %%ymm0\n\tvpbroadcastd 4(%[x0],%[glda]), %%ymm1\n\tvmovdqa 128(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 160(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 192(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 224(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 8(%[x0]), %%ymm0\n\tvpbroadcastd 8(%[x0],%[glda]), %%ymm1\n\tvmovdqa 256(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 288(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 320(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 352(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 12(%[x0]), %%ymm0\n\tvpbroadcastd 12(%[x0],%[glda]), %%ymm1\n\tvmovdqa 384(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 416(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 448(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 480(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 16(%[x0]), %%ymm0\n\tvpbroadcastd 16(%[x0],%[glda]), %%ymm1\n\tvmovdqa 512(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 544(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 576(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 608(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 20(%[x0]), %%ymm0\n\tvpbroadcastd 20(%[x0],%[glda]), %%ymm1\n\tvmovdqa 640(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 672(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 704(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 736(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 24(%[x0]), %%ymm0\n\tvpbroadcastd 24(%[x0],%[glda]), %%ymm1\n\tvmovdqa 768(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 800(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 832(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 864(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 28(%[x0]), %%ymm0\n\tvpbroadcastd 28(%[x0],%[glda]), %%ymm1\n\tvmovdqa 896(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm2\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm3\n\tvmovdqa 928(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm4\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm5\n\tvmovdqa 960(%[bib],%[bidx]), %%ymm6\n\tvpmaddubsw %%ymm6, %%ymm1, %%ymm7\n\tvpmaddubsw %%ymm6, %%ymm0, %%ymm6\n\tvpaddw %%ymm2, %%ymm8, %%ymm8\n\tvpaddw %%ymm3, %%ymm12, %%ymm12\n\tvpaddw %%ymm4, %%ymm9, %%ymm9\n\tvpaddw %%ymm5, %%ymm13, %%ymm13\n\tvpaddw %%ymm6, %%ymm10, %%ymm10\n\tvpaddw %%ymm7, %%ymm14, %%ymm14\n\tvmovdqa 992(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\t"
PF_STR
"addq $32, %[x0]\n\taddq $1024, %[bidx]\n\tjnz 2b\n\t9:\n\tvpand %[mask], %%ymm8, %%ymm2\n\tvpand %[mask], %%ymm9, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\t.if %c[native] == 0\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\t.endif\n\t.if %c[defer] == 0\n\tvmovdqa %[ps80], %%ymm7\n\tvpbroadcastd 0(%[PB0]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpsignb %%ymm0, %%ymm7, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\t.endif\n\tvmovdqu %%ymm2, 0(%[C0])\n\tvpand %[mask], %%ymm10, %%ymm2\n\tvpand %[mask], %%ymm11, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\t.if %c[native] == 0\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\t.endif\n\t.if %c[defer] == 0\n\tvpbroadcastd 4(%[PB0]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpsignb %%ymm0, %%ymm7, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\t.endif\n\tvmovdqu %%ymm2, 32(%[C0])\n\tvpand %[mask], %%ymm12, %%ymm2\n\tvpand %[mask], %%ymm13, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\t.if %c[native] == 0\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\t.endif\n\t.if %c[defer] == 0\n\tvpbroadcastd 0(%[PB1]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpsignb %%ymm0, %%ymm7, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\t.endif\n\tvmovdqu %%ymm2, 0(%[C1])\n\tvpand %[mask], %%ymm14, %%ymm2\n\tvpand %[mask], %%ymm15, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\t.if %c[native] == 0\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\t.endif\n\t.if %c[defer] == 0\n\tvpbroadcastd 4(%[PB1]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpsignb %%ymm0, %%ymm7, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\t.endif\n\tvmovdqu %%ymm2, 32(%[C1])\n\t"
: [x0]"+r"(x0), [bidx]"+r"(bidx)
: [defer]"i"(Defer), [native]"i"(NativeLane), [C0]"r"(C0), [C1]"r"(C1), [PB0]"r"(PB0), [PB1]"r"(PB1), [mask]"m"(W0FF), [bib]"r"(bib), [psctrl]"m"(PSCTRL), [psbit]"m"(PSBIT), [ps80]"m"(PS80), [glda]"r"((long)lda)
: "ymm0","ymm1","ymm2","ymm3","ymm4","ymm5","ymm6","ymm7","ymm8","ymm9","ymm10","ymm11","ymm12","ymm13","ymm14","ymm15","cc","memory");
pa+=da;pc+=dc;pp+=db;
}
}
AVX2 static void mikro_u4r(int n,const int8_t*A0,const int8_t*BI,int8_t*C,const uint8_t*PB,int jb,int lda,int ldb){
const int8_t *x0=A0;
long nn=(long)n;
const int8_t *x1=A0+lda;
const int8_t *bib=BI; long bidx=((long)(n>>3)*512)-512;
int8_t *C0=C+jb, *C1=C0+n;
const uint8_t *PB0=PB+jb, *PB1=PB0+ldb;
asm volatile(
"vpxor %%xmm8,%%xmm8,%%xmm8\n\tvpxor %%xmm9,%%xmm9,%%xmm9\n\tvpxor %%xmm10,%%xmm10,%%xmm10\n\tvpxor %%xmm11,%%xmm11,%%xmm11\n\tvpxor %%xmm12,%%xmm12,%%xmm12\n\tvpxor %%xmm13,%%xmm13,%%xmm13\n\tvpxor %%xmm14,%%xmm14,%%xmm14\n\tvpxor %%xmm15,%%xmm15,%%xmm15\n\t.p2align 5\n\ttestq $8, %[nn]\n\tjz 5f\n\tvpbroadcastd 0(%[x0]), %%ymm0\n\tvpbroadcastd 0(%[x0],%[glda]), %%ymm1\n\tvmovdqa 0(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 32(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 64(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 96(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 4(%[x0]), %%ymm0\n\tvpbroadcastd 4(%[x0],%[glda]), %%ymm1\n\tvmovdqa 128(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 160(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 192(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 224(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 8(%[x0]), %%ymm0\n\tvpbroadcastd 8(%[x0],%[glda]), %%ymm1\n\tvmovdqa 256(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 288(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 320(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 352(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 12(%[x0]), %%ymm0\n\tvpbroadcastd 12(%[x0],%[glda]), %%ymm1\n\tvmovdqa 384(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 416(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 448(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 480(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\t"
PF_STR
"subq $16, %[x0]\n\tsubq $512, %[bidx]\n\t5:\n\ttestq %[bidx], %[bidx]\n\tjz 9f\n\t.p2align 5\n\t2:\n\tvpbroadcastd 0(%[x0]), %%ymm0\n\tvpbroadcastd 0(%[x0],%[glda]), %%ymm1\n\tvmovdqa 0(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 32(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 64(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 96(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 4(%[x0]), %%ymm0\n\tvpbroadcastd 4(%[x0],%[glda]), %%ymm1\n\tvmovdqa 128(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 160(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 192(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 224(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 8(%[x0]), %%ymm0\n\tvpbroadcastd 8(%[x0],%[glda]), %%ymm1\n\tvmovdqa 256(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 288(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 320(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 352(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd 12(%[x0]), %%ymm0\n\tvpbroadcastd 12(%[x0],%[glda]), %%ymm1\n\tvmovdqa 384(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa 416(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa 448(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa 480(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd -16(%[x0]), %%ymm0\n\tvpbroadcastd -16(%[x0],%[glda]), %%ymm1\n\tvmovdqa -512(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa -480(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa -448(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa -416(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd -12(%[x0]), %%ymm0\n\tvpbroadcastd -12(%[x0],%[glda]), %%ymm1\n\tvmovdqa -384(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa -352(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa -320(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa -288(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd -8(%[x0]), %%ymm0\n\tvpbroadcastd -8(%[x0],%[glda]), %%ymm1\n\tvmovdqa -256(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa -224(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa -192(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa -160(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\tvpbroadcastd -4(%[x0]), %%ymm0\n\tvpbroadcastd -4(%[x0],%[glda]), %%ymm1\n\tvmovdqa -128(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm8, %%ymm8\n\tvpaddw %%ymm6, %%ymm12, %%ymm12\n\tvmovdqa -96(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm9, %%ymm9\n\tvpaddw %%ymm6, %%ymm13, %%ymm13\n\tvmovdqa -64(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm10, %%ymm10\n\tvpaddw %%ymm6, %%ymm14, %%ymm14\n\tvmovdqa -32(%[bib],%[bidx]), %%ymm4\n\tvpmaddubsw %%ymm4, %%ymm0, %%ymm5\n\tvpmaddubsw %%ymm4, %%ymm1, %%ymm6\n\tvpaddw %%ymm5, %%ymm11, %%ymm11\n\tvpaddw %%ymm6, %%ymm15, %%ymm15\n\t"
PF_STR
"subq $32, %[x0]\n\tsubq $1024, %[bidx]\n\tjns 2b\n\t9:\n\tvpand %[mask], %%ymm8, %%ymm2\n\tvpand %[mask], %%ymm9, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\tvpbroadcastd 0(%[PB0]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpcmpeqb %%ymm7, %%ymm0, %%ymm0\n\tvpandn %[ps80], %%ymm0, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\tvpxor %%xmm7, %%xmm7, %%xmm7\n\tvmovdqu %%ymm2, 0(%[C0])\n\tvpand %[mask], %%ymm10, %%ymm2\n\tvpand %[mask], %%ymm11, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\tvpbroadcastd 4(%[PB0]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpcmpeqb %%ymm7, %%ymm0, %%ymm0\n\tvpandn %[ps80], %%ymm0, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\tvmovdqu %%ymm2, 32(%[C0])\n\tvpand %[mask], %%ymm12, %%ymm2\n\tvpand %[mask], %%ymm13, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\tvpbroadcastd 0(%[PB1]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpcmpeqb %%ymm7, %%ymm0, %%ymm0\n\tvpandn %[ps80], %%ymm0, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\tvmovdqu %%ymm2, 0(%[C1])\n\tvpand %[mask], %%ymm14, %%ymm2\n\tvpand %[mask], %%ymm15, %%ymm3\n\tvpackuswb %%ymm3, %%ymm2, %%ymm2\n\tvpermq $0xD8, %%ymm2, %%ymm2\n\tvpbroadcastd 4(%[PB1]), %%ymm0\n\tvpshufb %[psctrl], %%ymm0, %%ymm0\n\tvpand %[psbit], %%ymm0, %%ymm0\n\tvpcmpeqb %%ymm7, %%ymm0, %%ymm0\n\tvpandn %[ps80], %%ymm0, %%ymm0\n\tvpxor %%ymm0, %%ymm2, %%ymm2\n\tvmovdqu %%ymm2, 32(%[C1])\n\t"
: [x0]"+r"(x0), [bidx]"+r"(bidx)
: [C0]"r"(C0), [C1]"r"(C1), [PB0]"r"(PB0), [PB1]"r"(PB1), [nn]"r"(nn), [mask]"m"(W0FF), [bib]"r"(bib), [psctrl]"m"(PSCTRL), [psbit]"m"(PSBIT), [ps80]"m"(PS80), [glda]"r"((long)lda)
: "ymm0","ymm1","ymm2","ymm3","ymm4","ymm5","ymm6","ymm7","ymm8","ymm9","ymm10","ymm11","ymm12","ymm13","ymm14","ymm15","cc","memory");
}
AVX2 static void build_A0A1(int n, const int8_t*A){
const __m256i m=_mm256_set1_epi8(0x7F);
int W=n/64;
for (int i=0;i<n;i++){
const int8_t*row=A+(size_t)i*n;
int8_t*dst=A0b+(size_t)i*GLDA;
uint64_t*w1=A1b+(size_t)i*W;
for (int k=0;k<n;k+=64){
__m256i v0=_mm256_load_si256((const __m256i*)(row+k));
__m256i v1=_mm256_load_si256((const __m256i*)(row+k+32));
{ __m256i _w0=_mm256_and_si256(v0,m), _w1=_mm256_and_si256(v1,m);
__m256i _l0=_mm256_unpacklo_epi16(_w0,_w0), _h0=_mm256_unpackhi_epi16(_w0,_w0);
__m256i _l1=_mm256_unpacklo_epi16(_w1,_w1), _h1=_mm256_unpackhi_epi16(_w1,_w1);
_mm256_store_si256((__m256i*)(dst+2*k), _mm256_permute2x128_si256(_l0,_h0,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+32), _mm256_permute2x128_si256(_l0,_h0,0x31));
_mm256_store_si256((__m256i*)(dst+2*k+64), _mm256_permute2x128_si256(_l1,_h1,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+96), _mm256_permute2x128_si256(_l1,_h1,0x31)); }
w1[k>>6]=(uint64_t)(uint32_t)_mm256_movemask_epi8(v0)
|((uint64_t)(uint32_t)_mm256_movemask_epi8(v1)<<32);
}
}
}
AVX2 static void build_BI3Bp(int n, const int8_t*B){
const __m256i one=_mm256_set1_epi8(1);
int ng=n/64, W=n/64;
for (int p=0;p<n/2;p++){
const int8_t *r0=B+(size_t)(2*p)*n, *r1=r0+n;
uint64_t *w0p=Bpb+(size_t)(2*p)*W, *w1p=Bpb+(size_t)(2*p+1)*W;
for (int g=0;g<ng;g++){
const int8_t *a=r0+64*g, *b=r1+64*g;
int8_t *o=BI3b+((size_t)g*(n/2)+p)*128;
uint64_t parity0=0,parity1=0;
for (int t=0;t<64;t+=32){
__m256i va=_mm256_load_si256((const __m256i*)(a+t));
__m256i vb=_mm256_load_si256((const __m256i*)(b+t));
__m256i lo=_mm256_unpacklo_epi8(va,vb), hi=_mm256_unpackhi_epi8(va,vb);
_mm256_store_si256((__m256i*)(o+2*t), _mm256_permute2x128_si256(lo,hi,0x20));
_mm256_store_si256((__m256i*)(o+2*t+32), _mm256_permute2x128_si256(lo,hi,0x31));
uint32_t m0=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(va,7));
uint32_t m1=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(vb,7));
parity0 |= (uint64_t)m0<<t; parity1 |= (uint64_t)m1<<t;
}
w0p[g]=parity0; w1p[g]=parity1;
}
}
}
#define SM 1024
static int8_t SA[SM*SM] __attribute__((aligned(64)));
static int8_t SB[SM*SM] __attribute__((aligned(64)));
static int8_t MMS[7][SM*SM+24576] __attribute__((aligned(64)));
#define AQT(J,S) if (S){ __m256i _u0=_mm256_load_si256((const __m256i*)(p##J+k)); \
__m256i _u1=_mm256_load_si256((const __m256i*)(p##J+k+32)); \
if ((S)>0){ v0=_mm256_add_epi8(v0,_u0); v1=_mm256_add_epi8(v1,_u1); } \
else { v0=_mm256_sub_epi8(v0,_u0); v1=_mm256_sub_epi8(v1,_u1); } }
#define BQT(J,S) if (S){ __m256i _x=_mm256_load_si256((const __m256i*)(q##J##a+64*g+t)); \
__m256i _y=_mm256_load_si256((const __m256i*)(q##J##b+64*g+t)); \
if ((S)>0){ va=_mm256_add_epi8(va,_x); vb=_mm256_add_epi8(vb,_y); } \
else { va=_mm256_sub_epi8(va,_x); vb=_mm256_sub_epi8(vb,_y); } }
template<int S1,int S2,int S3,int H=0>
AVX2 static void buildA_q4t(int h0,int n,const int8_t*P,
int r0,int c0,int r1,int c1,int r2,int c2,int r3,int c3){const int h=H?H:h0;
const __m256i mx=_mm256_set1_epi8(0x7F);
int W=h/64;
for (int i=0;i<h;i++){
const int8_t*p0=P+(size_t)(r0+i)*n+c0, *p1=P+(size_t)(r1+i)*n+c1,
*p2=P+(size_t)(r2+i)*n+c2, *p3=P+(size_t)(r3+i)*n+c3;
int8_t*dst=A0b+(size_t)i*GLDA;
uint64_t*w1=A1b+(size_t)i*W;
for (int k=0;k<h;k+=64){
_mm_prefetch((const char*)(p0+4*n+k), _MM_HINT_T0);
_mm_prefetch((const char*)(p1+4*n+k), _MM_HINT_T0);
_mm_prefetch((const char*)(p2+4*n+k), _MM_HINT_T0);
_mm_prefetch((const char*)(p3+4*n+k), _MM_HINT_T0);
__m256i v0=_mm256_load_si256((const __m256i*)(p0+k));
__m256i v1=_mm256_load_si256((const __m256i*)(p0+k+32));
AQT(1,S1); AQT(2,S2); AQT(3,S3);
__asm__ volatile("prefetchw %0" :: "m"(*(char*)(dst+2*k+256)));
__asm__ volatile("prefetchw %0" :: "m"(*(char*)(dst+2*k+320)));
{ __m256i _w0=_mm256_and_si256(v0,mx), _w1=_mm256_and_si256(v1,mx);
__m256i _l0=_mm256_unpacklo_epi16(_w0,_w0), _h0=_mm256_unpackhi_epi16(_w0,_w0);
__m256i _l1=_mm256_unpacklo_epi16(_w1,_w1), _h1=_mm256_unpackhi_epi16(_w1,_w1);
_mm256_store_si256((__m256i*)(dst+2*k), _mm256_permute2x128_si256(_l0,_h0,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+32), _mm256_permute2x128_si256(_l0,_h0,0x31));
_mm256_store_si256((__m256i*)(dst+2*k+64), _mm256_permute2x128_si256(_l1,_h1,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+96), _mm256_permute2x128_si256(_l1,_h1,0x31)); }
(h==256?A1b[(size_t)(k>>6)*h+i]:w1[k>>6])=(uint64_t)(uint32_t)_mm256_movemask_epi8(v0)
|((uint64_t)(uint32_t)_mm256_movemask_epi8(v1)<<32);
}
}
}
template<int S1,int S2,int S3,int H=0>
AVX2 static void buildB_q4t(int h0,int n,const int8_t*P,
int r0,int c0,int r1,int c1,int r2,int c2,int r3,int c3){const int h=H?H:h0;
const __m256i one=_mm256_set1_epi8(1);
int ng=h/64, W=h/64;
for (int p=0;p<h/2;p++){
const int8_t *a0=P+(size_t)(r0+2*p)*n+c0, *a1=P+(size_t)(r0+2*p+1)*n+c0;
const int8_t *q1a=P+(size_t)(r1+2*p)*n+c1, *q1b=P+(size_t)(r1+2*p+1)*n+c1;
const int8_t *q2a=P+(size_t)(r2+2*p)*n+c2, *q2b=P+(size_t)(r2+2*p+1)*n+c2;
const int8_t *q3a=P+(size_t)(r3+2*p)*n+c3, *q3b=P+(size_t)(r3+2*p+1)*n+c3;
uint64_t *w0p=Bpb+(size_t)(2*p)*W, *w1p=Bpb+(size_t)(2*p+1)*W;
for (int g=0;g<ng;g++){
_mm_prefetch((const char*)(a0+64*g+1024), _MM_HINT_T0);
_mm_prefetch((const char*)(a1+64*g+1024), _MM_HINT_T0);
_mm_prefetch((const char*)(q1a+64*g+1024), _MM_HINT_T0);
_mm_prefetch((const char*)(q1b+64*g+1024), _MM_HINT_T0);
_mm_prefetch((const char*)(q2a+64*g+1024), _MM_HINT_T0);
_mm_prefetch((const char*)(q2b+64*g+1024), _MM_HINT_T0);
_mm_prefetch((const char*)(q3a+64*g+1024), _MM_HINT_T0);
_mm_prefetch((const char*)(q3b+64*g+1024), _MM_HINT_T0);
uint64_t parity0=0,parity1=0;
for (int t=0;t<64;t+=32){
__asm__ volatile("prefetchw %0" :: "m"(*(char*)(BI3b+((size_t)g*(h/2)+p)*128+2*t+256)));
__asm__ volatile("prefetchw %0" :: "m"(*(char*)(BI3b+((size_t)g*(h/2)+p)*128+2*t+320)));
__m256i va=_mm256_load_si256((const __m256i*)(a0+64*g+t));
__m256i vb=_mm256_load_si256((const __m256i*)(a1+64*g+t));
BQT(1,S1); BQT(2,S2); BQT(3,S3);
__m256i lo=_mm256_unpacklo_epi8(va,vb), hi=_mm256_unpackhi_epi8(va,vb);
int8_t *o=BI3b+((size_t)g*(h/2)+p)*128;
_mm256_store_si256((__m256i*)(o+2*t), (h==256?lo:_mm256_permute2x128_si256(lo,hi,0x20)));
_mm256_store_si256((__m256i*)(o+2*t+32), (h==256?hi:_mm256_permute2x128_si256(lo,hi,0x31)));
uint32_t mm0=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(va,7));
uint32_t mm1=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(vb,7));
parity0 |= (uint64_t)mm0<<t; parity1 |= (uint64_t)mm1<<t;
}
w0p[g]=parity0; w1p[g]=parity1;
}
}
}
#define AQ_TERM(J) if (s##J){ __m256i _u0=_mm256_load_si256((const __m256i*)(p##J+k)); \
__m256i _u1=_mm256_load_si256((const __m256i*)(p##J+k+32)); \
if (s##J>0){ v0=_mm256_add_epi8(v0,_u0); v1=_mm256_add_epi8(v1,_u1); } \
else { v0=_mm256_sub_epi8(v0,_u0); v1=_mm256_sub_epi8(v1,_u1); } }
#define BQ_TERM(J) if (s##J){ __m256i _x=_mm256_load_si256((const __m256i*)(q##J##a+64*g+t)); \
__m256i _y=_mm256_load_si256((const __m256i*)(q##J##b+64*g+t)); \
if (s##J>0){ va=_mm256_add_epi8(va,_x); vb=_mm256_add_epi8(vb,_y); } \
else { va=_mm256_sub_epi8(va,_x); vb=_mm256_sub_epi8(vb,_y); } }
AVX2 static void buildA_q(int h,int n,const int8_t*X,int r0,int c0,
const int8_t*Y,int r1,int c1,int op){
const __m256i mx=_mm256_set1_epi8(0x7F);
int W=h/64;
for (int i=0;i<h;i++){
const int8_t*xa=X+(size_t)(r0+i)*n+c0, *ya=Y+(size_t)(r1+i)*n+c1;
int8_t*dst=A0b+(size_t)i*GLDA;
uint64_t*w1=A1b+(size_t)i*W;
for (int k=0;k<h;k+=64){
__m256i v0=_mm256_load_si256((const __m256i*)(xa+k));
__m256i v1=_mm256_load_si256((const __m256i*)(xa+k+32));
if (op){ __m256i u0=_mm256_load_si256((const __m256i*)(ya+k));
__m256i u1=_mm256_load_si256((const __m256i*)(ya+k+32));
if(op==1){ v0=_mm256_add_epi8(v0,u0); v1=_mm256_add_epi8(v1,u1); }
else { v0=_mm256_sub_epi8(v0,u0); v1=_mm256_sub_epi8(v1,u1); } }
{ __m256i _w0=_mm256_and_si256(v0,mx), _w1=_mm256_and_si256(v1,mx);
__m256i _l0=_mm256_unpacklo_epi16(_w0,_w0), _h0=_mm256_unpackhi_epi16(_w0,_w0);
__m256i _l1=_mm256_unpacklo_epi16(_w1,_w1), _h1=_mm256_unpackhi_epi16(_w1,_w1);
_mm256_store_si256((__m256i*)(dst+2*k), _mm256_permute2x128_si256(_l0,_h0,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+32), _mm256_permute2x128_si256(_l0,_h0,0x31));
_mm256_store_si256((__m256i*)(dst+2*k+64), _mm256_permute2x128_si256(_l1,_h1,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+96), _mm256_permute2x128_si256(_l1,_h1,0x31)); }
(h==256?A1b[(size_t)(k>>6)*h+i]:w1[k>>6])=(uint64_t)(uint32_t)_mm256_movemask_epi8(v0)
|((uint64_t)(uint32_t)_mm256_movemask_epi8(v1)<<32);
}
}
}
AVX2 static void buildB_q(int h,int n,const int8_t*X,int r0,int c0,
const int8_t*Y,int r1,int c1,int op){
const __m256i one=_mm256_set1_epi8(1);
int ng=h/64, W=h/64;
for (int p=0;p<h/2;p++){
const int8_t *ra=X+(size_t)(r0+2*p)*n+c0, *rb=X+(size_t)(r0+2*p+1)*n+c0;
const int8_t *sa=Y+(size_t)(r1+2*p)*n+c1, *sb=Y+(size_t)(r1+2*p+1)*n+c1;
uint64_t *w0p=Bpb+(size_t)(2*p)*W, *w1p=Bpb+(size_t)(2*p+1)*W;
for (int g=0;g<ng;g++){
for (int t=0;t<64;t+=32){
__m256i va=_mm256_load_si256((const __m256i*)(ra+64*g+t));
__m256i vb=_mm256_load_si256((const __m256i*)(rb+64*g+t));
if (op){ __m256i pa=_mm256_load_si256((const __m256i*)(sa+64*g+t));
__m256i pb=_mm256_load_si256((const __m256i*)(sb+64*g+t));
if(op==1){ va=_mm256_add_epi8(va,pa); vb=_mm256_add_epi8(vb,pb); }
else { va=_mm256_sub_epi8(va,pa); vb=_mm256_sub_epi8(vb,pb); } }
__m256i lo=_mm256_unpacklo_epi8(va,vb), hi=_mm256_unpackhi_epi8(va,vb);
int8_t *o=BI3b+((size_t)g*(h/2)+p)*128;
_mm256_store_si256((__m256i*)(o+2*t), (h==256?lo:_mm256_permute2x128_si256(lo,hi,0x20)));
_mm256_store_si256((__m256i*)(o+2*t+32), (h==256?hi:_mm256_permute2x128_si256(lo,hi,0x31)));
uint32_t mm0=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(va,7));
uint32_t mm1=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(vb,7));
if(t==0){ w0p[g]=(uint64_t)mm0; w1p[g]=(uint64_t)mm1; }
else { w0p[g]|=(uint64_t)mm0<<32; w1p[g]|=(uint64_t)mm1<<32; }
}
}
}
}
static int8_t S2M[7][1024*1024+24576] __attribute__((aligned(64)));
static int8_t S3A[1024*1024] __attribute__((aligned(64)));
static int8_t S3B[1024*1024] __attribute__((aligned(64)));
static int8_t S3M[7][512*512+24576] __attribute__((aligned(64)));
static int8_t S4A[512*512] __attribute__((aligned(64)));
static int8_t S4B[512*512] __attribute__((aligned(64)));
static uint64_t Psave[7][1024] __attribute__((aligned(64)));
static int8_t PADs4[28224] __attribute__((used));
static int8_t S4M[7][256*256+24576-4096+64] __attribute__((aligned(64)));
AVX2 static void buildA_q4g(int h,int n,const int8_t*P,
int r0,int c0,int r1,int c1,int s1,
int r2,int c2,int s2, int r3,int c3,int s3){
const __m256i mx=_mm256_set1_epi8(0x7F);
int W=h/64;
for (int i=0;i<h;i++){
const int8_t*p0=P+(size_t)(r0+i)*n+c0, *p1=P+(size_t)(r1+i)*n+c1,
*p2=P+(size_t)(r2+i)*n+c2, *p3=P+(size_t)(r3+i)*n+c3;
int8_t*dst=A0b+(size_t)i*GLDA;
uint64_t*w1=A1b+(size_t)i*W;
for (int k=0;k<h;k+=64){
__m256i v0=_mm256_load_si256((const __m256i*)(p0+k));
__m256i v1=_mm256_load_si256((const __m256i*)(p0+k+32));
AQ_TERM(1); AQ_TERM(2); AQ_TERM(3);
{ __m256i _w0=_mm256_and_si256(v0,mx), _w1=_mm256_and_si256(v1,mx);
__m256i _l0=_mm256_unpacklo_epi16(_w0,_w0), _h0=_mm256_unpackhi_epi16(_w0,_w0);
__m256i _l1=_mm256_unpacklo_epi16(_w1,_w1), _h1=_mm256_unpackhi_epi16(_w1,_w1);
_mm256_store_si256((__m256i*)(dst+2*k), _mm256_permute2x128_si256(_l0,_h0,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+32), _mm256_permute2x128_si256(_l0,_h0,0x31));
_mm256_store_si256((__m256i*)(dst+2*k+64), _mm256_permute2x128_si256(_l1,_h1,0x20));
_mm256_store_si256((__m256i*)(dst+2*k+96), _mm256_permute2x128_si256(_l1,_h1,0x31)); }
(h==256?A1b[(size_t)(k>>6)*h+i]:w1[k>>6])=(uint64_t)(uint32_t)_mm256_movemask_epi8(v0)
|((uint64_t)(uint32_t)_mm256_movemask_epi8(v1)<<32);
}
}
}
AVX2 static void buildA_q4(int h,int n,const int8_t*P,
int r0,int c0,int r1,int c1,int s1,
int r2,int c2,int s2, int r3,int c3,int s3){
#define PACKA(S1,S2,S3) return buildA_q4t<S1,S2,S3>(h,n,P,r0,c0,r1,c1,r2,c2,r3,c3)
#define PACKA256(S1,S2,S3) return buildA_q4t<S1,S2,S3,256>(h,n,P,r0,c0,r1,c1,r2,c2,r3,c3)
if(h==256){if (s1==-1&&s2==-1&&s3== 1){ PACKA256(-1,-1, 1); }
if (s1==-1&&s2== 0&&s3== 0){ PACKA256(-1, 0, 0); }
if (s1==-1&&s2== 1&&s3==-1){ PACKA256(-1, 1,-1); }
if (s1== 0&&s2==-1&&s3== 0){ PACKA256( 0,-1, 0); }
if (s1== 0&&s2== 0&&s3== 0){ PACKA256( 0, 0, 0); }
if (s1== 0&&s2== 1&&s3== 0){ PACKA256( 0, 1, 0); }
if (s1== 1&&s2==-1&&s3==-1){ PACKA256( 1,-1,-1); }
if (s1== 1&&s2== 0&&s3== 0){ PACKA256( 1, 0, 0); }
if (s1== 1&&s2== 1&&s3== 1){ PACKA256( 1, 1, 1); }
}
if (s1==-1&&s2==-1&&s3== 1){ PACKA(-1,-1, 1); }
if (s1==-1&&s2== 0&&s3== 0){ PACKA(-1, 0, 0); }
if (s1==-1&&s2== 1&&s3==-1){ PACKA(-1, 1,-1); }
if (s1== 0&&s2==-1&&s3== 0){ PACKA( 0,-1, 0); }
if (s1== 0&&s2== 0&&s3== 0){ PACKA( 0, 0, 0); }
if (s1== 0&&s2== 1&&s3== 0){ PACKA( 0, 1, 0); }
if (s1== 1&&s2==-1&&s3==-1){ PACKA( 1,-1,-1); }
if (s1== 1&&s2== 0&&s3== 0){ PACKA( 1, 0, 0); }
if (s1== 1&&s2== 1&&s3== 1){ PACKA( 1, 1, 1); }
buildA_q4g(h,n,P,r0,c0,r1,c1,s1,r2,c2,s2,r3,c3,s3);
}
AVX2 static void buildB_q4g(int h,int n,const int8_t*P,
int r0,int c0,int r1,int c1,int s1,
int r2,int c2,int s2, int r3,int c3,int s3){
const __m256i one=_mm256_set1_epi8(1);
int ng=h/64, W=h/64;
for (int p=0;p<h/2;p++){
const int8_t *a0=P+(size_t)(r0+2*p)*n+c0, *a1=P+(size_t)(r0+2*p+1)*n+c0;
const int8_t *q1a=P+(size_t)(r1+2*p)*n+c1, *q1b=P+(size_t)(r1+2*p+1)*n+c1;
const int8_t *q2a=P+(size_t)(r2+2*p)*n+c2, *q2b=P+(size_t)(r2+2*p+1)*n+c2;
const int8_t *q3a=P+(size_t)(r3+2*p)*n+c3, *q3b=P+(size_t)(r3+2*p+1)*n+c3;
uint64_t *w0p=Bpb+(size_t)(2*p)*W, *w1p=Bpb+(size_t)(2*p+1)*W;
for (int g=0;g<ng;g++){
uint64_t parity0=0,parity1=0;
for (int t=0;t<64;t+=32){
__m256i va=_mm256_load_si256((const __m256i*)(a0+64*g+t));
__m256i vb=_mm256_load_si256((const __m256i*)(a1+64*g+t));
BQ_TERM(1); BQ_TERM(2); BQ_TERM(3);
__m256i lo=_mm256_unpacklo_epi8(va,vb), hi=_mm256_unpackhi_epi8(va,vb);
int8_t *o=BI3b+((size_t)g*(h/2)+p)*128;
_mm256_store_si256((__m256i*)(o+2*t), (h==256?lo:_mm256_permute2x128_si256(lo,hi,0x20)));
_mm256_store_si256((__m256i*)(o+2*t+32), (h==256?hi:_mm256_permute2x128_si256(lo,hi,0x31)));
uint32_t mm0=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(va,7));
uint32_t mm1=(uint32_t)_mm256_movemask_epi8(_mm256_slli_epi16(vb,7));
parity0 |= (uint64_t)mm0<<t; parity1 |= (uint64_t)mm1<<t;
}
w0p[g]=parity0; w1p[g]=parity1;
}
}
}
AVX2 static void buildB_q4(int h,int n,const int8_t*P,
int r0,int c0,int r1,int c1,int s1,
int r2,int c2,int s2, int r3,int c3,int s3){
#define PACKB(S1,S2,S3) return buildB_q4t<S1,S2,S3>(h,n,P,r0,c0,r1,c1,r2,c2,r3,c3)
#define PACKB256(S1,S2,S3) return buildB_q4t<S1,S2,S3,256>(h,n,P,r0,c0,r1,c1,r2,c2,r3,c3)
if(h==256){if (s1==-1&&s2==-1&&s3== 1){ PACKB256(-1,-1, 1); }
if (s1==-1&&s2== 0&&s3== 0){ PACKB256(-1, 0, 0); }
if (s1==-1&&s2== 1&&s3==-1){ PACKB256(-1, 1,-1); }
if (s1== 0&&s2==-1&&s3== 0){ PACKB256( 0,-1, 0); }
if (s1== 0&&s2== 0&&s3== 0){ PACKB256( 0, 0, 0); }
if (s1== 0&&s2== 1&&s3== 0){ PACKB256( 0, 1, 0); }
if (s1== 1&&s2==-1&&s3==-1){ PACKB256( 1,-1,-1); }
if (s1== 1&&s2== 0&&s3== 0){ PACKB256( 1, 0, 0); }
if (s1== 1&&s2== 1&&s3== 1){ PACKB256( 1, 1, 1); }
}
if (s1==-1&&s2==-1&&s3== 1){ PACKB(-1,-1, 1); }
if (s1==-1&&s2== 0&&s3== 0){ PACKB(-1, 0, 0); }
if (s1==-1&&s2== 1&&s3==-1){ PACKB(-1, 1,-1); }
if (s1== 0&&s2==-1&&s3== 0){ PACKB( 0,-1, 0); }
if (s1== 0&&s2== 0&&s3== 0){ PACKB( 0, 0, 0); }
if (s1== 0&&s2== 1&&s3== 0){ PACKB( 0, 1, 0); }
if (s1== 1&&s2==-1&&s3==-1){ PACKB( 1,-1,-1); }
if (s1== 1&&s2== 0&&s3== 0){ PACKB( 1, 0, 0); }
if (s1== 1&&s2== 1&&s3== 1){ PACKB( 1, 1, 1); }
buildB_q4g(h,n,P,r0,c0,r1,c1,s1,r2,c2,s2,r3,c3,s3);
}
template<int Q>
AVX2 static void cmb4(int8_t *C,int n,int h,const int8_t (&M)[7][Q]){
for(int i=0;i<h;i++){
int8_t *r0=C+(size_t)i*n, *r1=C+(size_t)(i+h)*n;
for(int j=0;j<h;j+=64){
size_t t=(size_t)i*h+j;
const __m256i a0=_mm256_load_si256((const __m256i*)(M[0]+t));
const __m256i b0=_mm256_load_si256((const __m256i*)(M[0]+t+32));
const __m256i a1=_mm256_load_si256((const __m256i*)(M[1]+t));
const __m256i b1=_mm256_load_si256((const __m256i*)(M[1]+t+32));
const __m256i a2=_mm256_load_si256((const __m256i*)(M[2]+t));
const __m256i b2=_mm256_load_si256((const __m256i*)(M[2]+t+32));
const __m256i a3=_mm256_load_si256((const __m256i*)(M[3]+t));
const __m256i b3=_mm256_load_si256((const __m256i*)(M[3]+t+32));
const __m256i a4=_mm256_load_si256((const __m256i*)(M[4]+t));
const __m256i b4=_mm256_load_si256((const __m256i*)(M[4]+t+32));
const __m256i a5=_mm256_load_si256((const __m256i*)(M[5]+t));
const __m256i b5=_mm256_load_si256((const __m256i*)(M[5]+t+32));
const __m256i a6=_mm256_load_si256((const __m256i*)(M[6]+t));
const __m256i b6=_mm256_load_si256((const __m256i*)(M[6]+t+32));
_mm256_stream_si256((__m256i*)(r0+j), _mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(a0,a3),a4),a6));
_mm256_stream_si256((__m256i*)(r0+j+32), _mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(b0,b3),b4),b6));
_mm256_stream_si256((__m256i*)(r0+h+j), _mm256_add_epi8(a2,a4));
_mm256_stream_si256((__m256i*)(r0+h+j+32),_mm256_add_epi8(b2,b4));
_mm256_stream_si256((__m256i*)(r1+j), _mm256_add_epi8(a1,a3));
_mm256_stream_si256((__m256i*)(r1+j+32), _mm256_add_epi8(b1,b3));
_mm256_stream_si256((__m256i*)(r1+h+j), _mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(a0,a2),a1),a5));
_mm256_stream_si256((__m256i*)(r1+h+j+32),_mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(b0,b2),b1),b5));
}
}
}
template<int Q>
AVX2 static void cmb4wb(int8_t *C,int n,int h,const int8_t (&M)[7][Q]){
const __m256i idx=_mm256_load_si256((const __m256i*)PSCTRL),bit=_mm256_load_si256((const __m256i*)PSBIT),m80=_mm256_load_si256((const __m256i*)PS80);
for(int i=0;i<h;i++){
alignas(32) unsigned pp[4][8];
if(h==256){
__m256i p0=_mm256_load_si256((const __m256i*)(Psave[0]+4*i));
__m256i p1=_mm256_load_si256((const __m256i*)(Psave[1]+4*i));
__m256i p2=_mm256_load_si256((const __m256i*)(Psave[2]+4*i));
__m256i p3=_mm256_load_si256((const __m256i*)(Psave[3]+4*i));
__m256i p4=_mm256_load_si256((const __m256i*)(Psave[4]+4*i));
__m256i p5=_mm256_load_si256((const __m256i*)(Psave[5]+4*i));
__m256i p6=_mm256_load_si256((const __m256i*)(Psave[6]+4*i));
_mm256_store_si256((__m256i*)pp[0],_mm256_xor_si256(_mm256_xor_si256(p0,p3),_mm256_xor_si256(p4,p6)));
_mm256_store_si256((__m256i*)pp[1],_mm256_xor_si256(p2,p4));
_mm256_store_si256((__m256i*)pp[2],_mm256_xor_si256(p1,p3));
_mm256_store_si256((__m256i*)pp[3],_mm256_xor_si256(_mm256_xor_si256(p0,p2),_mm256_xor_si256(p1,p5)));
}
int8_t *r0=C+(size_t)i*n, *r1=C+(size_t)(i+h)*n;
for(int j=0;j<h;j+=64){
size_t t=(size_t)i*h+j;
const __m256i a0=_mm256_load_si256((const __m256i*)(M[0]+t));
const __m256i b0=_mm256_load_si256((const __m256i*)(M[0]+t+32));
const __m256i a1=_mm256_load_si256((const __m256i*)(M[1]+t));
const __m256i b1=_mm256_load_si256((const __m256i*)(M[1]+t+32));
const __m256i a2=_mm256_load_si256((const __m256i*)(M[2]+t));
const __m256i b2=_mm256_load_si256((const __m256i*)(M[2]+t+32));
const __m256i a3=_mm256_load_si256((const __m256i*)(M[3]+t));
const __m256i b3=_mm256_load_si256((const __m256i*)(M[3]+t+32));
const __m256i a4=_mm256_load_si256((const __m256i*)(M[4]+t));
const __m256i b4=_mm256_load_si256((const __m256i*)(M[4]+t+32));
const __m256i a5=_mm256_load_si256((const __m256i*)(M[5]+t));
const __m256i b5=_mm256_load_si256((const __m256i*)(M[5]+t+32));
const __m256i a6=_mm256_load_si256((const __m256i*)(M[6]+t));
const __m256i b6=_mm256_load_si256((const __m256i*)(M[6]+t+32));
{__m256i v=_mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(a0,a3),a4),a6);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[0][(j>>5)]),idx),bit)));_mm256_store_si256((__m256i*)(r0+j),v);}
{__m256i v=_mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(b0,b3),b4),b6);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[0][(j>>5) + 1]),idx),bit)));_mm256_store_si256((__m256i*)(r0+j+32),v);}
{__m256i v=_mm256_add_epi8(a2,a4);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[1][(j>>5)]),idx),bit)));_mm256_store_si256((__m256i*)(r0+h+j),v);}
{__m256i v=_mm256_add_epi8(b2,b4);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[1][(j>>5) + 1]),idx),bit)));_mm256_store_si256((__m256i*)(r0+h+j+32),v);}
{__m256i v=_mm256_add_epi8(a1,a3);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[2][(j>>5)]),idx),bit)));_mm256_store_si256((__m256i*)(r1+j),v);}
{__m256i v=_mm256_add_epi8(b1,b3);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[2][(j>>5) + 1]),idx),bit)));_mm256_store_si256((__m256i*)(r1+j+32),v);}
{__m256i v=_mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(a0,a2),a1),a5);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[3][(j>>5)]),idx),bit)));_mm256_store_si256((__m256i*)(r1+h+j),v);}
{__m256i v=_mm256_add_epi8(_mm256_sub_epi8(_mm256_add_epi8(b0,b2),b1),b5);if(h==256)v=_mm256_xor_si256(v,_mm256_sign_epi8(m80,_mm256_and_si256(_mm256_shuffle_epi8(_mm256_set1_epi32(pp[3][(j>>5) + 1]),idx),bit)));_mm256_store_si256((__m256i*)(r1+h+j+32),v);}
}
}
}
AVX2 static void cmb(int8_t*C,int n,int r0,int c0,int m,
const int8_t*M0,int s0,const int8_t*M1,int s1,
const int8_t*M2,int s2,const int8_t*M3,int s3){
for (int i=0;i<m;i++){
int8_t *d=C+(size_t)(r0+i)*n+c0;
const int8_t *p0=M0?M0+(size_t)i*m:0, *p1=M1?M1+(size_t)i*m:0;
const int8_t *p2=M2?M2+(size_t)i*m:0, *p3=M3?M3+(size_t)i*m:0;
for (int j=0;j<m;j+=32){
__m256i v;
if (p0){ __m256i t=_mm256_load_si256((const __m256i*)(p0+j));
v = s0>0?t:_mm256_sub_epi8(_mm256_setzero_si256(),t); }
else v = _mm256_setzero_si256();
if (p1){ __m256i t=_mm256_load_si256((const __m256i*)(p1+j));
v = _mm256_add_epi8(v, s1>0?t:_mm256_sub_epi8(_mm256_setzero_si256(),t)); }
if (p2){ __m256i t=_mm256_load_si256((const __m256i*)(p2+j));
v = _mm256_add_epi8(v, s2>0?t:_mm256_sub_epi8(_mm256_setzero_si256(),t)); }
if (p3){ __m256i t=_mm256_load_si256((const __m256i*)(p3+j));
v = _mm256_add_epi8(v, s3>0?t:_mm256_sub_epi8(_mm256_setzero_si256(),t)); }
_mm256_stream_si256((__m256i*)(d+j), v);
}
}
}
AVX2 static void blk(int8_t*dst,const int8_t*X,int n,int r0,int c0,int h,
const int8_t*Y,int r1,int c1,int op){
const int B = h>>2, NB = 4;
const size_t BB = (size_t)B*(size_t)B;
for (int i=0;i<h;i++){
const int8_t *xa=X+(size_t)(r0+i)*n+c0, *ya=Y+(size_t)(r1+i)*n+c1;
int8_t *d0 = dst + (size_t)((i/B)*NB)*BB + (size_t)(i%B)*B;
for (int J=0;J<NB;J++){
int8_t *d = d0 + (size_t)J*BB;
const int8_t *xaj = xa + J*B, *yaj = ya + J*B;
int j=0;
if(op==0){__asm__ volatile("prefetchw %0" :: "m"(*(char*)(d+B)));
__asm__ volatile("prefetchw %0" :: "m"(*(char*)(d+B+64)));
__asm__ volatile("prefetchw %0" :: "m"(*(char*)(d+B+128)));
__asm__ volatile("prefetchw %0" :: "m"(*(char*)(d+B+192)));}
if (op==0) for(;j+32<=B;j+=32) _mm256_store_si256((__m256i*)(d+j),
_mm256_load_si256((const __m256i*)(xaj+j)));
else if (op==1) for(;j+32<=B;j+=32) _mm256_store_si256((__m256i*)(d+j),
_mm256_add_epi8(_mm256_load_si256((const __m256i*)(xaj+j)),
_mm256_load_si256((const __m256i*)(yaj+j))));
else for(;j+32<=B;j+=32) _mm256_store_si256((__m256i*)(d+j),
_mm256_sub_epi8(_mm256_load_si256((const __m256i*)(xaj+j)),
_mm256_load_si256((const __m256i*)(yaj+j))));
if (op) for(;j<B;j++) d[j]=(int8_t)(xaj[j]+(op==1?yaj[j]:-yaj[j]));
}
}
}
AVX2 static void blk_nt(int8_t*dst,const int8_t*X,int n,int r0,int c0,int h,
const int8_t*Y,int r1,int c1,int op){
for (int i=0;i<h;i++){
const int8_t *xa=X+(size_t)(r0+i)*n+c0, *ya=Y+(size_t)(r1+i)*n+c1;
int8_t *d=dst+(size_t)i*h;
int j=0;
if (op==0) for(;j+32<=h;j+=32) _mm256_stream_si256((__m256i*)(d+j),
_mm256_load_si256((const __m256i*)(xa+j)));
else if (op==1) for(;j+32<=h;j+=32) _mm256_stream_si256((__m256i*)(d+j),
_mm256_add_epi8(_mm256_load_si256((const __m256i*)(xa+j)),
_mm256_load_si256((const __m256i*)(ya+j))));
else for(;j+32<=h;j+=32) _mm256_stream_si256((__m256i*)(d+j),
_mm256_sub_epi8(_mm256_load_si256((const __m256i*)(xa+j)),
_mm256_load_si256((const __m256i*)(ya+j))));
if (op) for(;j<h;j++) d[j]=(int8_t)(xa[j]+(op==1?ya[j]:-ya[j]));
}
}
#define R2M_BMI2 __attribute__((target("avx2,bmi2")))
#define R2M_ROR(w,r) ((uint64_t)(((w)>>(r))|((w)<<(64-(r)))))
AVX2BMI static void corr1024(void);
AVX2BMI static void corr1024(void){
const int n=1024, W=16;
memset(Pbb,0,(size_t)n*W*8);
const int KB=64;
for (int kb=0; kb<n; kb+=KB){
int w0=kb>>6;
const char *bp0=(const char*)Bpb+(size_t)w0*8192;
for (int i=0;i<n;i++){
const uint64_t*row=A1b+(size_t)i*W+w0;
uint64_t b0=row[0], b1=0;
uint64_t *o=Pbb+(size_t)i*W;
asm volatile(
"vpxor %%xmm0,%%xmm0,%%xmm0\n\tvpxor %%xmm1,%%xmm1,%%xmm1\n\tvpxor %%xmm2,%%xmm2,%%xmm2\n\tvpxor %%xmm3,%%xmm3,%%xmm3\n\ttestq %[b0], %[b0]\n\tjz 3%=f\n\t1%=:\n\ttzcntq %[b0], %%r11\n\tshlq $7, %%r11\n\taddq %[bp0], %%r11\n\tvpxor 0(%%r11), %%ymm0, %%ymm0\n\tvpxor 32(%%r11), %%ymm1, %%ymm1\n\tvpxor 64(%%r11), %%ymm2, %%ymm2\n\tvpxor 96(%%r11), %%ymm3, %%ymm3\n\tblsrq %[b0], %[b0]\n\tjnz 1%=b\n\t3%=:\n\ttestq %[b1], %[b1]\n\tjz 4%=f\n\t2%=:\n\ttzcntq %[b1], %%r11\n\tshlq $7, %%r11\n\taddq %[bp0], %%r11\n\tvpxor 0(%%r11), %%ymm0, %%ymm0\n\tvpxor 32(%%r11), %%ymm1, %%ymm1\n\tvpxor 64(%%r11), %%ymm2, %%ymm2\n\tvpxor 96(%%r11), %%ymm3, %%ymm3\n\tblsrq %[b1], %[b1]\n\tjnz 2%=b\n\t4%=:\n\tvpxor 0(%[o]), %%ymm0, %%ymm0\n\tvmovdqu %%ymm0, 0(%[o])\n\tvpxor 32(%[o]), %%ymm1, %%ymm1\n\tvmovdqu %%ymm1, 32(%[o])\n\tvpxor 64(%[o]), %%ymm2, %%ymm2\n\tvmovdqu %%ymm2, 64(%[o])\n\tvpxor 96(%[o]), %%ymm3, %%ymm3\n\tvmovdqu %%ymm3, 96(%[o])\n\t"
: [b0]"+r"(b0), [b1]"+r"(b1)
: [bp0]"r"(bp0), [o]"r"(o)
: "r11","cc","memory","ymm0","ymm1","ymm2","ymm3");
}
}
}
static uint64_t TB[((size_t)NMAX/64)*256] __attribute__((aligned(64)));
AVX2BMI static void nibtab_build(const uint64_t *__restrict r, uint64_t *__restrict T, int W){
const int U = W>>2;
const __m256i *rp = (const __m256i*)r;
__m256i *tp = (__m256i*)T;
for (int q=0;q<U;q++){
const __m256i a1=rp[q], a2=rp[U+q], a4=rp[2*U+q], a8=rp[3*U+q];
const __m256i x12=_mm256_xor_si256(a1,a2), x14=_mm256_xor_si256(a1,a4),
x18=_mm256_xor_si256(a1,a8);
__m256i *o = tp+q;
o[ 0*U]=_mm256_setzero_si256();
o[ 1*U]=a1; o[ 2*U]=a2; o[ 4*U]=a4; o[ 8*U]=a8;
o[ 3*U]=x12; o[ 5*U]=x14;
o[ 6*U]=_mm256_xor_si256(a2,a4); o[ 7*U]=_mm256_xor_si256(x12,a4);
o[ 9*U]=x18; o[10*U]=_mm256_xor_si256(a2,a8);
o[12*U]=_mm256_xor_si256(a4,a8);
o[11*U]=_mm256_xor_si256(a2,x18); o[13*U]=_mm256_xor_si256(a4,x18);
o[14*U]=_mm256_xor_si256(_mm256_xor_si256(a2,a4),a8);
o[15*U]=_mm256_xor_si256(_mm256_xor_si256(x12,a4),a8);
}
}
#define DEF_NIBCORR(TAG, M) \
AVX2BMI static void nibcorr##TAG(void){ \
const int n=M, W=n/64, G=n>>2, GB=16, NY=W>>2; \
memset(Pbb,0,(size_t)n*W*8); \
for (int g0=0; g0<G; g0+=GB){ \
for (int t=0;t<GB;t++){ \
const int g=g0+t; \
uint64_t *T=TB+(size_t)t*16*W; \
const uint64_t *r=Bpb+(size_t)(g*4)*W; \
nibtab_build(r,T,W); \
\
} \
for (int i=0;i<n;i++){ \
const uint64_t *arow=A1b+(size_t)i*W+(g0>>4); \
__m256i acc[NY]; \
for (int q=0;q<NY;q++) acc[q]=_mm256_setzero_si256(); \
const uint64_t *T=TB; \
for (int wb=0; wb<(GB>>4); wb++){ \
const uint64_t word=arow[wb]; \
_Pragma("GCC unroll 16") \
for (int b=0;b<16;b++, T+=(size_t)16*W){ \
const uint64_t *e=T+(size_t)(((word>>(4*b))&15u)*W); \
for (int q=0;q<NY;q++) \
acc[q]=_mm256_xor_si256(acc[q],_mm256_load_si256((const __m256i*)(e+4*q))); \
} \
} \
uint64_t *o=Pbb+(size_t)i*W; \
for (int q=0;q<NY;q++){ \
__m256i *po=(__m256i*)(o+4*q); \
_mm256_store_si256(po,_mm256_xor_si256(_mm256_load_si256((const __m256i*)po),acc[q])); \
} \
} \
} \
}
DEF_NIBCORR(512,512)
DEF_NIBCORR(256,256)
DEF_NIBCORR(1024,1024)
AVX2 static inline __attribute__((always_inline)) void mixed_build5(const uint64_t*r,__m256i*T){
const __m256i r0=_mm256_load_si256((const __m256i*)(r+0));
const __m256i r1=_mm256_load_si256((const __m256i*)(r+4));
const __m256i r2=_mm256_load_si256((const __m256i*)(r+8));
const __m256i r3=_mm256_load_si256((const __m256i*)(r+12));
const __m256i r4=_mm256_load_si256((const __m256i*)(r+16));
__m256i v=_mm256_setzero_si256();_mm256_store_si256(T,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+1,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+3,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+2,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+6,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+7,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+5,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+4,v);
v=_mm256_xor_si256(v,r3);_mm256_store_si256(T+12,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+13,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+15,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+14,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+10,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+11,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+9,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+8,v);
v=_mm256_xor_si256(v,r4);_mm256_store_si256(T+24,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+25,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+27,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+26,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+30,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+31,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+29,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+28,v);
v=_mm256_xor_si256(v,r3);_mm256_store_si256(T+20,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+21,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+23,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+22,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+18,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+19,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+17,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+16,v);
}
AVX2 static inline __attribute__((always_inline)) void mixed_build6(const uint64_t*r,__m256i*T){
const __m256i r0=_mm256_load_si256((const __m256i*)(r+0));
const __m256i r1=_mm256_load_si256((const __m256i*)(r+4));
const __m256i r2=_mm256_load_si256((const __m256i*)(r+8));
const __m256i r3=_mm256_load_si256((const __m256i*)(r+12));
const __m256i r4=_mm256_load_si256((const __m256i*)(r+16));
const __m256i r5=_mm256_load_si256((const __m256i*)(r+20));
__m256i v=_mm256_setzero_si256();_mm256_store_si256(T,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+1,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+3,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+2,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+6,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+7,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+5,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+4,v);
v=_mm256_xor_si256(v,r3);_mm256_store_si256(T+12,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+13,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+15,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+14,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+10,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+11,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+9,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+8,v);
v=_mm256_xor_si256(v,r4);_mm256_store_si256(T+24,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+25,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+27,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+26,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+30,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+31,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+29,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+28,v);
v=_mm256_xor_si256(v,r3);_mm256_store_si256(T+20,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+21,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+23,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+22,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+18,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+19,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+17,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+16,v);
v=_mm256_xor_si256(v,r5);_mm256_store_si256(T+48,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+49,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+51,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+50,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+54,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+55,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+53,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+52,v);
v=_mm256_xor_si256(v,r3);_mm256_store_si256(T+60,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+61,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+63,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+62,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+58,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+59,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+57,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+56,v);
v=_mm256_xor_si256(v,r4);_mm256_store_si256(T+40,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+41,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+43,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+42,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+46,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+47,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+45,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+44,v);
v=_mm256_xor_si256(v,r3);_mm256_store_si256(T+36,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+37,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+39,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+38,v);
v=_mm256_xor_si256(v,r2);_mm256_store_si256(T+34,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+35,v);
v=_mm256_xor_si256(v,r1);_mm256_store_si256(T+33,v);
v=_mm256_xor_si256(v,r0);_mm256_store_si256(T+32,v);
}
static uint64_t *Pcur=Pbb;
template<bool First>
R2M_BMI2 static void corr_i_loop(const char*tb,int wb){
for(int i=0;i<256;i+=2){
uint64_t w0=A1b[wb*256+i],w1=A1b[wb*256+i+1];
__m256i x0,y0;
if constexpr(First){ x0=_mm256_setzero_si256(); y0=x0; }
else { x0=_mm256_load_si256((const __m256i*)(Pcur+i*4)); y0=_mm256_load_si256((const __m256i*)(Pcur+(i+1)*4)); }
__m256i x1=_mm256_setzero_si256(),y1=x1;
x0=_mm256_xor_si256(x0,_mm256_load_si256((const __m256i*)(tb+0+(R2M_ROR(w0,59)&2016))));
y0=_mm256_xor_si256(y0,_mm256_load_si256((const __m256i*)(tb+0+(R2M_ROR(w1,59)&2016))));
x1=_mm256_xor_si256(x1,_mm256_load_si256((const __m256i*)(tb+2048+(R2M_ROR(w0,1)&2016))));
y1=_mm256_xor_si256(y1,_mm256_load_si256((const __m256i*)(tb+2048+(R2M_ROR(w1,1)&2016))));
x0=_mm256_xor_si256(x0,_mm256_load_si256((const __m256i*)(tb+4096+(R2M_ROR(w0,7)&2016))));
y0=_mm256_xor_si256(y0,_mm256_load_si256((const __m256i*)(tb+4096+(R2M_ROR(w1,7)&2016))));
x1=_mm256_xor_si256(x1,_mm256_load_si256((const __m256i*)(tb+6144+(R2M_ROR(w0,13)&2016))));
y1=_mm256_xor_si256(y1,_mm256_load_si256((const __m256i*)(tb+6144+(R2M_ROR(w1,13)&2016))));
x0=_mm256_xor_si256(x0,_mm256_load_si256((const __m256i*)(tb+8192+(R2M_ROR(w0,19)&992))));
y0=_mm256_xor_si256(y0,_mm256_load_si256((const __m256i*)(tb+8192+(R2M_ROR(w1,19)&992))));
x1=_mm256_xor_si256(x1,_mm256_load_si256((const __m256i*)(tb+9216+(R2M_ROR(w0,24)&992))));
y1=_mm256_xor_si256(y1,_mm256_load_si256((const __m256i*)(tb+9216+(R2M_ROR(w1,24)&992))));
x0=_mm256_xor_si256(x0,_mm256_load_si256((const __m256i*)(tb+10240+(R2M_ROR(w0,29)&992))));
y0=_mm256_xor_si256(y0,_mm256_load_si256((const __m256i*)(tb+10240+(R2M_ROR(w1,29)&992))));
x1=_mm256_xor_si256(x1,_mm256_load_si256((const __m256i*)(tb+11264+(R2M_ROR(w0,34)&992))));
y1=_mm256_xor_si256(y1,_mm256_load_si256((const __m256i*)(tb+11264+(R2M_ROR(w1,34)&992))));
x0=_mm256_xor_si256(x0,_mm256_load_si256((const __m256i*)(tb+12288+(R2M_ROR(w0,39)&992))));
y0=_mm256_xor_si256(y0,_mm256_load_si256((const __m256i*)(tb+12288+(R2M_ROR(w1,39)&992))));
x1=_mm256_xor_si256(x1,_mm256_load_si256((const __m256i*)(tb+13312+(R2M_ROR(w0,44)&992))));
y1=_mm256_xor_si256(y1,_mm256_load_si256((const __m256i*)(tb+13312+(R2M_ROR(w1,44)&992))));
x0=_mm256_xor_si256(x0,_mm256_load_si256((const __m256i*)(tb+14336+(R2M_ROR(w0,49)&992))));
y0=_mm256_xor_si256(y0,_mm256_load_si256((const __m256i*)(tb+14336+(R2M_ROR(w1,49)&992))));
x1=_mm256_xor_si256(x1,_mm256_load_si256((const __m256i*)(tb+15360+(R2M_ROR(w0,54)&992))));
y1=_mm256_xor_si256(y1,_mm256_load_si256((const __m256i*)(tb+15360+(R2M_ROR(w1,54)&992))));
_mm256_store_si256((__m256i*)(Pcur+i*4),_mm256_xor_si256(x0,x1));
_mm256_store_si256((__m256i*)(Pcur+(i+1)*4),_mm256_xor_si256(y0,y1));
}
}
R2M_BMI2 static void corr_six256(){
const char*tb=(const char*)TB;
for(int wb=0;wb<4;wb++){
for(int g=0;g<4;g++)mixed_build6(Bpb+(wb*64+g*6)*4,(__m256i*)TB+g*64);
for(int g=0;g<8;g++)mixed_build5(Bpb+(wb*64+24+g*5)*4,(__m256i*)TB+256+g*32);
if(wb==0) corr_i_loop<true>(tb,0); else corr_i_loop<false>(tb,wb);
}
if(__builtin_expect(Pcur==(const uint64_t*)1,0)){ __asm__ volatile(".fill 48,1,0x90"); }
}
template<bool Defer=false>
AVX2 static void __attribute__((flatten,no_reorder)) submm_tail(int m,int8_t*Cp){
GLDA = 2*(m) + PADA; GLDB = m + PADB;
if constexpr(Defer){Pcur=Psave[(Cp-S4M[0])/sizeof(S4M[0])];}
corr_six256();
const int GB=1024, IB=1024;
for (int ib=0; ib<m; ib+=IB){
const int ihi = (ib+IB<m)? ib+IB : m;
for (int gb=0; gb<m; gb+=GB){
const int ghi = (gb+GB<m)? gb+GB : m;
for (int g=gb; g<ghi; g+=64){
const int8_t *bi = BI3b+(size_t)(g>>6)*(m/2)*128;
{ int rev=0;
if(m==256){
for (int i=ib; i<ihi; i+=256){
const int8_t *ap=A0b+(size_t)i*GLDA;
const uint8_t *pw = (const uint8_t*)(Pbb+(size_t)i*(m>>6)+(g>>6));
mikro_u4<true,128,Defer>(m,ap,bi,Cp+(size_t)i*m+g,pw,0,GLDA,(m>>6)*8);
}
}else{
for (int i=ib; i<ihi; i+=2){
const int8_t *ap=A0b+(size_t)i*GLDA;
const uint8_t *pw = (const uint8_t*)(Pbb+(size_t)i*(m>>6)+(g>>6));
mikro_u4<false>(m,ap,bi,Cp+(size_t)i*m+g,pw,0,GLDA,(m>>6)*8);
}
}
rev^=1; }
}
}
}
}
AVX2 static void submm_plain(int m,const int8_t*Ap,const int8_t*Bp,int8_t*Cp){
GLDA = 2*(m) + PADA; GLDB = m + PADB;
build_A0A1(m,Ap); build_BI3Bp(m,Bp); submm_tail(m,Cp);
}
AVX2 static void submm(int m,const int8_t*Ap,const int8_t*Bp,int8_t*Cp);
#define S2MIN 1024
AVX2 static void submm_s4(int m,const int8_t*X,const int8_t*Y,int8_t*dst);
AVX2 static void submm_s5f(int M,const int8_t*Ap,int Aa0,int Aa1,int Aa2,int Aa3,int Aop,
const int8_t*Bp,int Ba0,int Ba1,int Ba2,int Ba3,int Bop,int8_t*Cp);
AVX2 static void submm_s5f(int M,const int8_t*Ap,int Aa0,int Aa1,int Aa2,int Aa3,int Aop,
const int8_t*Bp,int Ba0,int Ba1,int Ba2,int Ba3,int Bop,int8_t*Cp){
const int h=M>>2, o=h;
#define NRB(rr,cc) ((((rr)/h)*4 + ((cc)/h))*(h))
const int SQA=(Aop==1)?1:((Aop==2)?-1:0);
const int SQB=(Bop==1)?1:((Bop==2)?-1:0);
const int dz=M>>1;
GLDA = 2*h + PADA; GLDB = h + PADB;
for (int k=0;k<7;k++){
switch(k){
case 0: buildB_q4(h,h,Bp,NRB(Ba0,Ba1),0, NRB(Ba2,Ba3),0,SQB, NRB(Ba0+o,Ba1+o),0,+1, NRB(Ba2+o,Ba3+o),0,(SQB)*(+1));
buildA_q4(h,h,Ap,NRB(Aa0,Aa1),0, NRB(Aa2,Aa3),0,SQA, NRB(Aa0+o,Aa1+o),0,+1, NRB(Aa2+o,Aa3+o),0,(SQA)*(+1));
submm_tail<true>(h,S4M[0]); break;
case 1: buildB_q4(h,h,Bp,NRB(Ba0,Ba1),0, NRB(Ba2,Ba3),0,SQB, NRB(Ba0,Ba1),0,+0, NRB(Ba2,Ba3),0,(SQB)*(+0));
buildA_q4(h,h,Ap,NRB(Aa0+o,Aa1),0, NRB(Aa2+o,Aa3),0,SQA, NRB(Aa0+o,Aa1+o),0,+1, NRB(Aa2+o,Aa3+o),0,(SQA)*(+1));
submm_tail<true>(h,S4M[1]); break;
case 2: buildB_q4(h,h,Bp,NRB(Ba0,Ba1+o),0, NRB(Ba2,Ba3+o),0,SQB, NRB(Ba0+o,Ba1+o),0,-1, NRB(Ba2+o,Ba3+o),0,(SQB)*(-1));
buildA_q4(h,h,Ap,NRB(Aa0,Aa1),0, NRB(Aa2,Aa3),0,SQA, NRB(Aa0,Aa1),0,+0, NRB(Aa2,Aa3),0,(SQA)*(+0));
submm_tail<true>(h,S4M[2]); break;
case 3: buildB_q4(h,h,Bp,NRB(Ba0+o,Ba1),0, NRB(Ba2+o,Ba3),0,SQB, NRB(Ba0,Ba1),0,-1, NRB(Ba2,Ba3),0,(SQB)*(-1));
buildA_q4(h,h,Ap,NRB(Aa0+o,Aa1+o),0, NRB(Aa2+o,Aa3+o),0,SQA, NRB(Aa0+o,Aa1+o),0,+0, NRB(Aa2+o,Aa3+o),0,(SQA)*(+0));
submm_tail<true>(h,S4M[3]); break;
case 4: buildB_q4(h,h,Bp,NRB(Ba0+o,Ba1+o),0, NRB(Ba2+o,Ba3+o),0,SQB, NRB(Ba0+o,Ba1+o),0,+0, NRB(Ba2+o,Ba3+o),0,(SQB)*(+0));
buildA_q4(h,h,Ap,NRB(Aa0,Aa1),0, NRB(Aa2,Aa3),0,SQA, NRB(Aa0,Aa1+o),0,+1, NRB(Aa2,Aa3+o),0,(SQA)*(+1));
submm_tail<true>(h,S4M[4]); break;
case 5: buildB_q4(h,h,Bp,NRB(Ba0,Ba1),0, NRB(Ba2,Ba3),0,SQB, NRB(Ba0,Ba1+o),0,+1, NRB(Ba2,Ba3+o),0,(SQB)*(+1));
buildA_q4(h,h,Ap,NRB(Aa0+o,Aa1),0, NRB(Aa2+o,Aa3),0,SQA, NRB(Aa0,Aa1),0,-1, NRB(Aa2,Aa3),0,(SQA)*(-1));
submm_tail<true>(h,S4M[5]); break;
case 6: buildB_q4(h,h,Bp,NRB(Ba0+o,Ba1),0, NRB(Ba2+o,Ba3),0,SQB, NRB(Ba0+o,Ba1+o),0,+1, NRB(Ba2+o,Ba3+o),0,(SQB)*(+1));
buildA_q4(h,h,Ap,NRB(Aa0,Aa1+o),0, NRB(Aa2,Aa3+o),0,SQA, NRB(Aa0+o,Aa1+o),0,-1, NRB(Aa2+o,Aa3+o),0,(SQA)*(-1));
submm_tail<true>(h,S4M[6]); break;
}
}
#undef NRB
_mm_sfence();
cmb4wb(Cp,dz,h,S4M);
_mm_sfence();
}
AVX2 static void submm_s5(int m,const int8_t*Ap,const int8_t*Bp,int8_t*Cp);
AVX2 static void submm_s5(int m,const int8_t*Ap,const int8_t*Bp,int8_t*Cp){
GLDA = 2*((m>>1)) + PADA; GLDB = (m>>1) + PADB;
const int h=m>>1, o=h;
for (int k=0;k<7;k++){
switch(k){
case 0: buildA_q(h,m,Ap,0,0,Ap,o,o,1); buildB_q(h,m,Bp,0,0,Bp,o,o,1); submm_tail(h,S4M[0]); break;
case 1: buildA_q(h,m,Ap,o,0,Ap,o,o,1); buildB_q(h,m,Bp,0,0,Bp,0,0,0); submm_tail(h,S4M[1]); break;
case 2: buildA_q(h,m,Ap,0,0,Ap,0,0,0); buildB_q(h,m,Bp,0,o,Bp,o,o,2); submm_tail(h,S4M[2]); break;
case 3: buildA_q(h,m,Ap,o,o,Ap,o,o,0); buildB_q(h,m,Bp,o,0,Bp,0,0,2); submm_tail(h,S4M[3]); break;
case 4: buildA_q(h,m,Ap,0,0,Ap,0,o,1); buildB_q(h,m,Bp,o,o,Bp,o,o,0); submm_tail(h,S4M[4]); break;
case 5: buildA_q(h,m,Ap,o,0,Ap,0,0,2); buildB_q(h,m,Bp,0,0,Bp,0,o,1); submm_tail(h,S4M[5]); break;
case 6: buildA_q(h,m,Ap,0,o,Ap,o,o,2); buildB_q(h,m,Bp,o,0,Bp,o,o,1); submm_tail(h,S4M[6]); break;
}
}
_mm_sfence();
cmb(Cp,m,0,0,h, S4M[0],1,S4M[3],1,S4M[4],-1,S4M[6],1);
cmb(Cp,m,0,o,h, S4M[2],1,S4M[4],1,0,0,0,0);
cmb(Cp,m,o,0,h, S4M[1],1,S4M[3],1,0,0,0,0);
cmb(Cp,m,o,o,h, S4M[0],1,S4M[2],1,S4M[1],-1,S4M[5],1);
_mm_sfence();
}
AVX2 static void submm_s4(int m,const int8_t*Ap,const int8_t*Bp,int8_t*Cp){
GLDA = 2*((m>>1)) + PADA; GLDB = (m>>1) + PADB;
const int h=m>>1, o=h;
for (int k=0;k<7;k++){
switch(k){
case 0: submm_s5f(m,Ap,0,0,o,o,1, Bp,0,0,o,o,1, S3M[0]); break;
case 1: submm_s5f(m,Ap,o,0,o,o,1, Bp,0,0,0,0,0, S3M[1]); break;
case 2: submm_s5f(m,Ap,0,0,0,0,0, Bp,0,o,o,o,2, S3M[2]); break;
case 3: submm_s5f(m,Ap,o,o,o,o,0, Bp,o,0,0,0,2, S3M[3]); break;
case 4: submm_s5f(m,Ap,0,0,0,o,1, Bp,o,o,o,o,0, S3M[4]); break;
case 5: submm_s5f(m,Ap,o,0,0,0,2, Bp,0,0,0,o,1, S3M[5]); break;
case 6: submm_s5f(m,Ap,0,o,o,o,2, Bp,o,0,o,o,1, S3M[6]); break;
}
}
_mm_sfence();
cmb4(Cp,m,h,S3M);
_mm_sfence();
}
AVX2 static void submm_s2(int m,const int8_t*Ap,const int8_t*Bp,int8_t*Cp){
GLDA = 2*((m>>1)) + PADA; GLDB = (m>>1) + PADB;
const int h=m>>1, o=h;
for (int k=0;k<7;k++){
switch(k){
case 0: blk(S3A,Ap,m,0,0,h,Ap,o,o,1); blk(S3B,Bp,m,0,0,h,Bp,o,o,1); submm_s4(h,S3A,S3B,S2M[0]); break;
case 1: blk(S3A,Ap,m,o,0,h,Ap,o,o,1); blk(S3B,Bp,m,0,0,h,Bp,0,0,0); submm_s4(h,S3A,S3B,S2M[1]); break;
case 2: blk(S3A,Ap,m,0,0,h,Ap,0,0,0); blk(S3B,Bp,m,0,o,h,Bp,o,o,2); submm_s4(h,S3A,S3B,S2M[2]); break;
case 3: blk(S3A,Ap,m,o,o,h,Ap,o,o,0); blk(S3B,Bp,m,o,0,h,Bp,0,0,2); submm_s4(h,S3A,S3B,S2M[3]); break;
case 4: blk(S3A,Ap,m,0,0,h,Ap,0,o,1); blk(S3B,Bp,m,o,o,h,Bp,o,o,0); submm_s4(h,S3A,S3B,S2M[4]); break;
case 5: blk(S3A,Ap,m,o,0,h,Ap,0,0,2); blk(S3B,Bp,m,0,0,h,Bp,0,o,1); submm_s4(h,S3A,S3B,S2M[5]); break;
case 6: blk(S3A,Ap,m,0,o,h,Ap,o,o,2); blk(S3B,Bp,m,o,0,h,Bp,o,o,1); submm_s4(h,S3A,S3B,S2M[6]); break;
}
}
_mm_sfence();
cmb4(Cp,m,h,S2M);
_mm_sfence();
}
AVX2 static void submm(int m,const int8_t*Ap,const int8_t*Bp,int8_t*Cp){
if (m>=512) { submm_s4(m,Ap,Bp,Cp); return; }
submm_plain(m,Ap,Bp,Cp);
}
AVX2 static void build5t(const int8_t*X,int n,int m,int mode,int8_t*o0,int8_t*o1,int8_t*o2,int8_t*o3,int8_t*o4,int8_t*o5,int8_t*o6){
const int B=m>>2, NB=4; const size_t BB=(size_t)B*B;
for(int i=0;i<m;i++){
const int8_t*p00=X+(size_t)i*n, *p01=p00+m, *p10=p00+(size_t)m*n, *p11=p10+m;
const size_t base=(size_t)(i/B)*NB*BB+(size_t)(i%B)*B;
for(int J=0;J<NB;J++){
const int8_t*q00=p00+J*B,*q01=p01+J*B,*q10=p10+J*B,*q11=p11+J*B;
const size_t ob=base+(size_t)J*BB;
for(int j=0;j<B;j+=64){
if((j&63)==0){
_mm_prefetch((const char*)(q00+j+256),_MM_HINT_T0);
_mm_prefetch((const char*)(q00+j+288),_MM_HINT_T0);
_mm_prefetch((const char*)(q01+j+256),_MM_HINT_T0);
_mm_prefetch((const char*)(q01+j+288),_MM_HINT_T0);
_mm_prefetch((const char*)(q10+j+256),_MM_HINT_T0);
_mm_prefetch((const char*)(q10+j+288),_MM_HINT_T0);
_mm_prefetch((const char*)(q11+j+256),_MM_HINT_T0);
_mm_prefetch((const char*)(q11+j+288),_MM_HINT_T0);
}
const __m256i v00=_mm256_loadu_si256((const __m256i*)(q00+j));
const __m256i x00=_mm256_loadu_si256((const __m256i*)(q00+j+32));
const __m256i v01=_mm256_loadu_si256((const __m256i*)(q01+j));
const __m256i x01=_mm256_loadu_si256((const __m256i*)(q01+j+32));
const __m256i v10=_mm256_loadu_si256((const __m256i*)(q10+j));
const __m256i x10=_mm256_loadu_si256((const __m256i*)(q10+j+32));
const __m256i v11=_mm256_loadu_si256((const __m256i*)(q11+j));
const __m256i x11=_mm256_loadu_si256((const __m256i*)(q11+j+32));
if(mode==0){
_mm256_stream_si256((__m256i*)(o0+ob+j),_mm256_add_epi8(v00,v11));
_mm256_stream_si256((__m256i*)(o0+ob+j+32),_mm256_add_epi8(x00,x11));
_mm256_stream_si256((__m256i*)(o1+ob+j),_mm256_add_epi8(v10,v11));
_mm256_stream_si256((__m256i*)(o1+ob+j+32),_mm256_add_epi8(x10,x11));
_mm256_stream_si256((__m256i*)(o4+ob+j),_mm256_add_epi8(v00,v01));
_mm256_stream_si256((__m256i*)(o4+ob+j+32),_mm256_add_epi8(x00,x01));
_mm256_stream_si256((__m256i*)(o5+ob+j),_mm256_sub_epi8(v10,v00));
_mm256_stream_si256((__m256i*)(o5+ob+j+32),_mm256_sub_epi8(x10,x00));
_mm256_stream_si256((__m256i*)(o6+ob+j),_mm256_sub_epi8(v01,v11));
_mm256_stream_si256((__m256i*)(o6+ob+j+32),_mm256_sub_epi8(x01,x11));
} else {
if(o0){_mm256_stream_si256((__m256i*)(o0+ob+j),_mm256_add_epi8(v00,v11));
_mm256_stream_si256((__m256i*)(o0+ob+j+32),_mm256_add_epi8(x00,x11));}
if(o2){_mm256_stream_si256((__m256i*)(o2+ob+j),_mm256_sub_epi8(v01,v11));
_mm256_stream_si256((__m256i*)(o2+ob+j+32),_mm256_sub_epi8(x01,x11));}
if(o3){_mm256_stream_si256((__m256i*)(o3+ob+j),_mm256_sub_epi8(v10,v00));
_mm256_stream_si256((__m256i*)(o3+ob+j+32),_mm256_sub_epi8(x10,x00));}
if(o5){_mm256_stream_si256((__m256i*)(o5+ob+j),_mm256_add_epi8(v00,v01));
_mm256_stream_si256((__m256i*)(o5+ob+j+32),_mm256_add_epi8(x00,x01));}
if(o6){_mm256_stream_si256((__m256i*)(o6+ob+j),_mm256_add_epi8(v10,v11));
_mm256_stream_si256((__m256i*)(o6+ob+j+32),_mm256_add_epi8(x10,x11));}
}
}
}
}
_mm_sfence();
}
AVX2 static void strassen1(int n,const int8_t*A,const int8_t*B,int8_t*C){
const int m=n>>1, o=m;
const size_t SZ=(size_t)m*m;
int8_t*a0=MMS[0],*a1=MMS[1],*a4=MMS[4],*a5=MMS[5],*a6=MMS[6];
int8_t*b2=MMS[2],*b3=MMS[3];
int8_t*b0=C,*b5=C+SZ,*b6=C+2*SZ,*blk1=C+3*SZ;
build5t(A,n,m,0,a0,a1,0,0,a4,a5,a6);
build5t(B,n,m,1,b0,0,b2,b3,0,b5,b6);
blk(blk1,A,n,0,0,m,A,0,0,0); submm_s4(m,blk1,b2,MMS[2]);
blk(blk1,A,n,o,o,m,A,o,o,0); submm_s4(m,blk1,b3,MMS[3]);
blk(blk1,B,n,0,0,m,B,0,0,0); submm_s4(m,a1,blk1,MMS[1]);
blk(blk1,B,n,o,o,m,B,o,o,0); submm_s4(m,a4,blk1,MMS[4]);
submm_s4(m,a0,b0,MMS[0]);
submm_s4(m,a5,b5,MMS[5]);
submm_s4(m,a6,b6,MMS[6]);
_mm_sfence();
cmb4(C,n,m,MMS);
_mm_sfence();
}
AVX2 void matrix_multiply(int n, const int8_t *A, const int8_t *B, int8_t *C){
strassen1(n,A,B,C);
}
| Compilation | N/A | N/A | Compile OK | Score: N/A | 显示更多 |
| Testcase #1 | 45.639 ms | 13 MB + 584 KB | Accepted | Score: 100 | 显示更多 |