Datasets:

WhirlwindAI
/

Benchmark-TEST

ctx stringlengths 4 8	endings listlengths 4 4	label int64 0 3
0 + 0 =	[ " 4", " 0", " 8", " 20" ]	1
0+0=	[ "4", "0", "8", "20" ]	1
0 + 1 =	[ " 4", " 5", " 1", " 21" ]	2
0+1=	[ "4", "5", "1", "21" ]	2
0 + 2 =	[ " 4", " 14", " 2", " 5" ]	2
0+2=	[ "4", "14", "2", "5" ]	2
0 + 3 =	[ " 4", " 3", " 6", " 5" ]	1
0+3=	[ "4", "3", "6", "5" ]	1
0 + 4 =	[ " 1", " 4", " 11", " 16" ]	1
0+4=	[ "1", "4", "11", "16" ]	1
0 + 5 =	[ " 5", " 10", " 14", " 13" ]	0
0+5=	[ "5", "10", "14", "13" ]	0
0 + 6 =	[ " 6", " 16", " 21", " 9" ]	0
0+6=	[ "6", "16", "21", "9" ]	0
0 + 7 =	[ " 7", " 2", " 16", " 0" ]	0
0+7=	[ "7", "2", "16", "0" ]	0
0 + 8 =	[ " 20", " 10", " 8", " 17" ]	2
0+8=	[ "20", "10", "8", "17" ]	2
0 + 9 =	[ " 24", " 5", " 9", " 11" ]	2
0+9=	[ "24", "5", "9", "11" ]	2
0 + 10 =	[ " 8", " 10", " 0", " 17" ]	1
0+10=	[ "8", "10", "0", "17" ]	1
0 + 11 =	[ " 11", " 6", " 18", " 7" ]	0
0+11=	[ "11", "6", "18", "7" ]	0
0 + 12 =	[ " 24", " 4", " 12", " 20" ]	2
0+12=	[ "24", "4", "12", "20" ]	2
0 + 13 =	[ " 28", " 13", " 8", " 14" ]	1
0+13=	[ "28", "13", "8", "14" ]	1
0 + 14 =	[ " 4", " 21", " 2", " 14" ]	3
0+14=	[ "4", "21", "2", "14" ]	3
0 + 15 =	[ " 6", " 15", " 11", " 23" ]	1
0+15=	[ "6", "15", "11", "23" ]	1
0 + 16 =	[ " 12", " 28", " 16", " 18" ]	2
0+16=	[ "12", "28", "16", "18" ]	2
0 + 17 =	[ " 17", " 5", " 21", " 24" ]	0
0+17=	[ "17", "5", "21", "24" ]	0
0 + 18 =	[ " 18", " 25", " 19", " 22" ]	0
0+18=	[ "18", "25", "19", "22" ]	0
0 + 19 =	[ " 9", " 23", " 19", " 24" ]	2
0+19=	[ "9", "23", "19", "24" ]	2
0 + 20 =	[ " 19", " 20", " 25", " 16" ]	1
0+20=	[ "19", "20", "25", "16" ]	1
0 + 21 =	[ " 21", " 1", " 6", " 31" ]	0
0+21=	[ "21", "1", "6", "31" ]	0
0 + 22 =	[ " 32", " 14", " 22", " 2" ]	2
0+22=	[ "32", "14", "22", "2" ]	2
0 + 23 =	[ " 26", " 30", " 23", " 15" ]	2
0+23=	[ "26", "30", "23", "15" ]	2
0 + 24 =	[ " 26", " 39", " 20", " 24" ]	3
0+24=	[ "26", "39", "20", "24" ]	3
0 + 25 =	[ " 16", " 17", " 30", " 25" ]	3
0+25=	[ "16", "17", "30", "25" ]	3
0 + 26 =	[ " 22", " 26", " 14", " 27" ]	1
0+26=	[ "22", "26", "14", "27" ]	1
0 + 27 =	[ " 24", " 35", " 17", " 27" ]	3
0+27=	[ "24", "35", "17", "27" ]	3
0 + 28 =	[ " 28", " 13", " 25", " 35" ]	0
0+28=	[ "28", "13", "25", "35" ]	0
0 + 29 =	[ " 25", " 34", " 29", " 39" ]	2
0+29=	[ "25", "34", "29", "39" ]	2
0 + 30 =	[ " 38", " 30", " 32", " 31" ]	1
0+30=	[ "38", "30", "32", "31" ]	1
0 + 31 =	[ " 34", " 31", " 43", " 24" ]	1
0+31=	[ "34", "31", "43", "24" ]	1
0 + 32 =	[ " 39", " 17", " 32", " 41" ]	2
0+32=	[ "39", "17", "32", "41" ]	2
0 + 33 =	[ " 26", " 34", " 42", " 33" ]	3
0+33=	[ "26", "34", "42", "33" ]	3
0 + 34 =	[ " 36", " 34", " 43", " 38" ]	1
0+34=	[ "36", "34", "43", "38" ]	1
0 + 35 =	[ " 38", " 42", " 35", " 34" ]	2
0+35=	[ "38", "42", "35", "34" ]	2
0 + 36 =	[ " 34", " 45", " 56", " 36" ]	3
0+36=	[ "34", "45", "56", "36" ]	3
0 + 37 =	[ " 39", " 38", " 47", " 37" ]	3
0+37=	[ "39", "38", "47", "37" ]	3
0 + 38 =	[ " 39", " 30", " 48", " 38" ]	3
0+38=	[ "39", "30", "48", "38" ]	3
0 + 39 =	[ " 34", " 31", " 24", " 39" ]	3
0+39=	[ "34", "31", "24", "39" ]	3
0 + 40 =	[ " 32", " 41", " 40", " 37" ]	2
0+40=	[ "32", "41", "40", "37" ]	2
0 + 41 =	[ " 41", " 49", " 45", " 31" ]	0
0+41=	[ "41", "49", "45", "31" ]	0
0 + 42 =	[ " 22", " 33", " 27", " 42" ]	3
0+42=	[ "22", "33", "27", "42" ]	3
0 + 43 =	[ " 43", " 55", " 47", " 44" ]	0
0+43=	[ "43", "55", "47", "44" ]	0
0 + 44 =	[ " 44", " 45", " 48", " 52" ]	0
0+44=	[ "44", "45", "48", "52" ]	0
0 + 45 =	[ " 55", " 45", " 36", " 25" ]	1
0+45=	[ "55", "45", "36", "25" ]	1
0 + 46 =	[ " 37", " 66", " 46", " 48" ]	2
0+46=	[ "37", "66", "46", "48" ]	2
0 + 47 =	[ " 47", " 57", " 56", " 32" ]	0
0+47=	[ "47", "57", "56", "32" ]	0
0 + 48 =	[ " 40", " 48", " 45", " 56" ]	1
0+48=	[ "40", "48", "45", "56" ]	1
0 + 49 =	[ " 61", " 49", " 41", " 39" ]	1
0+49=	[ "61", "49", "41", "39" ]	1

End of preview. Expand in Data Studio

python3 run_our_benchmark.py \
  WhirlwindAI/Arithmetic-SLM \
  --device cuda \
  --dtype bfloat16 \
  --batch-size auto \
  --skip-lm-eval \
  --our-benchmark-split train \
  --json-out bench_Benchmark_TEST.json

==========================================================================
OPEN SLM LEADERBOARD STYLE RESULT
==========================================================================
Model:  WhirlwindAI/Arithmetic-SLM
Params: 19,372,800
--------------------------------------------------------------------------
Benchmark          Task               Metric                          Score
--------------------------------------------------------------------------
Our Benchmark      WhirlwindAI/Benchm acc_custom_loglikelihood_mea   82.10%
--------------------------------------------------------------------------
Final Avg                                                               N/A
==========================================================================
our_benchmark details: 821/1000 correct, skipped=0, split=train

[INFO] Saved JSON: bench_Benchmark_TEST.json

Downloads last month: -