Qwen3-4B-Code-RL-Specialist / evaluation /confidence_intervals.csv
pb09204048's picture
Release merged RL specialist with training provenance, benchmarks, and MOPD teacher guidance
923299b verified
Raw History Blame Contribute Delete
4.28 kB
model,benchmark,metric,score_percent,ci95_lower,ci95_upper,difference_pp,difference_ci95_lower,difference_ci95_upper,questions
base,aime24,pass_at_1,22.5,10.833333333333334,35.833333333333336,0.0,0.0,0.0,30
math,aime24,pass_at_1,50.0,35.0,65.0,27.500000000000004,16.666666666666664,39.166666666666664,30
code,aime24,pass_at_1,25.833333333333336,13.333333333333334,39.166666666666664,3.3333333333333335,-4.166666666666666,10.833333333333334,30
if,aime24,pass_at_1,18.333333333333332,7.5,30.833333333333336,-4.166666666666666,-10.833333333333334,2.5,30
base,aime24,pass_at_4,36.666666666666664,20.0,53.333333333333336,0.0,0.0,0.0,30
math,aime24,pass_at_4,70.0,53.333333333333336,86.66666666666667,33.33333333333333,16.666666666666664,50.0,30
code,aime24,pass_at_4,43.333333333333336,26.666666666666668,60.0,6.666666666666667,-10.0,23.333333333333332,30
if,aime24,pass_at_4,33.33333333333333,16.666666666666664,50.0,-3.3333333333333335,-13.333333333333334,6.666666666666667,30
base,livecodebench_v5_deepcoder_test,pass_at_1,17.562724014336915,13.530465949820789,21.774193548387096,0.0,0.0,0.0,279
math,livecodebench_v5_deepcoder_test,pass_at_1,18.189964157706093,14.157706093189965,22.491039426523297,0.6272401433691757,-1.4336917562724014,2.7777777777777777,279
code,livecodebench_v5_deepcoder_test,pass_at_1,24.10394265232975,19.71326164874552,28.85304659498208,6.5412186379928325,3.584229390681003,9.67741935483871,279
if,livecodebench_v5_deepcoder_test,pass_at_1,15.68100358422939,11.738351254480287,19.892473118279568,-1.881720430107527,-3.942652329749104,0.0,279
base,livecodebench_v5_deepcoder_test,pass_at_4,22.22222222222222,17.562724014336915,27.24014336917563,0.0,0.0,0.0,279
math,livecodebench_v5_deepcoder_test,pass_at_4,24.014336917562723,18.996415770609318,29.39068100358423,1.7921146953405016,-1.0752688172043012,5.017921146953405,279
code,livecodebench_v5_deepcoder_test,pass_at_4,33.691756272401435,28.31541218637993,39.42652329749104,11.469534050179211,7.168458781362006,15.770609318996415,279
if,livecodebench_v5_deepcoder_test,pass_at_4,19.35483870967742,14.695340501792115,24.014336917562723,-2.867383512544803,-5.734767025089606,0.0,279
base,ifeval,prompt_strict_accuracy,81.33086876155268,78.00369685767097,84.65804066543437,0.0,0.0,0.0,541
math,ifeval,prompt_strict_accuracy,80.0369685767098,76.52495378927911,83.3641404805915,-1.2939001848428837,-4.251386321626617,1.478743068391867,541
code,ifeval,prompt_strict_accuracy,81.70055452865064,78.37338262476895,85.02772643253235,0.36968576709796674,-2.033271719038817,2.7726432532347505,541
if,ifeval,prompt_strict_accuracy,84.4731977818854,81.33086876155268,87.43068391866913,3.1423290203327174,-0.18484288354898337,6.469500924214418,541
base,ifeval,prompt_loose_accuracy,84.28835489833642,80.96118299445472,87.24584103512015,0.0,0.0,0.0,541
math,ifeval,prompt_loose_accuracy,83.3641404805915,80.0369685767098,86.50646950092421,-0.9242144177449169,-3.512014787430684,1.6635859519408502,541
code,ifeval,prompt_loose_accuracy,84.28835489833642,81.1460258780037,87.24584103512015,0.0,-2.4029574861367835,2.4029574861367835,541
if,ifeval,prompt_loose_accuracy,85.76709796672827,82.80961182994456,88.53974121996303,1.478743068391867,-1.6635859519408502,4.621072088724584,541
base,ifbench,prompt_strict_accuracy,25.0,20.333333333333332,30.0,0.0,0.0,0.0,300
math,ifbench,prompt_strict_accuracy,25.666666666666664,20.666666666666668,30.666666666666664,0.6666666666666667,-3.0,4.333333333333334,300
code,ifbench,prompt_strict_accuracy,25.333333333333336,20.333333333333332,30.333333333333336,0.33333333333333337,-3.0,3.6666666666666665,300
if,ifbench,prompt_strict_accuracy,43.666666666666664,38.0,49.333333333333336,18.666666666666668,12.666666666666668,24.666666666666668,300
base,ifbench,prompt_loose_accuracy,28.333333333333332,23.333333333333332,33.33333333333333,0.0,0.0,0.0,300
math,ifbench,prompt_loose_accuracy,28.666666666666668,23.666666666666668,34.0,0.33333333333333337,-3.6666666666666665,4.333333333333334,300
code,ifbench,prompt_loose_accuracy,28.999999999999996,24.0,34.333333333333336,0.6666666666666667,-2.666666666666667,4.0,300
if,ifbench,prompt_loose_accuracy,45.666666666666664,40.0,51.33333333333333,17.333333333333336,11.333333333333332,23.333333333333332,300