model_comparison_Table.csv

campaign_date,model_family,model_name,format,hardware_config,status,total_time_sec,generation_time_sec_total,generation_retry_time_sec_total,generated_tokens_candidate,avg_generation_tok_sec,judge_time_sec_total,generated_tokens_judge,avg_judge_tok_sec,generated_tokens_reported_total,total_error_count,auto-judge-AsseC,OpenAI-Judge-AsseC,delta_AsseC,notes,source_log
2026-07-27,Llama,Llama-3.1-8B-Instruct,BF16,"2GPU:0,1",completed,206.82,25.890,25.890,503,19.43,22.763,380,16.69,883,1,13.70,24.63,-10.93,FAIL funzionale per errore di ragionamento del giudice. Run lento. Asse C Auto-Judge=18.50/135.00=13.7% (fonte: source_log riga 'Esecuzione completata'); il valore 80.00 precedente era ereditato per errore dal campo semantic_item_accuracy_pct ora rimosso.,models_hf_2/20260727_Llama3.1_8B_BF16_2GPU.log
2026-07-27,Gemma,gemma-4-12B-it-qat-w4a16-ct,QAT-W4A16,"2GPU:0,1",completed,182.08,58.932,58.932,622,10.55,48.015,484,10.08,1106,1,54.10,50.74,3.36,"FAIL funzionale. Eseguito con fallback su due GPU dopo OOM. Run lento. Il log mostra Asse_C=0.00% in entrambe le esecuzioni per un bug di abbinamento del giudice (mancanti=[1..8] pur con risposte 6/7/8 visibili nel testo candidato): valore locale scartato come inattendibile. auto-judge-AsseC=54.10% e OpenAI-Judge-AsseC=50.74% (run_id=41726d7f5731ceaca514, timestamp 2026-07-28 10:59:38, esatto sulla seconda esecuzione) presi dal giudizio OpenAI verificato in giudice/risultati/openai_ds_V3_axis_c_summary.json.",models_hf_2/20260727_Gemma4_12B_QAT_W4A16_2GPU.log
2026-07-27,Gemma,gemma-4-12B-it-AWQ-INT4,AWQ-Int4,"2GPU:0,1",completed,119.73,63.680,63.680,676,10.62,48.281,486,10.07,1162,1,62.60,63.52,-0.92,FAIL funzionale. Eseguito con fallback su due GPU dopo OOM. Asse C Auto-Judge=84.50/135.00=62.6% (fonte: source_log riga 'Esecuzione completata'); il valore 80.00 precedente era ereditato per errore dal campo semantic_item_accuracy_pct ora rimosso.,models_hf_2/20260727_Gemma4_12B_AWQ_INT4_2GPU.log
2026-07-27,Qwen,Qwen3-14B-AWQ,AWQ,2GPU:0,completed,94.42,60.011,60.011,1947,32.44,29.881,729,24.40,2676,0,76.70,73.89,2.81,"Unico modello della campagna a superare il test funzionale. Eseguito su singola GPU. Asse C Auto-Judge=103.50/135.00=76.7% (ultimo blocco del source_log, riga 'Esecuzione completata' delle 2026-08-12 21:05:06); il valore 100.00 precedente era il total_error_count/correctness_case_index storico, non il punteggio Asse C pesato.",models_hf_2/20260727_Qwen3_14B_AWQ_2GPU.log
2026-07-27,Qwen,Qwen2.5-14B-Instruct-AWQ,AWQ,2GPU:0,completed,34.73,15.296,15.296,444,29.03,14.654,327,22.32,771,1,32.40,36.30,-3.90,FAIL funzionale. Eseguito su singola GPU. Asse C Auto-Judge=43.75/135.00=32.4% (fonte: source_log riga 'Esecuzione completata'); il valore 80.00 precedente era ereditato per errore dal campo semantic_item_accuracy_pct ora rimosso.,models_hf_2/20260727_Qwen2.5_14B_AWQ_2GPU.log
2026-07-27,Mistral,Ministral-3-8B-Instruct-2512,BF16,"2GPU:0,1",completed,316.70,229.111,229.111,4096,17.88,75.875,1450,19.11,5546,10,54.40,60.00,-5.60,"V3: tutte le 8 domande giudicate usando l'ultima occorrenza; output con fence Markdown e 13 oggetti anziché 8 per duplicazioni delle domande 5-8. JSON-schema compliance Codex=0; punteggio pesato 54.4% prodotto dall'Auto-Judge; semantic_item_error_count ricostruito post-hoc come 8 domande su 8 con punteggio inferiore a 10; nessun retry perché l'array principale era completo. OpenAI-Judge-AsseC=60.00% (run_id=270aa0b472398e9b625a, timestamp 2026-07-27 17:34:45, delta 76s).",Mistral/20260719_Mistral_8B_BF16_2GPU-instruct.log
2026-07-27,Mistral,Ministral-3-14B-Instruct-2512,GPTQ-Int4,2GPU:0,completed,174.58,59.219,59.219,1620,27.36,59.520,1481,24.88,3101,8,60.20,75.74,-15.54,"V3: array estraibile di 8 oggetti con campi e tipi richiesti; fence Markdown conteggiato come violazione strutturale ma tollerato dalla verifica JSON Codex. Punteggio pesato 60.2% prodotto dall'Auto-Judge; semantic_item_error_count ricostruito post-hoc come 7 domande su 8 con punteggio inferiore a 10; alcune motivazioni del giudice risultano discutibili. OpenAI-Judge-AsseC=75.74% (run_id=42938dc5461e556b43db, timestamp 2026-07-27 17:46:29, delta 59s).",Mistral/20260722_Mistral_14B_Q_GPTQ_Int4_2GPU-instruct.log
2026-07-27,Mistral,Ministral-3-14B-Instruct-2512,BitsAndBytes-Int8,"2GPU:0,1",completed,384.85,193.449,193.449,1872,9.68,96.422,937,9.72,2809,8,72.80,80.00,-7.20,"V3: array estraibile di 8 oggetti senza domande mancanti o duplicate; fence Markdown conteggiato come violazione strutturale ma tollerato dalla verifica JSON Codex. Punteggio pesato 72.8% prodotto dall'Auto-Judge; semantic_item_error_count ricostruito post-hoc come 7 domande su 8 con punteggio inferiore a 10; run oltre 180 secondi. OpenAI-Judge-AsseC=80.00% (run_id=f94715ad2746dbce0111, timestamp 2026-07-27 18:00:22, delta 96s).",Mistral/20260722_Mistral_14B_Q_Int8_BB_2GPU-instruct.log
2026-07-27,Qwen,Qwen2.5-14B-Instruct,GPTQ-Int4,2GPU:0,failed,84.07,59.658,59.658,1538,25.78,19.575,532,27.18,2070,5,36.50,48.89,-12.39,"V3: riesecuzione pulita nel log (2026-07-28 11:15:59 e 11:26:07, valori identici, retry_giudice=1, errori_formato_giudice=1). Asse C Auto-Judge=49.25/135.00=36.5%, non 11.30% (valore residuo di un tentativo precedente interrotto sulla domanda 4, superato dalla riesecuzione completa). OpenAI-Judge-AsseC=48.89% (run_id=11ffadb7036cc7d0c88f, timestamp 2026-07-28 11:26:07, delta 45s).",Qwen/20260722_Qwen_14B_Q_GPTQ_Int4_2GPU-instruct.log
2026-07-28,Nemotron,nvidia/NVIDIA-Nemotron-Nano-9B-v2,BF16,"2GPU:0,1",completed,1457.60,264.686,264.686,5058,19.11,946.484,18429,19.47,23487,15,60.20,66.11,-5.91,"V3: ultimo candidato 3058 token; generated_tokens_candidate=5058 include anche il tentativo scartato da 2000 token. Array JSON estraibile con 8 record e campi/tipi richiesti: json_schema_compliance Codex=100; Asse A FAIL per pulizia richiesta, Asse B FAIL per violazioni sostanziali della rubrica, Asse C Auto-Judge=60.2%. Quindici chiamate giudice, 7 retry, 8 errori formato e domanda 4 non recuperata; durata operativa del caso circa 1192 s. Intera suite LENTA.",models_hf/Nemotron/20260725_Nemotron_Nano_9B_BF16_2GPU.log
2026-08-11,Mistral,mistralai/Ministral-3-8B-Instruct-2512-BF16,BF16,A100:0,completed,470.62,157.005,157.005,2900,18.47,63.151,1129,17.88,4029,10,62.40,68.70,-6.30,"V3: Asse C Auto-Judge=84.25/135.00=62.4%; tutte le 8 domande hanno punteggio inferiore a 10. Asse A=FAIL secondo il contratto V3 perché l'output richiede recupero markdown_fence: il riepilogo runtime registra impropriamente PASS insieme a pulizia_richiesta=True. Asse B FAIL, con duplicati [5,8] e violazioni per le domande 2, 3, 5, 6 e 8. structured_output_error_count=2 per fence Markdown e cardinalita/duplicati; json_schema_compliance Codex=0 per cardinalita/duplicati e contratto non conforme. Nessun retry o errore formato del giudice; copertura 8/8. total_time_sec=470.62 e classe LENTO si riferiscono all'intera suite V1-V3; tempi e token di candidato/giudice riportati in questa riga appartengono esclusivamente al caso V3. Sorgente: blocco concluso 2026-08-11 21:15:50.",Mistral/20260719_Mistral_8B_BF16_A100.log
2026-08-11,Mistral,mistralai/Ministral-3-8B-Instruct-2512-BF16,BF16,A100:0,completed,456.86,152.178,152.178,2900,19.06,61.845,1129,18.26,4029,9,62.40,68.70,-6.30,Ultimo blocco completo: Asse A canonico FAIL per markdown_fence nonostante riepilogo runtime PASS; Asse B FAIL; Asse C Auto-Judge 84.25/135=62.4%; durata totale dell'intera suite V1-V3.,Mistral/20260719_Mistral_8B_BF16_A100.log
2026-08-12,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,BF16,A100:0,completed,531.87,89.883,89.883,1452,16.15,56.824,886,15.59,2338,8,62.60,50.19,12.41,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge 84.50/135=62.6%; durata totale dell'intera suite V1-V3.,Mistral/20260721_Mistral_14B_BF16_A100.log
2026-08-12,Mistral,mistralai/Mistral-Small-3.2-24B-Instruct-2506,BF16,A100:0,completed,582.82,91.759,91.759,1652,18.00,48.485,809,16.69,2461,9,71.90,79.81,-7.91,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge 97.00/135=71.9%; durata totale dell'intera suite V1-V3.,Mistral/20260721_Mistral_24B_BF16_A100.log
2026-08-12,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,GPTQ-Int4,A100:0,completed,763.91,214.745,214.745,1665,7.75,184.394,1423,7.72,3088,8,49.30,62.04,-12.74,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge 66.50/135=49.3%; durata totale dell'intera suite V1-V3.,Mistral/20260722_Mistral_14B_Q_GPTQ_Int4_A100.log
2026-08-12,Mistral,mistralai/Mistral-Small-3.2-24B-Instruct-2506,GPTQ-Int4,A100:0,completed,697.37,170.379,170.379,1378,8.09,172.219,1352,7.85,2730,8,37.80,57.41,-19.61,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge 51.00/135=37.8%; durata totale dell'intera suite V1-V3.,Mistral/20260722_Mistral_24B_Q_GPTQ_Int4_A100.log
2026-08-12,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,BitsAndBytes-Int8,A100:0,failed,169.99,NA,NA,NA,NA,NA,NA,NA,NA,1,NA,NA,NA,NameError attention_backend_context prima della prima generazione; nessun fallback sicuro; il caso atteso senza output vale FAIL JSON.,Mistral/20260722_Mistral_14B_Q_Int8_BB_A100.log
2026-08-12,Qwen,Qwen/Qwen2.5-14B-Instruct,BF16,A100:0,completed,528.47,96.929,96.929,1417,14.62,75.397,1063,14.10,2480,8,44.30,62.59,-18.29,Asse A PASS con JSON diretto; Asse B FAIL; Asse C Auto-Judge 59.75/135=44.3%; durata totale dell'intera suite V1-V3.,Qwen/20260721_Qwen_14B_BF16_A100.log
2026-08-12,Qwen,Qwen/Qwen2.5-14B-Instruct,GPTQ-Int4,A100:0,completed,725.72,203.804,203.804,1388,6.81,156.035,1066,6.83,2454,8,25.90,42.78,-16.88,Asse A PASS con JSON diretto; Asse B FAIL; Asse C Auto-Judge 35.00/135=25.9%; durata totale dell'intera suite V1-V3.,Qwen/20260722_Qwen_14B_Q_GPTQ_Int4_A100.log
2026-08-12,Qwen,Qwen/Qwen2.5-14B-Instruct,BitsAndBytes-Int8,A100:0,completed,1599.86,440.996,440.996,1363,3.09,355.549,1101,3.10,2464,10,29.80,45.93,-16.13,Asse A canonico FAIL per markdown_fence; Asse B FAIL; un retry giudice per formato; Asse C Auto-Judge 40.25/135=29.8%; durata totale dell'intera suite V1-V3.,Qwen/20260722_Qwen_14B_Q_Int8_BB_A100.log
2026-08-12,DeepSeek,deepseek-ai/DeepSeek-Prover-V2-7B,BF16,A100:0,completed,1364.29,238.297,412.515,4968,20.85,456.991,11253,24.62,16221,5,73.00,41.48,31.52,Primo tentativo V3 da 4096 token scartato; generation_retry_time include entrambi i tentativi. Asse A FAIL per recupero last_complete_question_array; Asse B FAIL; Asse C Auto-Judge 98.50/135=73.0%.,models_hf/DeepSeek/20260725_DeepSeek_Prover_7B_BF16_A100.log
2026-08-12,DeepSeek,deepseek-ai/DeepSeek-Prover-V2-7B,BitsAndBytes-Int8,A100:0,completed,5987.75,1495.229,1495.229,8861,5.93,1487.294,9089,6.11,17950,8,51.10,40.74,10.36,Asse A FAIL per recupero last_complete_question_array; Asse B FAIL; Asse C Auto-Judge 69.00/135=51.1%; durata totale dell'intera suite V1-V3.,models_hf/DeepSeek/20260725_DeepSeek_Prover_7B_Q_Int8_BB_A100.log
2026-08-12,GPT-OSS,openai/gpt-oss-20b,MXFP4,A100:0,completed,3411.47,827.969,1984.931,8758,10.58,274.110,2507,9.15,11265,8,62.20,64.07,-1.87,Due tentativi V3 scartati a 4096 e 8192 token; generation_retry_time include tutti i tentativi. Asse A PASS diretto; Asse B PASS; Asse C Auto-Judge 84.00/135=62.2%.,models_hf/GPT_OSS/20260726_GPT_OSS_20B_MXFP4_A100.log
2026-08-14,GPT-OSS,openai/gpt-oss-20b,Inference Provider,Inference Provider + Together,completed,36.188,12.242,12.242,1384,113.05,23.932,2492,104.13,3876,NA,43.0,43.33,-0.33,+ = Inference Provider; tok/s=token output/durata end-to-end. Asse A/B PASS; Asse C Auto-Judge 58.00/135=43.0%.,models_hf/GPT_OSS/Inference_Provider/gpt_oss_20B_inference_provider_deepinfra.log
2026-08-14,GPT-OSS,openai/gpt-oss-120b,Inference Provider,Inference Provider + Together,completed,58.718,24.923,24.923,3003,120.49,33.780,3015,89.25,6018,NA,95.9,94.26,1.64,"+ = Inference Provider; tok/s=token output/durata end-to-end. Asse A PASS, Asse B FAIL, Asse C Auto-Judge 129.50/135=95.9%.",models_hf/GPT_OSS/Inference_Provider/gpt_oss_120B_inference_provider_deepinfra.log
2026-08-12,Nemotron,nvidia/NVIDIA-Nemotron-Nano-9B-v2,BF16,A100:0,completed,1481.88,200.009,200.009,3744,18.72,683.818,12950,18.94,16694,8,72.80,69.63,3.17,Asse A PASS diretto; Asse B FAIL; un retry giudice per formato; Asse C Auto-Judge 98.25/135=72.8%; durata totale dell'intera suite V1-V3.,models_hf/Nemotron/20260725_Nemotron_Nano_9B_BF16_A100.log
2026-08-11,Mistral,mistralai/Ministral-3-8B-Instruct-2512-BF16,GPTQ-Int4,A100:0,failed,NA,NA,NA,NA,NA,NA,NA,NA,NA,1,NA,NA,NA,Compilazione dell'estensione Marlin fallita durante il caricamento; nessun output candidato e nessun fallback sicuro. La durata terminale non è ricostruibile perché la riga PROCESSO FALLITO è spezzata nel log.,Mistral/20260725_Mistral_8B_Q_GPTQ_Int4_A100.log
2026-08-12,Mistral,mistralai/Ministral-3-8B-Instruct-2512-BF16,BF16,"2GPU:0,1",completed,472.97,226.809,226.809,4096,18.06,74.719,1450,19.41,5546,9,54.40,60.00,-5.60,Asse A FAIL con recupero first_json_value; Asse B FAIL; Asse C Auto-Judge=54.4%; durata totale dell'intera suite V1-V3.,Mistral/20260719_Mistral_8B_BF16_2GPU.log
2026-08-12,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,BF16,"2GPU:0,1",failed,6.29,NA,NA,NA,NA,NA,NA,NA,NA,1,NA,NA,NA,CUDA OOM durante il caricamento BF16; nessun output candidato e nessun fallback sicuro.,Mistral/20260721_Mistral_14B_BF16_2GPU.log
2026-08-12,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,GPTQ-Int4,2GPU:0,completed,238.29,56.268,56.268,1620,28.79,47.616,1481,31.10,3101,8,60.20,75.74,-15.54,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge=60.2%; GPU 1 non usata; durata totale V1-V3.,Mistral/20260722_Mistral_14B_Q_GPTQ_Int4_2GPU.log
2026-08-12,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,BitsAndBytes-Int8,"2GPU:0,1",completed,626.24,192.886,192.886,1872,9.71,96.658,937,9.69,2809,8,72.80,79.26,-6.46,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge=72.8%; durata totale V1-V3.,Mistral/20260722_Mistral_14B_Q_Int8_BB_2GPU.log
2026-08-12,Mistral,mistralai/Mistral-Small-3.2-24B-Instruct-2506,GPTQ-Int4,"2GPU:0,1",completed,376.39,84.521,84.521,1496,17.70,80.532,1442,17.91,2938,9,26.70,45.74,-19.04,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge=26.7%; durata totale V1-V3.,Mistral/20260722_Mistral_24B_Q_GPTQ_Int4_2GPU.log
2026-08-12,Mistral,mistralai/Ministral-3-8B-Instruct-2512-BF16,GPTQ-Int4,2GPU:0,completed,136.55,45.275,45.275,1892,41.79,33.526,1568,46.77,3460,9,42.00,51.48,-9.48,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge=42.0%; GPU 1 non usata; durata totale V1-V3.,Mistral/20260725_Mistral_8B_Q_GPTQ_Int4_2GPU.log
2026-08-12,Qwen,Qwen/Qwen2.5-14B-Instruct,GPTQ-Int4,2GPU:0,completed,234.65,58.398,58.398,1538,26.34,44.437,1236,27.81,2774,8,36.50,50.37,-13.87,Asse A PASS con JSON diretto; Asse B FAIL; Asse C Auto-Judge=36.5%; GPU 1 non usata; durata totale V1-V3.,Qwen/20260722_Qwen_14B_Q_GPTQ_Int4_2GPU.log
2026-08-12,Qwen,Qwen/Qwen2.5-14B-Instruct,BitsAndBytes-Int8,"2GPU:0,1",completed,572.52,163.307,163.307,1509,9.24,109.693,1049,9.56,2558,9,27.00,40.93,-13.93,Asse A canonico FAIL per markdown_fence; Asse B FAIL; Asse C Auto-Judge=27.0%; durata totale V1-V3.,Qwen/20260722_Qwen_14B_Q_Int8_BB_2GPU.log
2026-08-16,Mistral,mistralai/Ministral-3-8B-Instruct-2512-BF16,FP16,V100,completed,285.46,96.777,96.777,1847,19.09,43.524,1033,23.73,2880,NA,59.30,65.56,-6.26,"Riesecuzione V100 di agosto (prima campagna V100 con rubrica V3). Asse A PASS con recupero markdown_fence; Asse B FAIL. Asse C Auto-Judge=80.00/135.00=59.3% (fonte: source_log riga 'Esecuzione completata' delle 2026-08-16 22:02:58). OpenAI-Judge-AsseC=65.56% (run_id=3f5c33c7ea9cc82d6402, giudice gpt-5.6-sol, reasoning_effort=medium, aggiunto 2026-08-19 da giudice/risultati/openai_ds_V3_axis_c_summary.json generato 2026-08-19T13:20:12 UTC), scarto -6,26pp: OpenAI valuta il candidato meglio dell'Auto-Judge. total_time_sec si riferisce all'intera suite V1-V3; tempi/token di candidato e giudice riportati appartengono esclusivamente al caso V3. total_error_count non ricostruibile in modo affidabile dal log nel tempo disponibile: NA, non zero.",Mistral/20260719_Mistral_8B_FP16_V100.log
2026-08-16,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,FP16,V100,completed,329.54,124.083,124.083,1679,13.53,51.58,795,15.41,2474,NA,63.10,64.81,-1.71,"Riesecuzione V100 di agosto. Asse A PASS con recupero markdown_fence; Asse B FAIL. Asse C Auto-Judge=85.25/135.00=63.1% (fonte: source_log riga 'Esecuzione completata' delle 2026-08-16 22:25:35). OpenAI-Judge-AsseC=64.81% (run_id=70b13f68e8e3e3696be9, giudice gpt-5.6-sol, reasoning_effort=medium, aggiunto 2026-08-19 da giudice/risultati/openai_ds_V3_axis_c_summary.json generato 2026-08-19T13:20:12 UTC), scarto -1,71pp: i due giudici concordano bene su questo candidato. total_time_sec si riferisce all'intera suite V1-V3; tempi/token di candidato e giudice riportati appartengono esclusivamente al caso V3. total_error_count non ricostruibile in modo affidabile dal log nel tempo disponibile: NA, non zero.",Mistral/20260721_Mistral_14B_FP16_V100.log
2026-08-16,Mistral,mistralai/Ministral-3-14B-Instruct-2512-BF16,BitsAndBytes-Int8,V100,completed,793.99,228.225,228.225,1483,6.50,135.977,905,6.66,2388,NA,64.10,54.44,9.66,"Riesecuzione V100 di agosto; run oltre 180 secondi. Asse A PASS con recupero markdown_fence; Asse B FAIL. Asse C Auto-Judge=86.50/135.00=64.1% (fonte: source_log riga 'Esecuzione completata' delle 2026-08-16 22:45:21). OpenAI-Judge-AsseC=54.44% (run_id=2ea1abaa6fca51fc75df, giudice gpt-5.6-sol, reasoning_effort=medium, aggiunto 2026-08-19 da giudice/risultati/openai_ds_V3_axis_c_summary.json generato 2026-08-19T13:20:12 UTC), scarto +9,66pp: qui l'Auto-Judge e' piu' generoso di OpenAI, direzione opposta rispetto alle altre due righe FP16 V100 della stessa campagna. total_time_sec si riferisce all'intera suite V1-V3; tempi/token di candidato e giudice riportati appartengono esclusivamente al caso V3. total_error_count non ricostruibile in modo affidabile dal log nel tempo disponibile: NA, non zero.",Mistral/20260722_Mistral_14B_Q_Int8_BB_V100.log
2026-08-16,DeepSeek,deepseek-ai/DeepSeek-Prover-V2-7B,FP16,V100,completed,1171.61,733.195,1167.217,6290,8.58,NA,NA,NA,NA,NA,NA,0.00,NA,"Riesecuzione V100 di agosto; run oltre 180 secondi. Primo tentativo V3 da 4096 token scartato per cap_raggiunto=True (generation_retry_time_sec_total include entrambi i tentativi: 434.022+733.195). Il log mostra Asse_C=0.00% ma con lo stesso bug di abbinamento domande (mancanti=[1..8]) osservato su altri log della stessa campagna, non un fallimento reale del candidato: valore scartato come inattendibile, auto-judge-AsseC resta NA. [Aggiornato: 2026-08-19] OpenAI-Judge-AsseC=0.00% (run_id=a272de4536603fa9f23f, giudice gpt-5.6-sol, reasoning_effort=medium, status=complete, le 8 domande risultano valutate, da giudice/risultati/openai_ds_V3_axis_c_summary.json generato 2026-08-19T13:20:12 UTC): OpenAI ha completato la valutazione (non un fallimento tecnico) e assegna comunque 0%, coerente con un candidato di scarsa qualita' ma non dimostra che il bug di abbinamento dell'Auto-Judge locale sia irrilevante; delta_AsseC=NA perche' l'Auto-Judge di riferimento resta NA, non un numero scartabile.",models_hf/DeepSeek/20260725_DeepSeek_Prover_7B_FP16_V100.log
2026-08-16,Qwen,Qwen/Qwen2.5-14B-Instruct,FP16,V100,failed,NA,NA,NA,NA,NA,NA,NA,NA,NA,1,NA,NA,NA,"Riesecuzione V100 di agosto fallita: quattro tentativi di caricamento nello stesso log (22:45, 22:47, 22:55, 23:19); il terzo tentativo (22:55) ha raggiunto la fase di inferenza (3 casi generati, nessuna riga 'Esecuzione completata' registrata prima dell'interruzione), il quarto e ultimo tentativo si e' fermato in fase di verifica modello con RuntimeError margine VRAM insufficiente (libera=3.91 GiB, minimo=5.00 GiB). Nessun Asse C disponibile: NA, non zero. Durata non ricostruibile in modo univoco per la presenza di piu' tentativi nello stesso file.",Qwen/20260721_Qwen_14B_FP16_V100.log
2026-08-12,GPT-OSS,openai/gpt-oss-20b,MXFP4,"2GPU:0,1",completed,1417.33,NA,NA,NA,NA,32.957,969,29.40,NA,NA,88.30,85.93,2.37,"Riesecuzione V3 di agosto (2026-08-12 22:38:29), assente come riga separata nel CSV prima di questa verifica. Asse A PASS, Asse B PASS (unico caso della campagna 2GPU con Asse B PASS). Asse C Auto-Judge=119.25/135.00=88.30% (fonte: source_log riga 'Esecuzione completata'). OpenAI-Judge-AsseC=85.93% (run_id=c112b7f8f1c2ab68d02e, timestamp 2026-08-12 22:36:56, delta 93s, da giudice/risultati/openai_ds_V3_axis_c_summary.json). generation_time_sec_total, generated_tokens_candidate e finish_reason non ricostruiti in modo affidabile dal formato di log di questo script entro il tempo disponibile: NA. total_time_sec si riferisce all'intera suite del runner multi-modello.",GPT_OSS/20260726_GPT_OSS_20B_MXFP4_2GPU.log
2026-07-27,GPT-OSS,openai/gpt-oss-20b,MXFP4,"2GPU:0,1",completed,793.01,NA,NA,NA,NA,339.84,10937,32.18,NA,NA,87.60,85.74,1.86,"Valore da benchmark_quality_performance.html (fonte citata: logs/posthoc_v3_autojudge_gpt-oss-instruct_20260803_013547.log, file non presente nel repository, quindi non riverificabile direttamente). Il log grezzo disponibile mostra invece tre esecuzioni pulite a 78.50/135.00=58.1% (retry_giudice=4, errori_formato_giudice=5, domanda 6 non recuperata) e una quarta a 0.00% per un bug di abbinamento del parser (mancanti=[1..8] pur con le 8 risposte presenti nel testo candidato). OpenAI-Judge-AsseC=85.74% (run_id=e2432081b3e89610e190) allineato al valore del grafico.",GPT_OSS/20260726_GPT_OSS_20B_MXFP4_2GPU-instruct.log
2026-08-19,Mistral,mistralai/Mistral-Small-3.2-24B-Instruct-2506,BitsAndBytes-NF4,V100,completed,808.39,114.907,114.907,1928,16.78,46.116,705,15.29,2633,NA,78.30,79.07,-0.77,"Prima esecuzione V100 di NF4/bitsandbytes 4-bit sul 24B (bnb_4bit_quant_type=nf4, compute_dtype FP16). Asse A PASS; Asse B FAIL (violazioni di schema su riferimenti normativi/simboli monetari/ragionamento visibile lasciato nella motivazione). Asse C Auto-Judge=105.75/135.00=78.3% (fonte: source_log riga 'Esecuzione completata' delle 2026-08-19 14:05:28), il miglior risultato Mistral su V100 registrato finora, sopra la soglia di revisione umana ma sotto la soglia 80% per automazione JSON. OpenAI-Judge-AsseC=79.07% (run_id=58ef777c86aa62128d06, giudice gpt-5.6-sol, reasoning_effort=medium, source_timestamp=2026-08-19 14:04:41, da giudice/risultati/openai_ds_V3_axis_c_summary.json generato 2026-08-19T13:20:12 UTC), scarto di soli -0,77pp dall'Auto-Judge: le due valutazioni concordano bene su questo candidato. Caricamento e quantizzazione al volo dal checkpoint remoto: 575.87 s (prima esecuzione, nessun checkpoint locale riusato); layer Linear4bit=451, tensori NF4 impacchettati uint8=902; VRAM dopo caricamento 14.38 GiB allocata su budget 26 GiB. total_error_count non ricostruibile in modo affidabile dal log nel tempo disponibile: NA, non zero.",Mistral/20260819_Mistral_24B_Q_NF4_BB_V100.log
2026-08-19,Mistral,mistralai/Mistral-Small-3.2-24B-Instruct-2506,GPTQ-Int4,V100,completed,241.43,113.927,113.927,1432,12.57,118.540,1440,12.15,2872,NA,32.40,NA,NA,"Prima esecuzione V100 (run 1/3 nello stesso log) con backend forzato BACKEND.GPTQ_EXLLAMA_V2 (invece del fallback automatico GPTQ_TORCH usato per ogni GPU CC 7.x), riusando senza rigenerarlo lo stesso checkpoint GPTQ Int4 24B gia' usato su A100 (riga sopra, 37.8%) e su 2GPU (26.7%, log 20260722_Mistral_24B_Q_GPTQ_Int4_2GPU.log del 2026-08-12). Fase di verifica post-caricamento conferma 280 layer di classe 'ExllamaV2Linear' realmente attivi, nessun fallback silenzioso a un backend diverso. Asse A PASS; Asse B FAIL. Asse C Auto-Judge=43.75/135.00=32.4% (fonte: source_log riga 'Esecuzione completata' delle 2026-08-19 14:42:31), nella stessa fascia bassa degli altri due backend sullo stesso checkpoint: causa la calibrazione del checkpoint GPTQ (solo 2 campioni nel builder), non il backend ExLlamaV2 ne' la GPU. Altri due run consecutivi sullo stesso checkpoint, nello stesso log, sono registrati nelle due righe seguenti (Asse C=40.7% e 33.3%): la varianza run-to-run e' compatibile con il non determinismo tipico dei kernel CUDA anche a greedy decoding, non con un errore sistematico. Solo l'ultimo dei tre run (33.3%) e' stato estratto e valutato anche dal giudice OpenAI dallo script di preparazione, che seleziona l'ultimo candidato completo del file quando un log contiene piu' esecuzioni: OpenAI-Judge-AsseC non disponibile per questa riga, NA. La compilazione JIT dei kernel ExLlamaV2 e' riuscita solo dopo aver installato una catena di sei pacchetti CUDA '-dev' mancanti nell'ambiente HF_V100 (cuda-cudart-dev, cuda-crt-dev_linux-64, cuda-nvcc_linux-64, libcusparse-dev, libcublas-dev, libcusolver-dev; dettagli in README_BACKLOG.md, voce del 2026-08-19). total_error_count non ricostruibile in modo affidabile dal log nel tempo disponibile: NA, non zero.",Mistral/20260819_Mistral_24B_Q_GPTQ_Int4_V100.log
2026-08-19,Mistral,mistralai/Mistral-Small-3.2-24B-Instruct-2506,GPTQ-Int4,V100,completed,238.41,112.421,112.421,1416,12.60,117.775,1404,11.92,2820,NA,40.70,NA,NA,"Seconda esecuzione V100 (run 2/3 nello stesso log), stesso script, stesso backend BACKEND.GPTQ_EXLLAMA_V2 confermato attivo (280 layer 'ExllamaV2Linear'), stesso checkpoint GPTQ Int4 24B riusato senza rigenerarlo. Asse A PASS; Asse B FAIL. Asse C Auto-Judge=55.00/135.00=40.7% (fonte: source_log riga 'Esecuzione completata' delle 2026-08-19 14:48:27). Candidato leggermente diverso dal run precedente (1416 contro 1432 token generati) nonostante generazione greedy deterministica (do_sample=False, seed fisso per processo): compatibile con il non determinismo tipico dei kernel CUDA (ordine di riduzione in virgola mobile) che puo' far divergere l'argmax in alcuni passi, non con un errore di caricamento. Resta comunque nella stessa fascia bassa del run 1/3 (32.4%) e del run 3/3 (33.3%, riga seguente) e degli altri backend sullo stesso checkpoint (37.8% A100, 26.7% 2GPU): la causa resta la calibrazione del checkpoint GPTQ (2 soli campioni), non il backend ne' la GPU. OpenAI-Judge-AsseC non disponibile per questa riga (solo l'ultimo run del file e' stato estratto e valutato): NA. total_error_count non ricostruibile in modo affidabile dal log nel tempo disponibile: NA, non zero.",Mistral/20260819_Mistral_24B_Q_GPTQ_Int4_V100.log
2026-08-19,Mistral,mistralai/Mistral-Small-3.2-24B-Instruct-2506,GPTQ-Int4,V100,completed,239.31,118.505,118.505,1496,12.62,112.630,1351,11.99,2847,NA,33.30,45.74,-12.44,"Terza e ultima esecuzione V100 (run 3/3 nello stesso log), stesso script, stesso backend BACKEND.GPTQ_EXLLAMA_V2 confermato attivo, stesso checkpoint GPTQ Int4 24B riusato senza rigenerarlo. Asse A PASS; Asse B FAIL. Asse C Auto-Judge=45.00/135.00=33.3% (fonte: source_log riga 'Esecuzione completata' delle 2026-08-19 14:56:52), coerente con gli altri due run dello stesso log (32.4% e 40.7%). E' l'unico dei tre run GPTQ V100 estratto dallo script di preparazione (che seleziona l'ultimo candidato completo quando un log contiene piu' esecuzioni) e quindi l'unico valutato anche dal giudice OpenAI: OpenAI-Judge-AsseC=45.74% (run_id=4337f6820977d37d0ca6, giudice gpt-5.6-sol, reasoning_effort=medium, source_timestamp=2026-08-19 14:54:58, da giudice/risultati/openai_ds_V3_axis_c_summary.json generato 2026-08-19T13:20:12 UTC), scarto di +12,44pp sopra l'Auto-Judge (33.3% contro 45.74%) — coincide numericamente con l'OpenAI-Judge-AsseC=45.74% gia' registrato per lo stesso checkpoint GPTQ Int4 24B su 2GPU (riga con Auto-Judge 26.7%, log 20260722_Mistral_24B_Q_GPTQ_Int4_2GPU.log): coincidenza plausibile dato lo stesso checkpoint e domande, non ancora verificata come causale con una sola osservazione per configurazione. total_error_count non ricostruibile in modo affidabile dal log nel tempo disponibile: NA, non zero.",Mistral/20260819_Mistral_24B_Q_GPTQ_Int4_V100.log
2026-07-27,Llama,meta-llama/Llama-3.2-3B-Instruct,BF16,2GPU:0,completed,179.95,NA,NA,NA,NA,20.353,903,44.36,NA,NA,13.00,32.78,-19.78,"Riga precedentemente assente dal CSV. Quattro esecuzioni nel log, tre identiche e pulite (00:48:14, 09:26:22, 10:01:32, 11:07:10) con Asse_C=17.50/135.00=13.0%; una riesecuzione di agosto (2026-08-12 20:13:41) da' 19.50/135.00=14.4% con una domanda non recuperata. Uso qui il valore di luglio, piu' vicino al timestamp del giudizio OpenAI disponibile. Asse A PASS, Asse B FAIL. OpenAI-Judge-AsseC=32.78% (run_id=77da692740027aac8dc3, timestamp 2026-07-28 11:06:50, delta 20s sull'esecuzione delle 11:07:10, da giudice/risultati/openai_ds_V3_axis_c_summary.json). generation_time_sec_total, generated_tokens_candidate e finish_reason non ricostruiti in modo affidabile dal formato di log di questo script entro il tempo disponibile: NA.",models_hf_2/20260727_Llama3.2_3B_BF16_2GPU.log