matmelis/Llama_3.2_3B_w_mxfp4_a_mxfp4_gptq
2B • Updated • 9
Llama-3.2 GPTQ
-
-
matmelis/Llama_3.2_3B_w_uint4_gptq
0.8B • Updated • 8 -
matmelis/Llama_3.2_3B_w_int3_gptq
3B • Updated • 7 -
matmelis/Llama_3.2_3B_w_int2_gptq
3B • Updated • 9 -
matmelis/Llama_3.2_1B_w_uint4_gptq
0.4B • Updated • 7 -
matmelis/Llama_3.2_1B_w_uint4_autosmoothquant_gptq
0.4B • Updated • 6 -
matmelis/Llama_3.2_1B_w_int3_gptq
0.6B • Updated • 7 -
matmelis/Llama_3.2_1B_w_int2_gptq
1B • Updated • 8 -
matmelis/Llama_3.2_1B_w_mxfp4_a_mxfp4_gptq
0.8B • Updated • 10