AgenticASR: Refining Speech Recognition in Real-World Scenarios via an Agentic Approach
Paper โข 2607.28175 โข Published โข 1
AgenticASR-Refiner-GGUF
ๆฌไปๅบ็ฑ MigoXV ๅๅธ๏ผๆไพ Andrew0425/AgenticASR-Refiner ็ Q4_K_M GGUF ้ๅ็ๆฌ๏ผ็จไบๅจๆฏๆ GGUF ็ๆฌๅฐๆจ็็ฏๅขไธญ็บ ๆญฃไธญๆ ASR ่ฝฌๅๆๆฌใ
ๆจกๅๆฅๆถๅทฒ็ป่ฏๅซๅบ็ๆๅญ๏ผ่พๅบไฟฎๆญฃๅ็ๆๅญ๏ผๅฏ็จไบๅค็ๅฃ็ใ้ๅคใ้ๅญใๆ ็นไปฅๅๆฐๅญๅๆฏ่ฏญ่กจ่พพใ่พๅ ฅๆฏๆๆฌ๏ผไธ็ดๆฅๆฅๆถ้ณ้ข๏ผๅฎๆด่ฏญ้ณ่ฏๅซๆต็จ้่ฆๅฆ่ก้ ็ฝฎ ASR ๆจกๅใ
ๆจกๅไธๆไปถ
| ้กน็ฎ | ๅ ๅฎน |
|---|---|
| ๅๅงๆจกๅ | Andrew0425/AgenticASR-Refiner |
| ๆถๆ | Llama๏ผ24 ๅฑ๏ผ้่็ปดๅบฆ 1536 |
| ๅๆฐ่งๆจก | ็บฆ 1.1B๏ผGGUF ๅ ๆฐๆฎๆ ่ฎฐ๏ผ |
| ๆ ผๅผ | GGUF v3 |
| ้ๅ | Q4_K_M |
| ๆไปถ | AgenticASR-Refiner-Q4_K_M.gguf |
| ๆไปถๅคงๅฐ | 688,065,792 ๅญ่๏ผ็บฆ 656.19 MiB |
| ่ฎธๅฏ่ฏ | Apache-2.0๏ผๆฒฟ็จไธๆธธๆจกๅๅฃฐๆ |
ไธ่ฟฐ็ปๆๅๆ ผๅผไฟกๆฏๆฅ่ชๆฌไปๅบ GGUF ๆไปถใๆไปถๅ ๅซ tokenizer ๅ่ๅคฉๆจกๆฟใๅ ๆฐๆฎไธญ็ไธไธๆ้ฟๅบฆไธบ 131,072 token๏ผ่ฟไธๆฏๆฌ้ๅ็ๆฌ็้ฟๆๆฌ่ดจ้้ช่ฏ็ปๆใไธ้ข็็คบไพไฝฟ็จ 4,096 token ไธไธๆ๏ผ่พๅ ฅไธ็ๆๅ ๅฎนๅ ฑไบซๆญค้ข็ฎใ
ๆฌๆฌกๅๅธๆไพๅทฒๆ GGUF ๆไปถ๏ผๆฒกๆ่ฟฝๅ ่ฎญ็ปใๆชๆไพๅฏๅค็ฐ็่ฝฌๆขๅทฅๅ ท็ๆฌใๅฎๆด่ฝฌๆขๅฝไปคๆ้ๅๆ กๅ่ฎฐๅฝใ
ไธ่ฝฝ
ๅฎ่ฃ Hugging Face CLI ๅๆง่ก๏ผ
hf download MigoXV/AgenticASR-Refiner-GGUF \
AgenticASR-Refiner-Q4_K_M.gguf \
--local-dir ./AgenticASR-Refiner-GGUF
ๆไปถ SHA-256๏ผ
1dcbbbfde39742b213101c0d5fe645bfda18e5c9b693409205c481efbb487758
ไฝฟ็จ llama.cpp
ๅๅคๆฏๆ่ฏฅๆจกๅๆถๆๅๅ ๅต Jinja ่ๅคฉๆจกๆฟ็ llama.cppใไปฅไธไธบ่ฟ่ก็คบไพ๏ผๆฌๆฌกๅๅธๆชๅฏน่ฏฅๅฝไปคๆง่ก็ซฏๅฐ็ซฏๆจ็ๆต่ฏใ
ๅฏๅจๆฌๅฐ HTTP ๆๅก๏ผ
llama-server \
--model ./AgenticASR-Refiner-GGUF/AgenticASR-Refiner-Q4_K_M.gguf \
--alias AgenticASR-Refiner \
--ctx-size 4096 \
--jinja \
--host 127.0.0.1 \
--port 8080
ๅจๅฆไธไธช็ป็ซฏๅ้็บ ้่ฏทๆฑ๏ผ
curl http://127.0.0.1:8080/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{
"model": "AgenticASR-Refiner",
"messages": [
{
"role": "system",
"content": "ไฝ ๆฏ ASR ๆๆฌ็บ ้ๅฉๆใไฟ็ๅๆ๏ผๆๅฐไฟฎๆน๏ผๅปๅฃ็/้ๅค๏ผไฟฎ้ๅญ๏ผ่กฅๅฟ
่ฆๆ ็น๏ผ่ง่ๆฐๅญใๆฅๆใๆฏ่ฏญๅไปฃ็ ็ฌฆๅท๏ผๅค็่ชๆไฟฎๆญฃใไธ่ฆๆป็ปใๆฉๅๆ่งฃ้ใ้่ฆๆ้ๅฎไฝๅจๆซๅฐพ่ฟฝๅ <KEY>[่ฏ1ใ่ฏ2]๏ผๆฒกๆๅไธๅ ใ"
},
{
"role": "user",
"content": "ๅฏ้ฃไธชๆๅคฉๆไปฌๆไปฌๅผไผ่ฎจ่ฎบๆฅๅฃใ"
}
],
"temperature": 0,
"max_tokens": 512,
"stop": ["<|im_end|>"]
}'
ไป choices[0].message.content ่ฏปๅ็ปๆใ็คบไพๆพๅผ่ฎพ็ฝฎ temperature: 0๏ผ้ฟๅ
ไฝฟ็จ GGUF ๅ
่ฎฐๅฝ็้ป่ฎค้ๆ ทๆธฉๅบฆใๅ
ทไฝๆๅกๅๆฐ่ง llama-server ๆๆกฃใ
่พๅบไธไฝฟ็จๅปบ่ฎฎ
่พๅบๆญฃๆไธบ็บ ๆญฃๅ็่ฝฌๅ๏ผ่ฅๆจกๅๆ ่ฎฐไบ้่ฆๆ้ๅฎไฝ๏ผๆซๅฐพๅฏ่ฝๅธฆๆ <KEY>[่ฏ1ใ่ฏ2]ใ้่ฆ็บฏๆญฃๆๆถ๏ผๅฏๅจๅบ็จๅฑๆๅ่ฏฅๆซๅฐพๅญๆฎตๅนถไธๆญฃๆๅๅผไฟๅญใ่ฏฅๅญๆฎต็ฑๆจกๅ็ๆ๏ผไธไฟ่ฏๆฏๆฌกๅญๅจๆๆ ผๅผๅฎๅ
จๆญฃ็กฎใ
่พ้ฟ่ฝฌๅๅฏๆๅฅๅๆฎตๅค็๏ผๅนถไธบๆฏๆฎต้ข็่พๅบ็ฉบ้ดใๅฆๆๆฅๅฃ่ฟๅ finish_reason: "length"๏ผๅบๆฃๆฅๆฏๅฆๆชๆญ๏ผ็ผฉ็ญ่พๅ
ฅๆๅขๅ ็ๆ้ข็ฎใ่ฟ่กๅ
ๅญ่ฟๅ
ๅซ KV cache ๅๆจ็็ผๅฒๅบ๏ผไธ่ฝไป
ๆ GGUF ๆไปถๅคงๅฐไผฐ็ฎใ
่ฏไผฐไธ้ๅถ
ๆฌไปๅบๅฐๆชๆไพ Q4_K_M ็ๆฌ็ CER/WERใ็ธๅฏนๅๅงๆ้็็ฒพๅบฆๅๅใๅๅ้ๆๅปถ่ฟ่ฏๆตใ้ๅๅฏ่ฝๅฝฑๅ็บ ้่ดจ้๏ผๆจกๅไนๅฏ่ฝ่ฏฏๆนไบบๅใไธๆๅ่ฏใๆฐๅญๆๅๆฌๆญฃ็กฎ็่ฝฌๅใ้จ็ฝฒๅๅบไฝฟ็จ่ชๅทฑ็่ฝฌๅๆ ทๆฌๅฏนๆฏ็บ ้ๅๅ็ปๆใ
ๆจกๅๅชๆ นๆฎ่พๅ ฅๆๅญๆจๆญ๏ผๆ ๆณๅฉ็จๅๅง้ณ้ขๆถ้คๆญงไนใๆฌไปๅบไธๅฏนๆช่ฏไผฐ่ฏญ่จใ้ขๅๆ้ฟไธไธๆๆๆไฝไฟ่ฏใ
ๆฅๆบไธ่ฎธๅฏ
- ๅๅงๆ้ไธ่ฎธๅฏๅฃฐๆ๏ผAndrew0425/AgenticASR-Refinerใ
- ไธๆธธ้กน็ฎ๏ผAnXMuy/AgenticASRใ
- ไธๆธธ่ฎบๆ๏ผAgenticASR: Refining Speech Recognition in Real-World Scenarios via an Agentic Approachใ
- ๆฌไปๅบๆไพ GGUF ้ๅๅๅ๏ผๆจกๅ็ ็ฉถไธ่ฎญ็ปๅฝๅไบๅไฝ่ ใ่ฎธๅฏ่ฏๅ จๆ่ง LICENSEใ
- Downloads last month
- 146
Hardware compatibility
Log In to add your hardware
4-bit
Model tree for MigoXV/AgenticASR-Refiner-GGUF
Base model
Andrew0425/AgenticASR-Refiner