Mistral Voxtral vs GPT-4o | Benchmark Rečovej AI

2. augusta 2025
·
8 min read
·Whisper Notes Team

Mistral vydal Voxtral, svoju prvú rodinu modelov s otvorenými váhami na prepis a porozumenie zvuku. Oficiálne benchmarky ukazujú silné viacjazyčné rozpoznávanie reči a zvukové Q&A, obe veľkosti modelu však majú veľmi odlišné hardvérové nároky. Tu je prehľad toho, čo vydanie skutočne podporuje a prečo Whisper Notes na spotrebiteľskom hardvéri Apple naďalej používa menšie modely zamerané na prepis.

Výkonnostné benchmarky Mistral Voxtral

Dva modely

Mistral vydal v júli 2025 dva checkpointy pod licenciou Apache 2.0:

Voxtral Small 24B

  • 24 miliárd parametrov
  • Prepis, preklad, zvukové Q&A a sumarizácia
  • Kontextové okno 32k
  • Približne 55 GB GPU RAM v bf16/fp16

Voxtral Mini 3B

  • 3 miliardy parametrov
  • Rovnaká rodina zvukovo-textových úloh v menšom checkpointe
  • Oficiálne určený na lokálne a edge nasadenie
  • Približne 9,5 GB GPU RAM v bf16/fp16

Otvorené váhy a licencia

Oba checkpointy z roku 2025 majú otvorené váhy pod licenciou Apache 2.0. Môžete si ich stiahnuť a prevádzkovať sami:

  • K dispozícii sú kompletné váhy modelu
  • Môžete ich hostovať u seba alebo upravovať v rámci licencie Apache 2.0
  • Pri vlastnom hostovaní neplatíte žiadny poplatok za Mistral API; platíte však za vlastný výpočtový výkon
  • Zvuk môžete spracúvať na vlastných serveroch

Zdroje: oznámenie Voxtralu od Mistralu, oficiálna karta modelu Voxtral Small a oficiálna karta modelu Voxtral Mini.

Benchmarky

Vydanie Mistralu porovnáva makropriemernú chybovosť slov (WER) naprieč anglickými krátkymi a dlhými nahrávkami, Mozilla Common Voice, FLEURS a Multilingual LibriSpeech. Vo výsledkoch FLEURS, ktoré Mistral uvádza, poráža Voxtral Small model Whisper v každej hodnotenej úlohe. Nižšie WER je lepšie:

Porovnanie benchmarku WER modelu Voxtral naprieč všetkými modelmi

WER na FLEURS z benchmarkov zverejnených Mistralom pri vydaní, vynesené oproti odhadovanej cene API; výsledky benchmarkov aj ceny sa môžu meniť

FLEURS je len jedným výsekom kvality prepisu. Ide o výsledky uvádzané výrobcom, preto si pred výberom modelu porovnajte zverejnené definície benchmarkov a otestujte vlastné jazyky, mikrofóny a podmienky nahrávania.

Voxtral vs Whisper: Ktorý si vybrať?

Benchmarky hovoria len časť príbehu. Takto obe rodiny modelov obstoja vo faktoroch, na ktorých záleží, ak chcete niektorý z nich naozaj prevádzkovať sami:

Voxtral Small Voxtral Mini Whisper Large v3 Whisper Large-v3 Turbo
Jazyky 8 hlavných jazykov 8 hlavných jazykov 100+ 100+
Open source Áno Áno Áno Áno
Veľkosť modelu 24 mld. parametrov; ~55 GB GPU RAM v bf16/fp16 3 mld. parametrov; ~9,5 GB GPU RAM v bf16/fp16 1,55 mld. parametrov 809 mil. parametrov (~1,6 GB)
Prakticky použiteľný na bežnom Macu V plnej presnosti na typickom hardvéri nie Možné s kompatibilným runtime; náročnejší než Turbo Áno Áno

Verdikt: Voxtral Small vykazuje silné hodnoty WER a pridáva porozumenie zvuku, o ktoré sa Whisper vôbec nepokúša. Voxtral Mini je checkpoint, ktorý Mistral určuje na lokálne a edge nasadenie, jeho oficiálna karta modelu však stále uvádza približne 9,5 GB GPU RAM v bf16/fp16. Pre spotrebiteľskú prepisovaciu aplikáciu ostáva Whisper Large-v3 Turbo jednoduchší na nasadenie a pokrýva oveľa viac jazykov. Preto Whisper Notes v súčasnosti kombinuje Whisper Turbo s Parakeet V3 a SenseVoice namiesto Voxtralu.

Cena API a vlastného hostovania

Ku dňu overenia 10. júla 2026 uvádza karta modelu od Mistralu pri zvukovom vstupe Voxtral Small cenu 0,004 $ za minútu. Textový vstup a generovaný text sa pri požiadavkách na porozumenie zvuku účtujú osobitne. Ak si váhy pod licenciou Apache 2.0 hostujete sami, žiadny poplatok za Mistral API neplatíte, hradíte však hardvér a prevádzku.

Mistral API

$0.004
za minútu zvuku pri Voxtral Small

Váhy hostované u vás

Apache 2.0
žiadny poplatok za API; výpočtový výkon je na vás

Ako to funguje

Oficiálna karta modelu opisuje Voxtral ako jazykový model doplnený o zvukový enkodér a vyhradený režim prepisu. Dôležité produktové limity sú konkrétne:

1. Multimodálna architektúra

Voxtral prijíma zvuk aj text v rámci jednej konverzácie, namiesto toho, aby fungoval iba ako dekodér reči na text:

  • Vyhradený režim na priamy prepis
  • Zvukové Q&A a štruktúrovaná sumarizácia
  • Viacero zvukových vstupov a viackolové zvukové konverzácie

Limit dlhých nahrávok

Kontextové okno 32k zvládne až 30 minút zvuku pri prepise alebo 40 minút pri širšom porozumení zvuku.

2. Jazyky a vyhodnotenie

Mistral uvádza osem hlavných jazykov s automatickou detekciou:

  • Angličtina, španielčina, francúzština, portugalčina, hindčina, nemčina, holandčina a taliančina
  • Benchmarky zahŕňajú FLEURS, Mozilla Common Voice a Multilingual LibriSpeech
  • Vydanie navyše vyhodnocuje anglické krátke a dlhé nahrávky osobitne

3. Nároky na nasadenie

Otvorené váhy neznamenajú, že každý checkpoint je dosť malý pre každé zariadenie:

  • Voxtral Small podľa svojej karty modelu vyžaduje približne 55 GB GPU RAM v bf16/fp16
  • Voxtral Mini je checkpoint s 3 miliardami parametrov určený na lokálne a edge nasadenie
  • Na servírovanie vydaných checkpointov odporúča Mistral vLLM

4. Kľúčové funkcie

Kontextové porozumenie

Dokáže odpovedať na otázky a vytvárať zhrnutia priamo zo zvuku, v rámci limitu 32k kontextu.

Viacjazyčnosť

Automaticky rozpoznáva a prepisuje osem hlavných jazykov: angličtinu, španielčinu, francúzštinu, portugalčinu, hindčinu, nemčinu, holandčinu a taliančinu.

Práca so šumom

Oficiálne vyhodnotenie zahŕňa rôznorodé rečové datasety, Mistral však nezverejňuje žiadnu plošnú záruku pre každú hlučnú nahrávku.

Edge nasadenie

Voxtral Mini je možnosť pre lokálne a edge použitie. Jeho oficiálna karta modelu uvádza približne 9,5 GB GPU RAM v bf16/fp16.

5. Architektúra

Tri hlavné komponenty:

  1. 1. Zvukový enkodér: Prevádza zvukovú vlnu na naučené zvukové reprezentácie
  2. 2. Projektor: Mapuje zvukové reprezentácie do skrytého priestoru jazykového modelu
  3. 3. Jazykový model ako chrbtica: Generuje prepisy, odpovede, zhrnutia alebo volania nástrojov

Tento návrh vysvetľuje, prečo Voxtral dokáže viac než len prepis, zároveň však nesie oveľa väčšie váhy jazykového modelu než model zameraný čisto na prepis, akým je Whisper Turbo.

Prečo má Whisper Notes stále zmysel

Voxtral a Whisper Notes riešia rôzne problémy. Voxtral kombinuje prepis s porozumením zvuku; Whisper Notes sa sústreďuje na súkromný prepis, ktorý sa dá ľahko prevádzkovať na spotrebiteľskom hardvéri Apple.

Čo Whisper Notes ponúka

Súkromie

Výkon

  • Technológia Whisper, overená presnosť
  • Optimalizované pre Apple Silicon
  • Spoľahlivé výsledky

Cena

  • jednorazový nákup za cenu uvedenú v príslušnom kanáli; Mac obsahuje skúšobnú verziu na 10 000 slov
  • Žiadne poplatky za minútu
  • Neobmedzený prepis

Používateľský zážitok

  • Jednoduché rozhranie
  • Pravidelné aktualizácie
  • Priebežné vylepšenia

Nároky na úložisko

Voxtral Small je v plnej presnosti model serverovej triedy: jeho oficiálna karta uvádza približne 55 GB GPU RAM. Voxtral Mini je určený priamo na lokálne a edge použitie, jeho karta však stále uvádza približne 9,5 GB GPU RAM v bf16/fp16. Whisper Turbo sa v aplikácii sťahuje ako zhruba 1,6 GB, čo súčasnému produktu Whisper Notes vyhovuje oveľa lepšie.

Whisper Notes používa Whisper Large-v3 Turbo — vyvažuje výkon, rýchlosť a nároky na VRAM pri každodennom používaní. Keď budú k dispozícii lepšie modely s rozumnými nárokmi na zdroje, prejdeme na ne.

Voxtral je atraktívny tam, kde záleží na zvukovom Q&A, sumarizácii alebo serverovom nasadení vo vlastnej réžii. Whisper Notes je určený jednotlivcom, ktorí chcú súkromný prepis a žiadne opakované predplatné.

Čo z toho vyplýva

Voxtral je dôležitý krok otvorených váh za hranice bežného rozpoznávania reči, pretože dokáže nad zvukom uvažovať, nielen ho prepisovať.

Pri súkromnom offline prepise na Macu a iPhone ostávajú menšie špecializované enginy jednoduchšie na zabalenie a konzistentnú prevádzku.

Porovnávate všetky lokálne možnosti? Každý on-device model na prevod reči na text — varianty Whisperu, Parakeet V3, SenseVoice aj Voxtral — nájdete vedľa seba na našej porovnávacej stránke modelov Whisper.

Často kladené otázky

Čo je Mistral Voxtral?

Voxtral je rodina modelov Mistralu s otvorenými váhami na prepis reči a porozumenie zvuku. Vydanie z júla 2025 zahŕňa Voxtral Small 24B na serverové úlohy a Voxtral Mini 3B na lokálne a edge nasadenie. Oba checkpointy používajú licenciu Apache 2.0.

Môže Voxtral bežať lokálne na Macu?

Stiahnuteľné váhy si môžete hostovať sami, obe veľkosti však majú odlišné nároky. Voxtral Small potrebuje približne 55 GB GPU RAM v bf16/fp16, ide teda o voľbu serverovej triedy. Voxtral Mini je checkpoint na lokálne a edge použitie; jeho karta modelu uvádza približne 9,5 GB v bf16/fp16 a skutočná rýchlosť aj spotreba pamäte na Macu závisia od runtime a kvantizácie.

Používa Whisper Notes Voxtral?

Nie. Whisper Notes používa Parakeet V3 (predvolený model na Macu), Whisper Large-v3 Turbo a SenseVoice — modely zvolené preto, lebo vyvažujú výkon, rýchlosť a nároky na VRAM pri každodennom používaní na Apple Silicon. Keď bude praktické prevádzkovať na spotrebiteľskom hardvéri lepšie modely, prejdeme na ne.

Koľko jazykov Voxtral podporuje?

Oficiálne karty modelu uvádzajú osem hlavných jazykov s automatickou detekciou: angličtinu, španielčinu, francúzštinu, portugalčinu, hindčinu, nemčinu, holandčinu a taliančinu. Mistral vo FLEURS vyhodnocuje aj arabčinu, tá však nie je v zozname hlavných jazykov na karte modelu.

Kedy bol Mistral Voxtral vydaný?

Mistral vydal Voxtral 15. júla 2025. Prvými checkpointmi pod licenciou Apache 2.0 boli Voxtral Small 24B a Voxtral Mini 3B.