ZHRNUTIE — Porovnanie troch modelov bežiacich na zariadení
| Parakeet V3 | SenseVoice Small | Whisper Large V3 Turbo | |
|---|---|---|---|
| 5 min angličtina | 2,91 s (103×) | 5,8 s (52×) | 20,92 s (14,3×) |
| 27 min čínčina | Bez podpory čínštiny | 13,83 s (118×) | 2 min 4 s (13,1×) |
| Jazyky | 25 (európske) | 5 (zh, en, ja, ko, yue) | 100+ |
| Stiahnutie | 465 MB | 827 MB | ~1,6 GB |
| Najlepšie pre | Angličtinu & európske jazyky | Čínštinu, japončinu, kórejčinu, kantončinu | Všetko ostatné (100+ jazykov) |
* Rýchlostné benchmarky na Apple M4 Pro, 32 GB. 5-minútový anglický podcast a 27-minútový čínsky podcast. Faktor reálneho času = dĺžka audia ÷ čas spracovania (vyšší = rýchlejší). Benchmarky pochádzajú z verzie pre Mac; SenseVoice je k dispozícii aj na iPhone.
Od verzie 1.5.0 (Direct Download / DMG) obsahuje Whisper Notes pre Mac model SenseVoice Small ako špecializovaný engine na prepis čínčiny, japončiny, kórejčiny a kantončiny. Nahrádza Qwen3-ASR a beží na GPU Apple cez MLX namiesto CPU — 27-minútový čínsky podcast spracuje za 13,83 sekundy namiesto 3 minút a 44 sekúnd.
Prečo sme nahradili Qwen3-ASR
Qwen3-ASR bol solídny model. Podporoval 30 jazykov plus 22 čínskych dialektov a jeho presnosť v čínčine bola takmer na špičkovej úrovni. Mal ale problém, ktorý sa zhoršoval s dĺžkou audia: rýchlosť.
Qwen3 používal autoregresívnu architektúru — rovnaký prístup ako Whisper, spracovával audio snímok po snímku, nikdy nepreskočil dopredu. Na 27-minútovom čínskom podcaste trval 224 sekúnd. Použiteľné, ale nie ten zážitok okamžitého výsledku, ktorý Parakeet V3 ponúka pre angličtinu.
Hlbší problém bola naša infraštruktúra. Naša integrácia Qwen3 používala sherpa-onnx, knižnicu v C s 2 249-riadkovým Swift wrapperom, ktorý všetko smeroval cez jadrá CPU. GPU nečinne stálo, zatiaľ čo CPU vášho Macu robilo všetku prácu.
SenseVoice vyriešil oba problémy. Neautoregresívna architektúra pre rýchlosť. Apple MLX pre akceleráciu GPU. Výsledok: 16,2-násobné zrýchlenie na tom istom hardvéri, kódová základňa sa zmenšila z 2 249 riadkov na 288.
Benchmark
Všetky tri modely bežali na tom istom Apple M4 Pro, rovnaké audio súbory, rovnaké podmienky. Žiadny cloud. Žiadny internet. Len kremík.
| Model | 5 min angličtina | 27 min čínčina | Rýchlosť (RTFx) |
|---|---|---|---|
| Parakeet V3 | 2,91 s | Bez podpory čínštiny | 103× |
| SenseVoice Small | 5,8 s | 13,83 s | 52–118× |
| Whisper Large V3 Turbo | 20,92 s | 2 min 4 s | 13–14× |
| Qwen3-ASR (odstránený) | — | 224 s | 7,2× |
V angličtine beží SenseVoice približne polovičnou rýchlosťou oproti Parakeetu — stále však mimoriadne rýchlo. V čínštine Parakeet vôbec neprichádza do úvahy a SenseVoice dokončí 27-minútový podcast za menej ako 14 sekúnd. Stlačíte prepis, počkáte jeden nádych a text je tu.
Porovnajte to s Whisperom za 2 minúty a 4 sekundy alebo starým Qwen3 za 3 minúty a 44 sekúnd. Na architektúre záleží viac ako na počte parametrov.
Oficiálny benchmark inferencie z článku FunAudioLLM: SenseVoice-Small spracuje 10 s audia za 70 ms (A800 GPU). Whisper-Large-V3 potrebuje 1 281 ms na tom istom hardvéri. Pozor: ide o latenciu inferencie na dátacentrovej GPU, nie o čísla na zariadení vyššie.
| Model | Čas načítania | Veľkosť stiahnutia |
|---|---|---|
| Parakeet V3 | 0,77 s | 465 MB |
| SenseVoice Small | 0,81 s | 827 MB |
| Whisper Small | 1,03 s | 600 MB |
| Whisper Large V3 Turbo | 3,18 s | ~1,6 GB |
* Čas načítania meraný na Apple M4 Pro, 32 GB.
SenseVoice sa načíta za menej ako sekundu. Na 8 GB Macu beží pohodlne vedľa vašich ďalších aplikácií.
Prečo je SenseVoice rýchlejší: Architektúra + Runtime
Rozdiel v rýchlosti medzi Qwen3-ASR a SenseVoice pochádza z dvoch nezávislých faktorov.
Faktor 1: Architektúra modelu. Qwen3-ASR je autoregresívny — generuje textové tokeny jeden po druhom, každý závisí od predchádzajúceho. SenseVoice používa neautoregresívny (NAR) enkodér, ktorý spracováva celé audio paralelne. Tento architektonický rozdiel sám o sebe robí SenseVoice zásadne rýchlejším, bez ohľadu na hardvér.
Faktor 2: Runtime. Naša integrácia Qwen3-ASR používala sherpa-onnx, ktorý bežal na CPU. SenseVoice beží cez Apple MLX a smeruje výpočty na GPU. Mohol by Qwen3 tiež bežať na MLX? Áno — ale stále by bol pomalší ako SenseVoice, pretože autoregresívne úzke hrdlo je v architektúre, nie v runtime.
| Qwen3-ASR (starý) | SenseVoice (nový) | |
|---|---|---|
| Architektúra | Autoregresívna (token po tokene) | Neautoregresívna (paralelná) |
| Runtime | sherpa-onnx (CPU) | Apple MLX (GPU) |
| 27 min čínčina | 224 sekúnd | 13,83 sekúnd |
| Celkové zrýchlenie | základ | 16,2× rýchlejšie |
| Kódová základňa | 168 MB C framework + 2 249 riadkov Swift | 288 riadkov Swift Actor |
* Ten istý 27-minútový čínsky podcast, Apple M4 Pro. Zrýchlenie 16,2× kombinuje architektonické (NAR vs AR) aj runtime (GPU vs CPU) vylepšenia.
Kód sa tiež zjednodušil. Nová implementácia SenseVoice je jeden 288-riadkový Swift Actor komunikujúci priamo s MLX, nahrádzajúci 168 MB C framework. Menej kódu, menej chýb, menšia aplikácia.
Päť jazykov, dobre zvládnutých
SenseVoice sa nesnaží robiť všetko. Zvláda päť jazykov:
| Jazyk | SenseVoice-Small | Whisper-Large-V3 | Víťaz |
|---|---|---|---|
| Čínština (zh-CN) | 10,78 % CER | 12,55 % CER | SenseVoice (-14 %) |
| Kantončina (yue) | 7,09 % CER | 10,41 % CER | SenseVoice (-32 %) |
| Japončina (ja) | 11,96 % CER | 10,34 % CER | Whisper (mierne) |
| Kórejčina (ko) | 8,28 % CER | 5,59 % CER | Whisper |
| Angličtina (en) | 14,71 % WER | 9,39 % WER | Whisper (použite Parakeet) |
* Benchmark CommonVoice, CER = miera chybovosti znakov, WER = miera chybovosti slov. Nižšie je lepšie. Zdroj: článok FunAudioLLM (2024). Latencia inferencie SenseVoice-Small: 70 ms na 10 s audia na A800 GPU, oproti 1 281 ms u Whisper-Large-V3 na tom istom hardvéri.
Benchmark CommonVoice: SenseVoice-Small (žltá) vs Whisper-Small (modrá) vs Whisper-Large-V3 (oranžová). Nižšie je lepšie. Zdroj: článok FunAudioLLM
Čísla rozprávajú úprimný príbeh. SenseVoice prekonáva Whisper v presnosti čínčiny a kantončiny s výrazným náskokom, zatiaľ čo Whisper je presnejší pre japončinu, kórejčinu a angličtinu. Ale SenseVoice beží na Apple Silicon rýchlosťou 52× reálneho času alebo vyššou. Pre väčšinu reálneho použitia záleží na rozdiele v rýchlosti viac ako na pár percentuálnych bodoch presnosti.
Výsledok kantončiny si zaslúži osobitnú zmienku. Whisper-Small dosahuje 38,97 % CER v kantončine — takmer nepoužiteľný. Ani Whisper-Large-V3 zvládne len 10,41 %. SenseVoice dosahuje 7,09 %. Pred SenseVoice neexistoval dobrý spôsob, ako lokálne prepisovať kantončinu na Macu. Ak hovoríte kantonsky, tento model existuje pre vás.
Prepis kórejčiny pomocou SenseVoice: import videa s titulkami s časovými značkami
Test v reálnom svete: 27-minútový čínsky podcast
Prepísali sme 27-minútovú epizódu Thirteen Invitations (十三邀), čínskeho rozhovorového podcastu, pomocou SenseVoice aj Whisper Large V3 Turbo na tom istom M4 Pro. ElevenLabs Scribe (cloud) slúžil ako referencia. Oba modely na zariadení robia približne rovnaký počet chýb, ale rôzneho druhu:
| SenseVoice | Whisper Large V3 | |
|---|---|---|
| Čas | 13,83 s | 2 min 4 s |
| Chyby (5 min vzorka) | ~15–20 | ~12–15 |
| Najhoršia chyba | 时差→食堂 (časový posun→jedáleň) | 西昌→西藏 (mesto Xichang→Tibet, 4 000 km vedľa) |
| Vzor chýb | Zámeny homofónov | Geografické/faktické chyby |
* Ručné porovnanie s ElevenLabs Scribe (cloudová referencia, tiež nie bezchybná). Oba modely na zariadení správne napísali „根深蒂固", kde Scribe chyboval.
Porovnateľná presnosť — a prepis je hotový za 13,83 sekundy namiesto dvoch minút. Pre reálny prepis čínčiny vám SenseVoice dá použiteľný prepis skôr, ako Whisper dokončí načítanie.
Kedy použiť ktorý model
Whisper Notes pre Mac teraz obsahuje štyri rečové modely v oboch macových verziách a priamo stiahnutá verzia (DMG) k nim od 1.6.0 pridáva piaty, Qwen3-ASR 1.7B (Beta). Každý zo štyroch nižšie je optimalizovaný pre iný scenár:
| Potrebujete... | Použite tento model | Prečo |
|---|---|---|
| Angličtinu alebo európske jazyky, maximálnu rýchlosť | Parakeet V3 | 103× reálny čas, najnižšia chybovosť. Predvolený. |
| Čínštinu, japončinu, kórejčinu alebo kantončinu | SenseVoice Small | 52–118× reálny čas. Jediný model s podporou kantončiny na iPhone a vo verzii z Mac App Storu. |
| Ktorýkoľvek z 100+ jazykov (arabčina, thajčina, ruština atď.) | Whisper Large V3 Turbo | Najširšia jazyková podpora. Pomalší, ale univerzálny. |
| Všetkých 101 jazykov na staršom Macu | Whisper Small | 600 MB, najľahší z modelov Whisper, a aj tak pokrýva 101 jazykov. |
Nastavenia → Model prepisu: vyberte správny engine pre svoj jazyk
Výber modelov v Nastaveniach zobrazuje každý model, ktorý tvoja verzia ponúka, s veľkosťami stiahnutia, počtami jazykov a požiadavkami na pamäť. SenseVoice sa stiahne pri prvom použití (~827 MB) a zostane na vašom zariadení.
Kompromisy
SenseVoice nie je univerzálny model. Čo nedokáže:
• Iba 5 jazykov. Ak potrebujete thajčinu, ruštinu, arabčinu, hindčinu alebo iný jazyk mimo CJK zamerania SenseVoice, zostaňte pri Whisperi.
• Aktualizácia: SenseVoice pôvodne vychádzal len pre Mac cez Apple MLX, teraz je však dostupný aj na iPhone — iOS podporuje rovnakú ponuku modelov ako Mac: Parakeet V3, Whisper a SenseVoice.
• Problém s tichým zvukom. Počas veľmi krátkych alebo veľmi tichých segmentov sa SenseVoice môže občas vrátiť k čínskemu výstupu bez ohľadu na vybraný jazyk. Ručné nastavenie jazyka (namiesto „Auto") to znižuje.
• Žiadne streamovanie. Na rozdiel od režimu streamovania Whisperu spracováva SenseVoice celé audio po nahraní. Pri dlhých súboroch automaticky segmentuje v bodoch ticha a zobrazuje výsledky postupne.
Sú to architektonické obmedzenia, nie chyby. Model trénovaný na 5 jazykoch zvláda týchto 5 jazykov mimoriadne dobre. Podpora 100+ jazykov u Whisperu prichádza s pomalšou rýchlosťou a nerovnomernou presnosťou naprieč jazykmi.
Porovnávate všetky lokálne možnosti? Všetky modely prevodu reči na text bežiace na zariadení — varianty Whisperu, Parakeet V3, SenseVoice aj Voxtral — porovnávame vedľa seba na našej stránke s porovnaním modelov Whisper. S Whisperom ešte len začínate? Začnite sprievodcom prepisom pomocou Whisperu — čo je to za model, všetky spôsoby, ako ho spustiť, a koľko to stojí.
Často kladené otázky
Aká je najrýchlejšia alternatíva k Whisperu na prepis čínčiny, japončiny a kórejčiny?
SenseVoice Small je k dispozícii vo Whisper Notes na Macu aj na iPhone. V našom teste na Macu s M4 Pro prepísal 27-minútový čínsky podcast za 13,83 sekundy (52–118× reálneho času), zatiaľ čo Whisper Large V3 Turbo potreboval na rovnaký súbor vyše 2 minúty.
Je SenseVoice pre čínčinu lepší ako Whisper?
Pre čínčinu a kantončinu áno. V benchmarku CommonVoice dosahuje SenseVoice 10,78 % CER v čínčine oproti 12,55 % u Whisper-Large-V3 a na našom M4 Pro zvládol 27-minútový podcast za 13,83 sekundy oproti 2 minútam a 4 sekundám u Whisperu. Whisper zostáva o niečo presnejší pre japončinu a kórejčinu — ak sú to vaše hlavné jazyky, rozumnou voľbou je ktorýkoľvek z nich.
Môžem prepisovať kantončinu lokálne na Macu?
Áno. SenseVoice dosahuje 7,09 % CER v kantončine, v porovnaní s 10,41 % u Whisper-Large-V3 a takmer nepoužiteľnými 38,97 % u Whisper-Small. Pred SenseVoice neexistoval dobrý spôsob, ako prepisovať kantončinu lokálne na Macu.
Funguje SenseVoice na iPhone?
Áno. Whisper Notes na iPhone podporuje rovnakú ponuku modelov ako Mac — Parakeet V3, Whisper a SenseVoice — takže čínčinu, japončinu, kórejčinu a kantončinu môžete lokálne prepisovať aj na svojom iPhone.
Vyskúšajte to
SenseVoice je dostupný vo Whisper Notes pre Mac od verzie 1.5.0 (Direct Download / DMG) a v aktuálnej aplikácii pre iPhone. Na Macu ho stiahnete v Nastaveniach → Model prepisu → SenseVoice Small (~827 MB). Verzia pre Mac vyžaduje Apple Silicon (M1 alebo novší).
Ak používate Parakeet V3 a diktujete prevažne anglicky, nemusíte prepínať. SenseVoice je pre prípady, keď potrebujete čínčinu, japončinu, kórejčinu alebo kantončinu — a chcete to rýchlo.
Stiahnuť pre Mac
Kompletný zoznam zmien: whispernotes.app/changelog
Otázky alebo spätná väzba: mac@whispernotes.app