Whisperin arkkitehtuurikaavio: Transformer-enkooderi lukee äänen spektrogrammin ja dekooderi kirjoittaa tekstin

Whisper Large V3 Turbo vs. V3: 5× nopeampi Macilla (vertailutesti)

6. marraskuuta 2024
·
6 min lukuaika
·Whisper Notes Team

OpenAI:n Whisper Large-v3 Turbo karsii dekooderin 32 kerroksesta neljään, ja parametrimäärä putoaa 1,55 miljardista 809 miljoonaan. Testeissämme Apple-sirulla se litteroi saman äänitteen noin viisi kertaa nopeammin lähes samalla tarkkuudella. Whisper Notes tarjoaa sen Macilla – sekä Mac App Store -versiossa että verkkosivuiltamme ladattavassa Mac-sovelluksessa – mutta jättää sen tarkoituksella pois iPhonesta, jossa käytössä ovat pienemmät, puhelimelle mitoitetut mallit.

V3 Turbo vs. V3: mikä muuttui?

Turbo ei ole uusi arkkitehtuuri. Se on täsmälleen sama Whisper Large-v3 -malli, jonka dekooderi on karsittu 32 kerroksesta neljään ja jota on sen jälkeen hienosäädetty tarkkuuden palauttamiseksi. Enkooderiin ei ole koskettu.

Large-v3 Turbo Large-v3
Parametrit 809 milj. 1 550 milj.
Dekooderikerrokset 4 32
Kielet 100+ 100+
Käännöstehtävä Ei tuettu Tuettu
Lisenssi MIT Apache 2.0

Menetelmä: sama 10 minuutin äänitiedosto litteroitiin samalla Whisper Notes -versiolla kullakin mainitulla laitteella. Ajat ovat sekunteja litteroinnin aloittamisesta valmiiseen tekstiin. V3:n ja Turbon välillä vaihtui vain malli.

Käännöstehtävä jätettiin Turbon koulutusaineistosta tarkoituksella pois. Täysi Large-v3 tukee sitä, mutta Whisper Notes tarjoaa Turbon eikä täyttä Large-v3:a. Verkkosivuiltamme ladattavassa Mac-sovelluksessa AI-avustaja voi kääntää litteroinnin paikallisella Gemma-mallilla.

Pohjamalli: mikä on Whisper Large-v3?

Whisper Large-v3 on OpenAI:n avoimen lähdekoodin lippulaivamalli puheentunnistukseen, ja se julkaistiin marraskuussa 2023. Siinä on 1,55 miljardia parametria, syötteenä on 128 mel-kaistan spektrogrammi, ja se on koulutettu 5 miljoonalla tunnilla ääntä (1 miljoona heikosti merkittyä ja 4 miljoonaa pseudomerkittyä tuntia). Se tukee yli 100 kieltä. Hugging Facen Open ASR Leaderboardissa sen keskimääräinen sanavirheprosentti (WER) on ~7,4 %. Tämä on tarkkuuden yläraja, johon Turboa tässä koko ajan verrataan. Miten Whisper Large V3 Turbo pärjää Whisper Notesin muihin malleihin verrattuna kieli kieleltä, näet Whisper-mallien vertailustamme.

Nopeustesti: Whisper Notes Apple-sirulla

Whisper Notesin Mac-sovelluksessa Turbo toimii CoreML:n kautta Neural Enginellä. 10 minuutin äänitteen käsittely:

Laite Whisper V3 V3 Turbo Nopeutus
iPhone 15 Pro 425 s 82 s 5,2×
iPad Pro M2 380 s 71 s 5,4×
MacBook Pro M2 316 s 63 s 5,0×

5× nopeutus koskee nimenomaan Whisper Notesia Apple-sirulla, jossa pienempi dekooderi hyötyy Neural Enginen optimoinnista. GPU:lla esimerkiksi faster-whisperin kaltaisilla kehyksillä ero kapenee noin 2,7-kertaiseksi (katso yhteisön vertailutestit alempana).

Tarkennus iPhone- ja iPad-riveihin: ne ovat mallin arviointiajoja kyseisellä laitteistolla, eivät iPhone-sovelluksen mallivalikoima. Whisper Notesin iPhone-sovelluksessa ei ole Large V3 Turboa. Se on tietoinen valinta, joka perustellaan laitekohtaisessa taulukossa alempana.

Tarkkuus: WER-vertailu

Hugging Facen Open ASR Leaderboard testaa molemmat mallit samoilla englanninkielisillä aineistoilla. Turbon sanavirheprosentti on jokaisessa testissä alle puolen prosenttiyksikön päässä V3:sta:

Aineisto Whisper Large-v3 Turbo WER Whisper Large-v3 WER
LibriSpeech Clean 2,10 % 2,01 %
LibriSpeech Other 4,24 % 3,91 %
GigaSpeech 10,14 % 10,02 %
Earnings22 11,63 % 11,29 %
AMI 16,13 % 15,95 %
Keskimääräinen WER 7,83 % 7,44 %

V3 on hieman tarkempi jokaisessa aineistossa, mutta ero on pieni: keskimäärin 0,39 prosenttiyksikköä. Useimmissa käytännön litteroinneissa eroa ei huomaa.

YouTube-commons-aineiston pitkien äänitteiden arvioinnissa (yksi suurimmista avoimen lähdekoodin ASR-vertailutesteistä) Turbon WER on 13,40 % ja V3:n 13,20 %, ja reaaliaikakerroin on 129,5× vs. 55,3×. Turbo on siis aidolla äänimateriaalilla 2,3 kertaa nopeampi lähes samalla tarkkuudella.

Kuinka tarkasti Turbo litteroi koreaa, venäjää ja muita kieliä?

Yllä olevat testit ovat englanninkielisiä. OpenAI:n mallikortin mukaan Turbon karsittu 4-kerroksinen dekooderi heikentää tarkkuutta muissa kielissä hieman enemmän kuin englannissa, ja eniten heikkenevät kielet, joista on vähän koulutusaineistoa. Venäjässä ja useimmissa Euroopan kielissä Turbo pysyy lähellä täyttä Large-v3:a. Whisper Notesin sisäänrakennettu Parakeet-malli (Moondreamin Parakeet Ultra, joka on jatkokoulutettu NVIDIAn Parakeet V3:n pohjalta) kattaa venäjän ja 24 muuta Euroopan kieltä. Parakeet V3 litteroi Apple-sirulla noin 60 kertaa reaaliaikaa nopeammin.

Kiinalle, japanille, korealle ja kantoninkiinalle SenseVoice on paljon nopeampi: se litteroi 115–131 kertaa reaaliaikaa nopeammin, ja Macilla vähiten virheitä tekee Qwen3-ASR 1.7B (Beta). Turbo pärjää japanissa ja koreassa: FLEURS-ajossamme se teki niissä vähemmän virheitä kuin SenseVoice. Whisper Notesissa SenseVoice on iPhonessa ja molemmissa Mac-versioissa, ja Macilla sen rinnalla on Turbo. Mallin voi siis valita kielen mukaan sen sijaan, että kaikki ajettaisiin saman mallin läpi.

Mitä paikallista puheentunnistusmallia kannattaa käyttää?

Large-v3 Turbo on laajimman kielikattavuuden Whisper-malli, jonka voi ajaa paikallisesti. Useimpiin yksittäisiin töihin se ei silti ole paras, koska Apple-sirulla sillä on kaksi erikoismallia kilpailijana, ja kumpikin voittaa sen omilla kielillään. Whisper Notesissa käytännön valikoima on Macilla viisi mallia, samat Mac App Store -versiossa ja verkkosivuiltamme ladattavassa Mac-sovelluksessa: Parakeet, SenseVoice Small, Whisper Small, Whisper Large V3 Turbo ja Qwen3-ASR 1.7B (Beta). Valinnan ratkaisevat lähes kokonaan puhumasi kieli ja oma laitteistosi, eivät vertailulistat.

Litteroit englantia etkä mitään muuta

Käytä Parakeetia. Parakeet V3, jonka pohjalta se on jatkokoulutettu, on sekä tarkempi että paljon nopeampi: englannin keskimääräinen WER on Hugging Face Open ASR Leaderboardissa 6,32 % vastaan 7,83 %, ja M4 Pro -koneella se on 103× reaaliaikainen, kun Turbo ylsi samalla Macilla 14,3-kertaiseen nopeuteen. Pelkässä englannissa ei ole yhtään tilannetta, jossa Turbo olisi parempi valinta.

Litteroit Euroopan kieliä

Silloinkin Parakeet, jos kielesi on yksi sen 25 kielestä: bulgaria, kroatia, tšekki, tanska, hollanti, englanti, viro, suomi, ranska, saksa, kreikka, unkari, italia, latvia, liettua, malta, puola, portugali, romania, venäjä, slovakki, sloveeni, espanja, ruotsi ja ukraina. FLEURS-testiaineistolla näiden 25 kielen keskimääräinen WER on 12,0 %, käytännössä sama kuin täyden Whisper Large V3:n 12,6 %, ja Apple-sirulla se on noin 60 kertaa reaaliaikaa nopeampi. Jos eurooppalainen kielesi ei kuulu joukkoon (norja, islanti, serbia ja katalaani eivät kuulu), valitse Turbo.

Litteroit kiinaa, japania, koreaa tai kantoninkiinaa

Jos nopeus ratkaisee, käytä SenseVoice Small -mallia. Se kattaa englannin, yksinkertaistetun ja perinteisen kiinan, kantoninkiinan, japanin ja korean, ja nopeusero tällaisella aineistolla on suuri: 27 minuutin kiinankielinen podcast valmistui M4 Pro -koneella 13,83 sekunnissa, kun Turbolta sama tiedosto vei yli kaksi minuuttia. Jos haluat vähiten virheitä, käytä Macilla Qwen3-ASR 1.7B (Beta) -mallia; japanissa ja koreassa myös Turbo tekee vähemmän virheitä kuin SenseVoice. Parakeet ei tue näitä kieliä lainkaan.

Tarvitset mahdollisimman laajan kielikattavuuden

Käytä Whisper Large V3 Turbo -mallia. Se kattaa 101 kieltä, kuten arabian, hindin, thain, heprean, vietnamin ja indonesian sekä monia harvinaisempia kieliä, joita kumpikaan erikoismalli ei tue. Englannissa sen tarkkuus on alle puolen prosenttiyksikön päässä täydestä Large-v3:sta, ja harvinaisemmissa kielissä ero on suurempi mutta yhä siedettävä. Tätä varten Turbo on tässä valikoimassa: se on varamalli, jolta ei puutu kieliä. Koko moottorikohtainen erittely on taulukossamme Whisperin tukemista kielistä.

Käytössäsi on vanhempi tai vähämuistinen laite

Käytä Whisper Small -mallia. Se kattaa samat 101 kieltä 600 MB:n latauksella, kun Turbo vie noin 2 GB. 8 GB:n Macissa, jossa on auki myös selain, se on väljän ja ahtaan ero. Hintana on tarkkuus, eikä hinta ole pieni: 25 eurooppalaisen FLEURS-kielen keskimääräinen WER on Whisper Smallilla 29,8 % ja Parakeet V3:lla 12,0 %. Valitse se, kun muisti on ratkaiseva rajoite, ei silloin, kun tarkkuus on.

Litteroit pitkiä äänitteitä: luentoja, kuulemisia, monen tunnin haastatteluja

Valitse nopein malli, joka tukee kieltäsi, koska litterointiaika kasvaa äänitteen pituuden mukana. Nopeusero, jota ei huomaisi kahden minuutin äänimuistiossa, on kolmen tunnin äänitteellä kahvitauon ja koko iltapäivän ero. Käytä siis Turboa pitkiin tiedostoihin vain, kun kieli sitä todella vaatii, ja varaudu minuutteihin sekuntien sijaan. Pituus kasvattaa myös Whisperin toista riskiä: mitä pidempi tiedosto, sitä enemmän hiljaisia jaksoja, joihin autoregressiivinen dekooderi voi keksiä sanoja. Siksi Whisper Notes ajaa puheaktiivisuuden tunnistuksen (VAD) ennen litterointia.

Kaikki mallit rinnakkain. Jokainen taulukon luku on peräisin omista testeistämme Apple-sirulla tai taulukon alla mainituista julkaistuista vertailutesteistä:

Malli Kielet Englannin WER Nopeus testeissämme Nopeus Whisper Large V3 Turboon verrattuna Muistintarve Latauskoko
Parakeet V3 25 eurooppalaista 6,32 % 103× reaaliaikainen (M4 Pro); ~60× (M5 Air) 7,2× nopeampi (103× vs. 14,3×, M4 Pro) 0,09 GiB huippu 465 MB
SenseVoice Small Englanti, kiina (yksinkertaistettu ja perinteinen), kantoninkiina, japani, korea Ei mukana tässä ajossa 27 minuutin kiinankielinen podcast: 13,83 s (M4 Pro) 9,0× nopeampi (118× vs. 13,1×, M4 Pro) 0,95 GiB huippu ~450 MB
Whisper Small 101 Ei mukana tässä ajossa ~4× täyteen Large-v3:een verrattuna Ei mitattu samalla äänellä 0,87 GiB huippu 600 MB
Whisper Large V3 Turbo 101 7,83 % 14,3× reaaliaikainen (M4 Pro); ~5× täyteen Large-v3:een verrattuna Vertailukohta 2,4 GB ~2 GB

Englannin WER on keskiarvo Hugging Face Open ASR Leaderboardin englanninkielisistä aineistoista. SenseVoice Small ja Whisper Small eivät olleet mukana tässä englannin ajossa, joten jätämme solut tyhjiksi emmekä arvaa. 25 kielen eurooppalaisessa FLEURS-keskiarvossa luvut ovat 12,0 % Parakeet V3:lle, 12,6 % täydelle Whisper Large V3:lle ja 29,8 % Whisper Smallille. Turboa ei testattu tällä monikielisellä aineistolla erikseen. Nopeusluvut ovat reaaliaikakertoimia omista ajoistamme Apple-sirulla, paitsi kaksi suhteellista kerrointa, jotka on laskettu täyteen Large-v3:een verrattuna. Latauskoot on mitattu Whisper Notesin Mac-versiosta. Muisti on kunkin moottorin prosessin suurin muistinkäyttö omassa FLEURS-ajossamme M5 MacBook Airilla; näin mitattiin Parakeet V3, SenseVoice Small ja Whisper Small. Whisper Large V3 Turbon 2,4 GB on sovelluksen ilmoittama työmuistin määrä, ei mittaamamme huippu. Kaksi nopeussuhdetta on laskettu reaaliaikakertoimista, jotka on mitattu samalla äänellä M4 Pro -koneella: Parakeet V3 5 minuutin englanninkielisellä tiedostolla ja SenseVoice Small 27 minuutin kiinankielisellä podcastilla. Whisper Smallin nopeutta ei mitattu kummallakaan. Podcast-testi tehtiin sovelluksen aiemmalla versiolla; SenseVoice Smallin nykyinen mallikortin nopeus, 115–131×, on suunnilleen sama.

Kaikki nämä toimivat Whisper Notesissa kokonaan laitteella, ja moottorin valitset Asetuksista: iPhone-sovelluksessa on Parakeet, Whisper Small ja SenseVoice Small, molemmissa Mac-versioissa on lisäksi Whisper Large V3 Turbo ja Qwen3-ASR 1.7B (Beta).

Sama valikoima, mitoitettu laitteen mukaan

Se, mitä malleista voi oikeasti käyttää, riippuu laitteesta. Kummassakin Mac-versiossa, Mac App Store -versiossa ja verkkosivuiltamme ladattavassa Mac-sovelluksessa, on samat mallit; iPhone-sovelluksessa niitä on vähemmän:

Malli iPhone-sovellus Mac, molemmat versiot
Parakeet Sisäänrakennettu Mukana (oletus)
SenseVoice Small Valinnainen lataus Valinnainen lataus
Whisper Small Valinnainen lataus Valinnainen lataus
Qwen3-ASR 1.7B (Beta) Ei tarjolla Valinnainen lataus (~2,5 GB; macOS 15 tai uudempi)
Apple Speech Järjestelmän moottori iOS 26:ssa; iOS lataa kielipaketin Järjestelmän moottori macOS 26:ssa tai uudemmassa; macOS lataa kielipaketin
Whisper Large V3 Turbo Ei tarjolla – tarkoituksella Valinnainen lataus (~2 GB)

Viimeinen rivi on tuotepäätös, ei puute. Turbo on noin 2 GB:n lataus, joka tarvitsee käydessään noin 2,4 GB muistia. Apple-sirulliselle Macille se on kohtuullinen vaatimus, useimmille iPhoneille kohtuuton. Puhelimessa sama tallennustila ja muisti riittävät mallivalikoimaan, joka on nopeampi ja omissa kielissään tarkempi. Siksi iPhone-sovelluksessa on sisäänrakennettuna Parakeet, ja Whisper Small ja SenseVoice Small ovat valinnaisia latauksia: Parakeet 25 Euroopan kielelle (englannin WER 6,32 %), SenseVoice CJK-kielille ja kantoninkiinalle ja Whisper Small 101 kielen varamalliksi, joka mahtuu hyvin puhelimen muistiin. Kullekin laitteelle sopivan kokoiset mallit, eikä samaa 2 GB:n tiedostoa kaikkeen, mihin se teknisesti mahtuu.

Jokaisella yllä olevalla mallilla on myös heikkous, joka kannattaa tietää ennen kuin valitsee sen. Rehellinen versio on alempana kohdassa Missä kukin malli tekee virheitä? Kaikki mallit rinnakkain ja virheprosentit 42 kielessä löydät Whisper-mallien vertailustamme.

Yhteisön vertailutestit: GPU ja CPU

Riippumattomat vertailutestit faster-whisper- ja whisper.cpp-yhteisöistä antavat johdonmukaisia tuloksia eri laitteistoilla. 13 minuutin äänitteen litterointi faster-whisperillä GPU:lla:

Malli Laskentatarkkuus Aika GPU-muisti WER
Large-v3 Turbo fp16 19,2 s 2 537 MB 1,92 %
Large-v3 fp16 52,0 s 4 521 MB 2,88 %
Large-v3 Turbo int8 19,6 s 1 545 MB 1,92 %
Distil-Large-v3 fp16 26,1 s 2 409 MB 2,39 %

Lähde: faster-whisperin vertailutesti NVIDIA-näytönohjaimella, LibriSpeech clean -validointijoukko. Turbo int8 käyttää vain 1,5 GB VRAM-muistia, joten se mahtuu 2 GB:n näytönohjaimeen.

Erissä ajettuna (batched inference) RTX 3060 Laptop -näytönohjaimella (6 GB VRAM, int8-tarkkuus) ero kasvaa entisestään:

Malli Peräkkäin Erissä (10) WER erissä
Large-v3 Turbo 46,1 s 18,7 s 7,7 %
Large-v3 230,8 s 43,0 s 7,9 %
Large-v2 178,3 s 43,2 s 8,8 %
Medium 113,3 s 26,3 s 8,9 %

Lähde: NilaierMusicin vertailutesti, Intel i7-12650H + RTX 3060 Laptop 6 GB, ranskankielinen ääni, int8-tarkkuus.

Erissä ajettuna Turbo saa testatuista malleista parhaan WER:n (7,7 %) ja on samalla nopein. Tuotantokäyttöön se on selvästi paras tasapaino.

Turbo vs. Medium vs. kaikki Whisper-mallikoot

Ennen Turboa Medium oli tavallinen kompromissi: kelvollinen tarkkuus siedettävällä nopeudella. Turbo tekee tästä kompromissista tarpeettoman. 809 miljoonalla parametrilla se on vain hieman Mediumia (769 miljoonaa) suurempi, mutta sen tarkkuus on large-luokkaa ja nopeus moninkertainen. Koko malliperhe rinnakkain:

Malli Parametrit Koko levyllä Suhteellinen nopeus Tarkkuustaso
tiny 39 milj. ~75 MB ~10× Matalin
base 74 milj. ~142 MB ~7× Matala
small 244 milj. ~466 MB ~4× Kohtalainen
medium 769 milj. ~1,5 GB ~2× Korkea
large-v3 1 550 milj. ~2,9 GB 1× (vertailukohta) Korkein
large-v3-turbo 809 milj. ~1,6 GB (mallitiedosto; Whisper Notesissa noin 2 GB:n lataus) ~5× Apple-sirulla Lähes korkein

Turbo julkaistiin 30. syyskuuta 2024, ja siinä on 809 miljoonaa parametria. Jos valitsit Mediumin säästääksesi levytilaa tai saadaksesi nopeutta, Turbo voittaa sen nyt sekä tarkkuudessa että nopeudessa suunnilleen samalla koolla.

Whisper Notesissa on taulukosta vain kaksi riviä: Whisper Small ja Whisper Large V3 Turbo. Tiny, base ja medium on jätetty pois tarkoituksella, koska Apple-sirulla jokin muu valikoiman malli on jokaista niistä parempi. Mihin olisit käyttänyt tiny- tai base-mallia, sen Parakeet tekee nopeammin ja paljon tarkemmin. Mihin olisit käyttänyt medium-mallia, sen Turbo tekee paremmin samankokoisena. Whisper Small on mukana, koska se on pienin malli, joka kattaa kaikki 101 kieltä.

Tunnetut rajoitukset (ja miten Whisper Notes ratkaisee ne)

Ei sisäänrakennettua käännöstä

Turbo koulutettiin ilman käännösaineistoa. Se litteroi vain lähdekielellä, toisin kuin Large-v3, joka osaa kääntää äänen englanniksi (ääni→englanti).

Whisper Notes – verkkosivuiltamme ladattavassa Mac-sovelluksessa voit ottaa AI-ominaisuudet käyttöön, jolloin paikallinen Gemma-malli kääntää litteroinnin valitsemallesi kielelle, teki litteroinnin mikä tahansa puhemalli.

Enemmän hallusinaatioita meluisassa äänessä

Yhteisön raporttien mukaan Turbo hallusinoi V3:a enemmän hyvin lyhyissä pätkissä tai meluisissa äänitteissä. Se on odotettavaa karsitun dekooderin vuoksi (4 kerrosta vs. 32).

Whisper Notes – ajaa Silero VAD -mallin, ennen kuin Whisper litteroi: se tunnistaa puhejaksot ja ohittaa hiljaisuuden, joten malli käsittelee vain oikeaa puhetta.

Missä kukin malli tekee virheitä?

Jokaisella tämän valikoiman mallilla on jotain, missä se on todella huono, ja rehellinen lista on hyödyllisempi kuin vielä yksi vertailutaulukko. Whisper – sekä Small että Large V3 Turbo – hallusinoi hiljaisuudessa. Sen dekooderi on autoregressiivinen: se ennustaa seuraavan tokenin, oli kuultavaa jäljellä tai ei. Hiljainen jakso voi siksi tulla takaisin toistuvana fraasina, irrallisena tekstityksen tekijätietona tai sujuvana lauseena, jota kukaan ei sanonut. Turbon 4-kerroksinen dekooderi tekee tästä hieman todennäköisempää kuin täysi Large-v3 hyvin lyhyissä tai meluisissa pätkissä. Puheaktiivisuuden tunnistus poistaa suurimman osan ongelmasta, koska hiljaisuutta ei lähetetä mallille lainkaan, ja Parakeet V3 tuotti hiljaisuustesteissämme paljon vähemmän keksittyjä sanoja. Mikään puhemalli ei kuitenkaan ansaitse ”ei koskaan” -lupausta, ja litterointi kannattaa lukea ennen kuin siihen luottaa.

Parakeetilla on ehdoton 25 kielen raja, ja kaikki 25 ovat Euroopan kieliä. Ei kiinaa, japania, koreaa, kantoninkiinaa, arabiaa, hindiä, thaita eikä hepreaa. Se ei myöskään varoita, kun ääni ajautuu sen kielten ulkopuolelle, vaan tuottaa itsevarmaa hölynpölyä. SenseVoice Small on vielä suppeampi: englanti, yksinkertaistettu ja perinteinen kiina, kantoninkiina, japani ja korea, eikä mitään muuta. Se on tämän valikoiman nopein malli sillä aineistolla, jota varten se on tehty, ja väärä työkalu kaikkeen muuhun. Whisper Small on kevyin ja epätarkin: 25 eurooppalaisen FLEURS-kielen keskimääräinen WER on 29,8 %, kun Parakeet V3:lla se on 12,0 %. Ero näkyy ensimmäisenä erisnimissä, erikoissanastossa ja murtaen puhuttaessa.

Ja kaikki vievät tallennustilaa ja vaativat laitteistoa. Nämä ovat oikeita tiedostoja levylläsi, eivät API-kutsuja: Turbo on noin 2 GB:n lataus, joka käyttää litteroidessaan noin 2,4 GB muistia, SenseVoice Small noin 450 MB, Whisper Small 600 MB, ja Parakeet on sisäänrakennettu sovellukseen. Koko valikoima toimii vain Apple-sirulla: macOS 14 tai uudempi M1-sirulla ja uudemmilla, iOS 18 tai uudempi iPhonessa. Intel-Maceille, Windowsille tai Androidille ei ole versiota, eikä mikään näistä litteroi reaaliajassa: Whisper Notes käsittelee nauhoituksen sen jälkeen, kun lopetat sen, ei puhuessasi.

Mitä mallia kannattaa käyttää?

Englanti / Euroopan kielet Parakeet V3 – ~60× reaaliaikainen Apple-sirulla, englannin WER 6,32 % (Turbolla 7,83 %)
Kiina / japani / korea SenseVoice nopeuteen, 115–131× reaaliaikainen; Qwen3-ASR 1.7B (Beta) Macilla, kun haluat vähiten virheitä
Muut kielet Whisper Large V3 Turbo – yli 100 kieltä, hyvä tarkkuus, hitaampi
Vanhempi Mac / vähän muistia Whisper Small – 101 kieltä 600 MB:n latauksella, selvästi heikommalla tarkkuudella
iPhonessa Parakeet sisäänrakennettuna, Whisper Small ja SenseVoice valinnaisina latauksina – Turbo on vain Macilla tarkoituksella

Whisper Large-v3 Turbo: usein kysytyt kysymykset

Mitä paikallista puheentunnistusmallia minun kannattaa käyttää?

Se riippuu kielestäsi, ei vertailulistoista. Englannissa ja 24 muussa Euroopan kielessä Parakeet V3 on sekä nopeampi että tarkempi kuin Whisper Large V3 Turbo (englannin keskimääräinen WER Hugging Face Open ASR Leaderboardissa 6,32 % vs. 7,83 %; samalla M4 Pro -koneella 103× vs. 14,3× reaaliaikainen). Kiinalle, japanille, korealle ja kantoninkiinalle nopea vaihtoehto on SenseVoice Small (27 minuutin kiinankielinen podcast 13,83 sekunnissa), ja Macilla vähiten virheitä tekee Qwen3-ASR 1.7B (Beta). Muille Whisperin 101 kielestä, kuten arabialle, hindille tai thaille, oikea valinta on Whisper Large V3 Turbo. Vanhemmalla tai vähämuistisella koneella Whisper Small kattaa samat 101 kieltä 600 MB:n latauksella, mutta tarkkuus kärsii selvästi.

Voiko Whisper Large V3 Turboa käyttää iPhonessa?

Ei Whisper Notesissa, ja se on tarkoituksellista. Turbo on noin 2 GB:n lataus, joka käyttää litteroidessaan noin 2,4 GB muistia. Apple-sirullisessa Macissa se on järkevää, puhelimessa tuhlausta. iPhone-sovelluksessa on sisäänrakennettuna Parakeet, ja Whisper Small ja SenseVoice Small ovat valinnaisia latauksia. Ne kattavat 101 kieltä ja CJK-kielet murto-osalla tilasta. Whisper Large V3 Turbo on saatavilla molemmissa Mac-versioissa: Mac App Store -versiossa ja verkkosivuiltamme ladattavassa Mac-sovelluksessa.

Mitä eroa on Whisper Large-v3:lla ja Large-v3 Turbolla?

Large-v3 Turbo säilyttää Large-v3:n enkooderin mutta karsii dekooderin 32 kerroksesta neljään. Siksi se on paljon nopeampi ja pysyy litteroinnissa lähellä Large-v3:n tarkkuutta. Vastapainona Turbo ei tue Whisperin sisäänrakennettua käännöstehtävää.

Tukeeko faster-whisper Large-v3 Turboa?

Kyllä. faster-whisper tukee Large-v3 Turboa CTranslate2-muunnosten kautta, ja yhteisön vertailutestien mukaan Turbo on hyvä valinta, kun VRAM-muistia on vähän. Yllä olevassa testissä Turbo int8 käytti noin 1,5 GB VRAM-muistia.

Tukeeko whisper.cpp Large-v3 Turboa?

Kyllä. whisper.cpp pystyy ajamaan Whisper Large-v3 Turbosta GGML/GGUF-muotoon muunnettuja versioita. Jos rakennat omaa paikallista litterointiketjua, Turbo mahtuu kuluttajalaitteistolle usein helpommin kuin täysi Large-v3.

Mistä voin ladata mallin openai/whisper-large-v3-turbo?

Viralliset mallipainot ovat saatavilla OpenAI:lta Hugging Facessa. Whisper Notesin käyttäjien ei tarvitse ladata niitä käsin: Mac-sovellus hoitaa paikallisten mallien asennuksen omassa käyttöliittymässään.

Vertailetko kaikkia paikallisia vaihtoehtoja? Jokainen Whisper Notesin puhemalli Parakeetista ja Whisperistä Qwen3-ASR:ään ja SenseVoiceen on vertailtu kieli kieleltä Whisper-mallien vertailusivullamme. Jos Whisper on sinulle uusi, aloita Whisper-litterointioppaasta: mikä malli on, kaikki tavat ajaa sitä ja mitä se maksaa.