Offline Beszédfelismerés: Legjobb Helyi AI Átíró Szoftver

Egy helyi átírási modell fut Apple Silicon chipen

A rövid válasz: a legjobb offline beszédfelismerő platformonként

Ha csak a válaszra kíváncsi: Mac-en és iPhone-on használja a Whisper Notes-t — három helyi AI-motor, platformonként egyszeri 6,99 dolláros vásárlás; a Mac-verzió 10 000 szavas próbát tartalmaz. Windowson a Buzz vagy a faster-whisper a jó választás (ingyenes, nyílt forráskódú). Androidon a kínálat még szűkös — lásd lentebb a platformokról szóló részt. A táblázat minden eszköze 100%-ban offline fut:

Az útmutató további része elmagyarázza, miért nyer a helyi átírás késleltetésben, költségben és adatvédelemben — valódi mérési számokkal —, és lépésről lépésre bemutatja, hogyan írhat át hangot szöveggé offline.

A késleltetés problémája

A felhőalapú átírás folyamata: Ön beszél, a hang feltöltődik egy szerverre, az API feldolgozza, az eredmény visszaérkezik. Még a „valós idejű” szolgáltatások is 2-3 másodperc hálózati oda-vissza időt adnak hozzá egy 10 másodperces felvételnél.

A helyi átírásnál ez a késleltetés teljesen eltűnik. A hang soha nem hagyja el az eszközét, a feldolgozás a chipen történik, az eredmény azonnal megjelenik. Nincs feltöltés, nincs várakozás, nincs pörgő „feldolgozás” jelző.

Az újabb iPhone-ok és az Apple Silicon Mac-ek dedikált Neural Engine hardvert tartalmaznak az eszközön futó gépi tanuláshoz. A helyi átírás olyan hardvert használ, amely már az Öné, ahelyett hogy feltöltésre és távoli válaszra várna.

2019-ben a felhőalapú átírásnak volt értelme. A telefonja nem tudott milliárd paraméteres neurális hálózatot futtatni. Ez a korlát megszűnt. Az iPhone 15 Pro gyorsabban futtatja a Whisper-modelleket, mint ahogy a legtöbb felhőszolgáltatás visszaadja az eredményt. Az M3 MacBook 60 perc hangot 5 perc alatt dolgoz fel — helyben, offline, feltöltés nélkül.

A felhőalapú átírásnak élő együttműködésnél és központosított munkafolyamatoknál továbbra is van létjogosultsága. Egy privát felvételnél, amelyre csak Önnek van szüksége, a feltöltés gyakran felesleges.

A chipet már egyszer kifizette

Van itt valami, aminek zavarnia kellene.

Az Apple felárat kér az M3 chipért. Ön kifizette. Az a Neural Engine? Az Öné. A gépi tanulásra optimalizált 18 milliárd tranzisztor? Szintén az Öné.

Aztán havi 10 dollárt fizet az Otter.ai-nak, hogy az ő szerverein írja át a hangját.

Más hardverét bérli, miközben már birtokol egy ennél gyorsabbat. Ez olyan, mintha sportautót venne, aztán taxival járna.

A felhőalapú átírás gazdaságilag akkor volt észszerű, amikor a helyi futtatás lehetetlen volt. Ma már csak a tehetetlenség adója. Három év alatt egy havi 10 dolláros előfizetés 360 dollárba kerül. A Whisper Notes egyszeri 6,99 dollár. Ugyanaz a pontosság. Gyorsabb feldolgozás. A chipje azt a munkát végzi, amire tervezték.

Azért nem kérünk előfizetést, mert nem üzemeltetünk szervereket. A hangja soha nem érinti az infrastruktúránkat. Nincs, amiért havonta számlázhatnánk.

Az adatszivárgás architekturális kérdés

Beszéljünk őszintén az adatvédelemről.

Amikor felhőalapú átírási szolgáltatást használ, a hangja valaki más szerverein él. Ezekhez a szerverekhez alkalmazottak férnek hozzá. Ezek a szerverek hálózatokra csatlakoznak. Ezeket a hálózatokat támadások érik. Az adatszivárgás nem véletlen baleset — architekturális szükségszerűség, ha érzékeny adatokat harmadik fél infrastruktúráján tárolnak.

A hangadatok egyedi kockázatot hordoznak. A jelszóval ellentétben a hangját nem tudja visszaállítani. A hangmintázata állandó biometrikus azonosító. Ha egyszer kiszivárog, örökre kompromittálódik. A támadók a hanglenyomatot hitelesítés megkerülésére, személyazonosság-lopásra vagy deepfake-ek készítésére használhatják.

Ezt a kockázatot egyetlen módon lehet megszüntetni: ha megszűnik a feltöltés. Az a hang, amely soha nem hagyja el az eszközét, nem lehet része egy szerveroldali adatszivárgásnak. Ez nem funkció — ez fizika.

Gondolja végig, kik rögzítenek érzékeny hanganyagot:

• Ügyvédek, akik ügyfélkonzultációkat rögzítenek
• Terapeuták, akik pácienseik üléseit dokumentálják
• Újságírók, akik a forrásaikat védik
• Vezetők, akik stratégiai megbeszéléseket rögzítenek
• Orvosok, akik kórtörténeteket jegyzetelnek

Ezeknek a szakembereknek a felhőtárolás nem csupán kényelmetlen — felelősségi kockázat. A helyi átírás számukra nem preferencia, hanem követelmény.

Pontosság és kompromisszumok

Őszintén kell beszélnünk arról, miben jó a helyi átírás, és hol marad el.

Amiben a helyi Whisper jobb: a szó szerinti átírás. Ha pontos jegyzőkönyvre van szüksége arról, mi hangzott el — minden szó, minden szünet, minden „hm” —, a helyi Whisper-modellek kiválóak. Tiszta hanganyagon az 5-8%-os szóhibaarány az emberi gépírók szintjén van. Az átirat hűen követi az elhangzottakat.

Amiben a felhőalapú AI jobb: az összefoglalás és a kinyerés. A GPT-4o végighallgat egy megbeszélést, és teendőket, összefoglalókat, követő feladatokat készít belőle. A szó szerinti szövegen túl a kontextust is érti. Ha az a kérése, hogy „mondd el, milyen döntések születtek”, a felhőalapú AI tényleg jobb.

A kompromisszum valós. Ha a munkafolyamata az „átírás → összefoglalás Claude-dal/GPT-vel”, mindkét világ legjavát kapja: pontos helyi átirat, intelligens felhőalapú összefoglaló. A nyers hangja privát marad. Csak az a szöveg hagyja el az eszközét, amelyet Ön megoszt.

A helyi AI nem oldja meg a munkafolyamat minden részét. A beszédmodellek az átírásban jók; az eredmény összefoglalásában és értelmezésében a nyelvi modellek a jobbak. Tartsa helyben a hangot, majd a szöveg érzékenysége szerint válasszon helyi vagy felhőalapú nyelvi modellt.

Valódi sebességadatok

A modellválasztás többet változtat az eredményen, mint amit a „helyi” szó sugall. A Parakeet a gyors alapértelmezés angolhoz és az európai nyelvekhez, a SenseVoice kínaira, japánra, koreaira és kantonira van optimalizálva, a Whisper Large-v3 Turbo pedig a legszélesebb, több mint 100 nyelvű lefedettséget nyújtja.

Módszertan: Whisper Notes egy 32 GB RAM-mal szerelt Apple M4 Pro gépen; a mért idő az átírás indításától a kész szövegig eltelt valós idő. A Parakeet 35 perces felvételt kapott; a SenseVoice és a Whisper ugyanazt a 27 perces kínai podcastot. Ezek terméktesztek, nem gyártók közötti felhő-benchmarkok.

A jelenlegi App Store-oldal emellett iPhone 15-ön körülbelül 18 másodpercet jelez 5 perc hangra a Parakeettel, szemben a Whisper nagyjából egy percével. A régebbi eszközök lassabbak. A feladat minden esetben repülő üzemmódban is működik, mert nincs feltöltési lépés.

Hogyan írjon át hangot szöveggé offline (lépésről lépésre)

Mac-en:

1. Töltse le a Whisper Notes Mac-verzióját (ingyenes próba, fiók nélkül).
2. Válasszon modellt a Beállításokban: Parakeet V3 a gyors angol átíráshoz, SenseVoice kínaihoz, japánhoz, koreaihoz vagy kantonihoz, Whisper Large V3 Turbo több mint 100 nyelvhez. A modell egyszer töltődik le, utána offline működik.
3. Rögzítsen közvetlenül, vagy húzzon be bármilyen hang- vagy videofájlt (MP3, WAV, M4A, MP4).
4. Online megbeszélésekhez kapcsolja be a megbeszélés-észlelést. A Zoomot, a Teamst és a Google Meetet automatikusan felismeri; a rendszerhangot és a mikrofont együtt rögzíti, az átírás pedig a Mac-en marad.
5. A szöveg már feldolgozás közben folyamatosan érkezik. Exportálja TXT vagy SRT formátumban, vagy másolja bárhová.

iPhone-on: telepítse a Whisper Notes-t az App Store-ból, rögzítsen, vagy importáljon a Hangjegyzetekből és a Fájlokból — az átírás az A-szériás chipen fut. Ha bizonyítékot szeretne arra, hogy semmi sem kerül feltöltésre, előbb kapcsolja be a repülő üzemmódot.

Hogyan építettük fel

A Whisper Notes ezeknek az elveknek a mi megvalósításunk szerinti formája. Néhány konkrét döntés, amelyet érdemes kiemelni:

Widgetek a zárolási képernyőn

A legjobb gondolatok alkalmatlan pillanatokban érkeznek. Ezért készítettünk zárolásiképernyő-widgeteket: egyetlen koppintással indíthatja a felvételt — nincs appindítás, nincs hitelesítés, nincs kapcsolat-ellenőrzés. A helyi feldolgozás azonnali rendelkezésre állást jelent.

Hardverhez igazodó modellek

A Mac-eknek van hőtartalékuk és bőséges energiájuk. Az iPhone a zsebében él. Ma már mindkettő ugyanazt a modellfelhozatalt futtatja — Parakeet V3 (az alapértelmezett), Whisper Large-v3 Turbo (809 millió paraméter) és SenseVoice —, mindegyik a saját hardveréhez hangolva. Ugyanazok az adatvédelmi garanciák, a hardverhez illő erőforrás-használat.

Az Ön adatai, az Ön fájljai

Az átiratok fájlok az eszközén. Szabványos formátumok, szabványos helyek. Nincs zárt adatbázis, nincs gyártófüggőség. Ha a Whisper Notes holnap eltűnne, a felvételei akkor is elérhetők maradnának. A tömeges exportálás nem prémium funkció — a saját tulajdonú adat természetes állapota.

Egyéni szókincs

Szakzsargon, szokatlan nevek, szakterületi kifejezések — épp az a szókincs igényli a legpontosabb átírást, amelyet a legkevésbé szeretne feltölteni. A kezdő promptokkal helyben adhat hozzá kontextust. A modell alkalmazkodik, anélkül hogy az Ön terminológiája tanítóadattá válna.

Helyi személyre szabás. A szókincse privát marad.

Amikor a felhő jobban működik

Nem tesszük úgy, mintha a helyi átírás mindenben jobb lenne. A felhőnek valódi előnyei vannak:

Valós idejű csapatmunka. Ha öten szerkesztenek egy átiratot egyszerre egy megbeszélés alatt, ahhoz szerveroldali koordináció kell. A helyi eszközök természetüknél fogva egyfelhasználósak.

Beszélőazonosítás nagy léptékben. A több beszélőt tartalmazó felvételeknél a „ki mit mondott” kérdés profitál a felhőléptékű tanítóadatokból. Az eszközön futó beszélőelkülönítés létezik, de nagy csoportoknál alacsonyabb pontossággal.

Munkafolyamat-automatizálás. A felhőszolgáltatások CRM-ekhez kapcsolódnak, teendőket nyernek ki, összefoglalókat küldenek Slackre. A helyi eszközök szövegfájlokat állítanak elő — hogy mit kezd velük, az már kézi munka.

Régebbi hardver. Az A14 előtti iPhone-ok és az Intel-alapú Mac-ek — egyes eszközök a gyakorlatban nem tudnak helyi AI-t futtatni. Ott a felhő marad az egyetlen lehetőség.

Ha az elsődleges igénye az élő megbeszélések alatti csapatmunka, valószínűleg a felhőalapú eszközök a jobbak. Ha főleg a saját felvételeit írja át, és számít az adatvédelem, a helyi feldolgozás illik jobban Önhöz.

A fejlődési pálya

Minden chipgeneráció nagyobb Neural Engine-teljesítményt hoz. Minden modelliteráció jobb hatékonyságot. A helyi és a felhő közötti szakadék szűkül, miközben az adatvédelmi és késleltetési előnyök állandóak maradnak.

A felhőalapú átírásnak akkor volt értelme, amikor a telefonja nem bírta el ezt a munkát. Ez a korszak 2022 táján véget ért. Ami maradt, az a tehetetlenség — automatikusan levont előfizetések, szerverfeltevésekre épített munkafolyamatok, és a homályos hit, hogy a felhő biztosan jobb.

A kérdés nem az, hogy működik-e a helyi átírás. Működik. A kérdés az, hogy akar-e továbbra is bérleti díjat fizetni olyan hardverért, amely már az Öné.

Műszaki részletek

Offline beszédfelismerés Windowson és Androidon

A Whisper Notes Apple Siliconra készült, ezért csak Mac-en és iPhone-on fut. Más platformokon jelenleg ezek a lehetőségek:

Windows: a legjobb ingyenes lehetőségek a Buzz (egyszerű grafikus felület a Whisperhez) és a faster-whisper (parancssoros, ugyanazon a hardveren többszörösen gyorsabb a referencia-implementációnál). A modell letöltése után mindkettő teljesen offline fut. Egy natív appnál több beállítási nehézségre számítson — Python-környezetek, modellfájlok, és ha sebességet akar, GPU-illesztőprogramok.

Android: a whisper.cpp-nek vannak androidos portjai és néhány wrapper-appja, de a minőségük és a karbantartásuk változó. Androidon még nincs kiforrott, széles körben elterjedt offline átíróapp — a jelenlegi állásról lásd a Whisper Notes Android-státusz oldalt.

Sokan keresik "Whisper Notes Windows" ugyanazt az offline, egyszeri vásárlási modellt szeretném PC-n. Halljuk – de inkább azt mondjuk, hogy "még nem", mintsem hogy valami lassú játékot küldjünk (teljes magyarázat a Whisper Notes for Windows oldal). Az Apple Neural Engine az, ami 100x-Valós idejű helyi átiratolás ma lehetséges.

Offline beszédfordítás: mire képes a helyi AI, és mire nem

Gyakran felmerül egy kapcsolódó kérdés: tud-e a helyi AI beszédet fordítani is, nem csak átírni? Részben. Az eredeti Whisper Large V3 modellt két feladatra tanították — átírásra és bármely nyelvről angolra fordításra. Helyben futtatva francia, japán vagy arab hangból teljesen offline készít angol szöveget. Két kikötés: csak angolra fordít (visszafelé nem), és ez a teljes Large V3 modellre vonatkozik — a gyorsabb Large-v3 Turbo változat elhagyta a fordítási feladatot, hogy az átírásra specializálódjon.

Az offline beszédfordítás még gyerekcipőben jár. Nincs széles körben elterjedt fogyasztói app, amely teljesen offline hozná a felhős, valós idejű beszéd-beszéd fordítás szintjét. A gyakorlatias munkafolyamat ma kétlépéses: írja át helyben, majd fordítsa le a kapott szöveget egy olyan eszközzel, amelyben megbízik. A nyers hangnak soha nem kell elhagynia az eszközét.

Gyakran ismételt kérdések

Letöltés iOS-re Próbálja ki ingyen Mac-en