ZHRNUTIE — Porovnanie troch modelov bežiacich na zariadení
| Parakeet V3 | SenseVoice Small | Whisper Large V3 Turbo | |
|---|---|---|---|
| 5 min angličtina | 2,91 s (103×) | 5,8 s (52×) | 20,92 s (14,3×) |
| 27 min čínčina | Bez podpory čínštiny | 13,83 s (118×) | 2 min 4 s (13,1×) |
| Jazyky | 25 (európske) | 5 (zh, en, ja, ko, yue) | 100+ |
| Stiahnutie | 465 MB | 827 MB | ~1,6 GB |
| Najlepšie pre | Angličtinu & európske jazyky | Čínštinu, japončinu, kórejčinu, kantončinu | Všetko ostatné (100+ jazykov) |
* Rýchlostné benchmarky na Apple M4 Pro, 32 GB. 5-minútový anglický podcast a 27-minútový čínsky podcast. Faktor reálneho času = dĺžka audia ÷ čas spracovania (vyšší = rýchlejší). Benchmarky pochádzajú z verzie pre Mac; SenseVoice je k dispozícii aj na iPhone.
Whisper Notes obsahuje model SenseVoice Small ako špecializovaný engine na prepis čínčiny, japončiny, kórejčiny a kantončiny, na Macu aj na iPhone. Na Macu nahradil starší model Qwen3-ASR (pozri zoznam zmien) a beží na GPU Apple cez MLX namiesto CPU — 27-minútový čínsky podcast spracuje za 13,83 sekundy namiesto 3 minút a 44 sekúnd.
Prečo sme nahradili Qwen3-ASR
Qwen3-ASR bol solídny model. Podporoval 30 jazykov plus 22 čínskych dialektov a jeho presnosť v čínčine bola takmer na špičkovej úrovni. Mal ale problém, ktorý sa zhoršoval s dĺžkou audia: rýchlosť.
Qwen3 používal autoregresívnu architektúru — rovnaký prístup ako Whisper, spracovával audio snímok po snímku, nikdy nepreskočil dopredu. Na 27-minútovom čínskom podcaste trval 224 sekúnd. Použiteľné, ale nie ten zážitok okamžitého výsledku, ktorý Parakeet V3 ponúka pre angličtinu.
Hlbší problém bola naša infraštruktúra. Naša integrácia Qwen3 používala sherpa-onnx, knižnicu v C s 2 249-riadkovým Swift wrapperom, ktorý všetko smeroval cez jadrá CPU. GPU nečinne stálo, zatiaľ čo CPU vášho Macu robilo všetku prácu.
SenseVoice vyriešil oba problémy. Neautoregresívna architektúra pre rýchlosť. Apple MLX pre akceleráciu GPU. Výsledok: 16,2-násobné zrýchlenie na tom istom hardvéri, kódová základňa sa zmenšila z 2 249 riadkov na 288.
Benchmark
Všetky tri modely bežali offline na tom istom Apple M4 Pro s rovnakými audio súbormi.
| Model | 5 min angličtina | 27 min čínčina | Rýchlosť (RTFx) |
|---|---|---|---|
| Parakeet V3 | 2,91 s | Bez podpory čínštiny | 103× |
| SenseVoice Small | 5,8 s | 13,83 s | 52–118× |
| Whisper Large V3 Turbo | 20,92 s | 2 min 4 s | 13–14× |
| Qwen3-ASR (odstránený) | — | 224 s | 7,2× |
V angličtine beží SenseVoice približne polovičnou rýchlosťou oproti Parakeetu, zhruba 52-krát rýchlejšie ako v reálnom čase. V čínštine Parakeet vôbec neprichádza do úvahy a SenseVoice dokončí 27-minútový podcast za menej ako 14 sekúnd.
Porovnajte to s Whisperom za 2 minúty a 4 sekundy alebo starým Qwen3 za 3 minúty a 44 sekúnd. Na architektúre záleží viac ako na počte parametrov.
Oficiálny benchmark inferencie z článku FunAudioLLM: SenseVoice-Small spracuje 10 s audia za 70 ms (A800 GPU). Whisper-Large-V3 potrebuje 1 281 ms na tom istom hardvéri. Pozor: ide o latenciu inferencie na dátacentrovej GPU, nie o čísla na zariadení vyššie.
| Model | Čas načítania | Veľkosť stiahnutia |
|---|---|---|
| Parakeet V3 | 0,77 s | 465 MB |
| SenseVoice Small | 0,81 s | 827 MB |
| Whisper Small | 1,03 s | 600 MB |
| Whisper Large V3 Turbo | 3,18 s | ~1,6 GB |
* Čas načítania meraný na Apple M4 Pro, 32 GB.
SenseVoice sa načíta za menej ako sekundu. Na 8 GB Macu beží pohodlne vedľa vašich ďalších aplikácií.
Prečo je SenseVoice rýchlejší: Architektúra + Runtime
Rozdiel v rýchlosti medzi Qwen3-ASR a SenseVoice pochádza z dvoch nezávislých faktorov.
Faktor 1: Architektúra modelu. Qwen3-ASR je autoregresívny — generuje textové tokeny jeden po druhom, každý závisí od predchádzajúceho. SenseVoice používa neautoregresívny (NAR) enkodér, ktorý spracováva celé audio paralelne. Tento architektonický rozdiel sám o sebe robí SenseVoice zásadne rýchlejším, bez ohľadu na hardvér.
Faktor 2: Runtime. Naša integrácia Qwen3-ASR používala sherpa-onnx, ktorý bežal na CPU. SenseVoice beží cez Apple MLX a smeruje výpočty na GPU. Mohol by Qwen3 tiež bežať na MLX? Áno — ale stále by bol pomalší ako SenseVoice, pretože autoregresívne úzke hrdlo je v architektúre, nie v runtime.
| Qwen3-ASR (starý) | SenseVoice (nový) | |
|---|---|---|
| Architektúra | Autoregresívna (token po tokene) | Neautoregresívna (paralelná) |
| Runtime | sherpa-onnx (CPU) | Apple MLX (GPU) |
| 27 min čínčina | 224 sekúnd | 13,83 sekúnd |
| Celkové zrýchlenie | základ | 16,2× rýchlejšie |
| Kódová základňa | 168 MB C framework + 2 249 riadkov Swift | 288 riadkov Swift Actor |
* Ten istý 27-minútový čínsky podcast, Apple M4 Pro. Zrýchlenie 16,2× kombinuje architektonické (NAR vs AR) aj runtime (GPU vs CPU) vylepšenia.
Kód sa tiež zjednodušil. Nová implementácia SenseVoice je jeden 288-riadkový Swift Actor komunikujúci priamo s MLX, nahrádzajúci 168 MB C framework. Menej kódu, menej chýb, menšia aplikácia.
Päť jazykov, dobre zvládnutých
SenseVoice sa nesnaží robiť všetko. Zvláda päť jazykov:
| Jazyk | SenseVoice-Small | Whisper-Large-V3 | Víťaz |
|---|---|---|---|
| Čínština (zh-CN) | 10,78 % CER | 12,55 % CER | SenseVoice (-14 %) |
| Kantončina (yue) | 7,09 % CER | 10,41 % CER | SenseVoice (-32 %) |
| Japončina (ja) | 11,96 % CER | 10,34 % CER | Whisper (mierne) |
| Kórejčina (ko) | 8,28 % CER | 5,59 % CER | Whisper |
| Angličtina (en) | 14,71 % WER | 9,39 % WER | Whisper (použite Parakeet) |
* Benchmark CommonVoice, CER = miera chybovosti znakov, WER = miera chybovosti slov. Nižšie je lepšie. Zdroj: článok FunAudioLLM (2024). Latencia inferencie SenseVoice-Small: 70 ms na 10 s audia na A800 GPU, oproti 1 281 ms u Whisper-Large-V3 na tom istom hardvéri.
Chybovosť na CommonVoice, nižšia je lepšia: Whisper-Small modrou, Whisper-Large-V3 oranžovou, SenseVoice-Small sivou, SenseVoice-Large žltou. Zdroj: článok FunAudioLLM
Čísla rozprávajú úprimný príbeh. SenseVoice prekonáva Whisper v presnosti čínčiny a kantončiny s výrazným náskokom, zatiaľ čo Whisper je presnejší pre japončinu, kórejčinu a angličtinu. Ale SenseVoice beží na Apple Silicon rýchlosťou 52× reálneho času alebo vyššou. Pre väčšinu reálneho použitia záleží na rozdiele v rýchlosti viac ako na pár percentuálnych bodoch presnosti.
Výsledok kantončiny si zaslúži osobitnú zmienku. Whisper-Small dosahuje 38,97 % CER v kantončine — takmer nepoužiteľný. Ani Whisper-Large-V3 zvládne len 10,41 %. SenseVoice dosahuje 7,09 %, teda lepšie ako Whisper Large V3, a to pri zlomku jeho veľkosti.
Prepis kórejčiny pomocou SenseVoice: import videa s titulkami s časovými značkami
Test v reálnom svete: 27-minútový čínsky podcast
Prepísali sme 27-minútovú epizódu Thirteen Invitations (十三邀), čínskeho rozhovorového podcastu, pomocou SenseVoice aj Whisper Large V3 Turbo na tom istom M4 Pro. ElevenLabs Scribe (cloud) slúžil ako referencia. Oba modely na zariadení robia približne rovnaký počet chýb, ale rôzneho druhu:
| SenseVoice | Whisper Large V3 Turbo | |
|---|---|---|
| Čas | 13,83 s | 2 min 4 s |
| Chyby (5 min vzorka) | ~15–20 | ~12–15 |
| Najhoršia chyba | 时差→食堂 (časový posun→jedáleň) | 西昌→西藏 (mesto Xichang→Tibet, 4 000 km vedľa) |
| Vzor chýb | Zámeny homofónov | Geografické/faktické chyby |
* Ručné porovnanie s ElevenLabs Scribe (cloudová referencia, tiež nie bezchybná). Oba modely na zariadení správne napísali „根深蒂固", kde Scribe chyboval.
Porovnateľná presnosť — a prepis je hotový za 13,83 sekundy namiesto dvoch minút.
Kedy použiť ktorý model
Whisper Notes pre Mac teraz obsahuje štyri rečové modely v oboch macových verziách a priamo stiahnutá verzia (DMG) k nim od 1.6.0 pridáva piaty, Qwen3-ASR 1.7B (Beta). Každý zo štyroch nižšie je optimalizovaný pre iný scenár:
| Potrebujete... | Použite tento model | Prečo |
|---|---|---|
| Angličtinu alebo európske jazyky, maximálnu rýchlosť | Parakeet V3 | 103× reálny čas, najnižšia chybovosť. Predvolený. |
| Čínštinu, japončinu, kórejčinu alebo kantončinu | SenseVoice Small | 52–118× reálny čas. Jediný model s podporou kantončiny na iPhone a vo verzii z Mac App Storu. |
| Ktorýkoľvek z 100+ jazykov (arabčina, thajčina, ruština atď.) | Whisper Large V3 Turbo | Najširšia jazyková podpora. Pomalší, ale univerzálny. |
| Všetkých 101 jazykov na staršom Macu | Whisper Small | 600 MB, najľahší z modelov Whisper, a aj tak pokrýva 101 jazykov. |
Nastavenia → Model prepisu: vyberte správny engine pre svoj jazyk
Výber modelov v Nastaveniach zobrazuje každý model, ktorý tvoja verzia ponúka, s veľkosťami stiahnutia, počtami jazykov a požiadavkami na pamäť. SenseVoice sa stiahne pri prvom použití (~827 MB) a zostane na vašom zariadení.
Kompromisy
SenseVoice nie je univerzálny model. Čo nedokáže:
• Iba 5 jazykov. Ak potrebujete thajčinu, ruštinu, arabčinu, hindčinu alebo iný jazyk mimo CJK zamerania SenseVoice, zostaňte pri Whisperi.
• Aktualizácia: SenseVoice pôvodne vychádzal len pre Mac cez Apple MLX, teraz je však aj na iPhone, popri Parakeet V3 a Whisper Small.
• Problém s tichým zvukom. Počas veľmi krátkych alebo veľmi tichých segmentov sa SenseVoice môže občas vrátiť k čínskemu výstupu bez ohľadu na vybraný jazyk. Ručné nastavenie jazyka (namiesto „Auto") to znižuje.
• Prepisuje až po nahrávaní. SenseVoice pracuje s hotovou nahrávkou alebo súborom, nie počas rozprávania. Dlhé súbory sa delia v miestach ticha a výsledky sa zobrazujú, hneď ako je hotová každá časť.
Sú to architektonické obmedzenia, nie chyby. Model trénovaný na 5 jazykoch zvláda týchto 5 jazykov mimoriadne dobre. Podpora 100+ jazykov u Whisperu prichádza s pomalšou rýchlosťou a nerovnomernou presnosťou naprieč jazykmi.
Porovnávate všetky lokálne možnosti? Všetky modely prevodu reči na text bežiace na zariadení — varianty Whisperu, Parakeet V3, SenseVoice aj Voxtral — porovnávame vedľa seba na našej stránke s porovnaním modelov Whisper. S Whisperom ešte len začínate? Začnite sprievodcom prepisom pomocou Whisperu — čo je to za model, všetky spôsoby, ako ho spustiť, a koľko to stojí.
Často kladené otázky
Aká je najrýchlejšia alternatíva k Whisperu na prepis čínčiny, japončiny a kórejčiny?
SenseVoice Small je k dispozícii vo Whisper Notes na Macu aj na iPhone. V našom teste na Macu s M4 Pro prepísal 27-minútový čínsky podcast za 13,83 sekundy (52–118× reálneho času), zatiaľ čo Whisper Large V3 Turbo potreboval na rovnaký súbor vyše 2 minúty.
Je SenseVoice pre čínčinu lepší ako Whisper?
Pre čínčinu a kantončinu áno. V benchmarku CommonVoice dosahuje SenseVoice 10,78 % CER v čínčine oproti 12,55 % u Whisper-Large-V3 a na našom M4 Pro zvládol 27-minútový podcast za 13,83 sekundy oproti 2 minútam a 4 sekundám u Whisperu. Whisper zostáva o niečo presnejší pre japončinu a kórejčinu — ak sú to vaše hlavné jazyky, rozumnou voľbou je ktorýkoľvek z nich.
Môžem prepisovať kantončinu lokálne na Macu?
Áno. SenseVoice dosahuje 7,09 % CER v kantončine, v porovnaní s 10,41 % u Whisper-Large-V3 a takmer nepoužiteľnými 38,97 % u Whisper-Small. SenseVoice Small má navyše len zlomok veľkosti Whisper Large V3.
Funguje SenseVoice na iPhone?
Áno. Whisper Notes na iPhone má SenseVoice popri Parakeet V3 a Whisper Small, takže čínčinu, japončinu, kórejčinu a kantončinu môžete lokálne prepisovať aj na svojom iPhone.
Vyskúšajte to
SenseVoice je vo Whisper Notes pre iPhone aj Mac. Na Macu ho stiahnete v Nastaveniach → Model prepisu → SenseVoice Small (~827 MB). Verzia pre Mac vyžaduje Apple Silicon (M1 alebo novší).
Ak používate Parakeet V3 a diktujete prevažne anglicky, nemusíte prepínať. SenseVoice je pre prípady, keď potrebujete čínčinu, japončinu, kórejčinu alebo kantončinu — a chcete to rýchlo.
Stiahnuť pre Mac
Kompletný zoznam zmien: whispernotes.app/changelog
Otázky alebo spätná väzba: mac@whispernotes.app