Whisper Large V3 Turbo vs V3: 5× Mais Rápido no Mac (Benchmark)

V3 Turbo vs V3: o que mudou

O Turbo não é uma arquitetura nova. É exatamente o mesmo modelo Whisper Large-v3 com o decoder podado de 32 camadas para 4, depois afinado (fine-tuned) para recuperar a precisão. O encoder fica intocado.

Método: o mesmo ficheiro de áudio de 10 minutos foi transcrito na mesma build do Whisper Notes em cada dispositivo indicado. Os tempos são segundos de relógio desde o início da transcrição até ao texto final; entre o V3 e o Turbo, só o modelo mudou.

A tarefa de tradução foi explicitamente excluída dos dados de treino do Turbo. O modelo completo Large-v3 suporta-a, mas o Whisper Notes inclui apenas o Turbo — a tradução é tratada à parte através da Apple Intelligence.

O modelo base: o que é o Whisper Large-v3?

O Whisper Large-v3 é o modelo de reconhecimento de voz open-source de referência da OpenAI, lançado em novembro de 2023. Tem 1,55 mil milhões de parâmetros, usa uma entrada de espetrograma com 128 mel-bins, foi treinado com 5 milhões de horas de áudio (1 milhão com anotação fraca + 4 milhões com pseudo-anotação) e suporta mais de 100 idiomas. No Open ASR Leaderboard da Hugging Face regista uma taxa média de erro por palavra de ~7,4% — o teto de precisão contra o qual o Turbo é medido ao longo deste artigo. Para ver como o Large-v3 se compara com todos os outros modelos locais, consulte a nossa comparação de modelos Whisper.

Benchmark de velocidade: Whisper Notes em Apple Silicon

No Whisper Notes para Mac, o Turbo corre via CoreML no Neural Engine. A processar 10 minutos de áudio:

A aceleração de 5× é específica do Whisper Notes em Apple Silicon, onde o decoder mais pequeno beneficia da otimização do Neural Engine. Em GPU, com frameworks como o faster-whisper, a diferença encurta para ~2,7× (ver os benchmarks da comunidade abaixo).

Precisão: comparação de WER

O Open ASR Leaderboard da Hugging Face testa ambos os modelos nos mesmos datasets em inglês. A taxa de erro por palavra (WER) do Turbo fica a menos de meio ponto do V3 em todos os benchmarks:

O V3 é ligeiramente mais preciso em todos os datasets, mas a diferença é pequena — 0,39 pontos percentuais em média. Na maioria das transcrições do mundo real, não vai notar a diferença.

Na avaliação de áudio longo do YouTube-commons (um dos maiores benchmarks de ASR open-source), o Turbo obtém 13,40% de WER contra 13,20% do V3 — a funcionar a um fator de tempo real de 129,5× contra 55,3×. Ou seja, 2,3× mais rápido com precisão quase idêntica em áudio do mundo real.

Qual é a precisão do Turbo em coreano, russo e outros idiomas?

Os benchmarks acima são em inglês. Segundo a model card da OpenAI, o decoder podado de 4 camadas do Turbo custa um pouco mais de precisão fora do inglês, com a maior degradação nos idiomas com menos recursos. Em russo e na maioria das línguas europeias, o Turbo mantém-se próximo do Large-v3 completo — e, se usa o Whisper Notes, o Parakeet V3 cobre o russo e outras 24 línguas europeias a 10× a velocidade do Whisper.

Para coreano, japonês, chinês e cantonês, um modelo concebido de propósito é ao mesmo tempo mais rápido e melhor na pontuação: o SenseVoice transcreve CJK a 52× o tempo real. O Whisper Notes inclui o SenseVoice ao lado do Turbo tanto no Mac como no iOS, para que possa escolher o modelo certo para cada idioma em vez de forçar tudo por um só.

Benchmarks da comunidade: GPU e CPU

Benchmarks independentes das comunidades do faster-whisper e do whisper.cpp mostram resultados consistentes em hardware diferente. A transcrever 13 minutos de áudio com o faster-whisper em GPU:

Fonte: benchmark do faster-whisper em GPU NVIDIA, split de validação clean do LibriSpeech. O Turbo em int8 usa apenas 1,5 GB de VRAM — cabe numa GPU de 2 GB.

A inferência em lote numa RTX 3060 Laptop (6 GB de VRAM, precisão int8) alarga ainda mais a vantagem:

Fonte: benchmark de NilaierMusic, Intel i7-12650H + RTX 3060 Laptop de 6 GB, áudio em francês, precisão int8.

Com processamento em lote, o Turbo alcança o melhor WER de todos os modelos testados (7,7%), sendo ao mesmo tempo o mais rápido. É o ponto ideal claro para uso em produção.

Turbo vs Medium vs todos os tamanhos do Whisper

Antes do Turbo, o Medium era o compromisso habitual: precisão aceitável a uma velocidade tolerável. O Turbo torna essa troca obsoleta — com 809M de parâmetros, é pouco maior do que o Medium (769M) e, ainda assim, oferece precisão de classe large a várias vezes a velocidade. Eis a família completa de modelos lado a lado:

Lançado a 30 de setembro de 2024, o Turbo tem 809M de parâmetros. Se escolhia o Medium para poupar espaço em disco ou ganhar velocidade, o Turbo supera-o agora em precisão e em velocidade com praticamente a mesma pegada.

Limitações conhecidas (e como o Whisper Notes as resolve)

Perguntas frequentes sobre o Whisper Large-v3 Turbo

A comparar todas as opções locais? Todos os modelos de voz para texto no dispositivo — as variantes do Whisper, o Parakeet V3, o SenseVoice e o Voxtral — estão comparados lado a lado na nossa página de comparação de modelos Whisper. Novo no Whisper? Comece pelo Guia de Transcrição com Whisper — o que é o modelo, todas as formas de o executar e quanto custa.

Descarregar para iOS Descarregar para macOS