Whisper Large V3 Turbo vs V3: 5× Mais Rápido no Mac (Benchmark)

V3 Turbo vs V3: O Que Mudou

O Turbo não é uma nova arquitetura. É exatamente o mesmo modelo Whisper Large-v3 com o decoder podado de 32 camadas para 4, e depois ajustado (fine-tuned) para recuperar a precisão. O encoder permanece intacto.

Método: o mesmo arquivo de áudio de 10 minutos foi transcrito no mesmo build do Whisper Notes em cada dispositivo listado. Os tempos são segundos de relógio do início da transcrição até o texto final; entre o V3 e o Turbo, apenas o modelo mudou.

A tarefa de tradução foi explicitamente excluída dos dados de treinamento do Turbo. O modelo completo Large-v3 a suporta, mas o Whisper Notes utiliza apenas o Turbo — a tradução é tratada separadamente via Apple Intelligence.

O Modelo Base: O Que É o Whisper Large-v3?

O Whisper Large-v3 é o principal modelo open-source de reconhecimento de fala da OpenAI, lançado em novembro de 2023. Ele tem 1,55 bilhão de parâmetros, usa uma entrada de espectrograma de 128 mel-bins, foi treinado com 5 milhões de horas de áudio (1 milhão com rótulos fracos + 4 milhões com pseudo-rótulos) e suporta mais de 100 idiomas, incluindo cantonês. No Open ASR Leaderboard da Hugging Face, ele registra uma taxa média de erro de palavras de ~7,4% — o teto de precisão usado como referência para o Turbo ao longo deste artigo. Para ver como o Large-v3 se compara a todos os outros modelos locais, confira nossa comparação de modelos Whisper.

Benchmark de Velocidade: Whisper Notes no Apple Silicon

No Whisper Notes para Mac, o Turbo roda via CoreML no Neural Engine. Processando 10 minutos de áudio:

O ganho de 5× é específico do Whisper Notes no Apple Silicon, onde o decoder menor se beneficia da otimização do Neural Engine. Em GPU com frameworks como faster-whisper, a diferença diminui para ~2,7× (veja os benchmarks da comunidade abaixo).

Precisão: Comparação de WER

O Hugging Face Open ASR Leaderboard testa ambos os modelos nos mesmos datasets em inglês. A taxa de erro de palavras (WER) do Turbo fica a menos de meio ponto do V3 em todos os benchmarks:

O V3 é ligeiramente mais preciso em todos os datasets, mas a diferença é pequena — 0,39 pontos percentuais em média. Para a maioria das transcrições do mundo real, você não perceberá a diferença.

Na avaliação de longa duração do YouTube-commons (um dos maiores benchmarks ASR de código aberto), o Turbo alcança 13,40% de WER contra 13,20% do V3 — enquanto opera a um fator de tempo real de 129,5× contra 55,3×. Isso é 2,3× mais rápido com precisão praticamente idêntica em áudio real.

Quão Preciso É o Turbo em Coreano, Russo e Outros Idiomas?

Os benchmarks acima são em inglês. De acordo com o model card da OpenAI, o decoder podado de 4 camadas do Turbo perde um pouco mais de precisão fora do inglês, com a maior degradação em idiomas com poucos recursos. Para russo e a maioria dos idiomas europeus, o Turbo fica perto do Large-v3 completo — e, se você usa o Whisper Notes, o Parakeet V3 cobre russo e outros 24 idiomas europeus a 10× a velocidade do Whisper.

Para coreano, japonês, chinês e cantonês, um modelo especializado é ao mesmo tempo mais rápido e pontua melhor o texto: o SenseVoice transcreve CJK a 52× o tempo real. O Whisper Notes traz o SenseVoice junto com o Turbo tanto no Mac quanto no iOS, então você pode escolher o modelo certo para cada idioma em vez de forçar tudo em um só.

Benchmarks da Comunidade: GPU e CPU

Benchmarks independentes das comunidades faster-whisper e whisper.cpp mostram resultados consistentes em diferentes hardwares. Transcrevendo 13 minutos de áudio com faster-whisper em GPU:

Fonte: benchmark faster-whisper em GPU NVIDIA, split de validação limpa do LibriSpeech. O Turbo int8 usa apenas 1,5 GB de VRAM — cabe em uma GPU de 2 GB.

Inferência em lote em uma RTX 3060 Laptop (6 GB VRAM, precisão int8) amplia ainda mais a vantagem:

Fonte: benchmark NilaierMusic, Intel i7-12650H + RTX 3060 Laptop 6 GB, áudio em francês, precisão int8.

Com processamento em lote, o Turbo alcança o melhor WER entre todos os modelos testados (7,7%) e ao mesmo tempo é o mais rápido. É claramente o ponto ideal para uso em produção.

Turbo vs Medium vs Todos os Tamanhos do Whisper

Antes do Turbo, o Medium era o meio-termo de sempre: precisão aceitável em velocidade tolerável. O Turbo torna essa troca obsoleta — com 809M de parâmetros, ele é pouco maior que o Medium (769M), mas entrega precisão de classe large com várias vezes a velocidade. Veja a família completa de modelos lado a lado:

Lançado em 30 de setembro de 2024, o Turbo tem 809M de parâmetros. Se você escolhia o Medium para economizar espaço em disco ou ganhar velocidade, o Turbo agora o supera em precisão e em velocidade com praticamente o mesmo tamanho.

Limitações Conhecidas (e Como o Whisper Notes as Resolve)

Perguntas Frequentes sobre o Whisper Large-v3 Turbo

Comparando todas as opções locais? Todos os modelos de fala para texto no dispositivo — as variantes do Whisper, Parakeet V3, SenseVoice e Voxtral — estão comparados lado a lado em nossa página de comparação de modelos Whisper. Novo no Whisper? Comece pelo Guia de Transcrição com Whisper — o que é o modelo, todas as formas de rodá-lo e quanto custa.

Baixar para iOS Baixar para macOS