SenseVoice: Transcripción 52× más rápida para chino, japonés y coreano en Mac

Por qué reemplazamos Qwen3-ASR

Qwen3-ASR era un modelo sólido. Soportaba 30 idiomas más 22 dialectos chinos, y su precisión para chino estaba cerca del estado del arte. Pero tenía un problema que empeoraba con la duración del audio: la velocidad.

Qwen3 usaba una arquitectura autorregresiva — el mismo enfoque que Whisper, procesando el audio cuadro por cuadro, sin adelantarse nunca. En un podcast chino de 27 minutos, tardaba 224 segundos. Utilizable, pero no la experiencia de resultado instantáneo que Parakeet V3 ofrece para inglés.

El problema más profundo era nuestra infraestructura. Nuestra integración de Qwen3 usaba sherpa-onnx, una biblioteca en C con un wrapper de Swift de 2,249 líneas que dirigía todo a través de los núcleos del CPU. La GPU estaba ociosa mientras el CPU de tu Mac hacía todo el trabajo.

SenseVoice resolvió ambos problemas. Arquitectura no autorregresiva para velocidad. Apple MLX para aceleración de GPU. El resultado: una mejora de velocidad de 16.2× en el mismo hardware, con un código reducido de 2,249 líneas a 288.

El benchmark

Los tres modelos corriendo en el mismo Apple M4 Pro, los mismos archivos de audio, las mismas condiciones. Sin nube. Sin internet. Solo silicio.

SenseVoice es aproximadamente la mitad de rápido que Parakeet V3 — aun así extraordinariamente rápido. Un podcast de 27 minutos se completa en menos de 14 segundos. Presionas transcribir, esperas un respiro, y el texto ya está ahí.

Compara eso con Whisper a 2 minutos con 4 segundos, o el viejo Qwen3 a 3 minutos con 44 segundos. La arquitectura importa más que la cantidad de parámetros.

Benchmark oficial de inferencia del artículo FunAudioLLM: SenseVoice-Small procesa 10s de audio en 70ms (GPU A800). Whisper-Large-V3 tarda 1,281ms. Eso es una diferencia de 18× en latencia bruta de inferencia.

* Tiempo de carga y memoria medidos en un Apple M4 Pro, 32 GB.

SenseVoice carga en menos de un segundo y usa menos memoria que Parakeet. En una Mac de 8 GB, corre cómodamente junto con tus otras aplicaciones.

Por qué SenseVoice es más rápido: arquitectura + runtime

La diferencia de velocidad entre Qwen3-ASR y SenseVoice viene de dos factores independientes.

Factor 1: Arquitectura del modelo. Qwen3-ASR es autorregresivo — genera texto token por token, cada uno dependiendo del anterior. SenseVoice usa un codificador no autorregresivo (NAR) que procesa todo el audio en paralelo. Esta diferencia arquitectónica por sí sola hace que SenseVoice sea fundamentalmente más rápido, sin importar en qué hardware lo corras.

Factor 2: Runtime. Nuestra integración de Qwen3-ASR usaba sherpa-onnx, que corría en CPU. SenseVoice corre a través de Apple MLX, dirigiendo la computación a la GPU. ¿Podría Qwen3 también correr en MLX? Sí — pero seguiría siendo más lento que SenseVoice porque el cuello de botella autorregresivo está en la arquitectura, no en el runtime.

El código también se simplificó. La nueva implementación de SenseVoice es un único Swift Actor de 288 líneas que se comunica directamente con MLX, reemplazando un framework en C de 168 MB. Menos código, menos bugs, una app más pequeña.

Cinco idiomas, bien hechos

SenseVoice no intenta hacer todo. Maneja cinco idiomas:

Benchmark CommonVoice: SenseVoice-Small (amarillo) vs Whisper-Small (azul) vs Whisper-Large-V3 (naranja). Menor es mejor. Fuente: artículo FunAudioLLM

Los números cuentan una historia honesta. SenseVoice supera a Whisper en precisión para chino y cantonés por un margen significativo, mientras que Whisper es más preciso para japonés, coreano e inglés. Pero SenseVoice es más de 15× más rápido que Whisper-Large-V3. Para la mayoría de los usos reales, la diferencia de velocidad importa más que unos cuantos puntos porcentuales de precisión.

El resultado del cantonés merece mención aparte. Whisper-Small obtiene 38.97% CER en cantonés — casi inutilizable. Incluso Whisper-Large-V3 solo alcanza 10.41%. SenseVoice llega a 7.09%. Antes de SenseVoice, no había una buena forma de transcribir cantonés localmente en una Mac. Si hablas cantonés, este modelo existe para ti.

Transcripción coreana con SenseVoice: importación de video con subtítulos con marcas de tiempo

Prueba real: podcast chino de 27 minutos

Transcribimos un episodio de 27 minutos de Thirteen Invitations (十三邀), un podcast de entrevistas chino, con SenseVoice y Whisper Large V3 Turbo en la misma M4 Pro. ElevenLabs Scribe (nube) sirvió como referencia. Ambos modelos locales cometen aproximadamente el mismo número de errores, pero de diferentes tipos:

Precisión comparable. 9× más rápido. Para la transcripción de chino en el mundo real, SenseVoice te da una transcripción usable antes de que Whisper termine de cargar.

Cuándo usar cuál modelo

Whisper Notes para Mac ahora incluye cuatro modelos de voz. Cada uno está optimizado para diferentes escenarios:

Configuración → Modelo de transcripción: elige el motor adecuado para tu idioma

El selector de modelos en Configuración muestra las cuatro opciones con tamaños de descarga, cantidad de idiomas y requisitos de memoria. SenseVoice se descarga en el primer uso (~827 MB) y se queda en tu dispositivo.

Las concesiones

SenseVoice no es un modelo universal. Esto es lo que no puede hacer:

Estas son restricciones arquitectónicas, no bugs. Un modelo entrenado en 5 idiomas hace esos 5 idiomas extremadamente bien. La cobertura de 100+ idiomas de Whisper viene con menor velocidad y una precisión dispareja entre idiomas.

¿Comparando todas las opciones locales? Todos los modelos de voz a texto en el dispositivo — las variantes de Whisper, Parakeet V3, SenseVoice y Voxtral — se comparan lado a lado en nuestra página de comparación de modelos Whisper. ¿Apenas conoces Whisper? Comienza con la guía de transcripción con Whisper — qué es el modelo, todas las formas de correrlo y cuánto cuesta.

Preguntas frecuentes

Pruébalo

SenseVoice está disponible en Whisper Notes para Mac v1.5.0 (descarga directa / DMG) y posteriores, y en la app actual de iPhone. En Mac, descárgalo desde Configuración → Modelo de transcripción → SenseVoice Small (~827 MB). La versión para Mac requiere Apple Silicon (M1 o posterior).

Si estás usando Parakeet V3 y dictas principalmente en inglés, no hay necesidad de cambiar. SenseVoice es para cuando necesitas chino, japonés, coreano o cantonés — y lo quieres rápido.

Descargar para Mac

Changelog completo: whispernotes.app/changelog

Preguntas o comentarios: mac@whispernotes.app