Transcrição Offline

Os modelos de IA que fazem transcrição são grandes—centenas de milhões de parâmetros. Rodá-los era lento e drenava bateria em hardware de consumidor.

O Neural Engine da Apple mudou isso. É um chip dedicado para cargas de trabalho de IA, e está em todo Mac série M e iPhone recente. O Whisper Large v3 Turbo agora roda confortavelmente em um MacBook Air.

Em telefones, usamos modelos menores otimizados para chips mobile. Não são tão precisos quanto o modelo grande, mas ainda são melhores que a maioria dos ditados embutidos.

Isso nos surpreendeu. Esperávamos que modelos locais fossem "bons o suficiente". Na verdade, são bem bons.

Whisper Large v3 tem taxas de erro de palavra mais baixas que a maioria dos ditados do sistema. E a diferença entre APIs locais e na nuvem ficou bem pequena. Para a maioria dos casos de uso, você provavelmente não vai notar a diferença.

Isso muda o cálculo. Se a precisão é comparável, a razão principal para fazer upload de áudio desaparece.

Não estamos aqui para te assustar sobre serviços na nuvem. A maioria lida com dados de forma responsável.

Mas há uma diferença entre "eles prometem não usar de forma errada" e "eles nunca tiveram". Sua voz é biométrica—diferente de uma senha, você não pode mudá-la se algo der errado.

Com transcrição local, seu áudio fica no seu dispositivo. Não criptografado-e-enviado. Só... fica. Para algumas pessoas isso importa muito. Para outras, talvez não. Construímos para o primeiro grupo.