Ir para o conteúdo
Promovaweb

Modelos locais de transcrição

StayCloudVPS Agêntica

O mesmo ambiente do SetupVibe, agora numa VPS

Os atalhos, o shell e as CLIs de IA que você já usa no computador rodam numa VPS da StayCloud com servidor no Brasil.

Criar minha VPS na StayCloud

Link de parceiro da Promovaweb.

Black Friday até 30/11

30%off

nos 2 primeiros meses do plano mensal da VPS

  • Backup diário grátis para sempre
  • Servidores em São Paulo no datacenter da Ascenty
  • Datacenter Tier III manutenção sem parada
  • Acesso root com disco SSD NVMe
  • Réplica do backup em Ashburn, nos EUA

O Handy não traz um modelo de fala fixo: na primeira abertura, você escolhe e baixa um, e transcreve offline a partir daí, sem enviar o áudio para a nuvem. Cada modelo troca tamanho, velocidade, idiomas e jeito de escrever números, do Parakeet V3, recomendado para a maioria, ao Whisper, com mais de 99 idiomas.

Sumário da página

  1. A escolha que define o texto
  2. O modelo recomendado para começar
  3. A família Whisper
  4. Os outros modelos da lista
  5. Onde os modelos ficam
  6. Processador, placa de vídeo e memória

A escolha que define o texto

O mesmo Handy roda em dois computadores. Num notebook sem placa de vídeo dedicada, você dita prompts em português. Numa máquina com uma placa de vídeo (GPU) potente, o ditado é em inglês e a meta é a maior precisão possível. O que muda é o modelo. Ele define a velocidade, a precisão, os idiomas aceitos e até se os números saem em dígitos ou por extenso.

A documentação de modelos começa pelo ponto central: todos os modelos rodam no seu computador. Nada vai para a nuvem. Você baixa o modelo uma vez. Depois disso, a transcrição funciona offline.

O modelo recomendado para começar

Na primeira abertura, o Handy solicita a escolha de um modelo para baixar. O guia inicial recomenda o Parakeet V3 para inglês e idiomas europeus: ele é rápido em praticamente qualquer máquina e muito preciso. O português está entre os 25 idiomas do Parakeet V3. O modelo ocupa cerca de 478 MB.

O Parakeet tem dois comportamentos que vale a pena conhecer antes de ditar. Ele detecta o idioma sozinho, sem opção de escolha manual. E escreve números por extenso, como “um, dois, três”, em vez de dígitos. O guia de perguntas frequentes sugere o Whisper para números em dígitos, ou o pós-processamento para converter as palavras em números.

A família Whisper

Os modelos Whisper, da OpenAI, aceitam mais de 99 idiomas, com tradução opcional para o inglês. Eles escrevem números com dígitos e deixam você escolher o idioma da transcrição ou detectá-lo automaticamente. A documentação aponta o Whisper Medium como um bom equilíbrio entre velocidade e precisão em máquinas capazes. O Small atende máquinas mais modestas.

ModeloTamanho e velocidadeIdiomas e escrita
Parakeet V3Cerca de 478 MB, rápido, roda no processador.25 idiomas europeus, português incluído. Detecta o idioma e escreve números por extenso.
Whisper SmallCerca de 487 MB, rápido.Mais de 99 idiomas, com tradução para o inglês e números em dígitos.
Whisper MediumCerca de 492 MB, velocidade moderada.Os mesmos idiomas do Small, com precisão maior.
Whisper LargeCerca de 1,1 GB, mais lento.A maior precisão entre os modelos Whisper, segundo a documentação.
Cohere TranscribeCerca de 1,8 GB, velocidade moderada, exige GPU capaz.14 idiomas, português incluído, com pontuação. O idioma é escolhido à mão.
Moonshine V2 TinyCerca de 31 MB, o mais rápido.Só inglês, para máquinas com pouco recurso.

O Whisper tem um efeito colateral conhecido. O guia de perguntas frequentes registra que ele às vezes acrescenta “thank you” ou “bye bye” no fim, uma alucinação comum em gravações curtas ou com silêncio no final. O Handy filtra os casos mais comuns. O mesmo guia sugere gravações objetivas ou o Parakeet, que não tem esse problema.

Os outros modelos da lista

A documentação lista mais modelos para casos específicos. O Cohere Transcribe, com 2 bilhões de parâmetros, é o recomendado para a melhor qualidade em inglês; entre os Whisper, o Large fica com a maior precisão. O Cohere entrega texto com pontuação e maiúsculas, mas não detecta o idioma sozinho: você escolhe o idioma nas configurações. Os modelos Moonshine são leves e só em inglês. O Canary, da NVIDIA, transcreve e traduz idiomas europeus, mas com o idioma em automático assume o inglês e traduz a sua fala, por isso a documentação recomenda escolher o idioma. O SenseVoice cobre chinês, inglês, japonês, coreano e cantonês. O GigaAM v3 atende o russo. O Breeze ASR é uma variante do Whisper para o mandarim de Taiwan.

Onde os modelos ficam

Cada modelo baixado vira um arquivo na pasta do aplicativo. O README traz a estrutura para instalações à mão, atrás de um proxy ou firewall: os arquivos ficam dentro de models, com o nome exato da URL de download.

  • com.pais.handy/Pasta do aplicativo, com histórico, gravações e configurações.
  • models/Os modelos de transcrição baixados ou copiados à mão.
  • ggml-small.binWhisper Small, cerca de 487 MB.
  • whisper-medium-q4_1.binWhisper Medium, cerca de 492 MB.
  • ggml-large-v3-turbo.binWhisper Turbo, cerca de 1,6 GB.
  • ggml-large-v3-q5_0.binWhisper Large, cerca de 1,1 GB.
  • parakeet-unified-en-0.6b-Q8_0.ggufParakeet Unified EN (instalação manual), cerca de 731 MB, só inglês.
A pasta models dentro da pasta do aplicativo, com os nomes de arquivo do README. O caminho da pasta aparece na página About das configurações.

O V3 multilíngue é baixado pelo próprio aplicativo; o arquivo do README serve para a instalação manual.

A pasta muda conforme o sistema. O README cita ~/Library/Application Support/com.pais.handy/ no macOS, C:\Users\{username}\AppData\Roaming\com.pais.handy\ no Windows e ~/.config/com.pais.handy/ no Linux. O Handy também encontra modelos que já estão no cache compartilhado do Hugging Face, então um arquivo baixado por outra ferramenta funciona sem mudar de lugar. Depois de copiar um modelo, você reinicia o Handy para ele aparecer como baixado.

Modelos Whisper de terceiros, no formato GGML, também funcionam como recurso experimental. Basta colocar o arquivo .bin na mesma pasta. Ele aparece na seção Custom Models, com o nome tirado do arquivo. A documentação avisa que modelos da comunidade podem não receber suporte.

Processador, placa de vídeo e memória

O Whisper e o Cohere Transcribe usam a GPU automaticamente: Metal no macOS e Vulkan no Windows e no Linux. Os outros modelos, como Parakeet, Canary, Moonshine, SenseVoice e GigaAM, rodam hoje só no processador. A documentação informa que o suporte à GPU está a caminho. Por isso o Parakeet V3 é a escolha prática em notebooks sem placa dedicada.

O modelo carregado ocupa memória. A opção Unload Model, na aba Advanced, libera a memória da GPU ou do processador depois de um tempo sem uso, de imediatamente a uma hora. Com “Never”, o modelo fica carregado o tempo todo e a primeira transcrição sai mais rápida. O ícone da bandeja também tem a ação de descarregar o modelo na hora.

A troca de modelo acontece numa lista das configurações. Um modelo novo é baixado no primeiro uso. Vale testar dois ou três com um prompt real seu e comparar o texto que chega ao campo. O hub de colagem no campo mostra o que acontece com esse texto depois.