Pular para o conteúdo
Todos os projetos

Agente de IA

ROX

Assistente de voz para Windows no estilo J.A.R.V.I.S.: acorda com duas palmas ou com a palavra "ROX", entende o pedido falado e executa no computador — muitas vezes antes de você terminar a frase.

de resposta no caminho rápido
15 ms
ferramentas no computador
63
Ilustração do ROX: o orbe de voz ao centro, o pedido para abrir o Slack com a resposta, e o log mostrando a transcrição local e a ação executada.
Da palavra ao comando em milissegundos, sem sair do computador

Arquitetura

VozPalmasWhisperFast pathClaudeAções
  • Python
  • Electron
  • Kokoro TTS

Funcionalidades

  • Ativação por palma dupla com piso adaptativo ou pela palavra "ROX", detectada localmente com Silero VAD e Whisper — sem chave de API para ouvir.
  • Executa durante a fala: a transcrição parcial roda a cada segundo e um comando fechado dispara antes de a frase acabar.
  • Caminho rápido que aprende: frases resolvidas pelo modelo viram atalho local (~15 ms) e não passam de novo pelo LLM; ações destrutivas ficam fora dele.
  • 63 ferramentas no computador: apps e janelas, volume por aplicativo, mídia, mouse e teclado, clique em botão pelo nome, ver e ler a tela, arquivos, área de transferência, timers, lembretes e clima.
  • Rotinas por horário ou por bateria ("abaixo de 20%") com janela de tolerância; lembretes disparam mesmo atrasados.
  • Perfil persistente — apps usados, apelidos, correções de transcrição — e diário de conversa pesquisável; toda ação destrutiva exige confirmação explícita.
  • Política de fala "ação é muda, pergunta é falada": o assistente só abre a boca quando precisa de você.

Infraestrutura

  • Backend em Python 3.12 (threads + asyncio) cuidando de áudio, voz, IA, rotinas e lembretes; overlay em Electron + Three.js que não rouba o foco, ligado por WebSocket.
  • Transcrição com faster-whisper em GPU (CUDA) com fallback para CPU; detecção de voz com Silero ONNX.
  • Voz neural Kokoro na GPU, com Edge TTS e pyttsx3 como reservas — a última funciona sem internet.
  • Raciocínio pelo Claude (Haiku por padrão, Sonnet para pedidos longos) via CLI com a cota do plano; as ferramentas são servidas por um servidor MCP local. Instalador em PowerShell com auto-start e painel de uso ao vivo.

No que ajuda

  • Comandos por voz sem tocar no teclado, com resposta quase instantânea para o que é rotina — e cada vez mais coisa vira rotina.
  • Reduz tarefas repetitivas — abrir programas, ajustar volume, lembrar compromissos — a uma frase.
  • Escuta e transcreve localmente: o áudio não sai do computador; só o pedido já entendido vai para o modelo.
  • Erra cada vez menos: correções de transcrição e apelidos ficam na memória.

Quer algo parecido?

Conte como o seu processo funciona hoje. Numa conversa rápida eu entendo o problema e envio uma proposta com escopo, prazo e valor.