Sparky: O Robô IA de Mala com Olhos Saltitantes

Um chatbot local e opinativo, movido por Nvidia Jetson, que responde em 200ms.

Conheça Sparky: Seu Companheiro Robótico Portátil

Se você procura um companheiro robótico rápido, capaz e com opiniões fortes, mesmo sem conexão à internet, o Redditor CreativelyBankrupt apresenta Sparky.

Tecnologia Avançada em uma Mala

  • Design Compacto: Um robô de mala totalmente offline, baseado em um Jetson Orin NS Super 16GB.
  • Processamento Local: Roda Gemma 4 E4B localmente para respostas rápidas.
  • Consciência Contextual: Equipado com mais de 30 sensores para entender o ambiente.
  • Personalidade Única: “Ele tem opiniões”, tornando cada interação surpreendente.

Desempenho e Interação

  • Resposta Ultrarrápida: Tempo até o primeiro token (TTFT) de aproximadamente 200 ms.
  • Velocidade de Geração: Gera cerca de 14-15 tokens por segundo.
  • Comunicação Natural: Utiliza SenseVoiceSmall para fala-para-texto e Piper para texto-para-fala.
  • Animação de Olhos: Olhos “googly” e boca sincronizada com PixiJS a 43 Hz para expressões vívidas.
  • Visão Aprimorada: Visão e OCR nativos do Gemma 4.
  • Controles Intuitivos: Botões, joystick e um knob analógico para configuração e interação.

Detalhes Técnicos

  • Hardware: NVIDIA Jetson Orin NS Super 16GB.
  • LLM: Gemma 4 E4B em Q4_K_M via llama.cpp com q8_0 KV cache e atenção flash.
  • Memória de Conversa: 12K de contexto para conversas longas.
  • Funcionalidade Offline: Opera completamente sem celular ou Wi-Fi.

Criado para ser um projeto “legal, adorável, fofo, kitsch”, Sparky não é apenas portátil, mas também uma prova do que é possível com LLMs locais.

Baseado no artigo de Tom’s Hardware