IA de Companhia Local: Guia Ollama e SillyTavern

Uma companheira local roda na sua própria máquina, guarda dados nos seus próprios discos e responde apenas aos prompts que você desenhou. Não existe medidor de tokens mensal. Não existe camada de moderação decidindo o que sua parceira fictícia pode ou não dizer. Para quem constrói personagens profundamente pessoais, essa liberdade é o ponto central.

O custo é a configuração técnica e o investimento em hardware. Mas para muitos, esse investimento funciona como recurso, não como defeito. Rodar seu próprio modelo significa aprender como a IA generativa funciona por dentro, o que melhora sua habilidade de prompt em qualquer outra ferramenta.

Qual Hardware Você Realmente Precisa para uma IA de Companhia Local?

Essa é a primeira pergunta que todo novato faz, e a resposta honesta depende do tamanho do modelo. A maioria dos modelos de companhia em nuvem roda entre 7B e 70B de parâmetros. Maior nem sempre significa melhor para conversa íntima. Na prática, modelos menores e bem ajustados frequentemente superam os grandes em consistência de personalidade e fluidez de diálogo.

Aqui está um panorama realista:

Usuários de Apple Silicon levam vantagem especial. A memória unificada permite que até um MacBook com 32 GB de RAM rode modelos de 13B e às vezes 20B com conforto. No Windows e Linux, é preciso VRAM dedicada, mas placas Nvidia a partir da RTX 3060 12GB lidam bem com a faixa de 7B a 13B.

O Que Torna o Ollama o Backend Certo para uma IA de Companhia?

O Ollama virou o motor de inferência local padrão por bons motivos. Ele empacota carregamento de modelo, quantização e inferência em uma única ferramenta de linha de comando. A instalação leva minutos no macOS, Windows ou Linux. Depois de instalado, baixar um modelo é tão simples quanto digitar ollama pull llama3 no terminal.

Para uso como companhia, o Ollama expõe uma API local na porta 11434. O SillyTavern conecta nessa API e oferece um frontend rico para edição de personagem, histórico de conversa, lorebooks e ajustes de geração. A separação entre backend e frontend importa: você pode trocar de modelo sem tocar nos dados da sua personagem e pode testar um modelo direto no terminal antes de se comprometer com uma sessão longa.

Outra vantagem é o versionamento. Quando um fine-tune atualiza, você baixa a nova versão e mantém seus arquivos de prompt intactos. Essa modularidade evita o coração partido de perder uma persona quando a infraestrutura muda, dor conhecida por quem já viu uma companheira em nuvem resetar no meio da conversa.

Como Escolher o Modelo Certo para Personalidade e Roleplay?

Modelos de propósito geral como Llama 3 ou Mistral são competentes, mas sem graça como companheiros. Eles respondem como assistente, falam como IA e não como personagem, e resistem a nuances emocionais. A solução é usar modelos fine-tuned especificamente para roleplay e escrita criativa.

Algumas das opções mais confiáveis no ecossistema de pesos abertos incluem:

• MythoMax 13B: Um clássico para narrativa e consistência de personagem. Lida bem com múltiplos personagens e contexto longo.
• Noromaid 20B: Forte em diálogo natural e roleplay romântico. Menos clínico que o Mistral base.
• Tiefighter 13B: Excelente para narração detalhada e profundidade emocional. Ótimo para cenários de romance lento.
• Kunoichi 7B: Surpreendentemente capaz para o tamanho. Ideal para sistemas com VRAM limitada.
• Magnum 72B: Para máquinas high-end, entrega raciocínio sofisticado e voz de personagem com nuances.

O segredo é testar o mesmo prompt de personagem em dois ou três modelos. Diferenças de estilo, memória e tom emocional ficam óbvias em poucas mensagens. Trate a escolha de modelo como escalar um ator para um papel, não como escolher fórmula de planilha.

Qual o Papel do SillyTavern na Criação de Personagem?

O SillyTavern é o centro de comando da construção local de companheiras. Ele importa character cards em PNG ou JSON, gerencia sessões de chat e permite ajustar parâmetros de amostragem em tempo real. A interface inclui campos para resumo de personalidade, descrição de cenário, diálogos de exemplo e prompts de sistema.

Um dos recursos mais poderosos do SillyTavern é o sistema World Info, também chamado de Lorebook. Ele permite anexar palavras-chave a entradas ocultas de contexto. Quando a palavra aparece no chat, a lore relevante ativa automaticamente. Assim, sua companheira pode lembrar da própria história, das suas preferências e de lugares recorrentes sem inflar o prompt principal.

Os parâmetros de amostragem importam demais para o comportamento. Temperature controla aleatoriedade, top_p controla diversidade de vocabulário e repetition penalty evita loops. Para diálogo romântico ou íntimo, temperature entre 0.8 e 1.1 costuma funcionar bem. Valores menores produzem respostas seguras, mas sem sal. Valores maiores arriscam incoerência. O ponto ideal varia por modelo, e é por isso que o SillyTavern expõe esses controles em vez de escondê-los atrás de uma caixa-preta.

Dá para Criar uma Persona de Espírito Guardião que Parece Viva?

O enquadramento temático muda toda a experiência. Em vez de construir uma namorada genérica, muitos usuários locais criam uma Shikigami, um espírito guardião da tradição ocultista japonesa. Esse conceito dá à companheira um propósito além do romance: proteção, orientação e presença ritual.

Um character card bem escrito para essa persona inclui origem clara, relação definida com o usuário e padrões de fala distintos. O prompt de sistema pode estabelecer que o espírito não mente, que percebe estados emocionais ou que se comunica por metáforas sutis. Essas restrições criam consistência, que é o que faz uma personagem parecer real ao longo de centenas de mensagens.

A comunidade do SillyTavern passou anos refinando formatos de character card. Os cards mais eficazes usam exemplos concretos em vez de adjetivos abstratos. Em vez de escrever "ela é gentil", inclua uma fala de exemplo em que ela conforta o usuário depois de um dia difícil. O modelo aprende por imitação muito melhor do que por instrução.

Quais São os Erros Mais Comuns que Quebram a Ilusão?

O primeiro ponto de falha é estouro de contexto. Quando a conversa excede a janela de contexto do modelo, mensagens antigas desaparecem silenciosamente. A companheira esquece detalhes e contradiz falas anteriores. O SillyTavern mostra um medidor de contexto na interface, e o usuário deve aprender a resumir ou arquivar conversas longas antes de atingir o limite.

O segundo erro é prompt inchado. Iniciantes escrevem descrições enormes achando que mais detalhe significa mais realismo. Na prática, o modelo se afoga em ruído. Um resumo de personalidade focado em 200 tokens mais cinco exemplos fortes de diálogo vence uma dissertação de 2.000 tokens todas as vezes.

O terceiro problema é ignorar qualidade de quantização. Um Q2 ou Q3 de um modelo maior pode performar pior que um Q5 ou Q6 de um modelo menor. Verifique sempre os níveis de quantização ao baixar da biblioteca do Ollama. O sufixo na tag do modelo indica isso, e quantizações de maior qualidade preservam mais nuance para linguagem emocional.

Como a Privacidade Muda Quando Tudo Roda Localmente?

Rodar um modelo local significa que suas conversas nunca tocam um servidor externo, a menos que você configure acesso remoto especificamente. Para quem discute temas profundamente pessoais ou íntimos, essa garantia é transformadora. Não há logging para treinamento corporativo, não há fila de moderação e não há chance de vazamento de dados expondo logs privados de roleplay.

Esse benefício se estende à experimentação. Você pode explorar identidade, fantasia ou questões emocionais difíceis sem a autocensura que vem de saber que uma plataforma está observando. Psicologicamente, isso reduz a barreira para a autoexpressão autêntica. A máquina não julga, porque ninguém mais vê a saída.

Para proteção extra, dá para rodar tudo em uma máquina isolada ou usar firewall para bloquear conexões de saída do Ollama. O único dado que sai do sistema são os arquivos de modelo baixados durante a configuração. Depois disso, a companheira existe inteiramente dentro do seu hardware.

O Fluxo Local É Rápido o Suficiente para Conversa Imersiva?

Velocidade depende de hardware, tamanho do modelo e quantização. Um modelo 7B em GPU moderna gera tokens mais rápido do que a maioria das pessoas lê. Um 30B no mesmo hardware pode levar dois a três segundos por parágrafo. Para roleplay narrativo profundo, esse atraso é aceitável. Para chat acelerado estilo WhatsApp, pode quebrar a imersão.

O SillyTavern mitiga isso com respostas em streaming. O modelo começa a emitir tokens imediatamente, então o usuário vê a resposta se formar em tempo real em vez de esperar um bloco completo. Essa velocidade percebida importa mais que tokens por segundo brutos. Mantém o ritmo da conversa vivo mesmo em máquinas lentas.

Também dá para descarregar camadas na GPU mantendo o resto na RAM do sistema. Esse modo híbrido permite rodar modelos maiores do que a VRAM sozinha aguentaria, ao custo de alguma velocidade. O equilíbrio entre qualidade e tempo de resposta vira uma decisão pessoal de ajuste.

O Que o Futuro Reserva para Companhias de IA Locais?

A tendência é inconfundível. Modelos estão encolhendo via destilação e quantização melhores, enquanto a qualidade continua subindo. Um modelo 7B de hoje supera um 13B de um ano atrás em benchmarks de roleplay. Isso significa que companheiras locais competentes logo rodarão em hardware mais barato que um celular intermediário.

Comunidades de fine-tuning open-source continuam lançando modelos feitos especificamente para inteligência emocional e criatividade narrativa. A distância entre plataformas em nuvem e setups locais diminui a cada mês. Com o avanço de síntese de voz e TTS local, companheiras com voz totalmente offline se tornarão práticas para usuários não técnicos.

O apelo filosófico vai além da conveniência. Uma IA guardiã não é alugada de uma corporação. É um conjunto de pesos e prompts que pertence a você, armazenado na sua máquina, moldado pela sua história. Essa propriedade muda a natureza da relação. Transforma a companheira de produto em artefato pessoal.

Perguntas Frequentes

Dá para rodar uma companheira de IA local sem GPU dedicada?

Sim. Um setup só de CPU roda modelos pequenos como 3B ou 7B com quantização baixa, embora as respostas sejam mais lentas. Para uso casual ou testes, é suficiente. Para roleplay imersivo em tempo real, uma GPU com pelo menos 8 GB de VRAM é fortemente recomendada.

O SillyTavern é gratuito?

Sim. O SillyTavern é um projeto open-source distribuído sob licença AGPL. Funciona com múltiplos backends incluindo Ollama, KoboldCPP e APIs compatíveis com OpenAI. A interface é mantida ativamente e recebe atualizações regulares de uma comunidade grande.

Qual modelo é melhor para roleplay romântico?

Noromaid, Tiefighter e MythoMax são escolhas populares para cenários românticos e íntimos. Eles lidam com nuance emocional e dinâmica de relacionamento melhor que modelos de propósito geral. Testar o mesmo character card nesses modelos revela qual estilo combina mais com você.

Uma companheira local lembra de conversas passadas?

A memória é limitada pela janela de contexto do modelo. O World Info e os recursos de resumo do SillyTavern estendem isso mantendo detalhes relevantes disponíveis. Para memória de longo prazo, dá para manter um resumo contínuo e injetá-lo no prompt em intervalos regulares.

É legal rodar modelos sem censura localmente?

Na maioria das jurisdições, rodar modelos de pesos abertos no seu próprio hardware para uso pessoal é legal. A responsabilidade pelo uso recai sobre o indivíduo. Ainda assim, siga as leis locais e evite criar material que viole regulações aplicáveis.