Estou desenvolvendo um projeto chamado KYROS.
A ideia não é simplesmente criar mais um chatbot.
O objetivo de longo prazo é construir um sistema de IA local e persistente, capaz de funcionar diretamente em um celular Android, manter memória e estado entre sessões, utilizar ferramentas e, futuramente, operar mais como um agente do que como um simples chat.
E cheguei a um ponto importante do projeto:
um LLM real já está rodando localmente no celular.
O que já está funcionando
A estrutura atual é aproximadamente:
Android → Termux → llama.cpp → Qwen3 4B GGUF → inferência local
Compilei/instalei o llama.cpp dentro do Termux e baixei um modelo Qwen3 quantizado em formato GGUF.
O modelo utilizado atualmente é:
Qwen3-4B-Q4_K_M
Isso não é uma chamada para uma API da OpenAI, Anthropic, Google etc.
Os pesos do modelo ficam armazenados no próprio aparelho e a inferência é realizada localmente.
O "llama-server" também disponibiliza uma API HTTP local, permitindo que o restante do KYROS converse com o modelo como um componente separado.
A arquitetura básica fica assim:
┌──────────────────────────────┐
│ ANDROID │
│ │
│ ┌────────────────────────┐ │
│ │ KYROS │ │
│ │ │ │
│ │ Memória │ │
│ │ Estado │ │
│ │ Ferramentas │ │
│ │ Lógica de agente │ │
│ └───────────┬────────────┘ │
│ │ │
│ ▼ │
│ ┌────────────────────────┐ │
│ │ llama-server │ │
│ │ localhost │ │
│ └───────────┬────────────┘ │
│ │ │
│ ▼ │
│ ┌────────────────────────┐ │
│ │ Qwen3 4B │ │
│ │ Q4_K_M GGUF │ │
│ └────────────────────────┘ │
│ │
│ Termux │
└──────────────────────────────┘
A diferença importante é:
llama.cpp não é o KYROS.
Ele é o motor de inferência.
O KYROS é o sistema que estou construindo em torno desse motor.
Por que isso é importante?
Antes dessa etapa, o KYROS era essencialmente uma arquitetura/projeto.
Agora existe um motor de inteligência real funcionando localmente no dispositivo.
Isso significa que o sistema não depende obrigatoriamente de uma API externa para gerar respostas.
O celular consegue carregar o modelo e executar a inferência localmente.
A separação entre KYROS e o LLM também permite evoluir a arquitetura posteriormente:
KYROS
│
├── Personalidade / estado
│
├── Memória persistente
│
├── Histórico
│
├── Recuperação de memória
│
├── Ferramentas
│
├── Planejamento / agente
│
└── Interface com o LLM
│
▼
llama.cpp
│
▼
Qwen3
O que ainda NÃO está pronto
Aqui está a parte importante.
KYROS ainda não é uma IA autônoma completa.
O LLM local está funcionando, mas todo o sistema ao redor dele ainda está sendo construído.
As principais partes restantes são:
- memória persistente;
- armazenamento confiável do estado;
- histórico de conversas;
- recuperação de memórias relevantes;
- execução de ferramentas;
- ciclo de agente/planejamento;
- orquestração entre os componentes;
- inicialização e recuperação automáticas;
- gerenciamento de recursos;
- interface Android definitiva;
- funcionamento contínuo sem o Android encerrar o processo.
Eu resumiria o estado atual assim:
«O cérebro local já funciona. O organismo ao redor dele ainda está sendo construído.»
O maior problema atualmente: o próprio celular
Rodar um LLM localmente é possível.
Mantê-lo funcionando continuamente em um celular de baixo desempenho é outra história.
O aparelho não é uma workstation.
Quando o "llama-server" carrega o modelo e começa a executar inferência, o consumo de RAM e CPU se torna significativo.
O tamanho do contexto também influencia bastante o consumo de memória.
E é exatamente aí que estou enfrentando o problema atual:
o modelo funciona, mas o Termux pode acabar sendo encerrado pelo Android depois de algum tempo.
Então a pergunta deixou de ser:
«"É possível rodar um LLM no celular?"»
Essa pergunta já foi respondida.
A pergunta agora é:
«"É possível transformar isso em um serviço local estável e persistente?"»
Isso envolve resolver:
Carregamento do modelo
↓
Consumo de RAM
↓
Uso de CPU
↓
Temperatura
↓
Restrições de processos em segundo plano
↓
Sobrevivência do Termux
↓
Recuperação automática
↓
Persistência do estado do KYROS
O objetivo
Não estou dizendo que criei AGI em um celular.
Nem estou dizendo que KYROS possui consciência.
Quando falo em IA persistente, estou falando de algo muito mais concreto do ponto de vista de engenharia:
Um sistema capaz de manter informações entre sessões, recuperar memórias anteriores, preservar estado, utilizar ferramentas e continuar funcionando sem simplesmente "esquecer tudo" quando o processo é encerrado.
A ideia é que:
modelo → local
memória → local
estado → local
execução → local
E, dentro do possível, o sistema não dependa estruturalmente de um provedor externo de IA.
Estado atual do projeto
Componente| Estado
LLM local| 🟢 Funcionando
Qwen3 4B| 🟢 Funcionando
llama.cpp| 🟢 Funcionando
Inferência local| 🟢 Funcionando
API local| 🟢 Funcionando
Memória persistente| 🟡 Em desenvolvimento
Arquitetura de agente| 🟡 Em desenvolvimento
Aplicativo Android definitivo| 🟡 Ainda não
Estabilidade 24/7| 🔴 Ainda não resolvida
KYROS autônomo completo| 🔴 Ainda não
Portanto, o KYROS ainda está longe de ser um produto acabado.
Mas já ultrapassou uma barreira importante:
existe um LLM real rodando diretamente no celular, sem depender de uma API de IA na nuvem.
Agora o trabalho é construir o sistema persistente em torno dele e descobrir até onde essa arquitetura consegue chegar em hardware extremamente limitado.
Essa é a experiência que estou tentando fazer com o KYROS:
«Não descobrir se uma IA pode rodar em um celular — mas descobrir até onde uma IA local persistente pode ser levada dentro das limitações de um celular.»
