En pocas palabras: Sí. PrismML lanzó Bonsai 27B el 14 de julio de 2026, el primer modelo de clase 27B que corre en un celular. La variante 1-bit pesa 3,9 GB y entra en un iPhone 17 Pro; ejecuta razonamiento, tool calls y visión en local, sin nube.
PrismML lanzó Bonsai 27B, el primer modelo de clase 27B que corre en un teléfono. La variante Bonsai 27B LLM 1-bit pesa 3,9 GB y entra en un iPhone 17 Pro; la ternaria pesa 5,9 GB y corre en una laptop común.
Bonsai 27B es un modelo multimodal de PrismML basado en Qwen3.6 27B, con los pesos cuantizados a 1 bit o a valores ternarios. En vez de guardar cada peso en 16 bits (unos 54 GB), la variante 1-bit usa 1,125 bits efectivos por peso y ocupa 3,9 GB. Con esa versión corrés razonamiento multipaso, tool calls y visión en local, en un celular y sin nube.
En 30 segundos
- Dos variantes. La 1-bit (3,9 GB) para celular y la ternaria (5,9 GB) para laptop, ambas basadas en Qwen3.6 27B, según el anuncio oficial de PrismML del 14 de julio de 2026.
- Primer 27B en un teléfono. La 1-bit entra en el presupuesto de memoria de un iPhone 17 Pro.
- Cuantización real end to end. Los pesos bajos corren en toda la red: embeddings, atención, MLPs y la cabeza de lenguaje, sin capas en alta precisión.
- Retención de calidad. 94,6% en la ternaria y 89,5% en la 1-bit respecto del modelo base, según los datos publicados por PrismML.
- Licencia abierta. Apache 2.0 en Hugging Face, con API en Together AI y formatos MLX y GGUF.
¿Qué es la cuantización de 1-bit en un LLM?
La cuantización de 1-bit es una técnica que reemplaza cada peso del modelo, que normalmente ocupa 16 bits, por un valor binario ({−1, +1}) o ternario ({−1, 0, +1}), con un factor de escala compartido por grupo. Resultado directo: el modelo pesa varias veces menos y entra en la RAM de un dispositivo chico.
Pensalo así. Un peso en FP16 es un número con muchos decimales. Uno de 1-bit es apenas un signo, más o menos. Más contexto en administración de dispositivos móviles.
La gracia está en el escalado por grupo (group-wise scaling en FP16), que devuelve algo de la precisión que se pierde al aplastar todo a un signo. La variante ternaria de Bonsai usa {−1, 0, +1} y llega a 1,71 bits efectivos por peso; la binaria usa {−1, +1} y baja a 1,125 bits. Esta idea de pesos ternarios ya venía madurando desde el paper de BitNet b1.58, que mostró que 1,58 bits por peso podían igualar a un modelo en precisión completa. Bonsai lleva ese enfoque a un modelo multimodal de 27B y, ojo, lo aplica a toda la red, no solo a algunas capas.
¿Cómo se compara Bonsai 27B con el Qwen3.6 27B original?
Es el mismo modelo arquitectónico (Qwen3.6 27B), pero con los pesos cuantizados. La ternaria retiene 94,6% de la calidad del original y la 1-bit 89,5%, según los datos de PrismML. A cambio, el tamaño se desploma.
Los números del original asustan un poco: un 27B ocupa cerca de 54 GB en 16 bits. Un buen build de 4 bits lo baja a unos 18 GB, que ya está bien para un servidor, pero sigue siendo demasiado para un celular y para la mayoría de las laptops. Ahí es donde Bonsai cambia la ecuación, porque mete la misma capacidad en 3,9 o 5,9 GB.
Perdés algo de calidad, sí. La pregunta es cuánto y para qué. Para tareas de razonamiento largo, un 89,5% que se mantiene coherente vale más que un modelo de 3B que arranca perfecto y se desarma a los diez pasos.
¿Qué diferencia hay entre la variante 1-bit y la ternaria?
La 1-bit prioriza el tamaño y la ternaria prioriza la calidad. Una entra en un teléfono; la otra pide una laptop pero mantiene más rendimiento. Acá viene lo bueno: el resto de las capacidades (razonamiento, tool calling, visión) están en las dos. Relacionado: alternativas más eficientes que ChatGPT.
| Característica | Bonsai 27B 1-bit | Bonsai 27B ternaria |
|---|---|---|
| Pesos | Binario {−1, +1} | Ternario {−1, 0, +1} |
| Bits efectivos por peso | 1,125 | 1,71 |
| Tamaño en disco | 3,9 GB | 5,9 GB |
| Dispositivo recomendado | iPhone 17 Pro / celular | Laptop común |
| Retención de calidad | 89,5% | 94,6% |
| Orientación | Menor huella de memoria | Mayor calidad |
Si tenés dudas de cuál bajar, la regla es simple. ¿Vas a correrlo en el celular? La 1-bit. ¿Tenés una laptop y querés el máximo de calidad? La ternaria.
¿Qué requisitos de hardware necesita Bonsai 27B LLM 1-bit para correr en un teléfono?
La variante Bonsai 27B LLM 1-bit necesita un dispositivo cuyo presupuesto de memoria banque los 3,9 GB del modelo más el espacio de inferencia. PrismML apunta al iPhone 17 Pro como referencia, según la cobertura de 9to5Mac.
Correr un 27B en local no da velocidad de servidor, seamos honestos. Para un chat conversacional o un agente que trabaja en background, alcanza. Para generar un ensayo de 2.000 palabras mientras esperás, se va a sentir lento.
Un detalle que suele ignorarse: correr un modelo de este tamaño en local calienta el teléfono y come batería. No es magia. Estás usando la NPU y la RAM al mango, así que para tareas cortas y puntuales rinde, y para uso sostenido conviene la ternaria en una laptop con refrigeración de verdad.
¿Qué puede hacer Bonsai 27B y en qué casos conviene?
Bonsai 27B hace lo que un modelo de su clase: razonamiento multipaso, tool calls estructurados, tareas de visión y loops agénticos que se mantienen coherentes a lo largo de muchos pasos. Eso lo separa de los modelos chicos de 3B a 7B, que zafan en texto suelto pero se pierden cuando la tarea se encadena. Te puede servir nuestra cobertura de cómo funcionan los modelos de lenguaje.
Ponele que le pasás un PDF con una factura y le pedís que extraiga los ítems, los sume y arme un resumen en JSON. Un modelo de visión chico te lee mal la mitad de los números. Uno de clase 27B, aún cuantizado, sostiene el contexto y la estructura.
¿Dónde brilla correrlo local? En privacidad y en costo:
- Datos privados sin conexión. Un asistente que analiza documentos médicos o legales sin que nada salga del dispositivo.
- Sin costo marginal de inferencia. Una vez que el modelo está en el equipo, cada consulta es gratis. No pagás por token.
- Cero latencia de red. El agente responde aunque estés sin señal, en un avión o en el subte.
- Arquitecturas híbridas. El celular resuelve lo simple en local y delega a la nube solo las tareas pesadas, sobre una infraestructura que podés montar en un VPS con un proveedor como donweb.com.
¿Cómo se compara Bonsai 27B con otros métodos de cuantización?
La diferencia clave frente a los métodos convencionales es que Bonsai aplica los pesos bajos a toda la red, sin capas de respaldo en alta precisión. Los builds de baja precisión convencionales no bajan tanto en bits efectivos y aún así ocupan bastante más memoria. Bonsai baja a 1,71 o 1,125 y aún así sostiene la coherencia.
El talón de Aquiles de la cuantización agresiva “convencional” aparece en tareas largas. En un benchmark corto no lo notás. En una cadena de razonamiento de treinta pasos, un modelo mal cuantizado empieza a acumular error y descarrila. La apuesta de PrismML es que su representación de bajo bit mantiene el hilo donde otras lo pierden, algo que habrá que ver replicado por terceros, porque los benchmarks del propio fabricante siempre conviene tomarlos con pinzas.
¿Dónde descargar Bonsai 27B y cómo usarlo?
Bonsai 27B está disponible en Hugging Face bajo licencia Apache 2.0, con API en Together AI y una demo en GitHub. Los formatos publicados incluyen MLX para Apple Silicon y GGUF para CPU, así que corre con stacks conocidos como Ollama, MLX y vLLM. Lo explicamos a fondo en las iniciativas de Google en IA móvil.
El camino más rápido depende de tu equipo. Si tenés una Mac, el build MLX de la colección oficial en Hugging Face es el atajo. Si querés probarlo sin bajar nada, la API de Together AI te sirve la ternaria.
Descargás el modelo, lo cargás en tu runtime favorito y listo. En papel suena directo. En la práctica, mirá bien el formato antes de bajar 5,9 GB al pedo.
Errores comunes al usar Bonsai 27B
- Bajar la variante equivocada. Mucha gente baja la ternaria de 5,9 GB para meterla en el celular y no le entra. Para teléfono va la 1-bit de 3,9 GB.
- Esperar velocidad de servidor en el celular. Correr un modelo de 27B en local en un iPhone 17 Pro está bien, pero no es GPT en la nube. Si necesitás respuestas instantáneas y largas, usá la arquitectura híbrida.
- Confundir el formato del runtime. El build MLX es para Apple Silicon y el GGUF para CPU. Cargar el formato que no corresponde a tu stack es el clásico “no arranca y no sé por qué”.
- Tomar la retención de calidad como si fuera del original. La 1-bit retiene 89,5%, no el 100%. Para tareas críticas donde ese 10% importa, conviene la ternaria o el modelo en precisión completa.
Preguntas Frecuentes
¿Qué es un modelo LLM de 1-bit?
Un modelo LLM de 1-bit guarda cada peso como un valor binario ({−1, +1}) en lugar de un número de 16 bits, con un factor de escala por grupo. Eso reduce el tamaño del modelo entre 10 y 14 veces frente a FP16, lo que permite correr modelos grandes en dispositivos con poca memoria.
¿Cómo funciona Bonsai 27B en un iPhone?
La variante 1-bit de Bonsai 27B ocupa 3,9 GB y entra en el presupuesto de memoria de un iPhone 17 Pro, según PrismML. Corre en local usando la NPU y la RAM del equipo, sin necesidad de conexión a internet ni de servidores externos.
¿Cuál es la diferencia entre la variante 1-bit y la ternaria?
La 1-bit (3,9 GB, 1,125 bits por peso) prioriza la menor huella de memoria y corre en un celular. La ternaria (5,9 GB, 1,71 bits por peso) prioriza la calidad, retiene 94,6% del modelo base frente al 89,5% de la 1-bit, y pide una laptop.
¿Cuánto cuesta usar Bonsai 27B?
Bonsai 27B es gratis para descargar y usar bajo licencia Apache 2.0 en Hugging Face. Corriéndolo en local no pagás por token. Si preferís no gestionar el modelo, la API de Together AI lo ofrece con costo por uso, según la modalidad que elijas.
¿Bonsai 27B es multimodal?
Sí. Bonsai 27B procesa texto e imágenes, y suma razonamiento multipaso, tool calls estructurados y loops agénticos que se mantienen coherentes a lo largo de muchos pasos. Es el flagship multimodal de la familia Bonsai, basado en Qwen3.6 27B.
Conclusión
Lo que cambió con Bonsai 27B es concreto: un modelo de clase 27B, multimodal y con capacidad agéntica, ahora entra en un teléfono. Hasta ayer eso era impráctico porque el modelo pesaba 54 GB. La cuantización de 1-bit lo baja a 3,9 GB sin tirar a la basura la coherencia en tareas largas.
¿Qué hacer con esto? Si desarrollás apps con IA, probá la 1-bit en local y medí latencia y batería en tu caso real antes de comprometerte. Si necesitás máxima calidad, quedate con la ternaria en laptop. Y si armás un producto, pensá en híbrido: el modelo chico resuelve en el dispositivo y la nube se guarda para lo pesado. La privacidad de correr todo en local, sin que el dato salga del equipo, es el argumento más fuerte de todo esto.