Inkling: el modelo abierto de 975B de Mira Murati

En pocas palabras: Thinking Machines Lab, la empresa de Mira Murati, publicó Inkling: un modelo MoE de 975.000 millones de parámetros totales que activa solo 41.000 millones por token. Acepta texto, imágenes y audio, sus pesos están en Hugging Face y se afina en Tinker.

Thinking Machines Lab, la empresa de Mira Murati, publicó Inkling, un modelo de lenguaje multimodal de 975.000 millones de parámetros totales con pesos abiertos y descargables. Solo activa 41.000 millones por token, acepta texto, imágenes y audio, y se puede afinar en Tinker, la plataforma de entrenamiento de la propia compañía.

Inkling es un modelo de lenguaje de arquitectura Mixture of Experts (MoE) desarrollado por Thinking Machines Lab, la empresa fundada por Mira Murati, ex-CTO de OpenAI. Tiene 975B de parámetros totales y 41B activos, procesa texto, imágenes y audio en la entrada, escribe código, usa herramientas y permite ajustar cuánto “piensa” antes de responder. Sus pesos están publicados en Hugging Face y cualquiera puede descargarlos.

¿Quién es Mira Murati y qué es Thinking Machines Lab?

Mira Murati fue CTO de OpenAI hasta 2024 y fundó Thinking Machines Lab después de irse. Inkling es el primer modelo abierto de la empresa, y el gesto tiene lectura política obvia.

No hace falta ser fan de nadie para ver el punto. La empresa que se llama “Open”AI no publica pesos de sus modelos punta desde hace años. La que fundó su ex-CTO publicó los suyos en el primer lanzamiento. Sobre eso hablamos en seguridad empresarial de los LLMs.

¿Cuántos parámetros usa Inkling en realidad: 975B o 41B?

Los dos números son ciertos y miden cosas distintas. Inkling tiene 975B de parámetros almacenados, pero por cada token que genera activa apenas 41B, según la ficha oficial del modelo. Eso es Mixture of Experts: el modelo se divide en muchos “expertos” y un router elige cuáles usar en cada paso. El resto de la red queda dormida.

¿Por qué importa? Porque el costo de generar una respuesta depende de los parámetros activos, no de los totales. Un modelo denso de 975B te costaría 24 veces más cómputo por token. Con MoE tenés el conocimiento de un modelo enorme al precio de inferencia de uno mediano.

Eso sí, hay una trampa que a mucha gente le agarra de sorpresa. Los 41B activos abaratan el cómputo, no la memoria: los 975B tienen que estar cargados y disponibles igual, porque el router puede pedir cualquier experto en cualquier momento. La aritmética es cruel y no necesita fuente: casi un billón de parámetros, aunque se cuantifiquen a 8 bits, son cientos de gigabytes de VRAM. Thinking Machines no publicó requisitos de hardware en la ficha oficial.

¿Qué puede hacer Inkling? Capacidades confirmadas

La empresa enumera seis áreas: conocimiento general, matemática y ciencia, coding agéntico con uso de herramientas, multimodalidad nativa en la entrada, forecasting con confianza calibrada, y seguimiento de instrucciones multi-paso. Sumale el controllable thinking effort, que es el dial de velocidad contra precisión. Ninguna de estas capacidades viene con un número público al lado.

Esa última frase es la más importante de todo el artículo y por eso la repito: la ficha oficial describe capacidades, no publica benchmarks. Vas a ver notas comparando Inkling con ChatGPT o Claude. Preguntate de dónde sacaron la tabla. Tema relacionado: qué diferencia a Thinking de ChatGPT.

Capacidad	Qué dice Thinking Machines	Qué falta
Arquitectura	975B totales / 41B activos, MoE	Cantidad de expertos, top-k del router
Modalidades de entrada	Texto, imágenes, audio	Límites de tamaño y formatos aceptados
Voz	“En la frontera del open source”	Contra qué modelo se midió
Thinking effort	Regulable por el usuario	Rango, unidades, impacto en latencia
Calibración	Predicciones con confianza calibrada	Métrica y dataset de evaluación
Coding agéntico	Escribe código y usa herramientas	Score en benchmarks de agentes
Distribución	Pesos abiertos en Hugging Face	Texto completo de la licencia

¿Inkling es open source o solo open weights?

Thinking Machines usa el término open weights, y la distinción no es un capricho de abogados. Open weights significa que te bajás los parámetros entrenados y los corrés en tu infraestructura. Open source, en sentido estricto, incluiría el dataset de entrenamiento, el código del pipeline y las recetas. Casi ningún “modelo abierto” del mercado cumple esa segunda definición.

Con los pesos en la mano igual ganás casi todo lo que importa en la práctica:

• Privacidad real. Tus prompts no salen de tu red. Para cualquiera que maneje datos de clientes o historia clínica, eso solo ya justifica la mudanza.
• Cero dependencia de un proveedor. Nadie te deprecia el endpoint, te sube el precio ni te cambia el modelo por abajo un martes cualquiera.
• Customización sin permiso. Lo afinás, lo podás, lo cuantizás. Es tuyo.
• Resistencia a la censura. Un modelo local no tiene un filtro remoto que alguien pueda apretar.

Ojo con el último punto, que corta para los dos lados. Un modelo sin filtros remotos también es un modelo que nadie va a arreglar por vos cuando escupa algo problemático en producción. La responsabilidad se muda a tu lado del cable.

¿Dónde descargo Inkling y qué necesito para correrlo?

Los pesos están en el repositorio oficial de Inkling en Hugging Face. La descarga es gratis. Correrlo, no.

Ponele que sos un equipo de cinco personas en Buenos Aires y querés Inkling andando para procesar tickets internos. Bajás los pesos en veinte minutos con buena fibra y ahí empieza el problema real: conseguir el hardware. Un modelo de este tamaño no entra en una placa de consumo ni en dos. Necesitás un servidor con varias GPU de centro de datos, o alquilar cómputo por hora, o armar un esquema híbrido donde el modelo vive en infraestructura propia y tu aplicación consume una API interna. Si estás evaluando dónde parar la parte de aplicación y bases de datos mientras el modelo corre en GPU alquilada, donweb.com te resuelve esa mitad sin drama.

Mi recomendación práctica: antes de comprar nada, alquilá GPU por hora y medí. La cuantización cambia todo el cálculo y todavía no hay comunidad suficiente alrededor de Inkling como para que alguien te haya hecho el trabajo.

¿Cómo hago fine-tuning de Inkling?

Thinking Machines te dirige a Tinker, su plataforma de entrenamiento: “afiná Inkling para tu dominio en Tinker”, dice la ficha del modelo. No publicaron precios ni requisitos de dataset. Lo que sí queda claro es la intención del diseño: este modelo se pensó como base para adaptar, no como producto terminado que enchufás y andás. Para más detalles técnicos, mirá capacidades avanzadas de razonamiento.

¿Y cuándo te conviene afinarlo? Cuando tenés un dominio con vocabulario propio (jurídico argentino, telecom, retail farmacéutico), cuando necesitás un formato de salida rígido que el prompting no te garantiza, o cuando el volumen es tan alto que pagar tokens de prompt largo todos los días sale más caro que entrenar una vez. Fuera de esos tres casos, probá prompting y RAG primero. El fine-tuning es la última herramienta de la caja, no la primera.

¿Cómo se compara Inkling con otros modelos abiertos?

Con los datos públicos de hoy, no se puede responder con números. Thinking Machines no publicó benchmarks comparativos en la ficha de Inkling y todavía no hay evaluaciones independientes. Cualquier tabla que veas con Inkling contra Llama, Mistral o GPT esta semana salió de algún lado que no es la fuente oficial.

Lo que sí se puede comparar es el posicionamiento, y eso resume la estrategia mejor que cualquier score: Inkling no compite por el primer puesto de un leaderboard, compite por ser el mejor punto de partida para que vos armes tu modelo. Son juegos distintos. Un modelo puede perder por diez puntos en MMLU y ganarte igual el caso de uso después de tres días de fine-tuning con tus datos.

¿Qué cambia esto para el ecosistema de IA abierta?

Hasta ahora, los modelos abiertos grandes venían casi todos de dos lugares: gigantes con estrategia de commoditizar al rival, o laboratorios chinos. Que un laboratorio nuevo, fundado por la ex-CTO de OpenAI, arranque publicando pesos de un modelo de esta escala mueve el piso de lo que se considera aceptable no publicar. Cubrimos ese tema en detalle en alternativas a Google Gemini.

Para acá abajo la cuenta es simple. Si te podés bajar un modelo de frontera, la barrera deja de ser el acceso y pasa a ser el cómputo, que es un problema de plata pero también de creatividad: cuantización, distilación, modelos chicos afinados sobre uno grande. Ninguna de esas tres cosas la podés hacer con una API cerrada.

Errores comunes al evaluar Inkling

• Creer que 41B activos significan poca memoria. El cómputo baja, la RAM no. Tenés que hospedar 975B de parámetros igual. Es el error más caro de todos y se paga después de firmar el presupuesto.
• Comparar contra modelos cerrados con benchmarks que nadie publicó. No hay tabla oficial. Si alguien te muestra una, pedile la metodología antes de tomar una decisión de arquitectura.
• Ir directo al fine-tuning. Un buen prompt y RAG resuelven la mayoría de los casos. El fine-tuning te ata a una versión del modelo y te obliga a repetir el proceso en cada actualización.
• Confundir open weights con “gratis”. La licencia no te cobra. El servidor sí. Presupuestá inferencia antes de anunciar el proyecto.
• Descartarlo porque no gana ningún leaderboard. Es exactamente el punto: fue diseñado para adaptarse, no para el podio.

Preguntas Frecuentes

¿Qué es Inkling?

Inkling es un modelo de lenguaje multimodal de pesos abiertos creado por Thinking Machines Lab, la empresa de Mira Murati. Tiene 975B de parámetros totales con arquitectura MoE y activa 41B por token. Procesa texto, imágenes y audio en la entrada.

¿Inkling es gratis?

Los pesos se descargan sin costo desde Hugging Face. El gasto está en la infraestructura para correrlo, que en un modelo de casi un billón de parámetros implica GPU de centro de datos, propias o alquiladas.

¿Qué significa “controllable thinking effort”?

Es un control que te deja definir cuánto tiempo razona el modelo antes de responder, según la ficha oficial. Menos esfuerzo da respuestas más rápidas y baratas; más esfuerzo apunta a mayor precisión en tareas complejas.

¿Inkling es mejor que ChatGPT o Claude?

No hay datos públicos para responder eso. Thinking Machines no publicó benchmarks comparativos y todavía no existen evaluaciones independientes. La ventaja verificable de Inkling es distinta: podés descargarlo, correrlo en tu propia infraestructura y afinarlo, cosa que con los modelos cerrados no.

¿Dónde se hace el fine-tuning de Inkling?

En Tinker, la plataforma de entrenamiento de Thinking Machines, según la propia ficha del modelo. Los pesos abiertos también permiten afinarlo con herramientas de terceros en infraestructura propia, aunque el camino que la empresa documenta es Tinker.

Conclusión

Lo que cambió esta semana no es el estado del arte, es quién tiene la llave. Un modelo de 975B parámetros con multimodalidad y coding agéntico está descargable en Hugging Face, y eso vuelve discutible la idea de que los modelos frontera tienen que vivir detrás de una API.

Si estás evaluando IA para tu empresa, hacé tres cosas concretas antes de opinar. Bajate los pesos y miralos. Alquilá GPU por hora y medí latencia y costo real con tus prompts, no con los del anuncio. Y esperá las primeras evaluaciones independientes antes de firmar cualquier migración, porque hoy lo único que tenemos son las afirmaciones de la empresa que lo hizo. Prometedor, sí. Verificado, todavía no.

Fuentes

• Inkling – Ficha oficial del modelo en Thinking Machines Lab
• Inkling en Hugging Face – Repositorio oficial de pesos abiertos
• TechCrunch – La apuesta de Thinking Machines contra la IA de talle único
• The Register – Un modelo frontera que sí es abierto
• MarkTechPost – Detalle técnico de la arquitectura MoE de Inkling