La startup estadounidense presentó una arquitectura enfocada en clasificación, puntuación y toma de decisiones dentro de sistemas informáticos. La compañía promete latencias de entre 70 y 500 milisegundos y un costo de US$0,042 por millón de tokens de entrada, aunque sus principales cifras de rendimiento todavía provienen de evaluaciones internas.
TypeSafe AI presentó Jev, su primer modelo de inteligencia artificial diseñado específicamente para tomar decisiones estructuradas dentro de aplicaciones y sistemas informáticos, en lugar de generar conversaciones, documentos o respuestas extensas. El lanzamiento se realizó el 15 de septiembre, cuando la compañía salió de dos años de desarrollo en modo sigilo y abrió el acceso inicial a una tecnología que denomina System One Models.
La propuesta busca resolver una limitación que aparece cuando los grandes modelos de lenguaje se utilizan en automatización: un LLM convencional produce cadenas de texto que posteriormente deben ser interpretadas, verificadas y transformadas por el software antes de ejecutar una acción. Jev elimina esa etapa y entrega directamente valores estructurados, acompañados por probabilidades y una estimación de confianza.
La empresa fue fundada por Diogo Almeida, exinvestigador de OpenAI que participó en los trabajos fundamentales de RLHF e InstructGPT que precedieron al desarrollo de ChatGPT. OpenAI también lo reconoce entre los colaboradores del trabajo fundacional de RLHF e InstructGPT utilizado posteriormente en GPT-4. TypeSafe inició esta nueva etapa con una ronda semilla de US$40 millones liderada por DCVC.
Una inteligencia artificial diseñada para decidir
TypeSafe denomina System One a una categoría propia de modelos inspirada en la distinción popularizada por el psicólogo Daniel Kahneman entre un sistema de pensamiento rápido e intuitivo y otro más lento y deliberativo.
La idea trasladada al software es sencilla: una gran cantidad de tareas empresariales no necesita que una inteligencia artificial escriba una respuesta completa. Un sistema puede requerir únicamente determinar qué categoría corresponde a un evento, qué prioridad debe recibir una solicitud, si una operación cumple determinada condición o hacia dónde debe enviarse un proceso.
En esas tareas, Jev recibe un estado o conjunto de datos y una serie de preguntas definidas previamente. En lugar de producir texto libre, devuelve respuestas cuyo formato ya fue especificado por el desarrollador.
La API se organiza actualmente en tres tipos principales de decisiones. Choice permite seleccionar entre hasta 255 alternativas; Score sitúa un elemento dentro de una escala definida de entre dos y diez niveles; y Noul responde una condición binaria mediante una probabilidad entre 0 y 1. Varias preguntas pueden procesarse paralelamente dentro de una misma solicitud.
Un sistema empresarial podría, por ejemplo, recibir un reporte de mantenimiento y preguntar simultáneamente qué área debe atenderlo, cuál es su nivel de urgencia y si existen antecedentes que justifican una revisión humana. Jev entregaría esos valores para que el software determine posteriormente qué acción ejecutar.
TypeSafe apunta a reducir el costo de las automatizaciones
La arquitectura también persigue una reducción significativa de latencia y costo frente al uso de grandes modelos generativos para decisiones relativamente simples.
TypeSafe fija actualmente el precio de Jev en US$0,042 por millón de tokens de entrada, equivalente a US$42 por cada 1.000 millones. La compañía no cobra por tokens de salida y declara tiempos de respuesta de entre 70 y 500 milisegundos, dependiendo de las condiciones de ejecución.
En sus evaluaciones internas de flujos de trabajo, la empresa ha llegado a reportar diferencias de 193,6 veces en velocidad y 444,6 veces en costo frente a modelos de lenguaje utilizados como referencia.
Sin embargo, esas cifras requieren cautela. TypeSafe reconoce que las pruebas fueron desarrolladas por integrantes de su propio equipo, que los experimentos de latencia se ejecutaron desde computadores ubicados en la costa oeste de Estados Unidos y que no puede demostrar todavía que sus precios actuales no estén parcialmente subsidiados. La compañía también advierte que los resultados más elevados probablemente representan el extremo superior de las mejoras que podrían observarse en aplicaciones reales.
Por ahora, por tanto, las diferencias de cientos de veces en velocidad o costos deben entenderse como resultados informados por el proveedor y no como benchmarks reproducidos de manera independiente.
Qué significa la afirmación de “cero alucinaciones”
Uno de los mensajes más llamativos de TypeSafe es que Jev puede operar con “cero alucinaciones”. La afirmación necesita una precisión importante.
La arquitectura impide que el modelo entregue un tipo de respuesta diferente al establecido previamente. Si una aplicación solicita escoger entre determinadas categorías, Jev debe devolver una de las opciones admitidas y no puede inventar una estructura incompatible con el software.
Eso elimina una clase concreta de problemas habituales en sistemas generativos: respuestas en formatos incorrectos, JSON inválido o contenido textual inesperado.
Pero no significa que todas sus decisiones sean correctas. Jev puede seleccionar una categoría equivocada o asignar una probabilidad incorrecta. La propia documentación de TypeSafe señala que la calibración se observa sobre grupos de predicciones y no garantiza la exactitud de cada decisión individual.
La diferencia es que cada respuesta incorpora información sobre confianza, lo que permite establecer umbrales. Un sistema podría ejecutar automáticamente decisiones de bajo riesgo cuando la confianza sea elevada y derivar los casos dudosos a otro modelo o a una persona.
Potencial para automatización industrial
El enfoque podría tener implicancias para sectores que procesan grandes volúmenes de información operacional, como minería, energía, manufactura, logística y transporte.
En una operación industrial, un modelo de estas características podría utilizarse como capa de clasificación para organizar reportes de mantenimiento, priorizar incidencias, enrutar documentación, revisar información de proveedores o decidir qué eventos requieren una evaluación más sofisticada.
Eso no significa que Jev esté operando actualmente en faenas mineras ni que sustituya sistemas especializados de control industrial. TypeSafe no ha presentado públicamente una implementación minera de referencia.
Además, el modelo tiene limitaciones claras. Actualmente procesa texto y estructuras de datos textuales, pero no imágenes, audio o video. Tampoco posee por sí mismo conocimiento actualizado del entorno ni capacidad para buscar información externa: sus decisiones dependen del estado y los antecedentes que reciba desde otros componentes del sistema.
Por esa razón, su función no es reemplazar necesariamente a los grandes modelos de lenguaje, sino operar como una capa más económica y rápida dentro de arquitecturas de inteligencia artificial más amplias.
El desafío será demostrar el rendimiento fuera del laboratorio
Jev llega en un momento en que la industria tecnológica intenta trasladar la inteligencia artificial desde los asistentes conversacionales hacia agentes capaces de ejecutar procesos empresariales.
La apuesta de TypeSafe consiste en que una parte importante de esas automatizaciones no necesitará modelos generativos completos para cada paso. En su lugar, sistemas especializados podrían resolver millones de pequeñas decisiones y reservar los modelos de razonamiento más costosos para los casos complejos.
El nombre Jev hace referencia al economista británico William Stanley Jevons y a la llamada paradoja de Jevons: mejoras en eficiencia pueden abaratar un recurso hasta el punto de aumentar su consumo total. TypeSafe aplica esa lógica a la inteligencia artificial y plantea que reducir drásticamente el costo de una decisión automatizada podría multiplicar la cantidad de decisiones ejecutadas por software.
La tecnología se encuentra todavía en una fase inicial. El siguiente examen para TypeSafe será comprobar que la velocidad, calibración y economía observadas en sus propias evaluaciones se mantienen cuando Jev sea utilizado a gran escala sobre datos y procesos empresariales que la compañía no controla.
