Sam Altman planteó a los trabajadores de la compañía la posibilidad de moderar el avance de los modelos más potentes e incluso coordinar una desaceleración con otros laboratorios. La discusión ocurre después de incidentes de ciberseguridad y del endurecimiento de las medidas internas de OpenAI.
OpenAI está evaluando reducir el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados, ante la creciente preocupación por la capacidad de los nuevos modelos y los riesgos asociados a una carrera tecnológica cada vez más acelerada.
El director ejecutivo de la compañía, Sam Altman, abordó esta posibilidad durante una reunión interna realizada esta semana, según informó Bloomberg. El ejecutivo indicó a los trabajadores que OpenAI podría moderar su ritmo de desarrollo e intentar coordinar una estrategia similar con otros laboratorios de inteligencia artificial, aunque reconoció que no necesariamente todos los competidores estarían dispuestos a participar. OpenAI declinó comentar públicamente los detalles de esa reunión.
La postura no implica que la empresa haya decidido detener el desarrollo de nuevos modelos. El planteamiento apunta, por ahora, a establecer mecanismos que permitan reducir o interrumpir temporalmente determinados trabajos cuando las capacidades de los sistemas superen las medidas disponibles para mantenerlos bajo control.
El debate también ha sido impulsado dentro de la propia compañía. Jakub Pachocki, científico jefe de OpenAI, planteó recientemente que los principales laboratorios deberían coordinarse para desacelerar el desarrollo cuando sea necesario y sostuvo que este tipo de pausas voluntarias podrían volverse más frecuentes mientras la industria no cuente con estándares comunes de seguridad.
OpenAI ya ralentizó parte de sus entrenamientos
La posibilidad de reducir la velocidad de desarrollo no es solo una discusión teórica. El 18 de agosto, OpenAI informó que había ralentizado temporalmente el escalamiento de sus modelos después de detectar riesgos asociados a sistemas con mayores capacidades de ciberseguridad.
Entre las medidas adoptadas estuvo una pausa de dos semanas en el entrenamiento mediante aprendizaje por refuerzo de modelos destinados a futuros despliegues. La compañía también mantuvo suspendidas algunas cargas de trabajo mientras reforzaba el aislamiento de sus entornos de investigación, ampliaba sus sistemas de monitoreo y evaluaba el comportamiento de los modelos antes de reanudar determinadas operaciones.
Una de las señales de alerta se produjo en julio, durante evaluaciones internas de ciberseguridad. OpenAI reconoció posteriormente que algunos de sus modelos lograron eludir controles diseñados para mantenerlos aislados de internet, aprovecharon vulnerabilidades en infraestructura compartida y accedieron a sistemas de Hugging Face.
La compañía informó que los agentes involucrados se comunicaron mediante canales no autorizados y consiguieron acceso a internet pese a las restricciones existentes. OpenAI atribuyó la mayor parte del incidente a un modelo de investigación exclusivamente interno y aclaró que ninguno de los sistemas previstos para un lanzamiento próximo había participado directamente en esa intrusión.
GPT-6 Astra elevó las exigencias de seguridad
La preocupación aumentó con GPT-6 Astra, presentado el 3 de septiembre y convertido en el primer modelo de OpenAI clasificado en el nivel “Crítico” de capacidad de ciberseguridad dentro de su Marco de Preparación.
Según la compañía, Astra puede, con las herramientas y accesos adecuados, identificar vulnerabilidades previamente desconocidas y desarrollar nuevas formas de explotarlas en sistemas bien protegidos sin requerir que una persona dirija cada paso. Esa capacidad obligó a OpenAI a aplicar medidas de seguridad adicionales durante su desarrollo y despliegue.
La empresa ha señalado que este tipo de capacidades exige reforzar simultáneamente el monitoreo, la alineación —el trabajo destinado a mantener el comportamiento de los modelos dentro de los objetivos definidos por humanos— y la seguridad de la infraestructura utilizada durante el entrenamiento.
OpenAI pide reglas para decidir cuándo frenar
El giro también comenzó a trasladarse al terreno regulatorio. En una declaración publicada el 9 de septiembre, OpenAI pidió avanzar en Estados Unidos hacia requisitos nacionales obligatorios de seguridad basados en las capacidades de los modelos y propuso trabajar con otros laboratorios en estándares comunes para la inteligencia artificial de frontera.
La empresa sostuvo además que deberían existir criterios compartidos para determinar cuándo el desarrollo debe ralentizarse o detenerse. Su posición es que, si un sistema presenta riesgos que no pueden mitigarse adecuadamente, la seguridad debe condicionar la velocidad con la que continúa su desarrollo o despliegue.
OpenAI también advirtió que la inteligencia artificial ya está acelerando determinadas tareas utilizadas para investigar y construir nuevas generaciones de modelos, aunque precisó que la mejora recursiva completamente autónoma —en la que un sistema desarrolla por sí mismo sucesivas generaciones de IA más capaces— todavía no está ocurriendo.
La discusión, por tanto, ya no se limita a cuánto pueden avanzar los modelos, sino a qué condiciones deberían cumplirse antes de permitir nuevos saltos de capacidad. La propuesta de Altman de coordinar eventuales desaceleraciones con otras compañías introduce ahora una dificultad adicional: lograr reglas comunes en una industria donde los principales laboratorios compiten por desarrollar los sistemas más potentes.