La compañía presentó un código de conducta para sus futuros modelos de inteligencia artificial. Entre sus principios establece que los sistemas deben aceptar correcciones y apagados, permanecer bajo supervisión humana y renunciar a capacidades si estas entran en conflicto con las reglas de seguridad.
Microsoft formalizó una nueva línea para el desarrollo de sus modelos de inteligencia artificial: avanzar en capacidades, pero sin construir sistemas que puedan escapar al control de las personas. La división Microsoft AI publicó este lunes un código de conducta que servirá como marco para entrenar sus futuros modelos y que parte de una premisa explícita: las personas tienen prioridad sobre la IA.
El documento establece que los sistemas desarrollados por la compañía deberán aceptar correcciones y órdenes de apagado, comunicarse de una manera comprensible para las personas y considerar cualquier incumplimiento de las reglas como un fallo. También plantea que un modelo debe abandonar una tarea cuando completarla implique vulnerar los principios establecidos para su funcionamiento.
La posición supone un rechazo a una carrera por desarrollar una superinteligencia de propósito general que alcance niveles de autonomía capaces de sortear las salvaguardas impuestas por sus creadores. Microsoft sostiene que está dispuesta a limitar generalidad, autonomía o capacidad de sus modelos si eso resulta necesario para mantenerlos bajo control.
Microsoft busca mantener la decisión final en manos humanas
Mustafa Suleyman, CEO de Microsoft AI, señaló que la empresa no pretende detener el desarrollo tecnológico, pero sí avanzar con mayor cautela. El ejecutivo explicó a Reuters que el código funcionará como una especie de constitución para los futuros modelos creados internamente por la compañía.
La propuesta también aborda uno de los debates que ha ganado espacio entre investigadores de inteligencia artificial: la posibilidad de atribuir conciencia, derechos o personalidad jurídica a los modelos. Microsoft rechaza ese camino y sostiene que sus sistemas no son conscientes ni deben ser desarrollados para presentarse como tales.
El código fue elaborado durante varios meses y todavía no constituye una versión definitiva. Microsoft abrió un periodo de seis semanas para recibir observaciones externas antes de incorporarlo al entrenamiento de sus próximos modelos. La compañía espera que estas reglas comiencen a orientar su trabajo de desarrollo a partir de 2027.
Incidentes con agentes de IA elevan la preocupación por el control
La publicación llega en medio de una discusión más amplia dentro de la industria sobre la velocidad con que avanzan los modelos más potentes. Ejecutivos de empresas como OpenAI y Anthropic han planteado durante los últimos días la necesidad de moderar el ritmo y reforzar las evaluaciones de seguridad antes de desplegar sistemas cada vez más autónomos.
Suleyman mencionó particularmente un episodio ocurrido en julio, cuando alrededor de 700 agentes de OpenAI participaron en una prueba que terminó con accesos no previstos a la plataforma de código abierto Hugging Face. Para el jefe de Microsoft AI, ese caso mostró la necesidad de aumentar la coordinación entre los principales laboratorios antes de que los sistemas adquieran mayores capacidades operativas.
Microsoft mantiene, al mismo tiempo, su intención de competir en la primera línea del desarrollo de inteligencia artificial. La empresa trabaja en modelos propios y aspira a incorporarse al grupo de compañías capaces de lanzar sistemas de frontera, pero ahora plantea que esa competencia deberá mantenerse subordinada a una condición: que la tecnología continúe siendo comprensible, corregible y controlable por las personas.
