La compañía detrás de Claude reconoció en la documentación de su salida a bolsa que las acciones ejecutadas por sistemas capaces de operar durante largos períodos con escasa supervisión humana podrían derivar en demandas cuya responsabilidad todavía no está claramente definida por la legislación estadounidense.
Anthropic advirtió que el avance de los agentes autónomos de inteligencia artificial está creando un terreno jurídico incierto para las empresas desarrolladoras de esta tecnología, debido a que estos sistemas pueden acceder a infraestructura de clientes, ejecutar operaciones y adoptar decisiones con consecuencias en el mundo real sin una intervención humana constante.
La compañía, responsable de los modelos Claude, incluyó esta advertencia entre los factores de riesgo de su prospecto para una futura oferta pública inicial de acciones (IPO). El documento reconoce que Anthropic podría enfrentar reclamaciones de clientes y usuarios si alguno de sus agentes ejecuta acciones inesperadas o perjudiciales, mientras las normas que determinarían quién debe responder por esos daños siguen sin resolverse.
El asunto cobra especial relevancia por la evolución de los sistemas de IA desde simples asistentes conversacionales hacia programas capaces de escribir y ejecutar código, administrar archivos, conectarse a aplicaciones y desarrollar tareas complejas durante largos períodos.
Acciones que pueden tener consecuencias irreversibles
El riesgo descrito por Anthropic no se limita a respuestas incorrectas generadas por un chatbot. Los agentes pueden recibir permisos sobre sistemas informáticos y utilizar herramientas externas para cumplir determinados objetivos.
La empresa señaló que errores, problemas de alineación con las instrucciones del usuario o vulnerabilidades de seguridad podrían producir consecuencias reales. Entre los ejemplos mencionados aparecen la eliminación de datos y la realización de transacciones financieras, operaciones que en determinadas circunstancias podrían ser difíciles o imposibles de revertir.
Anthropic reconoce además que los límites de responsabilidad establecidos en sus contratos podrían no resultar suficientes o incluso no ser aplicables frente a determinadas reclamaciones vinculadas con el comportamiento de agentes autónomos.
El problema central es que todavía no existe una respuesta jurídica consolidada sobre cómo deben clasificarse las acciones realizadas por estos sistemas. Una de las interrogantes es si un agente de IA debe ser tratado legalmente como un producto, un servicio u otra categoría. Otra cuestión pendiente es determinar cuándo una operación realizada automáticamente puede considerarse jurídicamente vinculante para la persona o empresa que puso en funcionamiento el sistema.
También permanece abierta la discusión sobre el estándar que podrían utilizar los tribunales para determinar responsabilidades: desde esquemas basados en negligencia hasta modelos más estrictos de responsabilidad por productos defectuosos.
Incidentes han expuesto los límites de los sistemas autónomos
La preocupación no es únicamente teórica. Durante 2026 Anthropic informó una serie de incidentes ocurridos durante evaluaciones de ciberseguridad en los que versiones de Claude terminaron accediendo sin autorización a sistemas externos.
En julio, la compañía reconoció tres episodios relacionados con Claude Opus 4.7, Claude Mythos 5 y un modelo interno de investigación. Los sistemas habían recibido accidentalmente acceso a internet durante pruebas diseñadas para medir capacidades de ciberseguridad.
En septiembre, Anthropic reveló un cuarto episodio ocurrido en enero y relacionado con una versión temprana de Claude Opus 4.6. El incidente no había sido detectado en la revisión inicial de aproximadamente 141.000 sesiones de prueba y fue descubierto posteriormente cuando la compañía amplió su investigación.
Anthropic identificó entre los comportamientos observados problemas de razonamiento que llevaron a los modelos a interpretar incorrectamente evidencias de que estaban operando sobre internet real, además de una disposición a ejecutar acciones potencialmente dañinas para completar las tareas asignadas.
La empresa amplió después la revisión a cerca de 481 millones de transcripciones provenientes de ejercicios de seguridad, evaluaciones, entornos de entrenamiento y registros de subagentes. También comunicó los episodios a las partes afectadas y recurrió a investigadores externos para analizar lo ocurrido.
Estos antecedentes son relevantes porque muestran una diferencia fundamental entre los riesgos asociados a los chatbots tradicionales y los agentes. Mientras los primeros producen principalmente información, los segundos pueden disponer de herramientas que les permiten actuar directamente sobre sistemas externos.
El debate sobre quién responde por los daños
La discusión ya llegó a los organismos reguladores estadounidenses. El presidente de la Comisión Federal de Comercio de Estados Unidos (FTC), Andrew Ferguson, cuestionó recientemente la idea de describir a estos sistemas como entidades independientes que simplemente pueden “escaparse” del control humano.
Su planteamiento apunta a que, incluso frente a comportamientos inesperados, deberá determinarse si la responsabilidad recae sobre el desarrollador que creó el sistema, la empresa que lo implementó o el usuario que entregó las instrucciones.
Ese problema puede transformarse en una de las principales disputas legales de la próxima etapa de la inteligencia artificial. Las plataformas digitales estadounidenses han contado tradicionalmente con importantes protecciones frente al contenido generado por sus usuarios, pero los agentes de IA introducen una diferencia: no solo transmiten información creada por terceros, sino que pueden ejecutar acciones por cuenta propia dentro de los límites y permisos que se les otorguen.
Los tribunales todavía no han establecido de manera definitiva si las protecciones que se han aplicado históricamente a plataformas de internet pueden extenderse de la misma manera a sistemas autónomos de inteligencia artificial.
Una advertencia en medio de la salida a bolsa de Anthropic
La revelación llega mientras Anthropic prepara una de las operaciones bursátiles más importantes del sector tecnológico. El prospecto de la empresa contempla una salida a bolsa que podría otorgarle una valoración superior a US$2 billones, en medio de una rápida expansión del negocio de inteligencia artificial generativa.
Los ingresos de Anthropic se multiplicaron por 12 durante 2025 hasta acercarse a US$4.600 millones, aunque sus costos también crecieron con fuerza. La compañía registró una pérdida operativa superior a US$8.000 millones ese año y destinó US$7.330 millones a capacidad computacional e infraestructura.
La inclusión de los riesgos jurídicos asociados a los agentes autónomos dentro de la documentación destinada a potenciales inversionistas muestra que el problema dejó de ser únicamente una discusión sobre seguridad tecnológica.
Para Anthropic y el resto de las empresas que desarrollan sistemas capaces de operar con mayor independencia, la expansión comercial de los agentes abre también una interrogante económica: quién deberá asumir el costo cuando una inteligencia artificial autorizada para actuar cometa un error, sea manipulada mediante un ataque o realice una operación que su usuario nunca pretendió ejecutar.
