Un tribunal en Múnich, Alemania, ha dictado un fallo que podría redefinir la responsabilidad legal de las empresas tecnológicas en relación con la inteligencia artificial (IA). La corte determinó que Google es responsable por afirmaciones erróneas generadas por su función AI Overviews, exigiendo que la compañía prevenga la difusión de información falsa a través de su motor de búsqueda.
La resolución provino de un caso presentado por dos editoriales que se vieron afectadas cuando su reputación fue dañada por resúmenes incorrectos creados por el sistema de Google. Esta disputa tuvo su origen hace varios meses, cuando las empresas enviaron una carta de cese y desistimiento a Google, que rechazó la responsabilidad al señalar que sus resúmenes advertían a los usuarios sobre la posibilidad de errores y la necesidad de verificación.
El tribunal, sin embargo, sostuvo que la mezcla inadecuada de información sobre las empresas demandantes y datos de otras compañías sospechosas de prácticas poco éticas resultó en asociaciones dañinas que no existían en los documentos disponibles. A diferencia de los motores de búsqueda tradicionales que simplemente enlazan contenidos de terceros, la IA de Google produce “declaraciones independientes, nuevas y sustanciales”, lo que cambia la dinámica legal existente.
La corte considera que la tecnología de Google debe ser modificada por la propia empresa, obligándola a asumir su responsabilidad y rendir cuentas. Esto representa un giro importante en el concepto de protección legal que tradicionalmente han tenido los buscadores por el contenido de terceros. Durante el proceso, el tribunal determinó que las advertencias sobre la necesidad de verificación no liberan a Google de su responsabilidad, ya que la información generada por su IA es distinta y no refleja declaraciones originales.
En virtud de este fallo, Google ha sido obligado a retirar los contenidos difamatorios y a costear un 80% de los gastos judiciales involucrados. La compañía ha manifestado que está reconsiderando su posición y podría apelar la decisión. En sus declaraciones, se asegura que la empresa invierte significativamente en la calidad de sus resúmenes generados por IA.
Este avance judicial no solo afecta a Google, sino que podría tener repercusiones para toda la industria de la inteligencia artificial. Otras empresas que actualmente operan bajo advertencias similares tendrían que adaptarse a un nuevo marco regulatorio si esta sentencia se consolida.