Un tribunal de Aquisgrán, Alemania, ha ordenado a Google que impida que su inteligencia artificial difunda información errónea, responsabilizando a la empresa por las afirmaciones generadas por su IA cuando estas carecen de enlaces de verificación. Esta decisión surge tras un caso en el que la IA de Google atribuyó erróneamente un delito de agresión sexual a un médico. La medida, aunque cautelar, sienta un precedente importante al considerar las respuestas de la IA como declaraciones propias de Google.
Cuando realizamos una búsqueda en Google, a menudo nos encontramos con un resumen generado por inteligencia artificial, conocido como AI Overviews. Estos resúmenes suelen incluir una serie de enlaces para que los usuarios puedan verificar la fuente de la información. Sin embargo, ¿qué ocurre cuando no hay enlaces disponibles? ¿Quién es el responsable si la IA de Google afirma algo sin el apoyo de estas fuentes?
Un tribunal en Aquisgrán, Alemania, ha emitido un dictamen claro al respecto: Google. La corte ha ordenado a la compañía que evite que su inteligencia artificial difunda afirmaciones falsas sobre un médico al que el resumen de IA de Google le atribuyó erróneamente un delito de agresión sexual hacia su secretaria. Aunque el delito existió, fue imputado a la persona equivocada.
El tribunal, basándose en una sentencia previa dictada en Múnich en mayo, considera las respuestas de la IA de Google como declaraciones que la propia empresa respalda. Por ahora, esta es una medida cautelar y no es definitiva, lo que significa que Google aún tiene la posibilidad de apelar.
Según el medio jurídico Beck-Aktuell, el caso involucra a un médico que trabajó como jefe en un hospital alemán hasta el verano pasado. A finales de agosto, un colega le informó que al buscar su nombre junto con la palabra “exención” en el modo de inteligencia artificial de Google, aparecía un relato grave y detallado sobre él. Este relato afirmaba que había acosado a su secretaria durante un viaje de negocios, que había sido despedido, que había recibido una condena condicional por agresión sexual y que se había marchado con una indemnización por despido de seis cifras. Toda esta información era falsa.
Beck-Aktuell explica que los hechos en cuestión parecen haber estado relacionados con otro antiguo miembro del personal directivo de la misma clínica, y que los artículos noticiosos enlazados por Google como fuentes nunca mencionaban el nombre del demandante. Según The Decoder, búsquedas adicionales con términos como “rescisión” y “procedimientos judiciales” también arrojaban desinformación igualmente detallada.
El médico contactó a Google por correo electrónico a finales de agosto solicitando la retirada del contenido. Sin embargo, Beck-Aktuell informa que Google respondió que había revisado la reclamación y que no tomaría ninguna medida. Una carta de advertencia enviada el mismo día por sus abogados, el bufete de Colonia Höcker, tampoco produjo cambios.
El tribunal de Aquisgrán determinó que los textos generados por la IA vulneraban el derecho general de la personalidad del médico, ya que le atribuían acusaciones penales y consecuencias laborales que correspondían a otra persona. Según el medio, la orden fue emitida en un procedimiento de urgencia, sin escuchar primero a Google, argumentando los daños a su reputación profesional y social. Google podría enfrentar una multa de hasta 250.000 euros por cada infracción.
En un caso anterior, el Tribunal Regional I de Múnich dictaminó que Google puede ser considerado directamente responsable de sus resúmenes de IA, según DW. Los demandantes en ese caso eran dos editoriales de Múnich a las que dicha función había vinculado erróneamente con estafas de suscripción y esquemas fraudulentos. Google argumentó que los usuarios podían verificar las fuentes a través de los enlaces y eran conscientes de que no debían confiar ciegamente en los resultados de la IA. El tribunal desestimó este argumento, considerando que el resumen era una declaración autónoma y no proporcionaba a los lectores ningún indicio de que pudiera no ser fiable. En su momento, Google declaró que apelaría la sentencia. The Decoder informa que el recurso nunca se resolvió, ya que, según la investigación, el caso concluyó con un acuerdo extrajudicial. Ni Google ni la editorial quisieron aclarar si hubo compensación económica o por qué se cerró el caso.
