La privacidad en los chatbots de inteligencia artificial ha sido cuestionada nuevamente, esta vez por Anthropic. Su función de compartir chats en Claude no solo generaba enlaces para compartir, sino que también los indexaba en Google, haciendo que información sensible fuera accesible públicamente. Este incidente subraya la necesidad de precaución al compartir datos con IA, ya que la ilusión de privacidad a menudo no se corresponde con la realidad técnica.
Los chatbots de inteligencia artificial y la privacidad son conceptos que a menudo no se alinean completamente. Existe la percepción de que las conversaciones con la IA son totalmente privadas, pero la realidad ha demostrado lo contrario en diversas ocasiones. El incidente más reciente involucra a Anthropic, donde su función para compartir chats no solo creaba un enlace que podía enviarse a otra persona, sino que también lo indexaba en Google, permitiendo que cualquiera pudiera visualizarlos.
La situación fue descubierta por miembros del subreddit de Claude. Al realizar una búsqueda en el sitio claude.ai/share, Google mostraba decenas de resultados de chats con Claude. En Futurism, se accedió a muchos de estos chats y se confirmó que contenían datos delicados, como documentos empresariales confidenciales, informes médicos, resultados de ensayos clínicos con información de pacientes e incluso datos personales de niños. Al realizar la misma búsqueda, ya no aparecen enlaces, lo que sugiere que Anthropic los ha eliminado.
El punto crucial es que muchas personas comparten chats con colegas, amigos o familiares. Cuando se activa el botón 'Compartir' en la parte superior derecha, Claude advierte que al crear un enlace público, "cualquier persona con el enlace puede ver". Esto es similar a la creación de enlaces públicos en servicios como Google Drive. Sin embargo, lo que Anthropic no aclara explícitamente es que estos enlaces pueden ser indexados por motores de búsqueda, dejándolos expuestos a toda la internet.
Además de los enlaces a los chats, también quedaron expuestos los Artefactos de Claude, aunque en este caso sí se advierte claramente que pueden ser visibles para los motores de búsqueda.
En ningún lugar se especifica que los enlaces puedan ser indexados por Google.
La respuesta de Anthropic indica que no se trata de un error, sino de cómo el sistema está diseñado para funcionar. El comunicado oficial de la empresa establece: "Damos a los usuarios el control para compartir públicamente sus conversaciones de Claude y, en consonancia con nuestros principios de privacidad, no compartimos directorios de chat ni mapas del sitio con motores de búsqueda como Google. Estos enlaces compartibles no son predecibles ni accesibles a menos que los usuarios decidan compartirlos. Al compartir una conversación, el contenido se hace público y, al igual que otros contenidos web públicos, puede ser archivado por servicios de terceros."
La conclusión de todo esto es, en esencia, que si no se desea que la información quede expuesta, no se debe utilizar la opción de compartir. Si la privacidad es una preocupación, es preferible descargar el documento o el texto y compartirlo por otros medios. Y si la privacidad es de suma importancia o se trabaja con información confidencial, quizás lo más prudente sea no subirla a ninguna inteligencia artificial.
La ilusión de privacidad es un factor importante. Al interactuar con la IA, se tiende a pensar que todo es privado, lo que se refleja en la creciente tendencia a compartir detalles íntimos con la IA, desde problemas personales hasta consultas médicas. Sin embargo, no son pocas las veces que han ocurrido incidentes como este. La propia Anthropic experimentó problemas en septiembre del año pasado cuando cientos de conversaciones aparecieron en los resultados de Google. Situaciones similares se han reportado con conversaciones de ChatGPT y con la IA china DeepSeek.
