China ha implementado nuevas regulaciones estrictas para limitar la inteligencia artificial diseñada para simular interacciones humanas y emocionales. Gigantes tecnológicos como ByteDance y Alibaba ya han comenzado a desactivar sus agentes de IA personalizados, anticipándose a una normativa que busca prevenir la dependencia emocional y la manipulación, centrándose en la protección de usuarios vulnerables como menores y personas mayores.
China ha decidido establecer límites a un tipo específico de inteligencia artificial: aquella diseñada para emular la interacción humana. Empresas como Doubao (ByteDance) y Qwen (Alibaba) han anunciado la desactivación de sus agentes de IA personalizados antes de la inminente entrada en vigor de la nueva normativa. Tencent ya había adoptado una medida similar con su modelo Yuanbao, lo que sugiere una implicación más profunda detrás de estos cierres. La interrupción de la IA antropomórfica ya tiene una fecha definida.
Doubao informó a sus usuarios que sus agentes de IA personalizados dejarán de funcionar el 15 de julio debido a "ajustes de producto", y que tres meses después tampoco podrán acceder a las conversaciones almacenadas con dichos chatbots. Para Qwen, el proceso será aún más rápido: los agentes desaparecerán el 10 de julio, y el resto de las funciones lo hará cinco días después. Estas acciones se toman en respuesta a la implementación de las nuevas Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, recientemente publicadas por el gobierno chino.
Lo notable de esta normativa es que no regula la IA generativa en general. Excluye a los asistentes diseñados para el trabajo, el estudio, la investigación o la atención al cliente. En cambio, se enfoca en sistemas que "simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para proporcionar una interacción emocional sostenida". El problema, por lo tanto, no radica en la potencia de la IA, sino en su capacidad para simular el comportamiento de una persona.
Las funciones que desaparecerán de estas plataformas son aquellas que permitían transformar un chatbot generalista en un personaje de ficción, un amigo o incluso un compañero sentimental. Esta personalización otorgaba a los agentes de IA una personalidad fija, una memoria y un estilo de conversación distintivos que fortalecían la interacción. No eran herramientas para reemplazar un buscador, sino sistemas diseñados para involucrar al usuario en una relación y una conversación cada vez más personal e íntima.
La regulación china no busca identificar riesgos de peligrosidad, como los debatidos tradicionalmente en la Unión Europea. En su lugar, supervisa interacciones donde existe una dependencia emocional, una posible adicción e incluso manipulación por parte de estos sistemas. De hecho, prohíbe que estos sistemas fomenten vínculos emocionales que puedan conducir a decisiones irracionales. Todo esto se frena con la normativa para evitar el potencial deterioro de las relaciones personales.
Según la regulación, la IA debe intervenir al detectar este tipo de situaciones. Si un usuario muestra emociones demasiado extremas hacia estos chatbots o si se perciben riesgos para su integridad, la IA debe alentarlo a buscar ayuda o incluso activar protocolos de emergencia. También debe alertar sobre el uso excesivo y recordarle al usuario que descanse después de dos horas de conversación continua. En cierto sentido, estas normas recuerdan a los mecanismos de "bienestar digital" implementados en aplicaciones móviles para limitar el uso de redes sociales.
Las medidas ponen especial énfasis en la protección de usuarios menores de edad y personas mayores. Por ejemplo, se prohíbe que este tipo de chatbots ofrezcan relaciones virtuales íntimas, como parejas o familiares artificiales, y se exige el consentimiento paterno. También existe la obligación de tomar precauciones cuando los usuarios son personas mayores, ya que este colectivo está particularmente expuesto a la soledad y a una posible dependencia emocional.
Aunque ha habido avances en el impacto psicológico de estos modelos en su relación con las personas, esta es probablemente la primera gran regulación que no intenta controlar la potencia de los modelos de IA, sino su capacidad para establecer relaciones personales con los usuarios. Esta discusión probablemente llegará a Europa y Estados Unidos, y representa un punto de inflexión para una tecnología que lleva tiempo infiltrándose en el ámbito personal.
