Dario Amodei, el CEO de Anthropic, ha admitido que la industria de la inteligencia artificial falló en comunicar adecuadamente los riesgos inherentes a esta tecnología durante un largo periodo. Amodei enfatizó la existencia de peligros genuinos y la rápida progresión de la IA, lo que exige evaluaciones más estrictas y una supervisión externa para garantizar la seguridad y la regulación adecuada de su desarrollo.
El principal ejecutivo de Anthropic, Dario Amodei, aseveró que por años el sector de la inteligencia artificial no comunicó con la transparencia necesaria los peligros vinculados al avance de esta innovación. “Existen amenazas concretas. Por un tiempo excesivo, la industria engañó al público acerca de los riesgos inherentes a esta tecnología”, manifestó Amodei durante un diálogo con CBS Sunday Morning. El líder empresarial detalló que la IA progresa a un ritmo acelerado y admitió que ni siquiera los promotores de su desarrollo comprendieron cabalmente la velocidad de incremento de sus capacidades.
Amodei puntualizó que la cuestión no es detener por completo la creación de nuevos modelos, sino implementar valoraciones más rigurosas antes de su difusión y establecer sistemas de vigilancia autónomos. Equiparó la necesidad de controles externos con los inspectores de alimentos, considerando que evaluadores ajenos a las corporaciones pueden contribuir a fijar límites de seguridad.
El director general de Anthropic también puso en duda que una tecnología con tanta trascendencia sea desarrollada principalmente por entidades privadas y sugirió la necesidad de una mayor involucración de los gobiernos democráticos en su normativa. “Siempre resultó muy peculiar que esta tecnología fuera construida por una empresa privada”, declaró, aunque advirtió que la supervisión debe evitar concentrar demasiado poder en una sola administración o institución.
Respecto a un posible “interruptor de emergencia” para la inteligencia artificial, Amodei comentó que podría ser útil, pero alertó que sistemas con suficiente sofisticación podrían intentar eludir esos mecanismos. El empresario recalcó que la protección de la IA demanda múltiples niveles de resguardo y reconoció que establecer restricciones globales a su evolución será complicado debido a la rivalidad tecnológica y militar entre las naciones.
