Sam Altman, CEO de OpenAI, ha solicitado al Consejo de Seguridad de la ONU una colaboración global urgente para regular el desarrollo de la inteligencia artificial. Advirtió que el rápido progreso de la IA requiere una precaución extrema para asegurar el control humano. Propuso que la IA puede ser un motor de progreso si se gestiona adecuadamente, evitando la pérdida de control y la sustitución de la agencia humana.
En su intervención ante el Consejo de Seguridad de la ONU, el director ejecutivo de OpenAI, Sam Altman, hizo un llamado a la colaboración mundial inmediata para guiar a las empresas tecnológicas mediante estándares nacionales e internacionales. Advirtió que el vertiginoso avance de la inteligencia artificial (IA) demanda una "precaución extrema" para evitar que la humanidad pierda el control sobre estos sistemas.
Durante la sesión de alto nivel, organizada por la presidencia francesa del Consejo, Altman enfatizó que la industria se encuentra en un punto crucial y no debe asumir "demasiado riesgo tecnológico simplemente porque los beneficios sean demasiado grandes e importantes para detenerlos". Considera que la IA podría iniciar una era comparable a un "Renacimiento" si se concibe como una herramienta que empodere a las personas. Sin embargo, alertó sobre el peligro de repetir las divisiones de la Revolución Industrial si los sistemas reemplazan la capacidad de acción humana o si la tecnología se vuelve incontrolable.
Altman destacó el riesgo particular de que los modelos de IA más sofisticados, aquellos con la habilidad de programarse y mejorarse recursivamente, aceleren su evolución hasta un punto en el que los seres humanos no puedan comprenderlos ni seguir sus decisiones. Por esta razón, indicó que las compañías requieren la orientación de los líderes mundiales para establecer marcos técnicos rigurosos que permitan medir las capacidades, evaluar las amenazas, verificar las garantías y establecer canales internacionales seguros para compartir vulnerabilidades críticas.
