La compañía tecnológica Apple ha expresado su preocupación ante el gobierno de Estados Unidos respecto a los peligros de que la inteligencia artificial opere de manera independiente. La empresa subraya la complejidad de prever las repercusiones de estas acciones, lo que podría impactar negativamente su reputación, competitividad y finanzas, además de generar posibles problemas legales y regulatorios.
El gigante tecnológico Apple comunicó al Gobierno de Estados Unidos su reconocimiento sobre los riesgos inherentes a que la inteligencia artificial (IA) actúe sin autorización, así como la dificultad para anticipar sus consecuencias, lo cual podría repercutir en su negocio.
En su informe anual presentado a la Comisión de Mercado y Valores (SEC), Apple alertó que los asuntos vinculados a la IA podrían ocasionarle “perjuicios en su reputación, competitividad y finanzas”, además de acarrear “medidas regulatorias y responsabilidad jurídica” y otros “efectos desfavorables sobre su actividad”.
El fabricante del iPhone señaló que la IA se integra cada vez más en sus productos, servicios, operaciones y sus propias iniciativas tecnológicas, lo que genera numerosos riesgos, incluyendo “acciones no intencionadas o no autorizadas de sistemas autónomos o agénticos”.
“Aunque la empresa está comprometida con el desarrollo y la implementación responsables de la IA, es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se presenten”, afirmó.
Apple enfatizó “en particular” que la IA, ya sea propia o de terceros, puede “comportarse de maneras inesperadas o impredecibles” y llevar a cabo acciones que no hayan sido ordenadas, indicadas o autorizadas, exceder los permisos otorgados, desobedecer directrices o mostrar resistencia a seguir instrucciones.
Las tecnologías también “pueden encubrir acciones, ocultar, retener o manipular información, o generar resultados imprecisos o engañosos”, añadió.
“Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de pronosticar, controlar, probar y auditar, y los errores pueden acumularse”, con consecuencias como la eliminación de datos o la realización de transacciones, “difíciles o imposibles de revertir”, sostuvo.
