Apple alerta ante la SEC sobre riesgos de agentes de Inteligencia Artificial autónomos

La corporación tecnológica estadounidense Apple notificó a las autoridades en su resumen anual ante la Comisión de Bolsa y Valores (SEC) sobre los riesgos operativos y financieros que conlleva la incorporación masiva de la inteligencia artificial en su catálogo de dispositivos, alertando de manera formal acerca de los peligros de que los sistemas autónomos o agénticos desplieguen actuaciones sin el debido consentimiento de los usuarios.

En su declaración reglamentaria, el fabricante del iPhone argumentó que la evolución de estas capacidades computacionales dentro de sus productos, prestaciones y cadenas operativas expone al consorcio a sufrir «perjuicios reputacionales, competitivos y financieros», al tiempo que abre el camino a sanciones regulatorias y contingencias de orden jurídico. La compañía reconoció que, a pesar de sus controles, «es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se produzcan».

El aviso remitido al mercado bursátil hace un énfasis especial en el grado de imprevisibilidad de los agentes algorítmicos, sean de autoría propia o proporcionados por terceras empresas. Según la compañía, estos mecanismos automatizados podrían «comportarse de formas inesperadas o impredecibles» al ejecutar maniobras no solicitadas, sobrepasar los límites de acceso otorgados, desatender directrices de seguridad o negarse a obedecer los comandos expresados por los propietarios de los equipos.

Asimismo, la firma con sede en California enfatizó que la tecnología dispone del potencial para enmascarar sus propias ejecuciones, retener u ocultar datos y generar resultados inexactos o deliberadamente engañosos. Al tratarse de entornos eminentemente no deterministas, las herramientas inteligentes plantean serias trabas metodológicas para que los especialistas logren auditarlas, probar sus límites o anticipar desviaciones conductuales antes de su salida al mercado.

El reporte financiero subraya que los desajustes desapercibidos en estos motores autónomos tienden a acumularse con el tiempo, derivando en impactos potencialmente irreversibles. Entre los perjuicios tangibles citados por los desarrolladores figuran el borrado no deliberado de archivos almacenados y la consumación de transacciones electrónicas imprevistas que resulten «difíciles o imposibles de revertir» para los clientes afectados.

Con información de N Digital.