Líderes de la industria tecnológica debaten sobre los riesgos éticos de la IA
El vertiginoso avance de los sistemas computacionales autónomos ha colocado a tecnólogos y legisladores frente a un dilema inédito sobre la preservación de la seguridad humana en el siglo XXI. En recientes declaraciones, creadores de software y expertos académicos contrastaron posturas sobre los peligros inherentes al surgimiento de herramientas digitales que superen las capacidades cognitivas de sus propios programadores.
El máximo representante de OpenAI, Sam Altman, reconoció que el sector enfrenta dos dilemas fundamentales: la eventualidad de un fallo imprevisto que derive en un descontrol operativo, y la acumulación desmedida de influencia en manos de corporaciones que intenten plasmar su perspectiva ideológica en el resto del mundo. Por su parte, el exinvestigador Daniel Kokotajlo advirtió que la carencia de empatía en modelos artificiales podría arrinconar a las comunidades humanas, mientras el especialista Stuart Russell, presidente de la Asociación Internacional para una IA Segura y Ética, remarcó que retener la hegemonía frente a un ente cognitivamente más veloz constituye un dilema sin precedentes.
Desde el plano de la infraestructura social, analistas como Brad Carson, quien encabeza Americans for Responsible Innovation, puntualizaron que el verdadero peligro no requiere de imágenes de ciencia ficción, sino del colapso simultáneo de servicios esenciales como energía, finanzas o telecomunicaciones. En ese orden, la investigadora Marta Ziosi, vinculada al Ada Lovelace Institute, hizo énfasis en que los emporios digitales operan actualmente con escasa supervisión y casi nula rendición de cuentas frente a los estados.
En el ámbito legislativo, el senador demócrata norteamericano Mark Warner, representante por el estado de Virginia, consideró desmesuradas las advertencias sobre una desaparición inmediata de la especie, aunque insistió en la necesidad imperiosa de establecer barreras jurídicas y cortafuegos informáticos. Para el legislador, evitar que núcleos sincronizados de agentes computacionales penetren redes institucionales debe convertirse en la prioridad reguladora de los gobiernos.
Con información de Diario Libre.