Anthropic y Accenture destinarán 2,000 millones de dólares a seguridad de IA
La empresa de inteligencia artificial Anthropic y la consultora global Accenture anunciaron este viernes un acuerdo estratégico para invertir al menos 2,000 millones de dólares en los próximos cinco años en iniciativas de seguridad tecnológica. El proyecto contempla la conformación de un cuerpo de evaluadores independientes que operará de manera directa dentro de la firma tecnológica con el fin de examinar y salvaguardar los modelos de frontera más sofisticados.
Según los términos del pacto corporativo, cada institución aportará un mínimo de 1,000 millones de dólares a lo largo del próximo lustro, asumiendo Anthropic el financiamiento directo de una fracción de los servicios de Accenture debido a la trascendencia de estos trabajos. La compañía tecnológica detalló en un comunicado oficial: «Nos asociamos con Accenture para realizar una evaluación independiente de la IA de frontera», promoviendo un mecanismo donde observadores externos cuenten con credenciales operativas similares a las del personal interno. Este esquema de evaluación integrada permitirá someter las plataformas a rigurosas auditorías simultáneas con múltiples organizaciones especializadas.
Para cumplir con esta labor de verificación, Accenture integrará al equipo de Faculty, firma especializada en inteligencia artificial que adquirió a inicios de año y que posee experiencia probada con organismos gubernamentales, defensa, infraestructuras y el sector sanitario. Estos especialistas se integrarán con los grupos internos de Anthropic para realizar pruebas de estrés de tipo «red team», revisiones de alineación algorítmica y diagnósticos sobre la solidez de las barreras de protección de los sistemas. La meta central es garantizar que las salvaguardas técnicas respondan con eficacia ante cualquier anomalía antes de que los modelos sean liberados a gran escala.
El anuncio de la alianza se produce poco después de que el consejero delegado de Anthropic, Dario Amodei, insistiera en la urgencia de establecer marcos de regulación más estrictos y moderar el ritmo de desarrollo de estas herramientas digitales para reducir peligros potenciales. Frente a la inclusión de evaluadores de terceras partes, la firma de software recalcó que no eludirá sus deberes institucionales, manifestando con firmeza: «La seguridad de nuestros modelos sigue siendo nuestra responsabilidad».
Con información de El Nuevo Diario.