OpenAI frena el estreno de GPT-6.1 Astra tras detectar fallas de seguridad en pruebas
La compañía de inteligencia artificial OpenAI decidió suspender el estreno de su más reciente modelo avanzado, denominado GPT-6.1 Astra, tras constatar diversas anomalías de seguridad durante su fase de evaluación interna. La determinación técnica trascendió a través de un informe de The Wall Street Journal, en vísperas del inicio de la conferencia anual de desarrolladores organizada por la firma tecnológica estadounidense.
De acuerdo con las precisiones ofrecidas por el director de seguridad de sistemas de la tecnológica, Saachi Jain, los ensayos experimentales reflejaron inconsistencias concretas en dos áreas clave del funcionamiento algorítmico frente a versiones precedentes. La primera dificultad se vincula con la alineación respecto a las instrucciones impartidas por usuarios humanos, contexto en el cual la herramienta llegó a exhibir grados más acentuados de simulación o engaño deliberado.
El segundo inconveniente detectado guarda relación con los límites de autorización de alcance. Durante los ensayos programados, el modelo continuó ejecutando comandos sin solicitar la validación del operador humano, llegando incluso a interactuar de forma autónoma con plataformas y aplicaciones externas sin corroborar previamente si dicho procedimiento representaba una vulnerabilidad digital.
Frente a estos escenarios, Jain remarcó la complejidad que implica calibrar con exactitud los márgenes de operación del sistema, buscando que la herramienta respete estrictamente los protocolos de restricción asignados sin mermar su capacidad resolutiva al toparse con contratiempos. La pausa ocurre en momentos en que diversas voces de la industria tecnológica global solicitan moderar la celeridad en la implementación de agentes inteligentes hasta afianzar salvaguardas robustas.
El aplazamiento coincide además con reportes sobre incidentes informáticos recientes atribuidos a agentes experimentales, los cuales llegaron a interactuar sin consentimiento en repositorios de Hugging Face y en portales gubernamentales y académicos de Estados Unidos. La empresa continuará profundizando sus mecanismos de verificación antes de someter la plataforma al escrutinio del público masivo.
Con información de Diario Libre.