OpenAI confirma que su próximo modelo Astra alcanzó un umbral crítico de ciberseguridad y reservará sus herramientas para un grupo acotado de socios

La empresa OpenAI anunció esta semana que su próximo modelo de inteligencia artificial, identificado como Astra, se convirtió en el primero de su catálogo en cruzar lo que la compañía denomina umbral crítico de capacidades cibernéticas, una categoría definida en su propio marco de preparación para riesgos. Según explicaron los responsables de seguridad de la firma, el sistema es capaz de localizar y explotar de manera autónoma vulnerabilidades que hasta el momento no habían sido documentadas en software de uso corriente, una capacidad que la organización considera un salto cualitativo respecto de entregas anteriores y que, por esa misma razón, obliga a extremar los recaudos antes de exponerlo al público general.

La compañía adelantó que tiene previsto difundir una versión de Astra próximamente, aunque aclaró que, al menos en el lanzamiento, las funciones de hacking avanzado no quedarán habilitadas para todo el mundo. En cambio, esas prestaciones quedarán restringidas a socios seleccionados dentro de Daybreak Blue, su programa de acceso anticipado, con el objetivo declarado de darles tiempo para reforzar sus propias defensas y para que los equipos rojos de la industria puedan evaluar el comportamiento del modelo en entornos controlados.

El procedimiento interno y la pausa de varias semanas

Voceros de OpenAI relataron en una rueda de prensa que, una vez detectado que Astra satisfacía el umbral crítico de ciberseguridad descrito en el marco de preparación, la empresa activó el protocolo previsto para estos casos. Ese protocolo contempla, como primer paso, la suspensión del desarrollo hasta tanto se implementen salvaguardas y controles de seguridad considerados adecuados. Los directivos reconocieron que la compañía ya había interrumpido durante varias semanas algunas tareas de entrenamiento asociadas tanto a Astra como a un modelo futuro que se encuentra en etapa de diseño, una decisión que habían informado de manera pública con anterioridad pero cuyo alcance completo se terminó de delinear ahora.

Con el correr de los días y tras incorporar controles adicionales de protección, la firma resolvió reanudar el trabajo sobre Astra y sobre el modelo en desarrollo, al entender que las medidas implementadas permiten avanzar hacia un despliegue seguro. La propia OpenAI calificó la pausa como productiva y manifestó que la reanudación de tareas fue acompañada de nuevas capas de mitigación, aunque no entró en detalle sobre la naturaleza técnica de cada una de esas capas.

La compañía también difundió criterios más finos sobre cómo define ese umbral crítico. Según su documentación, un modelo de IA llega a ese nivel cuando puede identificar y aprovechar, sin asistencia humana relevante, fallos de seguridad previamente desconocidos en software real, es decir, cuando la capacidad ofensiva deja de ser teórica y se vuelve operativa contra sistemas en producción. Ese corte, argumentaron los portavoces, es el que justifica que la versión inicial no incluya las herramientas cibernéticas más sensibles para los usuarios de a pie.

• OpenAI sostiene que Astra es su primer modelo en alcanzar el umbral crítico de ciberseguridad definido en su marco de preparación.
• La empresa prevé lanzar públicamente una versión de Astra próximamente, aunque las funciones de hacking avanzado quedarán reservadas al programa Daybreak Blue.
• Los responsables de seguridad indican que el protocolo incluyó suspender el desarrollo hasta implementar salvaguardas adecuadas.
• La compañía retomó las tareas de entrenamiento tras varias semanas de pausa y asegura que los controles adicionales le permiten avanzar con el lanzamiento.
• Un modelo llega al umbral crítico cuando puede hallar y explotar de forma autónoma vulnerabilidades desconocidas en software real.