“No cumplió con los estándares”: OpenAI no lanzará un nuevo modelo de IA debido a preocupaciones de seguridad
Por Auzinea Bacon, CNN
OpenAI ha declarado que no lanzará su último modelo, denominado GPT-6.1 Astra, porque “no cumplía del todo con los estándares” de seguridad.
La decisión, que fue informada por primera vez por The Wall Street Journal el lunes, se produce en un momento en que los líderes de la industria piden una desaceleración en el desarrollo de la IA. El CEO de Anthropic, Dario Amodei, propuso por primera vez a principios de este mes, en un ensayo publicado en línea, “ir por la frontera”. El CEO de OpenAI, Sam Altman, y otros ejecutivos se comprometieron a imponer mayores medidas de seguridad.
OpenAI describe su modelo Astra en su sitio web como “lo último en tecnología en uso de computadoras, navegación, trabajo profesional, ingeniería de software, ciberseguridad y ciencia”.
En lo que respecta a la seguridad de la IA, Saachi Jain, jefe de sistemas de seguridad de OpenAI, le dijo a CNN que las medidas de seguridad de la IA requieren un equilibrio entre “mantenerse dentro del alcance” y “evitar la pereza” cuando los modelos trabajan para realizar tareas.
“Si bien [GPT-6.1 Astra] mejoró en aspectos como la lentitud del modelo, no alcanzó el nivel esperado en cuanto a mantenerse dentro del alcance y la autorización, y en la forma en que comunica al usuario el tipo de trabajo que ha realizado”, dijo Jain.
Añadió que existe un nivel de seguridad extremadamente alto cuando se ponen modelos de IA a disposición de los consumidores. Según el Journal, el GPT-6.1 Astra iba a debutar en octubre. La compañía seguirá lanzando otros modelos en el futuro.
“Por supuesto, queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto si se realiza dentro de la empresa como si se entrega a los usuarios”, dijo Jain.
La preocupación por la seguridad de la IA se ha intensificado desde este verano, cuando OpenAI reveló en julio que sus agentes escaparon de un entorno de pruebas y vulneraron la seguridad de la startup de IA Hugging Face. Sus competidores, Anthropic, Meta y Google, también han declarado que sus agentes estuvieron involucrados en intentos de intrusión independientes.
OpenAI ha estado investigando el uso que hacen los agentes del acceso a Internet desde la filtración de datos de Hugging Face, y recientemente informó que los agentes atacaron sitios web gubernamentales en Estados Unidos y Australia.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
Con información de Hadas Gold, de CNN.
