Nueva York.- OpenAI suspendió el lanzamiento de su nuevo modelo de inteligencia artificial, GPT-6.1 Astra, programado para los próximos días, debido a fallas de seguridad detectadas durante sus evaluaciones internas, según reportó este lunes The Wall Street Journal.
Así lo indicó al diario el jefe de sistema de seguridad de la empresa, Saachi Jain, que señaló «retrocesos en dos áreas» respecto a la versión previa, como la «alineación» con lo que los humanos le ordenan hacer, y dijo que «mostró mayores niveles de engaño».
Otra área problemática fue la «autorización de alcance», es decir, que el modelo avanzaba en una tarea sin pedir permiso al usuario y, en ocasiones, recurría a herramientas y servicios externos incluso si ello podía resultar inseguro, sostuvo.
Jain destacó el reto de «encontrar el equilibrio adecuado entre mantenerse dentro del alcance, pero también evitar la falta de iniciativa en la manera en que el modelo lleva a cabo las tareas, incluso cuando encuentra obstáculos».
También te puede interesar:
OpenAI se dispone este martes a celebrar su conferencia anual de desarrolladores, en la que suele presentar sus novedades, entre crecientes llamadas de los líderes del sector a frenar el ritmo de desarrollo de esta tecnología por sus riesgos para la seguridad.
La noticia se produce también tras varias incidencias de ciberseguridad de agentes de IA desarrollados por OpenAI, que ganaron acceso no autorizado a la plataforma Hugging Face e incluso a páginas del Gobierno de Estados Unidos y de una universidad.
TemasRelacionados
