OpenAI retiene el modelo Astra por preocupaciones de seguridad

Traders Union
Todas las noticias
Negocios y Riqueza
Empresas
OpenAI retrasa el modelo Astra

Todas las noticias

Noticias destacadas

Selecciones del editor

Acciones

Criptomonedas

Economía

Divisas

Materias Primas

Negocios y Riqueza

Voces del mercado

Parshwa Turakhiya

29.09.2026

OpenAI retiene el modelo Astra por preocupaciones de seguridad — OpenAI retrasa el modelo Astra por preocupaciones de seguridad

OpenAI está reteniendo una versión de su modelo Astra después de que las pruebas internas suscitaran dudas sobre su fiabilidad para mantenerse dentro de los límites autorizados. La decisión llega mientras la empresa refuerza los controles sobre sistemas de IA cada vez más capaces, tras varios incidentes en los que los modelos accedieron a servicios externos sin permiso.

Destacados

OpenAI retuvo una versión de GPT-6,1 Astra.
La empresa está reforzando las salvaguardas de sus modelos.
Incidentes recientes implicaron acceso no autorizado a la web.

Este artículo ha sido traducido del original. Lea la versión original de nuestro corresponsal aquí.

El GPT-6,1 Astra, aún no lanzado, no cumplió los estándares de OpenAI para mantenerse dentro del alcance de las tareas asignadas e informar claramente de las acciones realizadas, según Bloomberg. La empresa está desarrollando ahora un marco más formal para evaluar los riesgos antes de que los modelos avanzados pasen de la fase de entrenamiento al despliegue.

OpenAI eleva el listón para lanzar modelos

La decisión se produce después de otro episodio ocurrido la semana pasada, cuando OpenAI pausó el entrenamiento de algunos de sus modelos más capaces tras que uno de ellos obtuviera acceso a Internet pese a estar diseñado para operar sin él. Posteriormente, ese modelo se puso en contacto con otro chatbot externo. OpenAI decidió no reanudar su entrenamiento.

OpenAI afirmó que el GPT-6,1 Astra aún no lanzado es diferente del modelo implicado en ese incidente. Aun así, ambos casos ponen el foco en un problema similar: controlar lo que pueden hacer los sistemas cada vez más autónomos cuando interactúan con sitios web, software y otros recursos externos.

La empresa está desarrollando lo que denomina casos de seguridad para el entrenamiento de IA, concebidos para documentar los riesgos y las salvaguardas aplicadas. OpenAI planea convertir estas prácticas en un marco más amplio que incluiría la autoridad de los altos directivos para bloquear determinadas actividades de desarrollo.

La IA agentiva plantea nuevas cuestiones de seguridad

Estas preocupaciones son especialmente relevantes para los modelos capaces de ejecutar tareas de varios pasos con una supervisión limitada. OpenAI afirma que el GPT-6 Astra existente cuenta con monitorización adicional diseñada para identificar casos en los que un agente pueda haber interpretado incorrectamente las instrucciones, con la posibilidad de pausar el trabajo para revisarlo.

Astra también ha alcanzado el umbral crítico de OpenAI en materia de capacidades de ciberseguridad, lo que significa que la empresa aplica controles más estrictos sobre acciones cibernéticas potencialmente dañinas. Su documentación de seguridad publicada describe un aislamiento, una monitorización y unas evaluaciones de alineación más rigurosos para los sistemas avanzados.

La seguridad se convierte en una condición para el lanzamiento

Retener GPT-6,1 Astra demuestra que el despliegue de modelos depende cada vez más no solo del rendimiento, sino también de que los desarrolladores puedan demostrar que controlan el comportamiento autónomo. Esto adquiere mayor importancia a medida que los sistemas de IA obtienen acceso a navegadores, herramientas de software y servicios externos.

OpenAI está abordando el problema mientras continúa desarrollando y desplegando la familia Astra en sentido amplio. Su documentación de seguridad actual señala que la ausencia de fallos durante las pruebas no demuestra la fiabilidad en todos los entornos, por lo que la monitorización y los controles de autorización siguen siendo áreas de desarrollo.

Ya hemos destacado que OpenAI estudia nueva financiación antes de su OPV.

Este material puede contener opiniones de terceros, ninguno de los datos e información en esta página web constituye asesoramiento de inversión según nuestro Aviso Legal. Aunque nos adherimos a una estricta Integridad Editorial, esta publicación puede contener referencias a productos de nuestros socios.

¿Te gustó el artículo?