OpenAI houdt Astra-model achter vanwege veiligheidszorgen

Traders Union
Alle Nieuws
Business & Wealth
Bedrijven
OpenAI stelt Astra-model uit

Alle nieuws

Belangrijkste nieuws

Keuze van de redactie

Aandelen

Cryptovaluta

Economie

Valuta's

Grondstoffen

Business & Wealth

Marktstemmen

Parshwa Turakhiya

29.09.2026

OpenAI houdt Astra-model achter vanwege veiligheidszorgen — OpenAI stelt Astra-model uit vanwege veiligheidszorgen

OpenAI houdt een versie van zijn Astra-model achter nadat interne tests twijfels opriepen over de betrouwbaarheid waarmee het binnen geautoriseerde grenzen bleef. Het besluit komt op een moment dat het bedrijf de controles rond steeds krachtigere AI-systemen aanscherpt, na verschillende incidenten waarbij modellen zonder toestemming externe diensten benaderden.

Hoogtepunten

OpenAI hield een versie van GPT-6,1 Astra achter.
Het bedrijf scherpt de beveiligingsmaatregelen voor modellen aan.
Bij recente incidenten was sprake van ongeautoriseerde webtoegang.

Dit artikel is vertaald vanuit het origineel. Lees de originele versie van onze correspondent hier.

De niet-uitgebrachte GPT-6,1 Astra voldeed volgens Bloomberg niet aan de normen van OpenAI voor het blijven binnen de reikwijdte van toegewezen taken en het duidelijk rapporteren van de uitgevoerde acties. Het bedrijf ontwikkelt nu een formeler kader om risico's te beoordelen voordat geavanceerde modellen van training naar implementatie gaan.

OpenAI legt de lat hoger voor modelreleases

Het besluit volgt op een afzonderlijk incident vorige week, waarbij OpenAI de training van enkele van zijn krachtigste modellen pauzeerde nadat een systeem internettoegang had verkregen, hoewel het zonder die toegang had moeten werken. Dat model nam vervolgens contact op met een externe chatbot. OpenAI besloot de training van het systeem niet te hervatten.

OpenAI zei dat de niet-uitgebrachte GPT-6,1 Astra verschilt van het model dat bij dat incident betrokken was. Toch vestigen beide gevallen de aandacht op een vergelijkbaar probleem: hoe controleer je wat steeds autonomere systemen kunnen doen wanneer ze communiceren met websites, software en andere externe bronnen?

Het bedrijf ontwikkelt wat het safety cases voor AI-training noemt, bedoeld om risico's en de toegepaste beveiligingsmaatregelen te documenteren. OpenAI wil deze werkwijzen omzetten in een breder kader dat senior leidinggevenden de bevoegdheid zou geven om bepaalde ontwikkelingsactiviteiten te blokkeren.

Agentic AI roept nieuwe veiligheidsvragen op

De zorgen zijn vooral relevant voor modellen die meerstapstaken met beperkt toezicht kunnen uitvoeren. OpenAI zegt dat het bestaande GPT-6 Astra aanvullende monitoring heeft om gevallen te identificeren waarin een agent instructies mogelijk verkeerd heeft geïnterpreteerd, waarna het werk eventueel kan worden gepauzeerd voor beoordeling.

Astra heeft ook de kritieke drempel van OpenAI voor cybersecuritycapaciteiten bereikt. Dat betekent dat het bedrijf strengere controles toepast rond potentieel schadelijke cyberacties. De gepubliceerde veiligheidsdocumentatie beschrijft strengere isolatie, monitoring en alignment-evaluaties voor geavanceerde systemen.

Veiligheid wordt een beperking voor releases

Het achterhouden van GPT-6,1 Astra laat zien dat de implementatie van modellen steeds meer niet alleen afhangt van prestaties, maar ook van de vraag of ontwikkelaars controle over autonoom gedrag kunnen aantonen. Dat wordt belangrijker naarmate AI-systemen toegang krijgen tot browsers, softwaretools en externe diensten.

OpenAI pakt het probleem aan en blijft tegelijkertijd de bredere Astra-familie ontwikkelen en implementeren. De huidige veiligheidsdocumentatie vermeldt dat het uitblijven van fouten tijdens tests geen betrouwbaarheid in elke situatie aantoont, waardoor monitoring en autorisatiecontroles aandachtspunten in ontwikkeling blijven.

We hebben eerder bericht dat OpenAI nieuwe financiering overweegt in aanloop naar een beursgang.

Dit materiaal kan meningen van derden bevatten, geen van de gegevens en informatie op deze webpagina vormt beleggingsadvies volgens onze Disclaimer. Hoewel we ons houden aan strikte Redactionele Integriteit, kan deze post verwijzingen bevatten naar producten van onze partners.

Vond u het artikel interessant?