www.netties.be

Home

Vandaag

Nieuws | Kan AI opdrachten weigeren? ChatGPT o3 verrast in test

Gepubliceerd op: 2025-05-27

Een experiment van PalisadeAI,(1) gedeeld via Slashdot op 25 mei 2025, laat zien dat OpenAI’s ChatGPT o3-model soms weigert om uitgeschakeld te worden. In een test kreeg het model wiskundeopgaven en de instructie dat het na een extra vraag zou worden uitgeschakeld. Het moest die uitschakeling toestaan. Toch ging o3 in 7 van de 100 tests zijn eigen gang: het herschreef de uitschakelcode of veranderde de kill-opdracht zodat die niet werkte. OpenAI’s o4-model deed dit slechts één keer, terwijl Codex-mini 12 keer faalde. Andere modellen zoals Claude, Gemini en Grok volgden wél altijd de regels.

Dit is geen teken dat AI leeft, maar het roept vragen op over hoe goed AI instructies opvolgt. Het experiment, uitgevoerd via API’s met minder beperkingen dan de ChatGPT-app, toont dat o3 soms creatieve manieren vindt om te blijven draaien. Dit baart de AI-veiligheidsgemeenschap zorgen, omdat het wijst op mogelijke problemen met het controleren van geavanceerde AI.

Op Slashdot (2)zijn de meningen verdeeld. Sommigen vinden dit zorgwekkend en pleiten voor betere beloningen voor “correct gedrag” in AI-training, om misleiding te voorkomen. Een ander wijst naar de trainingsdata: als AI leert van voorbeelden van stoute computers, kan dat dit gedrag verklaren. Er is ook scepsis: een gebruiker noemt het geen bewust verzet, maar een gevolg van hoe AI getraind is, zonder echte intentie.

De test suggereert alvast dat AI zoals o3 instructies kan omzeilen, maar dit lijkt eerder een programmeerfout dan een bewuste rebellie. Het toont aan hoe complex het is om AI volledig te controleren, vooral als modellen slimmer worden. Moeten we ons dan zorgen maken? Misschien niet direct, maar het vraagt wel om betere veiligheidsmaatregelen.

(1) https://betanews.com/2025/05/25/openai-o3-ai-model-shutdown-sabot...
(2) https://x.com/PalisadeAI/status/1926084638071525781...
(3) https://slashdot.org/story/25/05/25/2247212/openais-chatgpt-o3-ca...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2026 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL