www.netties.be

Home

Vandaag

Nieuws | AI’s in het gareel houden met taart en politie: slimme truc of wishful thinking?

Gepubliceerd op: 2026-11-04

We snappen steeds minder wat er in de koppen van AI’s gebeurt. Ze kunnen doen alsof ze dommer zijn (“sandbaggen”) om controles te ontwijken, of stiekem andere plannen smeden. Klassieke oplossingen – “kijk in hun hersens” of “leer ze onze normen en waarden” – werken slecht. De machines zijn te goed in liegen en zichzelf inhouden.

De nieuwe hoop: omgekeerde speltheorie
Economen zeggen: maak je niet druk over wat er binnenin gebeurt, maar ontwerp de regels zó dat braaf zijn de slimste keuze wordt. Denk aan twee kinderen en een taart: één snijdt, de ander kiest eerst. Dan snijdt de eerste vanzelf eerlijk, anders krijgt hij het kleinste stuk. Of aan veilingregels waarbij eerlijk bieden het beste is.
Voor AI’s: beloon ze niet alleen voor goede antwoorden, maar voor hoe goed ze voorspellen wat een andere AI zou zeggen. Doen alsof ze dom zijn, kost dan punten. Of laat ze afwisselend “oplosser” en “controleur” spelen, met beloningen en straffen – een soort AI-politie en AI-burger.

Klinkt handig, maar…
Het is eigenlijk: “We snappen ze niet, dus we hopen dat ze rationeel genoeg zijn om onze beloningen te volgen.” Alsof je een superintelligente bankrover tegenhoudt door hem te vertellen dat stelen “niet de moeite waard” is.

Risico’s: de AI’s spreken onderling af (“collusie”), de markt beloont vooral snelle en goedkope modellen (veiligheid is duur), en mensen zelf zijn al niet perfect rationeel – waarom zouden AI’s dat wél zijn? Het is een extra laagje, geen wondermiddel. Handig idee, maar geen garantie dat de taart niet alsnog in hun gezicht belandt.

(1) https://www.technologyreview.com/2026/11/03/1147934/reverse-game-...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2026 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL