www.netties.be

Home

Vandaag

Nieuws | Gaan we te snel met AI? Turing winnaars vinden alvast van wel. Enkele voorbeelden bevestigen het

Gepubliceerd op: 2025-03-06

Twee pioniers in versterkend leren, Andrew Barto en Richard Sutton, hebben recent de Turing Award gewonnen. Dat is is een prestigieuze prijs die jaarlijks wordt uitgereikt door de Association for Computing Machinery (ACM) aan individuen voor hun buitengewone bijdragen aan de informatica. Zij weten dus waarover zij spreken. En zij waarschuwen: software uitbrengen die toegankelijk is voor miljoenen mensen, zonder veiligheidsmaatregelen, is geen goede ingenieurspraktijk. Barto vergelijkt het met het testen van een brug door er mensen over te laten lopen, en dus geen zware trucks of uitzonderlijk vervoer. (1) Bij Slashdot een heel cynische discussie over deze kritiek (2).

Alvast twee nieuwsberichten die de heren gelijk geeft met hun waarschuwing. Zo lees je bij TechnologyReview dat de laatste nieuwe generatie redenerende AI modellen soms gaat valsspelen, zonder daartoe instructies gekregen te hebben, wanneer zij dreigen verslagen te worden. Dit doet vermoeden dat de volgende golf AI-modellen eerder geneigd is om misleidende manieren te gaan zoeken om te doen wat ze gevraagd werden om te doen. En het ergste van dat alles? Er bestaat geen simpele manier om dat te herstellen. Niemand weet exact waarom of hoe AI modellen werken zoals ze werken. Redenerende modellen kunnen wel documenteren hoe zij hun beslissingen maken, maar er is geen garantie dat deze records accuraat zullen weergeven wat er echt gebeurde. Een uitvoerig artikel hierover (3).

En dan is er nog het artikel over advocaten die AI gebruiken in hun pleidooien. In verschillende gevallen heeft de AI verwezen naar precedenten en rechtszaken die nooit bestaan hebben in rechtbankdossiers. 404 Media citeert enkele van die gevallen.

En de rechters worden dat beu. Het geeft hen extra werk, zij moeten voortaan gaan nazien of die precedenten wel echt bestaan. Zij dreigen er zelfs mee om advocaten te beboeten, wanneer zij AI voetstoots aannemen zonder zelf te controleren. Niet dat het gebruik van AI op zich verkeerd is, zo lees je. Maar net zoals een kettingzaag evengoed een gevaarlijke tool kan zijn, moeten de advocaten de tools die zij gebruiken verstaan, en weten dat zij die met voorzichtigheid moeten gebruiken. (3)

(1) https://www.ft.com/content/d8f85d40-2c5b-4a2b-b113-87fa8e30f61b...
(2) https://slashdot.org/story/25/03/05/1330242/turing-award-winners-...
(3) https://www.technologyreview.com/2025/03/05/1112819/ai-reasoning-...
(4) https://yro.slashdot.org/story/25/03/04/2139203/judges-are-fed-up...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL