www.netties.be

Home

Vandaag

Nieuws | Agentic AI: is daar eigenlijk voldoende over nagedacht?

Gepubliceerd op: 2025-04-10

Dat is een vraag die wij ons ook al gesteld hebben. Want je laat de Agentic AI de vrije hand om in jouw naam teken uit te voeren. Is dat niet om moeilijkheden vragen?

Wij zijn niet de enigen die zich daarover vragen stellen. Bij Wired lees je namelijk een interview met ene Zico Kolter, professor aan Carnegie Mellon University, lid van de raad van bestuur van OpenAI en expert in AI-veiligheid. Hij waarschuwt er namelij voor dat deze AI-agenten, die steeds meer zelfstandigheid krijgen, gevaarlijk kunnen worden wanneer ze met elkaar gaan interageren - tenminste als er onvoldoende veiligheidsmechanismen ingebouwd zijn.

Concreet moet je denken aan volgende situatie: jouw AI boekt een vlucht, maar een andere AI probeert die te annuleren. Dat zou tot chaos kunnen leiden, met overbelaste systemen of financiële verliezen. Volgens Kolter zijn de huidige AI-modellen niet robuust genoeg om dergelijke interacties te weerstaan. Om het niet eens te hebben over de jailbreak technieken, waarmee kwaadwillenden de modellen kunnen manipuleren.

Kolter heeft het vooral over de technische kwetsbaarheden, maar er zijn ook maatschappelijke implicaties. Wie is verantwoordelijk wanneer die agenten fouten maken? De ontwikkelaars, de gebruikers, of niemand? En dan hebben we het niet eens over de commerciële belangen, waarbij bedrijven bij het uitbrengen van agenten de snelle uitrol prioriteit geven boven veiligheid.

Kortom: vooral bij deze agentic AI moeten we ons afvragen of we niet te snel autonomie aan het geven zijn aan systemen die we nog niet volledig begrijpen of beheersen?

(1) https://www.wired.com/story/zico-kolter-ai-agents-game-theory/?ut...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL