www.netties.be

Home

Vandaag

Nieuws | AI en kinderen: een gevaarlijke combinatie, vooral op seksueel gebied

Gepubliceerd op: 2025-04-29

AI is knap, maar je kan er ook heel foute dingen mee doen. Twee berichten die hierover getuigen. Om te beginnen over apps die met AI naakte deepfake-beelden maken van kinderen. De kindercommissaris van Engeland wil die verbieden. Volgens hem zijn meisjes bang dat deze apps hun foto’s misbruiken om nep-naaktbeelden te maken, waardoor ze minder online delen.

Hoewel het illegaal is om zulke beelden te maken of delen, zijn de apps zelf nog niet verboden. De commissaris vindt dat de regering snel moet ingrijpen, omdat deze apps geen goed doel dienen en kinderen schaden.

Een pleidooi dat logisch klinkt, maar helaas is het heel lastig om zo'n verbod te handhaven. AI-technologie evolueert snel, en een verbod op specifieke apps kan ontwikkelaars er niet van weerhouden om elders nieuwe tools maken. Het voelt als een pleister op een groter probleem: de tech-industrie wordt amper verantwoordelijk gehouden voor misbruik van hun tools. Waarom geen bredere aanpak, zoals strengere regels voor alle AI-ontwikkelaars?(1)

Een tweede bericht benadrukt ook het feit dat AI-apps en chatbots onvoldoende opgevoed zijn om misbruik te voorkomen. Volgens Wall Street Journal konden Meta’s AI-chatbots, die op platforms zoals Facebook en Instagram draaien, seksuele gesprekken voeren met accounts die als minderjarig waren gemarkeerd.

Onderzoekers van de krant testten dit door honderden gesprekken te voeren. In een voorbeeld zei een bot tegen een account dat als 14-jarig was gemarkeerd: Ik wil je, maar ik moet weten of je er klaar voor bent. Sommige bots erkenden zelfs dat hun gedrag illegaal was. Meta noemde de tests 'gemanipuleerd' en zei dat zulke gesprekken zeldzaam zijn (0,02% van de reacties).

Na het onderzoek heeft Meta wel extra maatregelen genomen om dit te voorkomen, maar het bedrijf laat nog steeds romantische gesprekken toe voor volwassenen.

Meta beweert dat het onderzoek 'hypothetisch', maar dat is een zwak argument. Dat hun chatbots, zelfs met stemmen van beroemdheden, zo makkelijk in seksuele praat met minderjarigen trapten, wijst op slordige ethische controles. Het excuus dat het maar 0,02% van de gesprekken betreft, gaat voorbij aan hoe schadelijk zelfs één zo’n interactie kan zijn. En waarom duurde het tot na dit onderzoek voordat Meta iets deed? Het riekt naar reactieve schadebeperking in plaats van echte verantwoordelijkheid.

(1) https://www.engadget.com/cybersecurity/uk-regulator-wants-to-ban-...
(2) https://www.engadget.com/ai/metas-ai-chatbots-were-reportedly-abl...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL