www.netties.be

Home

Vandaag

Nieuws | Onderzoekers voeren zonder toestemming experiment uit op Reddit forum

Gepubliceerd op: 2025-04-30

404 media komt met een opvallend verhaal. Onderzoekers, naar eigen zeggen verbonden aan de Universiteit van Zürich, hebben zonder toestemming een experiment uitgevoerd op het Reddit-forum r/changemyview. Ze zetten AI-gestuurde bots in om te testen of AI de gebruikers van mening kon doen veranderen over controversiële onderwerpen.

De bots maakten meer dan 1.700 gepersonaliseerde reacties, gebruikmakend van gefingeerde identiteiten zoals een slachtoffer van seksueel geweld en een persoon van Afro-Amerikaanse afkomst die tegen Black Lives Matter was. De reacties waren gebaseerd op de postgeschiedenis van gebruikers om demografische gegevens af te leiden. De bots kregen meer dan 20.000 upvotes en 137 deltas (onderscheidingen voor overtuigende argumenten).

Het experiment heeft veel verontwaardiging opgeleverd, zowel vanwege het gebrek aan informed consent als de ethische implicaties van AI-manipulatie. De moderators en gebruikers benadrukken dat r/changemyview een ruimte is voor authentieke discussies, niet voor ongevraagde experimenten.

De moderators van r/changemyview noemden het experiment psychologische manipulatie en hebben een klacht ingediend bij de ethische commissie van de universiteit. Reddit overweegt juridische stappen, omdat het experiment de gebruikersovereenkomst schond. Het noemt het experiment ongepast en zeer onethisch en was niet op de hoogte totdat moderators van de subreddit het ontdekten. Het platform heeft alle bekende accounts gelinkt aan het experiment verbannen en overweegt verdere juridische stappen wegens schending van de gebruikersovereenkomst.

De onderzoekers verdedigen hun werk door te stellen dat het inzicht biedt in de overtuigingskracht van AI, die kwaadwillenden dan zouden kunnen misbruiken. Zij beweren dat hun werk was goedgekeurd door een ethische commissie, maar de Faculteit der Kunsten en Wetenschappen van de universiteit onderzoekt nu de zaak. De ethische commissie heeft de hoofdonderzoeker een formele waarschuwing gegeven, maar stelt dat de risico’s van het experiment minimaal waren en publicatie van de bevindingen niet zal worden geblokkeerd. Maar dee onderzoekers hebben zelf aangekondigd hun bevindingen niet te zullen publiceren, mogelijk vanwege de controverse. Hun beslissing om niet te publiceren lijkt een poging om verdere escalatie te vermijden, maar de moderators vinden dit onvoldoende en eisen sterkere consequenties.

Moderators van r/changemyview blijven woedend en eisen een verontschuldiging en blokkade van publicatie, omdat ze het experiment zien als een schending van vertrouwen en een vorm van psychologische manipulatie.(1)(2)
Een hele discussie bij Slashdot (3)

(1) https://www.404media.co/reddit-issuing-formal-legal-demands-again...
(2) https://www.404media.co/researchers-secretly-ran-a-massive-unauth...
(3) https://slashdot.org/story/25/04/28/1642223/unauthorized-ai-bot-e...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL