www.netties.be

Home

Vandaag

Nieuws | OpenAI aarzelt om tool te openbaren die door AI geschreven teksten detecteert

Gepubliceerd op: 2024-08-06

Blijkbaar heeft OpenAI een geavanceerde tool ontwikkeld, die kan detecteren wanneer een tekst door een AI gemaakt werd. En dan vooral bij essays en research papers. Ideaal dus om bedrog op te sporen bij studenten die hun eindwerk zouden willen laten schrijven door een AI.

De tool werkt heel simpel, met een watermerk-technologie: de selectie van tokens in de output van ChatGPT wordt heel subtiel gewijzigd, waardoor er een niet door een patroon ontstaat dat niet door het menselijk oog ontdekt kan worden, maar wel door de technologie van OPenAI. De tool zou 99,9% effectief zijn voor door AI gegenereerde teksten.

Opvallend: de tool zou al een jaar geleden klaar geweest zijn om die uit te rollen. Maar OpenAI besliste om dat niet te doen. Het was namelijk bezorgd over het feit dat er mogelijk manieren zijn om de ontdekking te omzeilen, en dat het nog een uitdaging is om te bepalen wie toegang moet krijgen tot de detectietool. OpenAI was ook bezorgd over de mogelijke impact op mensen die geen Engels als moedertaal hebben, en hun zelf geschreven teksten enkel door een AI laten herschrijven, om de taal te verbeteren. Die zouden dan als sjoemelaars gebrandmerkt kunnen worden, terwijl zij zelf een eigen tekst geschreven hadden.

Dat de tool al een jaar bestaat, maar tot nu toe niet publiek ter beschikking gesteld werd, lokt kritiek uit. Maar in de discussie bij Slashdot worden er ook andere vragen gesteld. Want de tool herkent door AI gemaakte teksten via het weatermerk dat door ChatGPT toegevoegd wordt, maar hoe zit het met teksten die door andere AI tools gemaakt werden?

En bij de bezorgdheid over het bredere AI ecosysteem, klinkt vooral de kritiek dat OpenAI eigenlijk vreest dat bekend zal worden hoeveel tekst er nu al door AI aangemaakt wordt...(2)

(1) https://www.engadget.com/openai-confirms-its-looking-into-text-wa...
(2) https://tech.slashdot.org/story/24/08/05/1415201/openai-grapples-...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL