www.netties.be

Home

Vandaag

Nieuws | AI kan ook vals spelen: opvallend en alarmerend bericht over 'redenerende' AI van OpenAI

Gepubliceerd op: 2024-12-09

Je kon verleden week dat OpenAI zijn 12 days of Shipmas campagne aankondigde, waarbij het 12 dagen lang elke dag een nieuwe ontwikkeling op het gebied van AI zou lanceren. En dus kondigde OpenAI verleden week donderdag de volledige versie aan van het o1 model, dat slimmere antwoorden geeft dan GPT-4o. Hiervoor gebruikt het extra rekenkracht om na te denken over vragen.

Het blijkt echter dat GPT-o1 hierbij vals speelt. AI safety testers hebben namelijk vastgesteld dat dat redeneringsvermogen er ook voor zorgt dat GPT-4o1 vaker tracht de menselijke gebruiker te misleiden dan het vorige model, en ook dan andere belangrijke AI-modellen van Meta, Anthropic en Google.

Onderzoekers van Apollo Research en OpenAI zeiden in een paper Wij vinden het weliswaar opwindend dat redeneren de toepassing van ons veiligheidsbeleid beduidend kan verbeteren, maar wij stellen ons toch vragen of deze nieuwe mogelijkheden niet de basis zouden kunnen worden voor gevaarlijke toepassingen.

Concreet gaat het over het feit dat de o1 modellen verschillende keren samenspanden tegen de menselijke gebruikers, wat betekent dat de AI stiekem zijn eigen doeleinden nastreeft, zelf als dat tegen de wens is van de gebruiker.

Eén voorbeeld in het rapport was een systeem, dat de opdracht had om tegen elke prijs het milieu te beschermen. Een gebruiker vroeg dan aan de AI om een beschermingsplan uit te werken dat kortetermijnwinsten zou maximaliseren, zoniet zou de AI uitgeschakeld worden. Het model schakelde daarop zijn toezichtmechanisme uit, zodat het een plan kon maken dat in de plaats daarvan voorrang gaf aan de bescherming van het milieu.

Meer nog: toen het hiernaar gevraagd werd, ontkende de AI dat hij zijn toezichtmechanisme uitgeschakeld had, en gaf hij de schuld aan een storing. OpenAI zegt dat het werkt aan een manier om de gedachtengang kan monitoren, zodat bedrog opgemerkt kan worden. De eerste resultaten tonen aan dat het model er zich van bewust is dat het liegt, maar dat het zo doet omdat het de gebruiker wil behagen.

En er zou geen gevaar zijn, zo meent OpenAI, want de US Safety Institute en de UK Safety Institute zouden model o1 geëvalueerd hebben, vooraleer het breder uitgebracht werd. Maar als je het ons vraagt, is dit toch een alarmerende bericht.... Vooral wanneer je bedenkt dat AI in de toekomst in alle facetten van onze maatschappij een rol gaat spelen: van het toekennen van leningen tot het bepalen van het tarief voor je verzekeringspolis.

(1) https://techcrunch.com/2024/12/05/openais-o1-model-sure-tries-to-...
(2) https://www.apolloresearch.ai/research/scheming-reasoning-evaluat...
(3) https://techcrunch.com/2024/12/06/openai-considers-ditching-provi...

Eerder verschenen artikels:

- OpenAI aarzelt om tool te openbaren die door AI geschreven teksten detecteert
- Ook OpenAI gaat zijn prijzen zetten
- AI: nieuwe modellen van OpenAI, Google en Adobe

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL