www.netties.be

Home

Vandaag

Nieuws | AI Safety tool van Microsoft moet fouten in AI output opsporen en zelfs verbeteren

Gepubliceerd op: 2024-09-26

Dat AI tools soms gaan 'hallucineren' zal je wellicht al gelezen hebben: AI is nu eenmaal geen zoekmachine, maar een systeem dat woordjes achter elkaar zet. De output van de opdracht die jij aan de AI geeft, kan dan ook fout zijn. Microsoft beweert nu dat zijn nieuwe AI safety tool dergelijk fouten niet alleen kan opsporen, maar ook verbeteren.

Deze tool is beschikbaar voor klanten van Microsoft Azure, als onderdeel van de Azure AI Studio. Wanneer de tool geactiveerd is, dan zal het corrigeersysteem op zoek gaan naar eventuele onjuistheden in de AI output, door die te vergelijken met het bronmateriaal waarop de AI getraind is. Wanneer het die vindt, dan zal de tool die markeren, informatie geven over waarom het fout is, en de foute content herschrijven, en dat alles razendsnel, nog voor de gebruiker die fout kan lezen.(1)

Ook Google heeft in zijn Vertex AI, een cloud platform voor bedrijvend die AI systemen ontwikkelen, een tool die ervoor moet zorgen dat de AI modellen geen onwaarheid gaan spuien. Deze tool doet dat door de output te vergelijken met de resultaten van een Google Search, de eigen data van het bedrijf, en binnenkort ook datasets van andere bedrijven (2).

Bij Slashdot vind je zoals gewoonlijk een discussie hierover (3)

(1) https://www.theverge.com/2024/9/24/24253452/microsoft-correction-...
(2) https://www.theverge.com/2024/6/27/24187534/google-vertex-ai-deve...
(3) https://slashdot.org/story/24/09/25/0452207/microsoft-claims-its-...

Eerder verschenen artikels:

- AI assistent van Meta hallucineert

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL