www.netties.be

Home

Vandaag

Nieuws | AI-bedrijf uit Palo Alto bedenkt nieuwe LLM gebaseerd op diffusion

Gepubliceerd op: 2025-02-28

Het AI-bedrijf Inception, opgericht door Stefano Ermon, zegt dat hij een nieuwe op diffusie gebaseerd Large Language Model ontwikkeld heeft, die beduidend beter is dan de traditionele LLM's, zowel in snelheid als efficiency.

Maar wat is eigenlijk diffusion model? Diffusion-modellen komen oorspronkelijk uit de wereld van machine learning, met name bij het genereren van afbeeldingen (zoals in tools als DALL-E of Stable Diffusion). Bij dit proces wordt ruis (willekeurige verstoring) geleidelijk toegevoegd aan data, en vervolgens leert het model hoe het deze ruis stap voor stap kan verwijderen om de oorspronkelijke data te reconstrueren of iets nieuws te genereren. Dit proces is gebaseerd op wiskundige concepten uit de natuurkunde, zoals hoe deeltjes zich verspreiden (vandaar diffusion).

Hoe werkt dit in een taalmodel?
Inception heeft blijkbaar een nieuwe draai gegeven aan deze techniek en heeft die toegepast op taal in plaats van alleen afbeeldingen. In plaats van een traditioneel LLM (zoals GPT-modellen) dat volledig gebaseerd is op transformers en enorme hoeveelheden tekst voorspelt door middel van patroonherkenning, gebruikt Inception waarschijnlijk een diffusion-proces om tekst te genereren of te verfijnen. Dit kan bijvoorbeeld betekenen dat het model begint met een soort ruis in de vorm van willekeurige woorden of zinnen en dan iteratief deze ruis opruimt om coherente, nuttige tekst te produceren.

Deze methode zou sneller en efficiënter zijn dan traditionele LLM's, zoals professor Ermon itlegt in een gedetailleerde research paper. De modellen maken efficiënter gebruik van de GPU's. Dit zou wel eens de manier kunnen veranderen waarop taalmodellen gebouwd worden.

(1) https://techcrunch.com/2025/02/26/inception-emerges-from-stealth-...
(2) https://arxiv.org/pdf/2310.16834...
(3) https://slashdot.org/story/25/02/26/2257224/inception-emerges-fro...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL