Een opmerkelijk verhaal over een AI-model waarmee Meta geëxperimenteerd heeft. Het Galactica LLM (large language model) werd namelijk getraind op basis van wetenschappelijke artikels, notities en website. De bedoeling is tot een AI te komen dat wetenschappers en studenten kan bijstaan.
Het resultaat viel echter tegen. Drie dagen nadat de publieke demo gelanceerd was, werd die terug verwijderd. Want wie de AI gebruikte, stelde vast dat Galactica niet kon onderscheiden wat waar was en wat niet, en dat et zelfs nep artikels en papers creëerde, die het dan toeschreef aan echte wetenschapsauteurs.
De AI staat nog wel ter beschikking van researchers, die nu verder kunnen bestuderen wat er fout ging.
https://www.technologyreview.com/2022/11/18/1063487/meta-lar ...
https://www.cnet.com/science/meta-trained-an-ai-on-48-millio ...
|