Een eigenaardig bericht, dat heel veel aandacht kreeg -en teruggaat naar de aloude angst van de mens, dat computers gevoelens krijgen. Want een stap verder is dat de computer dan beseft dat de computer beter is dan de mens, en dat de mens maar moet verdwijnen. Maar zo ver zijn we nog hiet hoor.
Toch is dit bericht verontrustend. Ene Blake Lemoine, die bij Google werkt als ingenieur op de afdeling voor Verantwoorde AI, heeft aan de Washington Post verklaard dat naar zijn mening een van de AI projecten van het bedrijf een bewustzijn gekregen heeft, dat het zich bewust geworden is van zijn bestaan.
Bij Engadget kan je lezen waardoor de ingenieur tot die conclusie kwam: een gesprek met LaMDA, kort voor Language Model for Dialogue Applications. Dat is een chatbot systeem gebaseerd op de taalmodellen van Google en triljoenen woorden die op het internet gevonden zijn. En die chatbot zou, als je afgaat op dat gesprek, het vermogen bezitten om na te denken over zijn eigen bestaan en zijn plaats in de wereld.
In het gesprek beantwoordt de chatbot op de vraag of hij gevoelens en emoties heeft: absoluut! ... Ik voel plezier, vreugde, liefde, verdriet, depressie, tevredenheid, woede en vele andere gevoelens... (het hele gesprek lees je bij Engadget).
De ingenieur, Lemoine, besprak met een afgevaardigde van de overheid zijn werk, en wat hij zelf als de onethische activiteiten van Google noemde. Waarop Google hem op betaald administratief verlof stuurde, omdat hij de regels van het vertrouwelijkheidsbeleid van Google overtreden had.
Google ontkent dat het LaMDA ook maar enig bewustzijn kan hebben, en vele wetenschappers ondersteunen het bedrijf daarbij. Een hele discussie, waarover je verschillende stemmen hoort bij Techmeme. (2)
En ook bij DTNS staan ze stil bij deze bevindingen, en gaan de panelleden een heel interessante discussie aan (3)
https://www.engadget.com/google-ai-lamda-blake-lemoine-21241 ...
https://www.techmeme.com/220613/p6#a220613p6
https://archive.org/details/dtns20220613
|