 In een open brief vragen een aantal bekende AI-onderzoekers, gesteund door Elon Musk, dat de AI labo's uit de hele wereld even een adempauze zouden nemen. Want de race om steeds betere AI te maken, gevoed door al die taalmodellen, dreigt uit de hand te lopen. Met gevaar voor de maatschappij en zelfs de mensheid. (1)
Zij wijzen erop dat er machine learning systemen ontwikkeld worden die niemand begrijpt wat zij eigenlijk doen, zelfs niet de bedenkers ervan. Laat staan dat zij kunnen voorspellen wat er gaat gebeuren, of dit onder controle kunnen houden. (2)
Het lijkt wel een rampscenario uit een SF film, maar de waarschuwing is niet geheel onterecht. Denk maar aan de AI-systemen die gebruikt worden bij de beoordeling van een kans op recidive, om een vonnis te vellen, zoals in de VS gebruikt wordt. Denk aan de security software van Microsoft waarover wij het gisteren hadden, waarvan eigenlijk niemand weet waarom iets als een bedreiging beschouwd wordt, maar wel aangenomen wordt dat het een bedreiging is.
De open brief werd ondertekend door meer dan 1.000 mensen, waaronder Apple medeoprichter Steve Woziniak, de medeoprichter van Skype Jaan Tallin, en verschillende bekende AI-onderzoekers.
Is de oproep overdreven, of is het een blijk van gezond verstand? Feit is dat zelfs OpenAI gezegd heeft dat er een onafhankelijke review moet komen van toekomstige AI systemen, om er zeker van te zijn dat zij beantwoorden aan de veiligheidsstandaards...
https://futureoflife.org/open-letter/pause-giant-ai-experime ...
https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-res ...
|
