www.netties.be

Home

Vandaag

Nieuws | Anthropic is de eerste om zijn system prompts te publiceren

Gepubliceerd op: 2024-08-28

Generatieve modellen zijn gewoon systemen die met statistieken werken, en voorspellen wat het woord is dat het meeste kans heeft om op het vorige te volgen. Echte kennis heeft het dus niet. Maar de AI volgt wel instructies, zoals de system prompts. Die voorzien de modellen van hun basiskwaliteiten en vertellen hen ook wat zij mogen doen en wat niet.

Elke AI verkoper, van OpenAI tot Anthropic, gebruikt dergelijke system prompts om (proberen) te voorkomen dat de modellen ongewenst gedrag zouden vertonen. En ook om de toon en het gevoel in de antwoorden van het model bij te sturen. Zo kan een system prompt een model bevelen om beleefd te zijn, maar nooit verontschuldigend. Of, zoals bij Grok, om grappig te zijn.

Nu is het wel zo dat de verkopers van die AI modellen niet veel lossen over hun system prompts, wellicht om niet te veel te verklappen aan de concurrentie. Maar anderzijds is het ook zo dat als mensen weten wat die system prompts zijn, het ook gemakkelijker zou worden om die te omzeilen. OPenAI bijvoorbeeld, zo vertelt TechCrunch, houdt de system prompts van GPT-4o geheim, en de enige manier waarop je die te weten kan komen, is door een prompt injection aanval. En zelfs dan nog kan de output niet volledig vertrouwd worden.

Anthropic doorbreekt nu die regel. In zijn strategie om zichzelf voor te stellen als de meer ethische, transparantere AI verkoper, heeft het nu de system prompts voor zijn nieuwste modellen bekendgemaakt, namelijk voor Claude 3 Opus, Claud 3.5 Sonnet en Claude 3.5 Haiku, die je in de Clause apps voor iOS en Android aantreft, en op het web.

Meer nog: Anthropic heeft aangekondigd dat het van plan is om deze updates en de verdere verfijning van zijn system prompts in de toekomst zal blijven openbaar maken. Zo kan je een beetje volgen wat de nieuwe mogelijkheden zijn.

(1) https://techcrunch.com/2024/08/26/anthropic-publishes-the-system-...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL