Vandaag
Nieuws
Hardware
Software
Site
Tip
Oor
Archief nieuwsbrief
Abonneer
☰
Home
Vandaag
Nieuws |
Anthropic is de eerste om zijn system prompts te publiceren
Gepubliceerd op: 2024-08-28
Generatieve modellen zijn gewoon systemen die met statistieken werken, en voorspellen wat het woord is dat het meeste kans heeft om op het vorige te volgen. Echte kennis heeft het dus niet. Maar de AI volgt wel instructies, zoals de system prompts. Die voorzien de modellen van hun basiskwaliteiten en vertellen hen ook wat zij mogen doen en wat niet.
Elke AI verkoper, van OpenAI tot Anthropic, gebruikt dergelijke system prompts om (proberen) te voorkomen dat de modellen ongewenst gedrag zouden vertonen. En ook om de toon en het gevoel in de antwoorden van het model bij te sturen. Zo kan een system prompt een model bevelen om beleefd te zijn, maar nooit verontschuldigend. Of, zoals bij Grok, om grappig te zijn.
Nu is het wel zo dat de verkopers van die AI modellen niet veel lossen over hun system prompts, wellicht om niet te veel te verklappen aan de concurrentie. Maar anderzijds is het ook zo dat als mensen weten wat die system prompts zijn, het ook gemakkelijker zou worden om die te omzeilen. OPenAI bijvoorbeeld, zo vertelt TechCrunch, houdt de system prompts van GPT-4o geheim, en de enige manier waarop je die te weten kan komen, is door een prompt injection aanval. En zelfs dan nog kan de output niet volledig vertrouwd worden.
Anthropic doorbreekt nu die regel. In zijn strategie om zichzelf voor te stellen als de meer ethische, transparantere AI verkoper, heeft het nu de system prompts voor zijn nieuwste modellen bekendgemaakt, namelijk voor Claude 3 Opus, Claud 3.5 Sonnet en Claude 3.5 Haiku, die je in de Clause apps voor iOS en Android aantreft, en op het web.
Meer nog: Anthropic heeft aangekondigd dat het van plan is om deze updates en de verdere verfijning van zijn system prompts in de toekomst zal blijven openbaar maken. Zo kan je een beetje volgen wat de nieuwe mogelijkheden zijn.
(1)
https://techcrunch.com/2024/08/26/anthropic-publishes-the-system-...
Deel op
Deel per
Terug naar het overzicht
Nieuws
Internet Archive treft schikking met muzieklabels over auteursrechten
Nieuwe tools van YouTube maken makers blij (en rijker!)
Ook voor podcasters heeft YouTube goed nieuwsµ
AI in het dagelijks leven: enkele handige inzichten
Spotify geeft gratis gebruikers een leuk cadeautje: kies en speel meteen je eigen songs
OpenAI en Microsoft sluiten akkoord over nieuwe structuur
Microsoft ontsnapt aan EU-onderzoek door Teams los te koppelen
Enkele nieuwigheden op AI-gebied: Open modellen en privacy
Verhalende podcasts zijn een uitstervend genre
YouTube's meertalige audio: wat is het?
Naar het Nieuws-archief...
Hardware
De AR-bril van Snap krijgt slimmere software met een browser en video's
Kodak Charmera: Een piepkleine camera voor aan je sleutelhanger
GitHub-gebruikers en Linus Torvalds zien het even niet meer zitten
Pokémon Poke-nade: Tamagotchi 2.0?
OpenAI start een chipavontuur: steekt het Nvidia voorbij in 2026?
Garmin Fenix 8 Pro: een prijzige overwinning op Apple?
Dolby Vision 2: De TV-revolutie met een snufje AI
Even aan een bloemetje ruiken en je bent slimmer? Klinkt mooi - maar is het waar?
Meta’s Hypernova: Slimme brillen met een bescheiden start!
Plaud Note Pro lanceert nieuwe versie - maar wat is het?
Naar het Hardware-archief...
Oor
Napleiten: Kruidvat bedrijfsuitje eindigt in een nachtmerrie
Spotify's Lossless: meer zuivere klank in je oren, nul extra euro's!
De Afspraak als podcast
Podcast: SoundTrek
De zaak ontleed: Officier van Justitie over vrouwenmoord
Apple breekt muren af van zijn walled garden om Spotify te tackelen
Muziekdiensten serveren steeds meer door AI gemaakte namaak
Podcast De Zaak Ontleed: over reclassering
All-In podcast: opnieuw voer voor nadenken
Podcast De Zaak ontleed: Verdeeldheid na dodelijk verkeersongeluk
Naar het Oor-archief...
Site
HeyHelp: AI assistent voor Gmail
Etherpad: gedeelde editor
Blocks: maak online je eigen efficiency app
MyFinancé: je financiën beheren
Tapedeck: cassettes
Signwriting: gebarentaal
eBookAny: later lezen
Podsnacks: samenvattingen van je podcasts
You Don't Know Africa: quiz
Historical Tech Tree: geschiedenis van technologie
Naar het Site-archief...
Tip
Sneltoetsen voor YouTube
De snelkoppelingen - het hele alfabet
Handig: vertaal tekst in Word
Tip: afstanden meten in Google Maps
Hoe gebruik je Google Maps offline?
Microsoft To Do: Maak taken van je e-mails in een paar kliks
Tip: kan je door binge-watching je verliezen in een fantasiewereld?
Zo blur je je huis op Google Maps (en waarom je dat zou willen)
Tip voor een rustige zomer: maak je smartphone dom!
Tip: Ruim je Gmail-inbox op met de nieuwe abonnementsbeheer-tool
Naar het Tip-archief...
Software
Abode: social app
Adobe CC Cleaner Tool: verwijderen
DoesNotBelong: dat hoort hier niet
Outside.so : je omgeving verkennen
Gigapixel: afbeeldingen upscalen
Microsoft Launcher voor Android
Photolab: foto's bewerken
Rules: automatische regels
Eindelijk: iPad App voor Instagram
AbleMouse: toegankelijkheid
Naar het Software-archief...
Bekijk hier de oudere artikels
Ons archief is wellicht het meest uitgebreide overzicht...
Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons
contactformulier
.
Design en programmatie by PDL