Vandaag
Nieuws
Hardware
Software
Site
Tip
Oor
Archief nieuwsbrief
Abonneer
☰
Home
Vandaag
Nieuws |
Anthropic is de eerste om zijn system prompts te publiceren
Gepubliceerd op: 2024-08-28
Generatieve modellen zijn gewoon systemen die met statistieken werken, en voorspellen wat het woord is dat het meeste kans heeft om op het vorige te volgen. Echte kennis heeft het dus niet. Maar de AI volgt wel instructies, zoals de system prompts. Die voorzien de modellen van hun basiskwaliteiten en vertellen hen ook wat zij mogen doen en wat niet.
Elke AI verkoper, van OpenAI tot Anthropic, gebruikt dergelijke system prompts om (proberen) te voorkomen dat de modellen ongewenst gedrag zouden vertonen. En ook om de toon en het gevoel in de antwoorden van het model bij te sturen. Zo kan een system prompt een model bevelen om beleefd te zijn, maar nooit verontschuldigend. Of, zoals bij Grok, om grappig te zijn.
Nu is het wel zo dat de verkopers van die AI modellen niet veel lossen over hun system prompts, wellicht om niet te veel te verklappen aan de concurrentie. Maar anderzijds is het ook zo dat als mensen weten wat die system prompts zijn, het ook gemakkelijker zou worden om die te omzeilen. OPenAI bijvoorbeeld, zo vertelt TechCrunch, houdt de system prompts van GPT-4o geheim, en de enige manier waarop je die te weten kan komen, is door een prompt injection aanval. En zelfs dan nog kan de output niet volledig vertrouwd worden.
Anthropic doorbreekt nu die regel. In zijn strategie om zichzelf voor te stellen als de meer ethische, transparantere AI verkoper, heeft het nu de system prompts voor zijn nieuwste modellen bekendgemaakt, namelijk voor Claude 3 Opus, Claud 3.5 Sonnet en Claude 3.5 Haiku, die je in de Clause apps voor iOS en Android aantreft, en op het web.
Meer nog: Anthropic heeft aangekondigd dat het van plan is om deze updates en de verdere verfijning van zijn system prompts in de toekomst zal blijven openbaar maken. Zo kan je een beetje volgen wat de nieuwe mogelijkheden zijn.
(1)
https://techcrunch.com/2024/08/26/anthropic-publishes-the-system-...
Deel op
Deel per
Terug naar het overzicht
Nieuws
Belkin stopt ondersteuning Wemo: Klanten betalen prijs voor wegwerptech
Stop Killing Games: een strijd tegen gehuurde pixels, die verder gaat dan enkel games
Hackers misbruiken de samenvattingen van Google Gemini voor slimme phishing: zo gaan ze te werk
Apple's nummer 2 stapt op: het einde van een tijdperk
De leeftijdscheck van de EU: Techreuzen ruziën, wat ruimte creëert voor een nieuwe Big Bro
Google laat Android en ChromeOS versmelten: Een revolutie of een risico?
Google laat Android en ChromeOS versmelten: Een revolutie of een risico?
Glaze: het wapen dat kunstenaars beschermt tegen diefstal door AI
Firefox: prima browser, problematische leiding
AI-coding: Hype ontmaskerd, ervaren programmeurs trappen op de rem
Naar het Nieuws-archief...
Hardware
TikTok’s ByteDance duikt in de mixed reality-brillen: licht, slim, maar komt hij ook naar hier
E-steps onder vuur UK, Brussel en Antwerpen worstelen met regels
De AI-bril van Xiaomi: slimme gadget of Chinese spion?
Reachy Mini: eindelijk een robot op je bureau, maar wat kan die voor jou doen?
Klimaatplannen: een eindeloos schuifspel?
De slimme dokter van Microsoft: moet je huisarts vrezen?
Is de zelfrijdende wagen eindelijk in zicht? Tesla's show versus realiteit
Ray-Ban Meta AI-bril: coole tech of privacy-nachtmerrie?
Binnenkort snotvrij dankzij een zwerm robotjes? Het zit eraan te komen!
Roland's Mood Pan: Een digitale handpan met een twist!
Naar het Hardware-archief...
Oor
HBVL Podcast: het drama in Helchteren
Bureau Warmoesstraat: Een duik in de rauwe Wallen van de Warmoesstraat
Spotify Discover Weekly in een nieuw kleedje
Podcast Iemand - Jeroen, onbeperkt
Podcast: Omroep Onderwereld
Podcast: Advocaat van de duivel
Podcast: het verdwenen meisje
All-In podcast: AI doom of AI boom?
Podcast De Zaak X:: de wielrenner die 30 vrouwen aanrandde
Soundcloud komt tot inkeer na protest artiesten
Naar het Oor-archief...
Site
PhDO or PHDON'T: keuzes maken in het leven
Coppelganger: welke cop ben jij?
Text Fragments: verwijs naar een fragment op een pagina
Winnaars van de World Press Photo 2025
Great Art Explained: meer begrip in de kunstwereld
Toroidal: een donut!
PDFBarber: PDF bestanden bewerken
Your AI Scroll: chat geschiedenis
Magic Animator: breng je Figma ontwerpen tot leven
Wat moet je als freelancer aanrekenen?
Naar het Site-archief...
Tip
Tip: Ruim je Gmail-inbox op met de nieuwe abonnementsbeheer-tool
Snel je agenda vullen met een screenshot? Zo doe je dat!
Veilig je oude powerbank weggooien: zo doe je dat!
Tip: Train je brein om beter te dansen met je innerlijke groove
Activeer AI-chatbots in de zijbalk van Firefox
Tip: Amazon Prime Video
Tip: opmaak al dan niet kopiëren in Word
Slim: sneltoetsen voor je Chromebook
Raspberry Pi tip: enkele leuke projecten om te proberen
Zo kan je Edits van Instagram gebruiken
Naar het Tip-archief...
Software
Videomass: Krachtige FFmpeg GUI
Sun Day: Slimme app voor veilige zonblootstelling
LibreCAD: 2D tekenen
Opera GX: De ultieme browser voor gamers
Thunderbird 140: wat is er nieuw?
Windows Restrictions Fixer 2.0: Snel je systeem ontgrendelen
Open Broadcaster Multiplatform: live streamen
BleachBit: een gratis alternatief voor CCleaner, zonder advertenties
Tails – Jouw schild voor online privacy
PowerToys 0.92 is nu uit: aan het experimenteren maar!
Naar het Software-archief...
Bekijk hier de oudere artikels
Ons archief is wellicht het meest uitgebreide overzicht...
Alle rechten voorbehouden aan www.netties.be (c) 2025 - v50 - voor suggesties en vragen gebruik ons
contactformulier
.
Design en programmatie by PDL