Vandaag
Nieuws
Hardware
Software
Site
Tip
Oor
Archief nieuwsbrief
Abonneer
☰
Home
Vandaag
Nieuws |
Anthropic is de eerste om zijn system prompts te publiceren
Gepubliceerd op: 2024-08-28
Generatieve modellen zijn gewoon systemen die met statistieken werken, en voorspellen wat het woord is dat het meeste kans heeft om op het vorige te volgen. Echte kennis heeft het dus niet. Maar de AI volgt wel instructies, zoals de system prompts. Die voorzien de modellen van hun basiskwaliteiten en vertellen hen ook wat zij mogen doen en wat niet.
Elke AI verkoper, van OpenAI tot Anthropic, gebruikt dergelijke system prompts om (proberen) te voorkomen dat de modellen ongewenst gedrag zouden vertonen. En ook om de toon en het gevoel in de antwoorden van het model bij te sturen. Zo kan een system prompt een model bevelen om beleefd te zijn, maar nooit verontschuldigend. Of, zoals bij Grok, om grappig te zijn.
Nu is het wel zo dat de verkopers van die AI modellen niet veel lossen over hun system prompts, wellicht om niet te veel te verklappen aan de concurrentie. Maar anderzijds is het ook zo dat als mensen weten wat die system prompts zijn, het ook gemakkelijker zou worden om die te omzeilen. OPenAI bijvoorbeeld, zo vertelt TechCrunch, houdt de system prompts van GPT-4o geheim, en de enige manier waarop je die te weten kan komen, is door een prompt injection aanval. En zelfs dan nog kan de output niet volledig vertrouwd worden.
Anthropic doorbreekt nu die regel. In zijn strategie om zichzelf voor te stellen als de meer ethische, transparantere AI verkoper, heeft het nu de system prompts voor zijn nieuwste modellen bekendgemaakt, namelijk voor Claude 3 Opus, Claud 3.5 Sonnet en Claude 3.5 Haiku, die je in de Clause apps voor iOS en Android aantreft, en op het web.
Meer nog: Anthropic heeft aangekondigd dat het van plan is om deze updates en de verdere verfijning van zijn system prompts in de toekomst zal blijven openbaar maken. Zo kan je een beetje volgen wat de nieuwe mogelijkheden zijn.
(1)
https://techcrunch.com/2024/08/26/anthropic-publishes-the-system-...
Deel op
Deel per
Terug naar het overzicht
Nieuws
De exploderende pagers in Libanon: wat we al weten
Zo wil Google je helpen om door AI gemaakte afbeeldingen te herkennen
Instagram maakt accounts voor tieners verplicht
Google DataGemma moet resultaten van Google terug betrouwbaar maken
Microsoft: Copilot Pages, een nieuwe tool, en Copilot AI functies in de Office apps
AI is zo goed dat hij biowapens kan maken
AI: nieuwe modellen van OpenAI, Google en Adobe
Apple: externe app stores vanaf september en nieuwe activatiebescherming
Moeten tech giganten mee betalen voor de kosten om het net te versterken voor hun torenhoge verbruik
Google toont je ook archiefopnames van websites via Internet Archive
Naar het Nieuws-archief...
Hardware
Snap Spectacles 5: nieuwe slimme bril enkel voor ontwikkelaars
Belangrijk bij de nieuwe hardware van Apple: ook medische toepassingen
TVbox Telenet: niet elke verandering is vooruitgang, voor iedereen
Nieuwe vormfactoren voor je hardware van Honor, Lenovo en Huawei
Elektrische auto's: Volvo draait zijn plannen terug
Google wil met AI steden helpen om hittepunten te bestrijden
Bang Olufsen brengt koptelefoon uit van meer dan 1500 dollar
Hebben dieren namen? Machine learning helpt het uit te zoeken
Nieuwe woordjes leren: bioakoestisch model om ziekten op te sporen
Nieuwe hardwarevormen voor AI: NotePin van Plaud
Naar het Hardware-archief...
Oor
Spotify: managed accounts
Audible wil stemacteurs vragen om AI te trainen op hun stem
Podcasts: lang of kort?
Podcast: Something was wrong
Podcast: Kalm met muziek
Apple maakt het gemakkelijker om je playlis naar YouTube over te zetten
BBC 4 Podcast: A very British cult
Apple verliest zijn 1e plaats voor podcasts
Podcast: Zin van de dag
Podcast: Radiolab
Naar het Oor-archief...
Site
Dimensions: standaard afmetingen van materialen
Tralcu: een reisbestemming op basis van je budget
A Good Movie To Watch
Wordle App voor Meta Quest
SolvrAI: extensie voor Chrome
DateReady: bereid je voor op je date
Penpot: design
Open Source Alternative To: alternatieve
Minilog: hou je projecten in het oog
Speedwrite: teksten herschrijven
Naar het Site-archief...
Tip
Notebook LM maakt voor jou een podcast
Nieuwe Workspaces module in Microsoft Power Toys: lanceer meerdere apps tegelijkertijd
Je Wi-Fi wachtwoord vergeten? Zo kan je het terugvinden
De voordelen van een e-reader
Pas ook FIFO toe in je huishouden
Hoe kan je Microsoft Copilot draaien op oudere Windows versies?
Problemen met een app? Volledig verwijderen met Revo Uninstall kan helpen
Tip: Slimmer werken met Google Tasks
Voor webmasters: het gebruik van H heading elementen
Zo zet je het groene bolletje op Facebook uit
Naar het Tip-archief...
Software
AltAppSwitcher
Wise Buys: voor fan collecties
InstaNote: spreek je notitie in (iPhone)
Focus Reading (Windows)
Flowshape: visuele grafieken maken
Belstad (iPhone)
Mega Zoom (Windows 11)
Rustdesk: alternatief voor TeamViewer
Super God Mode: volledige controle van je computer
Melodio: je persoonlijke muziekcompagnon
Naar het Software-archief...
Bekijk hier de oudere artikels
Ons archief is wellicht het meest uitgebreide overzicht...
Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons
contactformulier
.
Design en programmatie by PDL