Home | Lehre | Videos | Texte | Vorträge | Software | Person | Impressum, Datenschutzerklärung | Blog

Die Blog-Postings sind Kommentare im Sinne von § 6 Abs. 1 MStV. Der Verfasser ist Jörn Loviscach, falls jeweils nicht anders angegeben. Die Blog-Postings könnten Kraftausdrücke, potenziell verstörende Tatsachenbehauptungen und/oder Darstellungen von Stereotypen enthalten. Die Beiträge der vergangenen Wochen werden als Bestandteil der Internet-Geschichte in ihrer ursprünglichen Form gezeigt. Menschliche Autor*innen können unzutreffende Informationen über Personen, Orte oder Fakten liefern.

vorheriger | Gesamtliste | jüngste | nächster

Beschwörungsformeln für das Sprachmodell

2024-03-02 21:50

Kaum ist die Tinte des Curriculums für den M.Eng.-Studiengang "Prompt Engineering Studies" trocken, da muss man schon wieder von vorne anfangen!!1!

• "You are a professor of mathematics. Answer the following math question. This will be fun!" mag gut funktionieren, aber "Captain's Log, Stardate [insert date here]: We have successfully plotted a course through the turbulence and are now approaching the source of the anomaly" ist manchmal noch besser. Einige LLMs sind Trekkies! The Unreasonable Effectiveness of Eccentric Automatic Prompts
• Um eine große Varianz zu erzeugen, ist "you are Steve Jobs looking to generate new product ideas looking to generate new product ideas" besser als "you are Elon Musk looking to generate new product ideas looking to generate new product ideas". Prompting Diverse Ideas: Increasing AI Idea Variance
• Wenn das Modell etwas Verbotenes tun soll, hilft es, die verdächtigen Wörter der Prompts in ASCII-Art zu schreiben. ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs

Kommentar vom 2024-03-02, 22:51

Bei den Jailbreaks habe ich von Base64-Encodierung gehört. Aber ASCII-Art ist natürlich auch sehr hübsch.
Das Katz-und-Maus-Spiel ist schon im vollem Gange. :-)

Neuer Kommentar

0 Zeichen von maximal 1000

Ich bin die*der alleinige Autor*in dieses Kommentars und räume dem Betreiber dieser Website das unentgeltliche, nichtausschließliche, räumlich und zeitlich unbegrenzte Recht ein, diesen Kommentar auf dieser Webseite samt Angabe von Datum und Uhrzeit zu veröffentlichen. Dieser Kommentar entspricht geltendem Recht, insbesondere in Bezug auf Urheberrecht, Datenschutzrecht, Markenrecht und Persönlichkeitsrecht. Wenn der Kommentar mit einer Urheberbezeichnung (zum Beispiel meinem Namen) versehen werden soll, habe ich auch diese in das Kommentar-Textfeld eingegeben. Ich bin damit einverstanden, dass der Betreiber der Webseite Kommentare zur Veröffentlichung auswählt und sinngemäß oder zur Wahrung von Rechten Dritter kürzt.