Wie man ChatGPT promptet

Ursprünglich veröffentlicht von Vectors of Mind.

Meine Arbeit ist gefährlich nahe daran, zu einem Prompt Engineer¹ zu werden. Das ist für mich in Ordnung, da sie meine Liebe zum Schreiben, zur Psychometrie und zum NLP vereint. Hier sind einige der übermächtigsten Prompting-Techniken:

1. Klare und spezifische Anweisungen verwenden
2. Chain-of-Thought-Reasoning
3. Die erforderlichen Informationen sammeln, bevor eine Aufgabe erledigt wird
4. Aufgaben in Schritte zerlegen
5. Fachbegriffe sind dein Freund
6. Eine Sammlung nützlicher Formulierungen

1. Klare und spezifische Anweisungen#

Juristen und Informatiker sind darin von Natur aus gut. Tatsächlich besteht eine der Freuden des Promptings darin, dass man im Vergleich zu gewöhnlichem Code sehr viel weniger präzise sein kann und LLMs oft den Sinn erfassen. Viele Anfragen lassen sich jedoch einfach dadurch verbessern, dass man die Aufgabe und das gewünschte Format der Antwort ausdrücklich angibt. Zum Beispiel habe ich kürzlich dieses Mahl zusammengeschustert:

Es hat großartig geschmeckt, danke der Nachfrage. Weitere Beispiele:

• „Fasse die Geschichte der KI in einem Absatz zusammen.“

• „Erstelle eine Tabelle der ältesten Sprachfamilien, nach Alter sortiert. Sei vollständig.“²

• „Schreibe den zitierten Text im Stil von White und Strunk um. Gib mir drei Optionen.“

• „Berechne eine Pearson-Korrelationsmatrix für die Spalten 2–7 der angehängten .csv-Datei.“

  • Folgeanweisung: „Schreibe Code, der die Ergebnisse als Heatmap in einer ausreichend hohen Auflösung darstellt, sodass sie auf einem Poster verwendet werden kann. Verwende bewährte Verfahren bei der ästhetischen Gestaltung.“

Spezifische Anweisungen enthalten oft spezifische Beispiele. White und Strunk haben Elements of Style geschrieben. Ihr Buch zu zitieren ist besser, als Adjektive wie „prägnant“, „professionell“ oder „hervorragend“ zu verwenden, um Schreibstil zu beschreiben. Unter anderem, weil LLMs dazu neigen, insbesondere bei spezifischen Adjektiven, zu viel zu liefern. Wenn du also möchtest, dass der Roboter eine freche Persona annimmt, versuche, ihm zu sagen, er solle sich wie Veronica Mars oder Regina George aus Mean Girls verhalten.

2. Chain-of-Thought-Reasoning#

LLMs werden anhand eines enormen Textkorpus darauf trainiert, das nächste Wort vorherzusagen. Überraschenderweise macht sie das gut darin, Reasoning zu approximieren, doch bei komplexen Aufgaben bricht dieses Verfahren schnell zusammen. „Komplex“ kann hier etwas so Einfaches bedeuten wie „Addiere die Zahlen in Spalte 1“. Das lässt sich nur sehr schwer im One-Shot erledigen, und das Modell wird irgendeine Zahl ausgeben, die plausibel erscheint und wahrscheinlich im richtigen Bereich liegt, aber nicht die richtige Antwort ist. Das Anhängen von „Denke in Schritten darüber nach“ wirkt Wunder. Oft musst du nicht einmal angeben, aus welchen Schritten diese bestehen; LLMs können erschließen, dass die Zwischenschritte beim Addieren einer Spalte darin bestehen, „n1 + n2 + n3 + … + n100 =“ zu schreiben. Im Grunde fordert es sich damit selbst auf, rechts von diesem Gleichheitszeichen eine bessere Antwort zu erzeugen. Oder, analog dazu, gibt es sich selbst Zeit, darüber nachzudenken. Bei jedem Problem ist die Formulierung „Denke in Schritten darüber nach“ deine erste Verteidigungslinie im Umgang mit Halluzinationen von LLMs. Wenn das nicht funktioniert, zähle die Schritte selbst auf (auf diese Technik kommen wir noch zurück).

3. Die erforderlichen Informationen sammeln, bevor eine Aufgabe erledigt wird#

Wenn du ChatGPT bittest, einen Blogbeitrag zu schreiben (ich würde das niemals tun) oder eine Python-Funktion zu schreiben (das würde ich unbedingt tun), wird es loslegen, ohne nach den Einzelheiten dessen zu fragen, was du tatsächlich möchtest. Vieles davon lässt sich vermeiden, indem man etwas sagt wie: „Ich möchte eine Funktion schreiben, die X tut; welche Informationen muss ich sammeln, bevor ich programmiere?“ oder: „Schreibe eine Funktion, die X tut, aber frage zuerst nach allen erforderlichen Informationen, bevor du Code schreibst“, wobei „X“ für eine teilweise Beschreibung steht.

4. Aufgaben in Schritte zerlegen#

Wann immer ChatGPT eine Aufgabe nicht bewältigt und Chain-of-Thought nicht hilft, zerlege die Aufgabe in Teilaufgaben. Das ist oft ohnehin schon die halbe Arbeit einer Aufgabe und zufälligerweise genau das, was LLMs derzeit nur schwer selbst erledigen können. Beachte jedoch, dass du auch dies häufig an das LLM auslagern kannst³. Zum Beispiel habe ich ChatGPT aufgefordert, Aufgaben für einen Kreativitätstest zu entwickeln (die du überfliegen kannst):

Ich versuche, weitere Fragen zu entwickeln, die dem Remote Associates Test (RAT) ähneln. Beim RAT müssen Personen ein gemeinsames Wort finden, das drei scheinbar unzusammenhängende Wörter miteinander verbindet. Hier sind einige Beispielgruppen:

1. Cottage, Swiss, Cake (Antwort: Cheese)

2. High, Book, Chair (Antwort: School)

3. Fruit, Gaze, Traffic (Antwort: Jam)

4. Cream, Skate, Water (Antwort: Ice)

5. Ache, Hunter, Cabbage (Antwort: Head)

6. Manners, Round, Tennis (Antwort: Table)

7. Falling, Actor, Dust (Antwort: Star)

8. Light, Birthday, Stick (Antwort: Candle)

9. Salad, Head, Goose (Antwort: Egg)

10. Music, Ached, Green (Antwort: Apple)

Was sind bewährte Verfahren? Wie sollte ich in Schritten darüber nachdenken?

Wie beim Verständnis dafür, wie man Zahlen addiert, ist ChatGPT hervorragend darin, „Rezepte“ für die Ausführung von Aufgaben zu erstellen. Nachdem es geliefert hatte, musste ich nur noch sagen:

„Großartig! Wende diesen Prozess nun an, um 5 neue Fragen zu erstellen.“

Und dann noch fünf und noch fünf. Zuvor hatte ich direkt nach neuen Aufgaben gefragt, und die Vorschläge waren grauenhaft. Für ein weitaus komplizierteres Beispiel kannst du dir ansehen, wie ein Institut für KI-Sicherheit diese Technik (neben anderen Tricks) eingesetzt hat, um ein Problem zu lösen, das absichtlich so gestaltet war, dass es für LLMs unmöglich war.

5. Fachbegriffe sind dein Freund#

Fachbegriffe sind Attraktorbecken für kompetentes Verhalten von LLMs. Wenn du beispielsweise eine Krankheit beschreibst und fragst, was „indiziert“ ist, kommst du weiter, als wenn du fragst: „Was soll ich tun?“ „Indiziert“ weist das LLM an, deine Symptome auf jedes jemals verfasste medizinische Lehrbuch abzubilden. Letzteres entspricht der Bitte um medizinischen Rat oder Lebensberatung, die es darauf trainiert wurde, nicht zu geben. Die Verwendung technischer oder nicht umgangssprachlicher Begriffe bringt dich aus dem Raum des Normie-Assistenten heraus, der über die meisten Leitplanken und Ratschläge auf Reddit-Niveau verfügt.

6. Eine Sammlung nützlicher Prompts#

Hier sind einige Formulierungen, die ich häufig verwende:

• „Ist das korrekt?“

  • Wann immer ich eine Zusammenfassung der Arbeit einer anderen Person schreibe oder eine Idee beschreibe, mit der ich nicht vollständig vertraut bin, kopiere ich meinen Text und frage, ob er korrekt ist. Das Modell ist normalerweise ziemlich gut darin, Einwände zu erheben, wenn Teile strittig sind.

• „Bist du sicher?“

  • Wenn ich vermute, dass ein LLM Schwachsinn von sich gibt, frage ich es ebenfalls, ob es sicher ist. Wenn es seine Meinung ändert, sollte man die Behauptung mit äußerster Vorsicht genießen.

• „Hilf mir beim Brainstorming.“ „Sei kreativ.“

  • Eine der besten Anwendungen eines LLM besteht darin, dir bei der Erkundung des Ideenraums zu helfen. Manchmal braucht es Ermutigung, um sich von den modalen Antworten zu lösen.

Wenn ihr eigene Standardformulierungen habt, fügt sie in den Kommentaren hinzu!