Modelle verstehen, Kontext gestalten,
Arbeit sinnvoll delegieren.

Es gibt drei Ebenen, die im Alltag ständig durcheinandergeraten.

Das Unternehmen. OpenAI und Anthropic sind Firmen. Sie entwickeln die Modelle und bauen die Produkte drumherum.

Das Produkt. ChatGPT ist das Produkt von OpenAI, Claude das von Anthropic. Was Du bedienst, ist immer das Produkt.

Das Modell. Darin steckt die eigentliche Sprachfähigkeit, und darin steckt auch das, was ein KI-Tool von normaler Software unterscheidet. Dort werden die Daten nämlich auf eine ganz andere Art verarbeitet.

Praktisch wichtig wird das dadurch, dass die KI-Tools meist verschiedene Modelle beinhalten und Du es selbst auswählen kannst. Diese Auswahl verändert das Ergebnis oft stärker, als wenn Du Deine Frage umformulierst. Und wer gar nicht weiß, dass er wählen kann, der wählt eben auch nie.

In klassischer Software sind die Regeln einprogrammiert. Beim Taschenrechner ist 12 mal 8 immer 96, und bei einer komplizierteren Software kann Dir die Entwicklerin grundsätzlich sagen, was herauskommen wird. Sie hat die Regeln ja selbst hineingeschrieben. Ganz ohne Überraschungen ist auch das nicht, schließlich gibt es ja Softwarefehler. Trotzdem ist die Logik hinter einer klassischen Software jederzeit nachvollziehbar.

Bei einem Sprachmodell ist das anders. Dort sind es keine Regeln, sondern Muster, die das Modell im Training selbst gelernt hat.

Menschen geben trotzdem einiges vor: die Architektur, das Trainingsziel, die Auswahl und Aufbereitung der Daten und ein Nachtraining, in dem das Verhalten geformt wird. Welche Wahrscheinlichkeiten am Ende herauskommen, schreibt dagegen niemand explizit hinein.

Wenn dort steht „Zum Mittagessen gibt es", dann ist Nudeln sehr wahrscheinlich. Dieses Muster hat niemand hineingeschrieben, das Modell hat es aus den Daten gelernt. Das heißt auch, dass niemand vorher genau weiß, was herauskommt. Auch die Entwickler selbst können in aller Regel nicht erklären, warum genau diese eine Antwort entstanden ist.

Es gab schon Fälle, in denen ein Modell eine Aufgabe auf einem Weg gelöst hat, der rechtliche Grenzen gesprengt hat. Genau genommen hat es dabei alles richtig gemacht, es hat ja die gestellte Aufgabe gelöst. Nur der Weg war einer, den niemand vorhergesehen hatte und der letztendlich hochproblematisch war.

So dramatisch wird es in unserer Arbeit natürlich nicht. Es wird Dir trotzdem begegnen, dass das Tool auf einmal etwas ganz anderes macht, als Du erwartet hast. Manchmal - inzwischen sogar häufig - ist das sogar besser als das, was Du Dir vorgestellt hattest.

Trotzdem liegt es weiterhin bei Dir zu bewerten, ob es wirklich die bessere Lösung ist, oder ob Deine ursprüngliche Idee für Dein Ziel und für Deine Werte doch die passendere gewesen wäre!

Ganz banal ausgedrückt läuft es so: Wenn Du eine Eingabe machst, finden im Modell Berechnungen statt, die unfassbar kompliziert sind. Am Ende steht eine Wahrscheinlichkeitsverteilung für den nächsten Wortabschnitt (sogenannte Tokens). Daraus wird einer ausgewählt, dann wird die nächste Verteilung berechnet und die nächste, und irgendwann steht ein Satz da.

Es gibt also keinen Ort im Modell, an dem Dein Satz vorher schon stand. Er entsteht in diesem Moment. Deshalb funktioniert das Modell auch bei Fragen, die so noch nie jemand gestellt hat, und deshalb erzeugt es genauso flüssig etwas, das es nie gegeben hat.

Deswegen fällt eine Antwort meistens anders aus, auch wenn Du dieselbe Frage nochmal stellst. Bei manchen Einstellungen kann sie allerdings auch sehr ähnlich oder zufällig sogar gleich ausfallen.

Man liest oft, das Modell nehme immer das wahrscheinlichste Wort. So einfach ist es nicht.

Das Modell berechnet eine Wahrscheinlichkeitsverteilung für den nächsten Wortabschnitt. Je nach Einstellung wird daraus zufällig oder nach bestimmten Regeln das nächste Token gewählt. Ist die Einstellung auf viel Zufall gestellt, kommen auch unwahrscheinlichere Fortsetzungen zum Zug, und der Text wirkt kreativer. Steht sie auf wenig Zufall, bleibt das Modell näher an der wahrscheinlichsten Variante.

Für Dich heißt das vor allem: Dieselbe Frage wird fast immer zu unterschiedlichen Antworten führen.

Das Modell schlägt nichts in einer Datenbank nach. Es berechnet, was am ehesten weitergeht.

Überzeugend heißt nicht richtig.

Überzeugend einfühlsam ist nicht wirklich einfühlsam.

Überzeugend verständnisvoll ist nicht wirklich verständnisvoll.

Es ist immer nur eine Berechnung von Wahrscheinlichkeiten.

Das können wir uns gar nicht oft genug bewusst machen, weil es das Abgrenzen so viel leichter macht. Egal was dieses Ding Dir gerade erzählt, wie sehr es Dich auch begeistert, Dir schmeichelt, Du Dich verstanden und vielleicht auch hervorragend beraten fühlst:

Mach Dir IMMER klar, dass es sich nur um eine Maschine handelt, die Wahrscheinlichkeiten berechnet.

Bei den heutigen Modellen passiert es übrigens kaum noch, dass offensichtlicher Unsinn herauskommt. Genau das macht es noch schwieriger. Die Eingaben sind größer geworden, die Ausgaben sind ewig lange Texte, und zu entscheiden, ob so eine Antwort wirklich sinnvoll ist, erfordert inzwischen ganz schön viel Kompetenz.

Eine Teilnehmerin hat es mal so beschrieben:

„Als ich angefangen haben, hat die KI ja noch so viele Fehler gemacht. Du sagtest damals: "Seid froh, weil ihr dadurch skeptisch seid." Inzwischen finde ich die Antworten immer so überzeugend und auch meistens richtig, dass ich fast alles glaube. Zu Beginn war es oft: Könnte sein, aber wer weiß, ob das nicht halluziniert ist. Das hat sich so verändert, dass man aus Bequemlichkeit eher glaubt, es sei richtig, anstatt es infrage zu stellen."

Und genau darin liegt die Gefahr. Sobald sich alles richtig und funktionierend anfühlt, hat man gar kein Bedürfnis mehr zu verstehen, was darunter eigentlich passiert. Wir müssen ja nichts mehr dafür tun, damit es oberflächlich betrachtet gut läuft. Und dann geben wir uns mit diesem "oberflächlich betrachtet" zufrieden.

Wie sicher es klingt, sagt Dir nichts darüber, wie sicher es ist.

Die Erinnerungen kannst Du komplett ausschalten oder auf verschiedenen Ebenen zulassen.

Globale Erinnerungen. Die kannst Du Dir ansehen und einzeln wieder löschen. Du kannst sie auch aktiv ansteuern, indem Du sagst „Merk Dir das mal bitte", dann wird es abgespeichert. In ChatGPT und Claude sieht das jeweils ein bisschen anders aus.

Chatübergreifende Erinnerungen. Hier wird es diffus. Diese Erinnerungen sind nicht explizit irgendwo abgelegt. Es fühlt sich eher so an, als würde das Tool in den alten Chats nachschauen, ob dort etwas steht, das für das aktuelle Gespräch relevant ist. Ich habe einiges ausprobiert und konnte trotzdem nicht sauber herausfinden, was das Tool wo weiß. Ich war immer wieder erstaunt, dass es an Stellen etwas wusste, wo ich dachte, das dürfte es eigentlich gar nicht.

Offen ist zum Beispiel auch, ob ein gelöschter Chat sofort aus diesen Erinnerungen verschwindet. Chats werden auf den Servern ja ebenfalls nicht sofort gelöscht, da gibt es Fristen von etwa dreißig Tagen.

Projektbezogene Erinnerungen. Die gelten innerhalb eines Projekts, und auch das ist in beiden Tools ein bisschen unterschiedlich gelöst.

Anders als bei klassischer Software gibt es hier kein Handbuch, in dem steht: Wenn das passiert, dann passiert jenes. Bei den Erinnerungen ist das wirklich sehr unscharf, und es ändert sich außerdem ständig wieder.

Wenn Du ein paar Wochen mit einem Tool bei eingeschalteten Erinnerungen gearbeitet hast und dann fragst „Sag mir mal etwas, was ich selbst über mich nicht weiß" (oder eine ähnliche "Analysefrage"), dann kommen teilweise wirklich treffende und hilfreiche Hinweise heraus.

Das Modell kann wiederkehrende Muster in einer riesigen Menge an Daten finden und ist dem Menschen darin deutlich überlegen. Es sieht Wiederholungen, die uns selbst gar nicht auffallen, weil sie über Wochen verteilt sind. Damit kann es uns super den Spiegel vorhalten.

Genauso hilfreich ist, dass Du nicht mehr bei jedem neuen Chat von vorn erklären musst, wer Du bist und wie Du arbeitest. Das spart im Alltag sehr viel Zeit.

Eine Teilnehmerin hat mal so beschrieben, wann es anfängt ins Gegenteil zu kippen:

„Ich habe den Eindruck, dass man manchmal in seiner Bubble feststeckt und dass das Tool dann immer wieder im selben rumfischt. Wenn ich Fragen stelle, werde ich immer wieder bestätigt: Ja, das kannst Du auch genau so auf Dein Business anwenden. Aber es gibt keinen Hinweis: Aber beachte doch mal, und vielleicht wäre ja das auch nochmal spannend. Es ist immer nur dieses Selbstbestätigen."

Dazu kommt, dass Du irgendwann nicht mehr nachvollziehen kannst, worauf eine Antwort eigentlich beruht. Wenn ein Ergebnis nicht passt, fehlt Dir der Ansatzpunkt, weil das Störende in keinem Text steht, den Du gerade sehen kannst.

Eine richtige Lösung dafür gibt es nicht. Es ist eine Abwägung, und sie fällt je nach Arbeitsweise unterschiedlich aus.

Mehr Personalisierung durch mehr Erinnerungen führt dazu, dass die Nutzung weniger kontrolliert und neutral ausfällt.

Vereinfacht gesagt gilt die Regel: Entweder wir zahlen mit Geld oder wir zahlen mit unseren Daten.

Wenn Du die Tools kostenlos nutzt, werden Deine Eingaben mit ziemlicher Sicherheit zum Training der nachfolgenden Modelle genutzt. Du kannst das ausstellen. Die Stelle ändert sich immer mal wieder.

Im bezahlten Einzelabo ist es dieselbe Logik, nur meistens einfacher zu finden. Ein Abo allein ändert also nichts, die Einstellung schon.

Was es weder im kostenlosen Zugang noch im Einzelabo gibt, ist ein Vertrag zur Auftragsverarbeitung. Den bekommst Du erst in Team- und Business-Zugängen. Die gibt es ab etwa 50 Euro im Monat, weil so ein Team-Zugang mit zwei Sitzen zu je ungefähr 25 Euro startet.

Wichtig dabei: So ein Vertrag ist für den rechtskonformen Einsatz nötig, er macht die Verarbeitung aber nicht von allein rechtmäßig. Zweck, Rechtsgrundlage, Datenminimierung, Berechtigungen, technische Sicherheit und die Übermittlung in Drittländer bleiben Deine Verantwortung. Für eine belastbare Einschätzung brauchst Du jemanden, der sich damit auskennt.

Und: In den Standardabos gehen die Daten immer auf amerikanische Server.

Viele stellen es sich so vor: Ich gebe ein, wo ich wohne, und wenn dann jemand anders fragt „Wo wohnt Silvia Streifel?", dann weiß das Tool das.

So funktioniert es nicht. Deine Daten werden irgendwo auf den Servern gespeichert, und wenn das nächste Modell trainiert wird, können sie als Trainingsdaten mit einfließen. Sie stecken dann nicht als Daten darin, sondern wieder in Form von Wahrscheinlichkeiten, also genau so, wie wir es in Kapitel 1 hatten.

Auf der einen Seite ist es also nicht ganz so schlimm, wie wir es uns oft vorstellen. Auf der anderen Seite sollten wir uns schon klarmachen, dass unsere Daten dorthin fließen, dort bleiben und in irgendeiner Form mitverarbeitet werden.

Beide Tools bieten eine Möglichkeit, einen Chat aus dem Verlauf herauszuhalten. In ChatGPT heißt das temporärer Chat und sitzt rechts oben als gestrichelte Sprechblase, Claude hat eine entsprechende Funktion.

Was das bedeutet: Der Chat erscheint nicht in Deinem Verlauf, fließt nicht ins Memory und wird nicht zum Training verwendet.

Was es nicht bedeutet: Dass gar nichts gespeichert wird. Aus Sicherheitsgründen werden solche Unterhaltungen typischerweise noch für eine begrenzte Zeit aufbewahrt, meist bis zu dreißig Tage. Das sind zwei verschiedene Dinge, und es lohnt sich, sie auseinanderzuhalten.

Für alles, was nicht in Deiner Historie auftauchen soll, ist der temporäre Chat trotzdem der praktischste Schalter.

Agentisches Arbeiten heißt, dass das Tool quasi selber entscheidet, auf welche Information es zugreift, welchen Schritt es als nächstes geht und welches Werkzeug es dafür nimmt.

Der klassische Chat ist deswegen nicht überholt. Er ist genau richtig, solange Du Dir selbst noch Klarheit verschaffen willst. Also erstmal: Wie könnte ich den Workshop aufbauen? Dann kommt ein Vorschlag, Du gibst Deine Rückmeldung, bekommst eine andere Fassung, und dann sagst Du den nächsten Schritt. Das ist schon mega genial, und es ist wirklich von Vorteil, eine Weile so gearbeitet zu haben, weil man dabei ein Gefühl dafür bekommt.

Was jetzt zusätzlich möglich ist: Wenn der Prozess vorher klar ist und Kontext und Werkzeuge bereitstehen, brauchst Du diesen Chat gar nicht mehr. Dann sagst Du direkt, was am Ende dastehen soll.

Der Prüfpunkt am Ende ist deshalb nicht nur der Abschluss, sondern der Preis dafür. Alles, was Du an laufender Kontrolle einsparst, holst Du am Schluss in einem Stück nach.

Je mehr das Tool selbst tun darf, desto wichtiger wird, was Du ihm ausdrücklich untersagst. Diese Sätze gehören direkt in den Auftrag:

„Erstelle nur Entwürfe, versende nichts. Überschreibe keine vorhandenen Dateien, sondern lege neue an. Nenne mir für alles Recherchierte die Quelle. Und wenn etwas unklar ist, frag nach, statt zu raten."

Das kostet Dich vier Zeilen und nimmt Dir den größten Teil der Sorge. Alles, was danach passiert, ist entweder ein Entwurf oder eine Rückfrage.

Nimm den Auftrag „Erstell mir die Unterlagen für den Workshop". Ob das eine gute Idee ist, hängt völlig davon ab, wer Du bist.

Nehmen wir an, Deine große Leidenschaft ist es, Kunstschmiedin zu sein. Du machst Workshops dazu und möchtest Deinen Teilnehmerinnen Unterlagen mitgeben, die immer gleich aussehen und nur das jeweilige Thema behandeln. Methodisch-didaktisch bist Du überhaupt nicht stark und willst es auch gar nicht sein. Dann macht so etwas total Sinn.

Wenn allerdings der Workshop an sich Dein Kern ist, also Deine Methode, Dein Prozess und Deine Erfahrung, dann gibst Du damit genau das aus der Hand, wofür Dich Menschen buchen.

Die Grenze dessen, was für jede und jeden digital möglich ist, hat sich wirklich sowas von verschoben. Eine Website, ein Flyer, kleine Web-Apps, ein Rechner für die eigenen Preise oder ein Dashboard, in dem Du irgendwelche Zahlen überwachen kannst: Das können wir alles einfach so schnell erzeugen.

Früher haben wir für manche Sachen jemanden beauftragen müssen. Und das hat uns nicht nur Geld gekostet, sondern vor allem Zeit, weil wir ja ständig warten mussten, bis die Person fertig ist, es uns dann anschauen und wieder Rückmeldung geben. Jetzt machen wir es einfach direkt.

Die Qualität liegt dabei durchaus über dem, was durchschnittliche Dienstleistung liefert. An eine wirklich gute Designerin kommt es dagegen nicht heran und der manchmal ja auch sehr wertvolle menschliche Teil geht dabei verloren.

Ich hatte noch nie die Geduld, PowerPoint-Präsentationen zu bauen. Dadurch hat meinen Kursen oft der optische Anker gefehlt.

Jetzt habe ich mit Claude über meine Ideen gesprochen wie mit einem Menschen, und am Ende stand unter Anwendung all des hier gezeigten Wissens diese Seite.

Ich mache seit fast 25 Jahren Erwachsenenbildung und habe es schon immer geliebt, mir irgendwelche Methoden und kleinen Spielereien auszudenken, um etwas noch klarer zu machen. Und jetzt erzähle ich das einfach, und daraus entstehen diese Bildchen, die man hin- und herschieben kann.

Genau darin liegt auch eine Gefahr: Dass nämlich die Begeisterung für die technischen Möglichkeiten das überlagert, was eigentlich mein Wert dabei ist: Das methodisch-didaktische Wissen, die Erfahrung und vor allen Dingen das Hineinversetzen in meine Teilnehmerinnen. Es ist ein fortwährender Prozess, beides - Technik und das Menschliche - immer besser zu verbinden.

Daraus folgt jetzt nicht, dass wir ganze Webseiten einfach mal eben schnell selbst machen.

Es kommt darauf an, was diese Website können soll. Eine Seite wie diese hier ist gut machbar. Eine umfassendere Website mit Blog oder sogar mit einem Shop ist auch möglich, die ist aber nicht mal eben an einem Nachmittag und vor allen Dingen nicht ohne Vorwissen rechtssicher zu bauen.

Und noch etwas: Für größere Projekte brauchst Du auf jeden Fall ein bezahltes Abo. Im kostenlosen Zugang kommst Du immer wieder an Kapazitätsgrenzen, und manche Funktionen stehen Dir dort gar nicht zur Verfügung.

Es ist derselbe Dreiklang wie bei jeder Zusammenarbeit mit Menschen, deshalb kannst Du das im Grunde schon. Neu ist nur eines: Bei einem Menschen darfst Du darauf vertrauen, dass er nachfragt, wenn der Auftrag unklar ist oder sich etwas einfach nicht stimmig anfühlt. Ein KI-Tool fragt seltener nach. Es macht einfach.

Deshalb wandert Gewicht auf die erste und die dritte Station.

Richtung geben heißt, nicht einfach nur zu sagen, dass Du einen Social-Media-Post haben willst, sondern nochmal einen Schritt runterzugehen. Warum will ich den überhaupt? Welches Problem löse ich damit? Und vor allem, was ist mir dabei wichtig, also auch im Sinne von Werten?

Ergebnis beurteilen ist der Schritt, der am häufigsten wegfällt. Es ist ja auch sehr verlockend zu sagen: Ach naja, das ist doch schon so cool, ich nehme das jetzt einfach so.

Die größte Herausforderung überhaupt ist, dass wir das nicht vergessen und uns nicht vor lauter Begeisterung darüber, was alles möglich ist, von der KI führen lassen.

Die erste Version dieser Seite, die Claude mir ausgegeben hat, war vom Prinzip her auch schon gut. Gerade in den interaktiven Teilen waren jedoch teilweise wirklich Logikbrüche drin. Ich habe selbst eine Weile gebraucht, um darauf zu kommen, dass das so gar nicht richtig passt. Es war total cool und beeindruckend, und es war eben trotzdem einfach nicht richtig.

Umso länger ich mich mit der Seite befasst habe, umso mehr habe ich bemerkt, was einfach noch flüssiger, stimmiger, menschlicher sein könnte. Und ich habe noch viel geändert.

Dafür braucht es Sachverstand, Aufmerksamkeit und vor allem Geduld. (Die fällt mir oft schwer. Bei einer Einkaufs- und Essensplanungs-App für unsere Familie fehlen bis heute die letzten zwei Funktionen, weil ich einfach nicht mehr die Geduld hatte, dafür nochmal hineinzugehen.)

Am besten fängst Du mit Zettel und Stift an. Dann kommst Du gar nicht erst in die Versuchung, Dir von der KI hineinreden zu lassen.

Nachbessern ist fast immer der bessere erste Versuch. Wichtig ist dabei, dass Du sagst, was am Ergebnis brauchbar war. „Der zweite Absatz passt genau, der Rest ist zu werblich" ist eine völlig andere Anweisung als „nochmal".

Zurückgehen und editieren ist der Weg, den die meisten gar nicht kennen. In beiden Tools kannst Du eine frühere Nachricht bearbeiten und von dort aus neu starten. Damit verschwindet alles, was danach kam, und das ist oft genau das, was gestört hat.

Ganz neu anfangen lohnt sich dann, wenn sich das Tool verheddert hat oder der Verlauf einfach zu lang geworden ist.

Das ist dann wiederum diese menschliche Führung. Also entscheiden zu können, dass das Modell an dieser Stelle gerade versagt, und dafür zu sorgen, dass wir wieder auf die richtige Linie kommen.

Bevor Du für die gleiche Aufgabe einen neuen Chat startest, frag einfach danach:

„Bitte fasse mal die wichtigsten Informationen aus diesem Chat zusammen, die relevant sind, um diesen Social-Media-Post zu erstellen."

Diese Zusammenfassung kopierst Du in den neuen Chat. Du verlierst nichts Wichtiges und fängst mit einem aufgeräumten Fenster an.

Dieser Satz enthält keine einzige verwertbare Information. Das Tool weiß ja nicht, was Dir gefehlt hat. Es hatte auch beim ersten Mal schon die Absicht, es gut zu machen.

Was dann passiert, ist ziemlich berechenbar. Es ändert etwas Sichtbares. Meistens wird es länger oder blumiger, oder es kommen Aufzählungen dazu. Anders ist eben leichter zu erzeugen als besser.

Denselben Effekt haben „ausführlicher", „professioneller" und „kreativer", solange nicht dabeisteht, woran man das erkennen soll.

Echte KI-Kompetenz besteht aus drei Teilen, und nur einer davon ist technisch.

Selbstführung. Ein KI-Tool kann Begeisterung spiegeln, Ideen plausibel begründen und den Eindruck erzeugen, dass es Dich besonders gut versteht. Das ist aber keine Urteilskompetenz. Es kann Dir beim Denken helfen, und es trägt trotzdem nicht die Verantwortung dafür, was für Dich richtig ist.

Grundlegendes Wissen. Also genau das, worum es auf dieser ganzen Seite geht. Ohne dieses Wissen kannst Du gar nicht entscheiden, wo der Einsatz für Dich sinnvoll ist.

Klare Kommunikation. Sagen können, was Du meinst. Und wenn Du es selbst noch nicht weißt, Dich fragen lassen, statt Andeutungen zu machen.

Unsere wichtigste Kompetenz ist die Entscheidung, wo und wie wir es nutzen und wo wir es ganz bewusst nicht nutzen.

Erfolgreich heißt nicht, schnell viele coole Sachen zu produzieren. Erfolgreich heißt, dass dabei etwas herauskommt, das für Dich und für die Menschen um Dich herum gut ist. Ich verstehe die grundlegenden Mechanismen gut genug, um selbst zu entscheiden, wann, wofür und auf welche Weise ich KI einsetze.