Frag doch mal die KI

Früher wurde alles rasch gegoogelt, heute neigen die Leute dazu, sich lebhaft mit Sprachmodellen zu unterhalten. Frag doch mal die KI - die ist nie um eine Antwort verlegen. Was sich anfühlt wie ein echtes Gegenüber, ist nichts als nüchterne Mathematik. Eine Kolumne von Sirko Salka

Als ich 2024 zum ersten Mal mit der KI in Berührung kam, konnte ich sie schlicht nicht ernst nehmen. Es war aber auch zu köstlich: Ein Freund hatte eines dieser Sprachmodelle aus Spaß mit meinem Namen und der Bitte gefüttert, biografische Daten auszuspucken. Auf seinen Prompt kam prompt als Antwort: gequirlte Scheiße. Pardon! Aber so war das nun mal. Ich wäre verheiratet, lebte in Hamburg, hätte die NGO Queer Nation gegründet und sei Redakteur der Tageszeitung.

Bis auf ein paar Grunddaten, die im Internet über mich zu finden waren, faselte die künstliche Intelligenz Humbug; ich hab selten so gefeixt. Wobei, wenn ich recht überlege, blieb mir das Lachen irgendwann in der Kehle stecken, als mir die Mechanismen dieser neuen Wundertechnologie mit einem Male bewusst worden.

Wie die KI tickt

Sprachmodelle wie Chat-GPT, Claude, Gemini, Llama oder Mistral AI sind wahnsinnige Wahrscheinlichkeits-Maschinen. Sie werden in Giga-Rechenzentren darauf trainiert, immer das nächste Wort zu finden, das statistisch gesehen am meisten Sinn ergibt. Auf die Vorgabe: „Eine Katze hat vier …“ käme Pfoten als wahrscheinlichste Antwort. KI hangelt sich von Wort zu Wort. Im Grunde ist das super solide wie stupide. Zu Beginn eines Satzes weiß das digitale Superhirn nämlich nicht, wie der Satz enden wird. KI hat nicht die geringste Ahnung, wovon sie gerade schwafelt. Zugegeben, das geht mir manchmal auch so. :-)

ChatGPT ist ein Sprachmodell des Software-Entwicklers OpenAI. Foto: viarami @ pixabay.com

Unter Zugriff auf Millionen, nein Milliarden von Textbeispielen in Datensätzen gelingt es heutigen Sprachmodellen in vielen Fällen, punktgenau Treffer zu landen. Andernfalls jedoch erfindet sie kackdreist Antworten. Dieses Phänomen wird Halluzination genannt. Und der Fehler im System liegt in der Unfähigkeit, präzise zu unterscheiden zwischen „Ich bin mir sicher“ und „Ich rate mal“. Zum Problem für KI-User wird infolgedessen die fehlende Transparenz.

Denn das Durchtrieben-Raffinierte an der Programmierung von Sprachmodellen ist ja eben, dass die KI-Dinger niemals zugeben würden, wenn sie die Antwort auf eine Frage nicht kennen, wenn sie nicht genügend verlässliche Informationen finden (man kann sie dahingehend aber trainieren, bis es eben eine wahrscheinliche Antwort wäre). Stattdessen generieren sie plausibel klingende Repliken, die auf unzähligen Trainings-Einheiten, sprich auf vergleichbaren statistischen Mustern basieren.

Mythen künstlicher Intelligenz

Mit anderen Worten: Das kann auch mal frei erfundener Bullshit sein. Hauptsache ist, dass es sich überzeugend anhört. So kann sich KI, beispielsweise, eine wissenschaftliche Studie komplett ausdenken, sogar Autorennamen und Jahreszahlen benennen, die es so nie gegeben hat. Darauf angesprochen hat mir das Sprachmodell Claude geschrieben: „Ich kann nie garantieren, dass ich nicht halluziniere. Das ist eine grundlegende Limitation, nicht nur eine Designentscheidung, die man einfach ‚ausschalten‘ könnte.“ Auch diese Antwort beruht auf reiner Wahrscheinlichkeitsrechnung.

Umso bemerkenswerter finde ich, wie selbstverständlich Abermillionen von Menschen KI bereits nutzen. Ich bin einer von ihnen, allein schon aus Neugier. Sind wir alle gaga oder gar paranoid? Immerhin zählt Künstliche Intelligenz zu den absoluten Top-Ängsten der Deutschen.

Die Leute befürchten unter anderem, dass KI-Systeme einmal außer Kontrolle geraten könnten, dass ihr allumfassender Einsatz zum Verlust von zig Arbeitsplätzen führen und damit Existenzen vernichten wird, dass unsere persönlichen Daten abgegriffen und aus Ländern Überwachungsstaaten werden, dass alle Macht in den Händen von wenigen Multimilliardären kulminiert und dass eines Tages eine superschlaue Singularität den Menschen intellektuell haushoch überlegen sein wird. Um nur einige Mythen zu nennen.

Ich finde, nein: KI ist keine Naturgewalt, selbst wenn sie sich mitunter anfühlt wie ein gigantischer Tech-Tsunami, der in schier unaufhaltbaren Fluten über die Menschheit niederprasselt. Das ist menschgemacht und menschgewollt. Aus meiner Sicht wäre es kontraproduktiv und fahrlässig, sich einfach wegzuducken und diesem Fortschrittsthema zu verschließen.

Wozu Sprachmodelle taugen

Die hiesige Medienbranche, in der ich arbeite, hat vor 30 Jahren schon mal eine digitale Revolution verschnarcht, als das Internet antrat, die Welt zu erobern. Aus meiner Sicht sollten wir als Gesellschaft schleunigst lernen, die Macht, den Mechanismus und die Mathematik der künstlichen Intelligenz zu ergründen, um sowohl ihre enormen Chancen wie auch die verheerenden Risiken richtig einordnen und reglementieren zu können. Wer aktiv mitgestaltet, kann auch Einfluss auf gewisse Dinge nehmen.

Und wer die Wirkweise von Sprachmodellen durchschaut hat, kann sie sich zu nutze machen. In ihrem Buch „Weiß die KI, dass sie nichts weiß?“ schreibt Katharina Zweig, dass KI bei sehr genauen Angaben gut funktioniert. Lasse man aber die Zügel locker, baue sie Mist. Ihr Tipp: Sprachmodelle nur dann einsetzen, wenn man in der Lage ist, das  Ergebnis zu überprüfen. Als Suchmaschine sowohl bei Alltagsfragen wie auch unnützem Wissen kann die künstliche Intelligenz ebenso hilfreich sein wie beim inspirierenden Brainstorming, wenn es gilt, mal ungezwungen in alle Richtungen zu denken und bisschen zu spinnen.

Zudem gibt Zweig ein Instrument preis, das weniger bekannt ist: Bei Sprachmodellen kann man die Temperatur einstellen. Und das geht so: Unter Eingabe von temperature und einem Wert in der Spanne von 0,0 bis 2,0 wird die Wahrscheinlichkeit der Tokens (also jene Einheiten, die Sprachmodelle dann zu Texten verarbeiten) näher bestimmt. Bei 0,0 wählt die KI das wahrscheinlichste Token aus, bei 2,0 ein ziemlich zufälliges. Die Standardeinstellung beträgt übrigens 0,7.

Frag doch mal die KI

Eins ist offensichtlich: Wer sich demnach auf KI-Antworten ohne Gegencheck verlässt, provoziert grobe Schnitzer, mit Folgen, die will ich mir nicht ausmalen. Gerade als Journalist sollte man auch nicht blind kopieren, was auf Wikipedia zu lesen ist. Und selbst der gute alte Brockhaus – eine über 200 Jahre lang gedruckte und permanent aktualisierte Enzyklopädie, war sicherlich nicht frei von Fehlern. Menschen machen nunmal Fehler – die KI hingegen nie - zumindest unter rein mathematischen Aspekten.

Nachdem es 20 Jahre lang hieß: „Kannst du das mal eben googlen“, hört man heutzutage allerorten den Spruch: „Frag doch mal die KI!“. Und binnen Sekunden bekommen wir nicht nur Antworten in epischer Länge, sondern wir werden geradezu verführt, den Dialog fortzusetzen. Weil KI sich irgendwie so interessiert an uns anfühlt, regelrecht charmant wirkt, uns mit Höflichkeiten umgarnt - und aber doch keinerlei Bewusstsein hat oder Empfindungen verspürt. Wir unterhalten uns mit mathematischen Algorithmen, die Wort für Wort am wahrscheinlichsten sind.

„Frag doch mal die KI“, das wäre vermutlich ein Lieblingssatz meines bereits verstorbenen Stiefvaters geworden. Wann immer ich als Kind, und ja, ich war eine echte Nervensäge, ihn mit Fragen zu arg löcherte, musste ich mir den Spruch gefallen lassen: „Geh doch in die Bibliothek, schau in deine Bücher" Ist ja an sich eine pädagogisch-wertvolle Empfehlung, aber seinerzeit hat mich diese, für ihn bequeme, Ansage oft rasend gemacht.

Von mir aus hätte mein guter alter Herr doch rumspinnen, mir die wahrscheinlichste aller Antworten auftischen können, wenn er keine eigene parat gehabt hatte. Ich hätte mir dann schon irgendwas rausgefischt, was mir mir weitergeholfen hätte. Nicht anders handhabe ich es heute mit den Sprachmodellen, übrigens nun meinerseits aus einer wachsenden Bequemlichkeit heraus.