Ich kenne eine nicht unerhebliche Anzahl von Menschen, die auf keinen Fall „mit ihrem Handy bezahlen“ wollen, weil sie den Bezahlvorgang mit einem zufällig generierten Token aus einem nach außen hin verschlüsselten Wallet für zu gefährlich halten. Die gleichen Menschen bestellen aber ganz natürlich im Internet via Kredit- oder Debitkarte oder gleich per Paypal auf jeder Seite, die sich nicht bei drei in eine 404 verwandelt, und sie tun es im Restaurant am Urlaubsort seit Jahren sowieso. Fragst Du aber solche Menschen nach ihrer KI-Nutzung, erfährst Du, dass sie wie selbstverständlich eine KI nutzen, um sich Rechts- und Gesundheitsberatung zu holen und die Bilder aus dem letzten Urlaub facebookfähig zu tunen.
Ein Schelm, wer hier Gedanken denkt, in denen die Begriffe verquere Risikowahrnehmung und Inkonsequenz vorkommen.
Der facebooksozialisierte Bundesbürger stürzt sich also wie selbstverständlich auf die neue und vor sich hin pubertierende Technik, von der selbst ihre Erfinder und Besitzer sagen, dass sie sie nicht vollständig unter Kontrolle haben. Ok. Nun ja, was soll’s. Wir haben die Atomkraft (bis jetzt) und Helmut Kohl überlebt, da werden wir auch mit Trump und KI klarkommen.
Die Kinder spielen also so oder so auf der Straße, und weil man’s nicht verhindern kann, muss man ihnen clevererweise die Verkehrsregeln beibringen. Insofern schreibe ich hier mal ein paar grundlegende Hinweise und Tipps für den Umgang mit KI auf, wie ich sie lernen durfte und wie ich sie in meinem Job vermitteln muss. Los geht’s.
Das Gefährliche an KI ist: Sie irrt nicht wie ein Mensch, der sich, im besten Fall, selbst in Frage stellt. KI irrt sich souverän und im Brustton der Überzeugung – genauso wie die Typen in der Dorfkneipe an der Bar nach drei Bier. Die KI nennt ein Aktenzeichen – „BGH, Az. VIII ZR 123/45” –, und es klingt so präzise, so amtlich, dass dir gar nicht in den Sinn kommt, es könnte frei erfunden sein. Das ist es aber! So gefährlich überzeugend kann KI sein – nichts erscheint faktischer in unserer Gesellschaft als ein Aktenzeichen.
KI ist keine bessere Suchmaschine.
Warum passiert so etwas überhaupt? Weil hier ein weit verbreiteter Irrtum existiert, der daraus besteht, dass man KI für eine bessere Suchmaschine hält. Das ist sie nicht! Eine Suchmaschine hat irgendwo eine Seite liegen, auf die sie verweist – sie findet etwas, das existiert, und reicht es dir weiter. Wenn nichts da ist, bekommst du „keine Ergebnisse”. Eine KI funktioniert grundlegend anders. Sie schlägt nichts nach, sondern errät bei jedem Wort, welches als nächstes am wahrscheinlichsten kommt – trainiert an Abermilliarden von Sätzen. Das ist erstaunlich mächtig, aber im Kern ist es Statistik, keine Recherche.
Ein Aktenzeichen hat nun eine typische Gestalt: ein Kürzel, ein paar Ziffern, ein Schrägstrich. Die KI hat Tausende davon „gesehen” und weiß, wie so etwas auszusehen hat. Fragst du nach einem Urteil, das ihrer Meinung nach existieren müsste, baut sie dir eines, das perfekt aussieht – nur eben ohne dass dahinter je eine Entscheidung gefallen wäre. Sie lügt dich nicht an, sie hat gar keinen Begriff von wahr und falsch. Sie vervollständigt ein Muster. Das Ergebnis ist ein Satz, der alle Merkmale von Wahrheit trägt außer der Wahrheit selbst.
Kontrollverlust per Upload
Ein weiteres Beispiel: Der Arztbrief mit Diagnose und Klarnamen, den du dir „nur mal erklären lassen“ willst, wandert auf einen Server, dessen Standort, Anbindung, Rechteverwaltung, Hintertüren und so weiter, du nicht kennst. Gesundheitsdaten, Passwörter, Betriebsgeheimnisse, die Daten Dritter – all das verlässt in dem Augenblick, in dem du auf Enter drückst, deinen Einflussbereich. In den meisten Fällen Richtung Trumpland, immer häufiger auch Richtung China. Der Bedarf war da, die Bedenken nicht – und die Kontrolle ist für alle Zeiten weg.
Glaube KI nicht aufs Wort.
Das erfundene Aktenzeichen ist kein Ausrutscher, sondern entsteht, wie erwähnt, bauartbedingt in KI. Diese Systeme erzeugen Plausibilität, nicht Wahrheit – und Plausibilität ist die gefährlichste Fälschung, weil sie sich nicht als solche zu erkennen gibt. Prüft vorgebliche Fakten also. Lasst euch Quellen nennen und überprüft sie selber. Das ist wichtig, denn ansonsten lernt man eventuell auf teure Art und Weise die nächste Einsicht:
KI ist ein Einstieg, kein Fachmann.
Wer sich die Steuererklärung „optimieren“ lässt, auf Wissen der KI setzt und dabei eine Frist reißt, zahlt nach – mit Zinsen. Der Steuerberater hätte für seinen Fehler gehaftet; die Maschine haftet für nichts. Womit wir bei einem Prinzip wären, das den ganzen Text durchzieht:
Die Verantwortung wandert nie mit.
„Die KI hat das so gerechnet“ ist kein Satz, der dich entlastet, wenn der falsch bezifferte Serienbrief beim Kunden liegt. Am Ende jeder Kette aus Prompts und Ausgaben ist die KI immer kollegial stolz auf das „mit Dir zusammen“ Geleistete und schweigt danach wie ein Grab. Für das Ergebnis Rede und Anwort stehen muss der Mensch – nicht das Werkzeug. Klingt banal, ist aber als Konsequenz in unserer durch- und überversicherten Gesellschaft nicht mehr in Jedermanns Wahrnehmung vorhanden.
Zwischen diese großen Fragen schieben sich die rechtlichen, die man leicht übersieht, bis sie teuer werden.
Das Urheberrecht
Ein Bild „im Stil eines bekannten Fotografen“, kommerziell genutzt, bewegt sich auf ungeklärtem Grund. Wem der Output überhaupt gehört, weiß derzeit niemand mit Sicherheit.
Die Kennzeichnungspflicht
Wo Werkzeuge sind, sind auch die, die sie missbrauchen. Die geklonte Stimme des Chefs, die eine Überweisung anweist – der sogenannte CEO-Fraud – ist Betrug und damit strafbar. Ein KI-Video, in dem ein Politiker etwas sagt, das er nie gesagt hat, ist ohne Hinweis nach dem EU AI Act nicht nur heikel, sondern ein Angriff auf Demokratie und Gesellschaft – und nach meiner Meinung kein Kavaliersdelikt.
Der Datenschutz
Der Personaler, der fünfzig Bewerbungen zum „Vorsortieren“ in die KI kippt, ohne Rechtsgrundlage, ohne die Betroffenen zu informieren, hat die DSGVO nicht gedehnt, sondern gebrochen.
Antrainierte Vorurteile
Dann ist da die stille Schieflage, die niemand programmiert hat und die trotzdem alle bekommen. Bittet die KI mal um Bilder einer „Führungskraft“, und ihr erhaltet Männer in Anzügen. Das ist kein Zufall und keine Bosheit — es ist das Vorurteil der Trainingsdaten, das die Maschine ausspuckt, weil unsere eigene Vergangenheit es hineingeschrieben hat. Wer das nicht mitdenkt, hält eine Verzerrung für ein Ergebnis. Und hier zeigt sich, was schon die Hersteller einräumen, wenn sie sagen, sie hätten ihr eigenes Geschöpf nicht vollständig unter Kontrolle: Die Maschine tut Dinge, die niemand ihr aufgetragen hat.
Verdumme dich nicht selbst.
Am Ende aber steht die leiseste und vielleicht folgenreichste Regel, weil sie keinen Paragraphen kennt, sondern simpel nur jeden von uns betrifft: Verdumme dich nicht selbst. Wer jede Mail, jede Vorlage, jede Recherche abgibt, wacht eines Tages auf und merkt, dass er ohne die Maschine kaum noch einen klaren Gedanken zu Papier bringt. Das ist der eigentliche Preis, und er wird nicht in Rechnung gestellt, sondern schleichend abgebucht. Anders gesagt: KI liefert den Nutzen sofort und den Schaden auf Raten, wenn wir nicht aufpassen.
Aber wir wissen auch alle: Die Kinder werden weiter auf der Straße spielen, das lässt sich nicht verhindern. Aber wer die Verkehrsregeln kennt und beachtet, kommt heil über die Kreuzung – und wer sie vergisst oder nicht beachtet, verlässt sich halt darauf, dass schon irgendjemand für ihn bremst. Viel Glück.