Klingt richtig – stimmt es auch? KI-Antworten im Arbeitsalltag prüfen

KI-Antworten prüfen: Der entscheidende Moment kommt nach dem Schreiben

Das Protokoll ist lang, der nächste Termin steht schon im Kalender und die Zusammenfassung fehlt noch. Also lässt Du eine KI die wichtigsten Punkte herausarbeiten. Wenige Sekunden später liegt ein übersichtlicher Text vor: verständlich, sauber gegliedert, angenehm zu lesen. Genau die Entlastung, die Du gerade brauchst.

Dann steht dort ein Satz, der im Original so gar nicht vorkommt. Er klingt allerdings so passend, dass er beim schnellen Überfliegen kaum auffällt. Und plötzlich wird aus einem hilfreichen Entwurf eine falsche Information, die an das Team weitergeht.

Wer KI im Arbeitsalltag nutzen möchte, braucht deshalb neben guten Fragen auch einen verlässlichen Umgang mit den Antworten. Für mich gehört beides zusammen: die Möglichkeiten ausschöpfen und erkennen, an welchen Stellen die eigene fachliche Prüfung entscheidend ist. Das lässt sich lernen – auch ohne technisches Vorwissen.

Warum eine überzeugende KI-Antwort trotzdem falsch sein kann

Sprachmodelle können Texte erzeugen, die sehr plausibel wirken und trotzdem unbelegte oder falsche Angaben enthalten. Dafür wird häufig der Begriff KI-Halluzinationen verwendet. Das amerikanische National Institute of Standards and Technology beschreibt dieses Risiko als „Confabulation“: Eine Ausgabe wird mit großer sprachlicher Sicherheit präsentiert, obwohl ihr Inhalt nicht stimmt. Dazu können auch erfundene Begründungen oder Quellen gehören. [1]

Im Alltag ist die falsche Antwort oft weniger spektakulär als ein vollständig erfundener Sachverhalt. Eine Einschränkung verschwindet. Aus einer Möglichkeit wird eine Zusage. Zwei unterschiedliche Termine werden zusammengezogen. Der übrige Text kann dabei durchaus richtig sein. Genau deshalb lohnt es sich, die einzelnen Aussagen zu prüfen, statt nur zu fragen, ob die Antwort insgesamt vernünftig klingt.

Hinzu kommt unsere eigene Wahrnehmung. Wenn ein System wiederholt hilfreich war, liegt es nahe, auch das nächste Ergebnis weniger gründlich zu kontrollieren. Eine überhöhte Zuschreibung von Verlässlichkeit an automatisierte Ergebnisse wird als Automation Bias bezeichnet. Die hessische Einführung zu generativer KI greift diesen Punkt ausdrücklich auf. [2]

Ein freundlicher Ton, eine ausführliche Erklärung oder eine Quellenliste sagen Dir also noch nicht, ob Du den Inhalt übernehmen kannst. Dafür brauchst Du den Abgleich mit der tatsächlichen Grundlage.

Ein Praxisbeispiel: Aus „prüfen“ wird „beschlossen“

Das folgende Beispiel ist vollständig erfunden. Es zeigt eine mögliche Fehlerart und ist weder ein echter Vorgang noch das dokumentierte Testergebnis eines bestimmten KI-Systems.

Die zweite Fassung ist kürzer und liest sich flüssig. Nur hat sie den Status der Sache verändert: Die Sprechstunde ist noch nicht beschlossen. Außerdem sollte zunächst eine Einschätzung vorliegen; eine abschließende Klärung war nicht vereinbart. Wer diese Zusammenfassung übernimmt, könnte eine Leistung ankündigen, für die weder eine Entscheidung noch eine gesicherte Personalplanung existiert.

Eine passende Kurzfassung wäre: „Zusätzliche telefonische Sprechstunde ab November in Prüfung; Entscheidung offen. Einschätzung zum Personalbedarf bis 15. Oktober vorgesehen.“ Sie ist ebenfalls knapp und erhält die entscheidenden Vorbehalte.

Eine Prüfroutine für KI-Antworten in fünf Schritten

Du musst nicht jedes Mal einen völlig neuen Prüfprozess erfinden. Für typische Textaufgaben schlage ich die folgenden fünf Fragen vor. Sie sind eine praktische Arbeitshilfe, keine Garantie für Fehlerfreiheit. Am Beispiel der Sprechstunde wird deutlich, worauf sie hinauslaufen.

1. Was ist die tatsächliche Quelle?

Lege die ursprüngliche Notiz neben die Zusammenfassung. Bei einer Recherche öffnest Du die angegebene Quelle selbst: Existiert sie? Stammt sie von der genannten Stelle? Und steht dort wirklich die Aussage, die die KI ihr zuschreibt? Ein funktionierender Link allein reicht nicht. Eine Quelle kann echt sein und trotzdem etwas anderes belegen.

Kannst Du eine wichtige Behauptung nicht zurückverfolgen, behandle sie zunächst als ungeklärt. In unserem Beispiel wäre die entscheidende Frage: Wo steht, dass die zusätzliche Sprechstunde beschlossen wurde? Die Antwort findet sich nicht im Original.

2. Stimmen Datum, Version und Geltungsbereich?

Prüfe, auf welchen Stand sich die Antwort bezieht. Ist die Arbeitsanweisung noch aktuell? Gilt die Information für Deine Einrichtung oder für einen anderen Bereich? Wurde zwischenzeitlich etwas geändert? Bei unserem Beispiel wären eine ältere Besprechungsnotiz und ein späterer Beschluss unterschiedliche Quellen. Du solltest erkennen können, welche davon zusammengefasst wurde.

3. Sind Zahlen und Namen richtig übernommen?

Vergleiche Beträge, Fristen, Mengen, Einheiten und Zuständigkeiten direkt mit der Vorlage. Rechne wichtige Ergebnisse unabhängig nach, etwa mit einem Taschenrechner oder einer geeigneten Tabellenkalkulation. Hier stimmen zwar November und 15. Oktober. Trotzdem ist der Text nicht korrekt: Richtig übernommene Zahlen machen die übrigen Aussagen nicht automatisch richtig.

4. Ist aus einer Aussage etwas anderes geworden?

Achte besonders auf Wörter wie „kann“, „soll“, „voraussichtlich“, „unter der Voraussetzung“ und „noch offen“. Sie tragen oft mehr Bedeutung als ein langer erklärender Absatz. Frage Dich außerdem: Fehlt ein Vorbehalt? Wurde eine Vermutung als Tatsache dargestellt? Ist eine Empfehlung als verbindliche Entscheidung formuliert? Im Beispiel steckt genau hier der Fehler.

5. Kann ich den Text für diesen Zweck freigeben?

Überlege vor der Weitergabe, wer sich auf den Text verlassen wird und was eine falsche Angabe auslösen könnte. Die interne Gedächtnisstütze und eine verbindliche Ankündigung verlangen unterschiedliche Sorgfalt. Für unsere Sprechstunde heißt das: Erst den offenen Entscheidungsstand korrekt darstellen, dann den Text weiterverwenden. Besteht noch Klärungsbedarf, bleibt er sichtbar.

Ein Arbeitsauftrag, der das Prüfen leichter macht

Du kannst bereits bei Deiner Anfrage dafür sorgen, dass sich das Ergebnis besser mit der Vorlage vergleichen lässt. Statt nur „Fasse das zusammen“ könntest Du bei einem dafür freigegebenen Dokument beispielsweise schreiben:

Zum Ausprobieren

Fasse ausschließlich den folgenden Text zusammen. Ergänze keine Informationen. Trenne ausdrücklich beschlossene Punkte, Vorschläge und offene Fragen. Übernimm Fristen und Zuständigkeiten genau. Nenne zu jedem Punkt die zugehörige Stelle im Ausgangstext. Wenn eine Angabe fehlt oder mehrdeutig ist, kennzeichne das. Ausgangstext: …

Dieser von mir formulierte Beispielauftrag gibt eine klare Struktur vor. Ob die KI sie einhält und die Textstellen richtig zuordnet, prüfst Du anschließend am Original. Auch die Aufforderung, nichts zu erfinden, ist keine technische Absicherung.

„Bist Du sicher?“ kann eine Überarbeitung anstoßen, ersetzt aber keinen Beleg. Dasselbe gilt für eine zweite KI: Zwei übereinstimmende Antworten sind noch keine unabhängige Bestätigung. Nutze solche Rückfragen gern, um auffällige Stellen zu finden. Kläre die entscheidenden Angaben dann anhand einer überprüfbaren Quelle.

Wie viel Kontrolle braucht KI im Arbeitsalltag?

Eine Ideensammlung für einen Workshop muss anders geprüft werden als eine Auskunft, auf deren Grundlage jemand handelt. Die hessische Verwaltungshilfe empfiehlt, den Einsatz auch danach zu beurteilen, welche Folgen mögliche Fehler haben und wie gut sie sich korrigieren lassen. [2] Für die Praxis würde ich daraus drei unterschiedliche Situationen ableiten:

• Ideen und Formulierungsvarianten: Du prüfst, ob sie sinnvoll, passend und für den Zweck geeignet sind. Enthalten sie Fakten, werden diese gesondert kontrolliert.
• Protokolle, Berichte und Rechercheergebnisse: Die entscheidenden Aussagen werden mit den Originalquellen abgeglichen. Offene Fragen bleiben erkennbar.
• Texte mit erheblichen Folgen: Für verbindliche Auskünfte, wichtige Fristen oder Entscheidungen über Menschen braucht es eine fachlich verantwortliche Prüfung und gegebenenfalls ein zusätzliches Vier-Augen-Prinzip.

Für ein Team lohnt sich eine einfache Vereinbarung: Welche Anwendungen nutzen wir? Welche Informationen dürfen hinein? Wer prüft welche Ergebnisse vor der Weitergabe? Und wie gehen wir mit einem entdeckten Fehler um? Eine Freigabe für ein Werkzeug bedeutet schließlich nicht, dass jeder Inhalt damit bearbeitet werden darf. Nutzt die in Eurer Organisation erlaubten Verfahren und klärt offene Fragen zu personenbezogenen oder vertraulichen Angaben vor der Eingabe.

Die Plattform Lernende Systeme betrachtet den verantwortungsvollen KI-Einsatz in ihrem Whitepaper von Mai 2026 ebenfalls als Aufgabe, die Kompetenzen und organisatorische Gestaltung zusammenbringen muss. [3] Aus meiner Sicht sollte Weiterbildung deshalb am echten Arbeitsablauf ansetzen: Wo spart KI uns Arbeit, wo verändert sie Aussagen und wer bemerkt das rechtzeitig?

KI-Kompetenz beginnt bei der eigenen Arbeit

Wenn Du den nächsten KI-Text vor Dir hast, probiere es an einer konkreten Stelle aus: Suche eine Aussage, auf die sich jemand verlassen soll, und gehe zurück zur Quelle. Ist sie dort genauso gemeint? Diese kleine Gewohnheit macht sichtbar, woran eine gute Prüfung ansetzt.

In meinem Seminar „Künstliche Intelligenz im Arbeitsalltag“ geht es um genau solche praktischen Anwendungen: Texte, Protokolle, Zusammenfassungen, Recherche und den Umgang mit eigenen Fällen. Für die Beratung im Jobcenter und bei Bildungsträgern gibt es außerdem das Seminar „Künstliche Intelligenz in der Arbeitsvermittlung“. Entscheidend ist, dass Du das Gelernte auf Deine Aufgaben übertragen kannst.

Du möchtest zunächst die größere Entwicklung einordnen? Im Beitrag „Arbeitsmarkt 2035“ geht es darum, wie demografischer Wandel, KI und Automatisierung unsere Arbeit verändern. Hier beginnt der nächste Schritt ganz konkret: beim Umgang mit der Antwort auf Deinem Bildschirm.

Sie möchten für Ihr Team einen sicheren und praxistauglichen Umgang mit KI entwickeln? Beschreiben Sie uns im Kontaktformular, welche Aufgaben Sie beschäftigen und wo Sie Unterstützung wünschen. Gemeinsam klären wir, welches Inhouse-Seminar zu Ihrer Einrichtung passt.