KI-Halluzinationen bei Lernkarten erkennen und einordnen
Erfahre, wie Halluzinationen entstehen, was Quote-Match tatsächlich misst und wie Source-First sowie ein klarer Unverified-Status das Risiko nachvollziehbar begrenzen.
100%
ausgelieferte Testkarten quellenbelegt
Eigene offene Studie, Juni 2026
97,8%
Quote-Match im Test bestanden
1.997 von 2.042 erzeugten Kandidaten
0
unbelegte Testkarten ausgeliefert
im veröffentlichten Source-First-Test
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Ausgabe eines Sprachmodells, die plausibel klingt, aber nicht durch die zugrunde liegenden Quellen gestützt ist: Das Modell erfindet Fakten, Zahlen oder Zitate, statt sie zu belegen. Das ist kein seltener Ausrutscher, sondern eine Grundeigenschaft generativer Modelle, die aus Wahrscheinlichkeiten formulieren.
Zwei Befunde aus der Forschung sind für Lernapps entscheidend: Erstens reicht Quellenanbindung allein nicht aus. Eine Stanford-RegLab-Studie (Magesh et al., Preprint 2024) maß bei führenden juristischen RAG-Werkzeugen trotz Quellenanbindung 17 bis 33 Prozent Halluzination. Zweitens arbeitet die Forschung an Erkennungsverfahren wie semantischer Entropie (Farquhar et al., Nature 2024), die unsichere Antworten als solche erkennbar machen. Beide Befunde führen zur selben Konsequenz: Ausgaben müssen geprüft werden, statt dem Modell zu vertrauen.
Warum Halluzination beim Lernen besonders gefährlich ist
Spaced Repetition verankert auch Erfundenes
Wiederholungsalgorithmen unterscheiden nicht zwischen belegtem und erfundenem Inhalt: Was auf der Karte steht, wird ins Langzeitgedächtnis trainiert. Eine halluzinierte Karte wird genauso gründlich gelernt wie eine belegte.
Man sieht es der Karte nicht an
Halluzinierte Inhalte klingen plausibel und sind sprachlich sauber formuliert. Ohne Quellenangabe und Beleg-Zitat gibt es an der fertigen Karte kein Signal, das Erfundenes von Belegtem unterscheidet.
In der Prüfung zählt die Quelle
Klausuren und mündliche Prüfungen messen dich am Skript, am Lehrbuch und an der Vorlesung. Eine Karte, die sich nicht auf dein Material zurückführen lässt, kann an der Prüfungsrealität vorbeigehen.
Umlernen kostet doppelt
Einmal Falsches gelernt heißt: erkennen, löschen, neu lernen, gegen die bereits aufgebaute Gedächtnisspur. Der billigste Zeitpunkt, Halluzination zu stoppen, ist vor der Auslieferung der Karte.
Wie Quanta das Halluzinationsrisiko begrenzt
Im standardmäßigen themenbasierten Source-First-Pfad kommt die Quelle vor der Generierung, und ein deterministischer Quote-Match entscheidet über das Verified-Label. Im veröffentlichten Test waren 100% der ausgelieferten Testkarten quellenbelegt.
- 1. Thema oder Datei (PDF, Foto, Skript, URL) hochladen.
- 2. Bei Themen startet Quanta standardmäßig Source-First mit offen lizenziertem Volltext. Findet sich keine passende Quelle, entstehen keine Karteikarten; Datei oder URL sind der Weg.
- 3. Bei Datei-Uploads wird dokumentgebunden generiert. Eine ausgewählte Bloom-Stufe von 1 bis 6 ist für die Generierung bindend; ohne Auswahl wird keine feste Stufe behauptet.
- 4. Wo Text zuverlässig extrahiert wird, prüft ein deterministischer Quote-Match den Beleg. Nur passende Karten erhalten das Quanta-Verified-Label; visuelle Karten ohne bestätigten Match bleiben unverifiziert.
- 5. Verified-Karten tragen eine gebundene Quelle und ein Beleg-Zitat. Der Status belegt Textbindung, nicht automatisch die externe Faktenrichtigkeit der Quelle.
Gemessen statt behauptet: In der offenen Studie „KI ohne Halluzination" (Juni 2026) bestanden 1.997 von 2.042 erzeugten Kandidaten den Quote-Match (97,8%), der Rest wurde im Test verworfen. Der Roh-Datensatz ist offen zum Download. Das Ergebnis misst die Textbindung in diesem Testaufbau, nicht die externe Faktenrichtigkeit der Quelle und nicht jede mögliche Generierungsart.
Ehrliche Einordnung: Was „belegt" bedeutet
Der Quote-Match misst Quellentreue, nicht Faktenrichtigkeit. „Belegt" heißt: Die Aussage steht so in der angebundenen Quelle und ist dort per Direktlink nachprüfbar. Das ist der entscheidende Unterschied zu einem bloßen Qualitätsversprechen: Du musst Quanta nicht glauben, du kannst jede Verified-Karte an ihrer gebundenen Quelle selbst prüfen. Wie das Siegel im Detail funktioniert, steht unter Quanta Verified, die Forschungsgrundlage unter Architektur.
- Gebundene Quelle mit Titel, Lizenz und Direktlink auf Verified-Karten
- Wörtliches Beleg-Zitat für bestätigte Quote-Matches
- Deterministische Prüfung des Quellenbezugs, kein zweites KI-Urteil
- Ohne passende Quelle entstehen keine Karteikarten, Datei oder URL sind der Weg
Häufige Fragen zu KI-Halluzination bei Karteikarten
Kann ich KI-generierten Karteikarten vertrauen?
Ungeprüften KI-Generatoren nicht blind: Sprachmodelle können Inhalte erfinden, und auch quellengestützte Systeme können halluzinieren. Quanta setzt themenbasiert standardmäßig auf Source-First. Nur Karten mit erfolgreichem Quote-Match erhalten eine gebundene Quelle und das Quanta-Verified-Label. Findet sich keine passende Quelle, entstehen keine Karteikarten; Datei oder URL sind der Weg. Im veröffentlichten Test waren 100% der ausgelieferten Testkarten quellenbelegt; das misst Textbindung im Testaufbau, nicht externe Faktenrichtigkeit.
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Ausgabe eines Sprachmodells, die plausibel klingt, aber nicht durch die zugrunde liegenden Quellen gestützt ist. Die Forschung entwickelt Erkennungsverfahren wie semantische Entropie (Farquhar et al., Nature 2024, doi:10.1038/s41586-024-07421-0). Im standardmäßigen Source-First-Pfad vergibt Quanta das Verified-Label nur nach einem deterministischen Quote-Match. Findet sich keine passende Quelle, entstehen keine Karteikarten; Datei oder URL sind der Weg.
Halluziniert die KI auch bei Karteikarten?
KI-Karteikarten-Generatoren können unbelegte oder falsche Inhalte erzeugen. Im standardmäßigen themenbasierten Source-First-Pfad prüft Quanta den Quellenbezug serverseitig; nur passende Karten erhalten das Verified-Label. In dem veröffentlichten Test bestanden 1.997 von 2.042 erzeugten Kandidaten den Quote-Match (97,8%); der Rest wurde im Test verworfen. Findet sich keine passende Quelle, entstehen keine Karteikarten; Datei oder URL sind der Weg.
Wie verhindert Quanta KI-Halluzinationen?
Quanta reduziert das Risiko und macht den Status transparent: Themenbasierte Generierung startet standardmäßig Source-First mit offen lizenziertem Volltext. Nur ein erfolgreicher deterministischer Quote-Match führt zum Verified-Label; findet sich keine passende Quelle, entstehen keine Karteikarten. Datei-Scans arbeiten dokumentgebunden. Wo Text zuverlässig extrahiert wird, kann der Quote-Match den Beleg bestätigen; andere visuelle Karten bleiben unverifiziert. Der Status ist keine Garantie für die externe Faktenrichtigkeit.
Gibt es Studien zu KI-Karteikarten und Halluzination?
Quanta hat eine eigene Messung offengelegt: Im veröffentlichten Source-First-Test wurden 2.042 Kandidaten erzeugt; 97,8% bestanden den deterministischen Quote-Match (1.997 Karten), der Rest wurde im Test verworfen. Der Roh-Datensatz ist offen: quanta-study.de/studien/ki-ohne-halluzination. Der Quote-Match misst Textbindung in diesem Testaufbau, nicht die externe Faktenrichtigkeit einer Quelle und nicht jede mögliche Generierungsart.
Die zwei Arbeiten hinter diesem Text
Beide Befunde stammen aus begutachteten Veröffentlichungen. Jede Zeile führt über ihre DOI direkt zur Arbeit.
1.Bei führenden juristischen Recherche-Werkzeugen blieben trotz Quellenanbindung 17 bis 33 Prozent halluzinierte Antworten
Die Spanne im Text stammt aus der Preprint-Fassung von 2024 (arXiv:2405.20362); begutachtet erschien die Arbeit 2025. Gemessen wurden juristische Recherche-Werkzeuge, nicht Lernapps.
Magesh, V., Surani, F., Dahl, M., Suzgun, M., Manning, C.D. und Ho, D.E. (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22, 216 bis 242. 10.1111/jels.12413
2.Semantische Entropie erkennt Antworten, bei denen ein Sprachmodell unsicher ist
Ein Erkennungsverfahren, kein Beleg-Verfahren: es misst die Unsicherheit des Modells, nicht die Bindung an eine Quelle.
Farquhar, S., Kossen, J., Kuhn, L. und Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630, 625 bis 630. 10.1038/s41586-024-07421-0
Beide Arbeiten untersuchen Sprachmodelle allgemein, nicht Quanta. Was Quanta selbst gemessen hat, steht in der offenen Studie „KI ohne Halluzination“.
Aus dem Magazin
- Warum Quanta Lernwissenschaft und KI nativ in einer Lernplattform verbindet
Das Gegenstück zum Quellenproblem im Produkt: der Artikel legt das Quellenprotokoll neben die vier Bauteile, mit denen es zusammenspielt, und sagt bei jedem, was es leistet und was nicht.
Quellenstatus prüfen statt der KI blind zu vertrauen
Verified-Label für bestätigte Quellenbindung, transparenter Status für unverifizierte Karten und FSRS-6-Wiederholung.