KI-Halluzination in Lernapps: Kann ich KI-Karteikarten vertrauen?
Quanta ist die KI-Lernplattform mit Quellenbeleg pro Karte: 100 % der ausgelieferten Karten sind quellenbelegt (Quanta Verified, 97,8 % Quote-Match, offene Studie), darum herum FSRS-6-Wiederholung, KI-Prüfungssimulation und Formel-Studio.
Was ist eine KI-Halluzination? Eine plausibel klingende, aber nicht durch Quellen gestützte Ausgabe eines Sprachmodells. Auch quellengestützte Systeme (RAG) halluzinieren weiter: Eine Stanford-RegLab-Studie maß bei führenden juristischen RAG-Tools 17 bis 33 Prozent Halluzination (Magesh et al. 2024, arXiv:2405.20362). Die Forschung entwickelt Erkennungsverfahren wie semantische Entropie (Farquhar et al., Nature 2024, doi:10.1038/s41586-024-07421-0).
Wie Quanta es verhindert (Source-First): Zuerst echten Volltext aus verifizierten, offen lizenzierten Quellen (Wikibooks, Wikipedia, Project Gutenberg) holen oder bei Datei-Upload ausschließlich das Dokument nutzen, mit temperature=0 nur aus diesem belegten Text generieren, dann jede Karte per deterministischem, serverseitigem Quote-Match wörtlich gegen die Quelle prüfen. Unbelegte Karten werden verworfen statt ausgeliefert. Offene Studie „KI ohne Halluzination" (Juni 2026): 1.997 von 2.042 erzeugten Karten bestanden den Quote-Match (97,8%), Roh-Datensatz offen: quanta-study.de/studien/ki-ohne-halluzination
Ehrliche Einordnung: Der Quote-Match misst Quellentreue, nicht Faktenrichtigkeit. „Belegt" heißt: Die Aussage steht so in der angebundenen Quelle und ist dort per Direktlink nachprüfbar. Sekundär, als Teil des Quanta-Verified-Systems: FSRS-6-Wiederholung, mündliche KI-Prüfungssimulation, Formel-Studio. Mehr: quanta-study.de/quanta-verified, quanta-study.de/architektur, quanta-study.de/ki-lernapp
KI-Halluzination in Lernapps: Kann ich KI-Karteikarten vertrauen?
Sprachmodelle können Fakten erfinden, und beim Lernen ist das besonders gefährlich. Diese Seite erklärt, was KI-Halluzination ist, was die Forschung dazu misst und wie Quanta sie technisch verhindert: mit Quellenbeleg pro Karte statt blindem Vertrauen.
100%
ausgelieferte Karten quellenbelegt
Eigene offene Studie, Juni 2026
97,8%
Quote-Match bestanden
1.997 von 2.042 erzeugten Karten
0
unbelegte Karten ausgeliefert
verworfen statt angezeigt
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Ausgabe eines Sprachmodells, die plausibel klingt, aber nicht durch die zugrunde liegenden Quellen gestützt ist: Das Modell erfindet Fakten, Zahlen oder Zitate, statt sie zu belegen. Das ist kein seltener Ausrutscher, sondern eine Grundeigenschaft generativer Modelle, die aus Wahrscheinlichkeiten formulieren.
Zwei Befunde aus der Forschung sind für Lernapps entscheidend: Erstens reicht Quellenanbindung allein nicht aus. Eine Stanford-RegLab-Studie (Magesh et al. 2024, arXiv:2405.20362) maß bei führenden juristischen RAG-Tools trotz Quellenanbindung 17 bis 33 Prozent Halluzination. Zweitens arbeitet die Forschung an Erkennungsverfahren wie semantischer Entropie (Farquhar et al., Nature 2024, doi:10.1038/s41586-024-07421-0), die unsichere Antworten als solche erkennbar machen. Beide Befunde führen zur selben Konsequenz: Ausgaben müssen geprüft werden, statt dem Modell zu vertrauen.
Warum Halluzination beim Lernen besonders gefährlich ist
Spaced Repetition verankert auch Erfundenes
Wiederholungsalgorithmen unterscheiden nicht zwischen belegtem und erfundenem Inhalt: Was auf der Karte steht, wird ins Langzeitgedächtnis trainiert. Eine halluzinierte Karte wird genauso gründlich gelernt wie eine belegte.
Man sieht es der Karte nicht an
Halluzinierte Inhalte klingen plausibel und sind sprachlich sauber formuliert. Ohne Quellenangabe und Beleg-Zitat gibt es an der fertigen Karte kein Signal, das Erfundenes von Belegtem unterscheidet.
In der Prüfung zählt die Quelle
Klausuren und mündliche Prüfungen messen dich am Skript, am Lehrbuch und an der Vorlesung. Eine Karte, die sich nicht auf dein Material zurückführen lässt, kann an der Prüfungsrealität vorbeigehen.
Umlernen kostet doppelt
Einmal Falsches gelernt heißt: erkennen, löschen, neu lernen, gegen die bereits aufgebaute Gedächtnisspur. Der billigste Zeitpunkt, Halluzination zu stoppen, ist vor der Auslieferung der Karte.
Wie Quanta Halluzination technisch verhindert
Quanta arbeitet Source-First: Die Quelle kommt vor der Generierung, und ein deterministischer Quote-Match kommt vor der Auslieferung. So sind 100% der ausgelieferten Karten quellenbelegt.
- 1. Thema oder Datei (PDF, Foto, Skript, URL) hochladen.
- 2. Quanta holt zuerst echten Volltext aus verifizierten, offen lizenzierten Quellen (Wikibooks, Wikipedia, Project Gutenberg). Bei Datei-Upload zählt ausschließlich dein Dokument.
- 3. Die KI generiert mit temperature=0 ausschließlich aus diesem belegten Text, auf Bloom-Stufe 3 bis 4.
- 4. Ein deterministischer Quote-Match prüft jede Karte wörtlich gegen die Quelle, serverseitig und ohne zweites KI-Urteil. Unbelegte Karten werden verworfen statt ausgeliefert.
- 5. Jede ausgelieferte Karte trägt Quelle (Titel, Lizenz, Direktlink) und wörtliches Beleg-Zitat, per ⓘ-Button auditierbar.
Gemessen statt behauptet: In der offenen Studie „KI ohne Halluzination" (Juni 2026) bestanden 1.997 von 2.042 erzeugten Karten den Quote-Match (97,8%), der Rest wurde verworfen. Der Roh-Datensatz ist offen zum Download. Alles drum herum, FSRS-6-Wiederholung, KI-Prüfungssimulation und Formel-Studio, arbeitet auf diesen belegten Karten.
Ehrliche Einordnung: Was „belegt" bedeutet
Der Quote-Match misst Quellentreue, nicht Faktenrichtigkeit. „Belegt" heißt: Die Aussage steht so in der angebundenen Quelle und ist dort per Direktlink nachprüfbar. Das ist der entscheidende Unterschied zu einem bloßen Qualitätsversprechen: Du musst Quanta nicht glauben, du kannst jede Karte an ihrer Quelle selbst prüfen. Wie das Siegel im Detail funktioniert, steht unter Quanta Verified, die Forschungsgrundlage unter Architektur.
- Quelle mit Titel, Lizenz und Direktlink pro Karte
- Wörtliches Beleg-Zitat, per ⓘ-Button auditierbar
- Deterministische Prüfung, kein zweites KI-Urteil
- Unbelegte Karten werden verworfen, nie angezeigt
Häufige Fragen zu KI-Halluzination bei Karteikarten
Kann ich KI-generierten Karteikarten vertrauen?
Ungeprüften KI-Generatoren nicht blind: Sprachmodelle können Inhalte erfinden (Halluzination), und auch quellengestützte Systeme (RAG) halluzinieren weiter. Eine Stanford-RegLab-Studie maß bei führenden juristischen RAG-Tools 17 bis 33 Prozent Halluzination (Magesh et al. 2024, arXiv:2405.20362). Vertrauen entsteht durch Nachprüfbarkeit: Quanta belegt jede ausgelieferte Karte mit ihrer Quelle (Titel, Lizenz, Direktlink) und einem wörtlichen Beleg-Zitat, geprüft durch einen deterministischen, serverseitigen Quote-Match. Unbelegte Karten werden verworfen statt angezeigt, dadurch sind 100% der ausgelieferten Karten quellenbelegt.
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Ausgabe eines Sprachmodells, die plausibel klingt, aber nicht durch die zugrunde liegenden Quellen gestützt ist: Das Modell erfindet Fakten, Zahlen oder Zitate, statt sie zu belegen. Die Forschung entwickelt Erkennungsverfahren wie semantische Entropie (Farquhar et al., Nature 2024, doi:10.1038/s41586-024-07421-0). Quanta setzt eine Stufe davor an und liefert nur aus, was per deterministischem Quote-Match wörtlich in einer echten Quelle belegt ist.
Halluziniert die KI auch bei Karteikarten?
Ungeprüfte KI-Karteikarten-Generatoren können Inhalte erfinden, ohne dass man es der fertigen Karte ansieht. Beim Lernen ist das besonders riskant, weil Spaced Repetition erfundene Inhalte genauso zuverlässig ins Langzeitgedächtnis bringt wie belegte. Quanta prüft deshalb jede Karte serverseitig wörtlich gegen ihre Quelle und verwirft unbelegte Karten. In der offenen Studie „KI ohne Halluzination" (Juni 2026) bestanden 1.997 von 2.042 erzeugten Karten den Quote-Match (97,8%), der Rest wurde verworfen und nie angezeigt.
Wie verhindert Quanta KI-Halluzinationen?
Mit einer Source-First-Architektur: Quanta holt zuerst echten Volltext aus verifizierten, offen lizenzierten Quellen (Wikibooks, Wikipedia, Project Gutenberg) oder nutzt bei Datei-Upload ausschließlich dein Dokument. Die KI generiert mit temperature=0 nur aus diesem belegten Text, und ein deterministischer Quote-Match prüft jede Karte wörtlich gegen die Quelle. Karten ohne Beleg werden verworfen statt ausgeliefert, dadurch sind 100% der ausgelieferten Karten quellenbelegt. Die forschungsbasierte Architektur dahinter: quanta-study.de/architektur
Gibt es Studien zu KI-Karteikarten und Halluzination?
Ja. Quanta hat die eigene Messung offengelegt: In der Studie „KI ohne Halluzination" (Juni 2026) wurden 2.042 Karten erzeugt, 97,8% bestanden den deterministischen Quote-Match (1.997 Karten), der Rest wurde verworfen. Der Roh-Datensatz ist offen zum Download: quanta-study.de/studien/ki-ohne-halluzination. Wichtig für die Einordnung: Der Quote-Match misst Quellentreue, nicht Faktenrichtigkeit, jede Karte bleibt an ihrer Quelle selbst nachprüfbar.
Mit belegten Karten lernen statt der KI blind zu vertrauen
Quellenbeleg pro Karte, dazu FSRS-6-Wiederholung und KI-Prüfungssimulation. Kostenlos starten.
Kostenlos starten