So arbeitet die KI bei Lernweg

Die KI hilft uns, Aufgaben vorzubereiten. Sie schreibt Vorschläge. Ein Programm prüft jeden Vorschlag, eine zweite KI prüft ihn noch einmal. Jede Aufgabe wird mehrfach geprüft. Die meisten gibt danach ein Mensch frei, bevor Lernende sie bekommen – oder schickt sie zurück. Gleich online gehen nur Aufgaben mit einem sehr guten Beleg (vom Programm nachgerechnet, aus geprüften Fakten oder unverändert aus einer geprüften Quelle), denen mehrere KIs zugestimmt haben, und freie Aufgaben mit offener Lizenz, die drei KIs unabhängig voneinander selbst gelöst haben – mit demselben Ergebnis wie die gespeicherte Lösung. Ein Mensch kann sie danach ansehen und mit einem Klick wieder herausnehmen.

Die KI darf keine Tatsachen erfinden. Wenn sie unsicher ist, muss sie das sagen. Wenn etwas nicht geht, muss sie „geht nicht“ schreiben, statt irgendetwas zu liefern.

Die KI spricht nicht mit Lernenden und bewertet niemanden. Sie bekommt keine Namen, keine Lernergebnisse und keine persönlichen Daten.

Das ist uns wichtig genug, um es deutlich zu sagen: Die zweite KI ist nicht die Sicherung gegen Rechenfehler.

Wir haben drei Sprachmodelle mit derselben fehlerhaften Aufgabe geprüft – „45 + 55“ mit der falschen Lösung „70“. Zwei von dreien haben sie durchgewinkt. Eines hat sogar richtig gerechnet und den Widerspruch trotzdem nicht bemerkt.

Deshalb gilt bei Lernweg: Rechnen, Uhrzeit und Maßeinheiten macht ein Programm, nicht die KI. Das Programm rechnet jede Lösung selbst aus und prüft sie danach ein zweites Mal nach. Die KI ist für das zuständig, was sich nicht ausrechnen lässt: Sprache, Einkleidung und Sachaufgaben aus einer geprüften Faktenliste.

Für Themen mit Sachwissen gibt es je Lernziel eine Faktenliste. Jeder Fakt darin hat eine Quelle, ein Datum und eine Person, die ihn geprüft hat. Die KI darf Aufgaben nur aus diesen Fakten bauen. Fehlt ein Fakt, erfindet sie ihn nicht, sondern meldet, dass er fehlt.

Ein Fakt aus einem offenen Lexikon wie Wikipedia kommt erst in die Liste, wenn er wörtlich auch in einer zweiten, anderen Quelle steht. Danach entscheidet ein Mensch.

Lernweg übernimmt keine Prüfungs- oder Schulbuchaufgaben. Fremde Übungsaufgaben dürfen höchstens als Anregung dienen: Ein Programm hält dann nur fest, welche Art von Aufgabe es ist. Die KI schreibt daraus eine eigene Aufgabe, ohne die Vorlage zu sehen, und das Programm misst den Abstand. Aufgaben mit einer offenen Lizenz, die eine Weitergabe erlaubt, nennen ihre Herkunft auf der Seite Quellen und Lizenzen.

Die KI, die in Lernweg Aufgaben schreibt, prüft und vorliest, läuft auf einem eigenen Server in Deutschland. Sie ist aus dem Internet nicht erreichbar. Daten von Lernenden verlassen den Server nicht.

Zwei Dinge geschehen außerhalb dieses Servers – beide ohne Daten von Lernenden:

• Quellensuche: Um Quellen für Sachaufgaben zu finden, nutzen wir einen Suchdienst. Er bekommt nur Themenwörter und Namen von Internetseiten.
• Hilfe beim Schreiben und Prüfen (befristet): Bis zum 30.11.2026 schreibt ein KI-Werkzeug des Betreibers zusätzlich Aufgabenvorschläge mit Erklärungen und macht Vorschläge zur Prüfung vorhandener Aufgaben. Es bekommt nur Lernziele und Aufgabentexte. Seine Vorschläge durchlaufen dieselben Prüfungen – wie oben beschrieben.

Sobald sich Menschen selbst bei Lernweg anmelden können, schalten wir beides ab.

Zu einer Aufgabe kann es eine vorbereitete Erklärung geben: warum die Lösung stimmt, der Weg in kleinen Schritten und ein Satz zu der gewählten Antwort. Auch Erklärungen sieht ein Mensch an und gibt sie frei, bevor Lernende sie lesen oder hören.

Die Regeln oben gelten und sind gebaut: Programmprüfung, zweite KI, Freigabe im Postfach, Faktenliste mit Quellen und Abstandsprüfung. Es gibt schon Aufgaben vom Programm, aus einem selbst geschriebenen Aufgabenheft und mit KI vorbereitet. Die meisten warten noch auf die Freigabe.