Beispiel für KI - KI-Bildgenerator von KAI

Diese Webseite lädt Sie ein, Ihr Wissen und Können über KI in der Schule auszubauen.

Unterstützung

Sie haben Fragen oder Anregungen zum Thema KI-Anwendungen in sächsischen Schulen? Senden Sie uns Ihren Beitrag gern über das Kontaktformular. Die häufigsten Fragen nehmen wir auf. Wünschen Sie eine persönliche Beratung, wenden Sie sich bitte an Ihr zuständiges MPZ oder das Landesamt für Schule und Bildung.

🌎 Für alle

KI ist ein Begriff, der sich auf die Fähigkeit von Computern und Maschinen bezieht, menschenähnliche Intelligenz nachzuahmen. Computersysteme analysieren dabei ihre Umwelt und reagieren eigenständig auf diese. Nicht alle Schritte des Systems sind also vordefiniert.

Mit einer speziellen Form von KI, die maschinelles Lernen nutzt, können Computersysteme in die Lage versetzt werden, Entscheidungen zu treffen und Probleme zu lösen, indem sie große Datenmengen analysieren und darin selbstständig Muster identifizieren („Training“).

Wenn im Rahmen des maschinellen Lernens sehr komplexe neuronale Netze zum Einsatz kommen, dann spricht man vom Deep Learning. Neuronale Netze heißen so, weil ihr Aufbau und ihre Funktionsweise dem menschlichen Gehirn nachempfunden sind. Das heißt, einzelne Knoten mit unterschiedlichen Funktionalitäten (diese entsprechen Neuronen) sind in Schichten organisiert und über Verbindungen miteinander verknüpft, die unterschiedlich stark ausgeprägt sein können (diese entsprechen Zellfortsätzen und Synapsen). Die Ausprägung, auch Gewichtung genannt, sagt dann aus, welche Entscheidung am wahrscheinlichsten das richtige Ergebnis repräsentiert.

Um den Grad der Autonomie einer KI zu beschreiben, wird oft deren „Stärke“ bewertet. Unterschieden wird dann zwischen schwacher und starker KI. Der Begriff „schwache KI“ bezieht sich auf Systeme, die auf eine ganz bestimmte Aufgabe spezialisiert sind, wie z. B. Spracherkennung oder Bilderkennung. Der Begriff „stärkere KI“ hingegen bezieht sich auf Systeme, die in der Lage sind, menschenähnliche Intelligenz auf einer breiteren Ebene zu zeigen, indem sie in der Lage sind, komplexe bzw. abstrakte Probleme zu lösen und Entscheidungen auf Basis nicht eindeutiger Datenlage zu treffen.

Auch wenn vielversprechende Lösungen, insbesondere aus dem Bereich der generativen KI, existieren, kann davon ausgegangen werden, dass noch keine „starke KI“ existiert. Die Fähigkeit, selbstständig komplexere Zusammenhänge herzustellen, Ergebnisse zu reflektieren und in weitergehenden Kontext zu setzen, vermochte bisher noch keine KI unter Beweis zu stellen.

Für die Mustererkennung, für Übersetzungen, Zusammenfassungen und die Wiedergabe von erlernten Informationen stellt jedoch auch die schwächere KI ein effizientes und effektives Werkzeug dar.

Weil sie bereits eine Realität ist, die unsere Gesellschaft stark verändert.

Durch die breiten gesellschaftlichen Auswirkungen von KI, bietet der Lehrplan viele Anknüpfungspunkte weit über die technischen Fragen hinaus. Mit dem Kompetenzrahmen zur „Bildung in der digitalen Welt“, der die Umsetzung des allgemeinen Erziehungs- und Bildungsziels der Medienbildung entsprechend § 1 Abs. 5 Nr. 7 SächSchulG konkretisiert, wurden explizite Ziele für das schulische Lernen verankert. Diese sind auch für das Thema KI maßgeblich.

KI-Anwendungen verändern die Perspektive auf Unterricht grundlegend. Mit der Verbreitung des Internets seit mehr als einem Vierteljahrhundert wurden Informationen und Wissen frei zugänglich. Das hatte Auswirkungen auf die Vermittlung von Recherche- und Quellenkompetenz. Mit generativer KI werden weitere Kompetenzen erforderlich. So müssen Schüler beispielsweise lernen, wie man KI-generierte Informationen kritisch bewertet, ihre Qualität beurteilt und sie effektiv nutzt. Auch das Verständnis dafür, wie künstliche Intelligenz funktioniert und wie sie das Lernen beeinflusst, wird immer wichtiger. Darüber hinaus gewinnen digitale und technische Fähigkeiten an Bedeutung. Joscha Falck schlägt fünf Dimensionen vor, wie Künstliche Intelligenz beim Lernen Berücksichtigung finden kann:

Die Deutsche Telekom Stiftung gibt im aktuellen Trendmonitor KI in der Bildung einen Überblick über den Entwicklungsstand von KI-Werkzeugen, die im schulischen Bereich relevant sind. Außerdem veröffentlichte sie einen Leitfaden für Lehrkräfte und Schulleitungen mit vertiefenden Informationen. Mit dem Leitfaden kann man hier auch im KI-Chatbot-Format einen Dialog führen: Chatbot Kompakt-Leitfaden für Schulpraktiker

Ein Prompt ist die Anfrage in Textform, die einer KI gestellt wird. Ein Prompt kann aus mehreren Sätzen bestehen. Die Sätze sollten präzise, klar und leicht verständlich formuliert werden, zum Beispiel:

„Ich bin Schüler der 8. Klasse eines Gymnasiums in Sachsen. In zwei Wochen schreibe ich eine Klassenarbeit im Fach X zum Thema Y. Bitte agiere wie ein erfahrener Lerncoach. Stelle mir Fragen, um mir einen guten Lernplan mit konkreten Zeiten zu erstellen.“

Das Material der Kollegen Höra und Schiller bietet einen guten Zugang zur Gestaltung von Prompts:

• KI - richtig prompten.pdf
  Dateigröße: 334 KB
• Bild-KI richtig prompten.pdf
  Dateigröße: 188 KB

👨‍🏫 Für Lehrkräfte

Künstliche Intelligenz (KI) kann Lehrkräfte entlasten – vor allem bei zeitaufwändigen, wiederkehrenden Aufgaben. So bleibt mehr Raum für das, was Schule im Kern ausmacht: Beziehung, Begleitung und pädagogisches Handeln.

Insbesondere die Arbeitszeit, die für die Vorbereitung oder auch die Gestaltung von Unterrichtsmaterialien anfällt, kann durch KI reduziert werden.

Beispiele für eine Entlastung durch KI:

Unterrichtsvorbereitung: KI-Tools können bei der Erstellung von Arbeitsblättern, Quizfragen, differenzierten Aufgaben oder Unterrichtsentwürfen unterstützen – schnell, ideenreich und anpassbar.

Diagnose und Feedback: Lernplattformen mit KI-Unterstützung können Lernstände analysieren und automatisiert Rückmeldungen geben. So erhalten Lehrkräfte gezielte Hinweise, wo Förderung nötig ist. Beachten Sie dazu bitte den Abschnitt zu rechtlichen Hinweisen.

Individualisierung: KI kann helfen, Lerninhalte an das Niveau einzelner Schülerinnen und Schülern anzupassen – ohne dass Lehrkräfte alles manuell differenzieren müssen. Bemerkenswert sind auch Ergebnisse beim Einsatz von KI bei Schülerinnen und Schülern mit besonderen Bedarfen, z. B. in den Förderschwerpunkten Sehen oder Hören.

Sprachliche Unterstützung: Automatische Übersetzungen oder Textvereinfachungen erleichtern die Arbeit, z. B. mit sprachlich heterogenen Lerngruppen.

Organisatorischen Aufgaben: KI kann bei der Erstellung von Stoffverteilungsplänen, die Raumplanung und die Arbeit an anderen administrativen Aufgaben unterstützen.

Dabei gilt: KI ersetzt nicht die pädagogische Entscheidung der Lehrkraft – sie unterstützt. Entscheidend ist, dass Lehrkräfte souverän mit KI umgehen. Zum Lehrerberuf gehört zunehmend das Verstehen technologischer Grundlagen von KI, die Fähigkeit KI-Anwendungen praktisch einzusetzen, diesbezüglich eigene Ideen zu entwickeln und deren Wirksamkeit im Unterricht zu erproben.

Bei der Nutzung von KI-Systemen müssen Lehrkräfte in der Lage sein, die Ausgaben des KI-Systems fundiert auf ihre fachliche Korrektheit hin beurteilen zu können und die Verantwortung für die Ergebnisse zu übernehmen.

Prompts sind gezielte Anfragen, mit denen Sie KI-Anwendungen zu konkreten Ergebnissen oder Vorgängen auffordern – etwa zur Erstellung von Materialien, Ideen oder Erklärungen. Gut formulierte Prompts sparen Zeit und liefern schnell passende Impulse für die Unterrichtsvorbereitung. Wichtig ist, die Ergebnisse immer kritisch zu prüfen und bei Bedarf anzupassen.

Ein Prompt sollte präzise, klar und leicht verständlich formuliert werden. Folgende Angaben sollte ein Prompt enthalten:

Beispiele für hilfreiche Prompts im Schulkontext:

Sie finden außerdem eine umfangreiche Prompt-Bibliothek im Assistenzmodus von KAI.

Der Einsatz von KI-Anwendungen gelingt dann am besten, wenn die Fragestellung und die Ergebnisse von Lehrkräften, Schülerinnen und Schülern gemeinsam analysiert und fachlich-inhaltlich bewertet werden. So können Lehrkräfte vermitteln, dass KI-generierte Ergebnisse stets menschlicher Prüfung und eines Fakten- und Quellenchecks bedürfen und somit das kritische Denken ihrer Schülerinnen und Schüler anregen. Dabei sollten Sie folgende Punkte beachten:

Wenn KI-Anwendungen Einfluss auf Unterricht nehmen, muss dies auch in der Leistungsermittlung und -bewertung Berücksichtigung finden. KI-Anwendungen können dabei als Hilfsmittel betrachtet werden, das je nach Prüfungssituation bzw. Aufgabenstellung erforderlich, zugelassen oder nicht zugelassen sein kann. Gerade bei schriftlichen Arbeiten, die im häuslichen Umfeld anzufertigen sind, ergeben sich neue Anforderungen. Zwar können Lehrkräfte im Rahmen ihrer eigenen pädagogischen Einschätzung u. A. auf der Basis der bisherigen Leistungen beurteilen, ob der bzw. die Lernende dabei auf die Unterstützung durch KI-Anwendungen zurückgegriffen hat. Erschwerend gestaltet sich jedoch, dass „copy-and-paste“ aus einer textgenerierenden KI-Anwendung nicht durch Vergleich erkennbar ist, da bei jeder Anfrage ein individueller Text entsteht. Es bleibt somit eine Frage der pädagogischen Beurteilung, ob eine Leistung eigenständig in Bearbeitung, geistiger Durchdringung und sprachlichem Ausdruck erbracht wurde.

Nach dem EU AI Act gelten KI-Systeme, die Lernergebnisse bewerten, benoten oder bei Prüfungen eingesetzt werden, als Hochrisiko-KI, denn hier werden potentiell Entscheidungen über weitere Bildungsverläufe getroffen. Für solche Systeme gelten zusätzliche Anforderungen, unter anderem an Qualitätssicherung, Risikomanagement und Transparenz gegenüber den Betroffenen. Sollten Schulen solche Systeme nutzen wollen, müssen Sie diese Aspekte nachweislich erfüllen und der Schulgemeinschaft kommunizieren. Sichergestellt sein muss, dass Bewertungen am Ende ausschließlich durch die Lehrkraft erfolgen und KI-Werkzeuge nur der Unterstützung des Bewertungsprozesses dienen.

Damit Lehrkräfte dem Gleichbehandlungsgrundsatz gerecht werden und Täuschungsversuche vermieden werden, sollten sie folgende Hinweise beachten:

KAI bietet in seiner Bibliothek im Assistenzmodus einen Prompt für das Erstellen „KI-resistenter Aufgaben“.

Hausaufgaben dienen im Allgemeinen dem eigenständigen Üben, Wiederholen, Festigen und Reflektieren von Lerninhalten. Dabei sollten Schülerinnen und Schüler die Möglichkeit erhalten, ihre Hausaufgaben eigenständig und kreativ zu bearbeiten. Dafür bieten sich auch unter Nutzung von mit KI-Anwendungen viele Möglichkeiten.
In der Regel werden Hausaufgaben nicht zur Bewertung von Schülerleistungen herangezogen. Schließlich ergibt sich auch hier das Problem, dass sich bei Aufgaben, die im häuslichen Umfeld erstellt werden, nicht prüfen lässt, ob diese mit der Hilfe Dritter oder unter Zuhilfenahme von textgenerierenden KI-Anwendungen erstellt wurden. Möglich ist es jedoch,

Schulen sollten nach dem gemeinsamen Entdecken und Erproben von KI im Unterricht mit den Schülerinnen und Schülern und durch den pädagogischen Austausch im Kollegium gemeinsam Regeln für KI im Unterricht entwerfen. Dazu gehört es auch, Formen der Leistungsermittlung und -bewertung zu überdenken und die bestehenden Regeln in einem abgestimmten Prozess anzupassen. Dies gilt insbesondere für schriftliche Arbeiten, die im häuslichen Umfeld erstellt werden.

Dabei können neben den weiter oben genannten Grundsätzen für die Leistungsermittlung und -bewertung folgende Empfehlungen helfen:

• Der Arbeitsprozess der Lernenden benötigt eine intensive Begleitung. So kann die Lehrkraft sicherstellen, dass die Schülerinnen und Schüler für die Arbeit mit Quellen und Hilfsmitteln sensibilisiert sind. Zudem kann die Lehrkraft durch Vorgespräche erkennen, wie intensiv sich die Schülerin bzw. der Schüler bereits mit dem Gegenstand der Arbeit auseinandergesetzt hat.
• Lehrkräfte legen die Kriterien für die Bewertung und für die erlaubten Hilfsmittel und Quellen vorab offen und besprechen mit den Schülerinnen und Schülern, ob und wenn ja, in welchem Ausmaß KI-Anwendungen bei der Erstellung der Leistungen genutzt werden dürfen.
• Schulen können Vorlagen für Eigenständigkeitserklärungen und Textbausteine für die Übersicht der verwendeten Hilfsmittel und Quellen nutzen, mithilfe derer die Schülerinnen und Schüler offenlegen, ob und wenn ja, welche KI-Anwendungen sie wie und wo bei der Erstellung der schriftlichen Arbeit genutzt haben. Sind ganze Textpassagen bspw. von ChatGPT oder Mistral übernommen worden, sind diese zu kennzeichnen, denn eine Nicht-Angabe kommt einem Täuschungsversuch gleich. Die Dokumentation der KI-Nutzung kann durch Angabe der genutzten Prompts, Links und mithilfe von Screenshots erfolgen. Somit lässt sich beurteilen, wie weitreichend der Einsatz der KI war und wie kompetent die Schülerin oder der Schüler den Einsatz der KI-Anwendung gesteuert hat.
• Zusätzlich kann die Plausibilität der eigenständigen Erarbeitung der schriftlichen Arbeit durch den Schüler bzw. die Schülerin im Rahmen eines Lerngesprächs bzw. Kolloquiums überprüft werden. Diese sind im Freistaat Sachsen bei der sog. Komplexen Leistung an Gymnasien und beim fachlichen Gespräch an der Fachschule bereits vorgesehen. Diese mündliche Prüfung stellt eine kritisch-reflektierte Ergänzung zur (ggf. mit KI-Unterstützung erstellten) schriftlichen Arbeit dar. Im pädagogischen Gespräch über die Arbeit lässt sich gut erfragen, inwieweit die Schülerin bzw. der Schüler die Leistung eigenständig erbracht hat und ob ggf. KI-gestützte Textstellen unreflektiert übernommen wurden.

Detaillierte Hinweise und vertiefende Materialien zum Einsatz generativer Künstlicher Intelligenz im Rahmen der Facharbeit (Fachoberschule) und Belegarbeit (Berufliches Gymnasium) bietet die Ergänzung zur Handreichung zum wissenschaftlichen Arbeiten. Weitere Dokumente finden Sie in der Lehrplandatenbank des Freistaates Sachsen unter „Übergreifende Materialien“ > „Berufliche Bildung“.

🏫 Für Schulleitungen

Der Einsatz von KI im schulischen Kontext muss von rechtlichen Überlegungen sowie einer nachhaltigen Schulentwicklungsstrategie begleitet werden.

Sie können den vom Freistaat Sachsen bereitgestellten KI-Assistenten KAI nutzen. Er ist nach Anmeldung in Schullogin aufrufbar. Lehrkräfte können ihn zur Unterrichtsvor- und -nachbereitung sowie im Unterricht nutzen, aber auch zur Unterstützung bei anderen Aufgaben.

Für Schulleitungen kann insbesondere der Assistenzmodus hilfreich sein, der es erlaubt, Prompts für wiederkehrende Aufgaben zu hinterlegen, um diese teilweise automatisiert zu erledigen.

Sollen andere KI-Werkzeuge in Schule und Unterricht zum Einsatz kommen, was möglich ist, muss die Schulleitung zuvor prüfen, inwieweit die Anbieter die rechtlichen Vorgaben einhalten und vertraglich zusichern.

Die folgende Checkliste kann als Grundlage für eine Prüfung dienen:

• Vorliegen eines Auftragsverarbeitungsvertrags (AVV):
  Liegt ein datenschutzkonformer AVV mit dem Anbieter des KI-Werkzeugs vor? Dieser muss beispielsweise sicherstellen, dass Eingabedaten nicht unbefugt verwendet (z.B. für das Training von KI-Modellen), nur befristet gespeichert und vor Missbrauch sowie unerlaubter Datenübermittlungen an Dritte geschützt werden (siehe auch https://www.datenschutz.sachsen.de/auftragsverarbeitung.html)
• Datensparsamkeit
  Ist es möglich, das KI-Werkzeug zu nutzen, ohne persönlich identifizierbare Daten preiszugeben? (siehe ⚖️ Rechtliche Hinweise zum Datenschutz)
• Datenschutzkonforme Verarbeitung
  Falls personenbezogene Daten verarbeitet werden (z. B. bei speziellen Einsatzszenarien wie Leseförderung mittels Stimmaufnahmen), ist sichergestellt, dass diese Verarbeitung zwingend zur Erfüllung einer schulischen Aufgabe erforderlich, im Verzeichnis von Verarbeitungstätigkeiten (VVT) hinterlegt ist und sicher und datenschutzkonform erfolgt?
• Umfassende Information der Nutzenden
  Sind Lehrkräfte, Schülerinnen und Schüler sowie Erziehungsberechtigte vor der Nutzung umfassend über den Einsatz, die Einsatzmöglichkeiten, technischen Grundlagen und Nutzungsbedingungen des KI-Werkzeugs informiert worden?
• Sicherstellung der KI-Kompetenz
  Verfügen alle das KI-Werkzeug nutzenden Lehrkräfte über eine nachweisliche und ausreichende KI-Kompetenz, um das Werkzeug sachgerecht einzusetzen? (siehe 🎓 Fortbildungen & Qualifizierung)

Wenn Künstliche Intelligenz das Lehren und Lernen unterstützen soll, sollte die Schulgemeinschaft darüber informiert sein und an Entscheidungen dazu beteiligt werden. In der Schulkonferenz kann ein gemeinsamer Kodex zum Umgang mit KI-Werkzeugen ausgehandelt werden. Schülerinnen und Schüler benötigen Aufklärung und Belehrung darüber, welche Rolle personenbezogene Daten bei der Nutzung dieser Werkzeuge spielen und welche Rechte sie haben. In den Fachschaften sollten Regeln für den fachbezogenen Einsatz von KI festgelegt werden, auch im Zusammenhang mit Leistungsnachweisen und Prüfungen.

Beispiel einer Schule für einen KI-Kodex

⚖️ Rechtliche Hinweise

KI-Anwendungen im Internet speichern und verarbeiten Daten. Diese Verarbeitung erfolgt durch die hinter den KI-Systemen stehenden Unternehmen regelmäßig für eigene kommerzielle Zwecke. Daher dürfen personenbezogene und andere sensible Daten nicht unreflektiert in die Anfragen an KI-Anwendungen eingegeben werden, soweit nicht für diese Fälle die entsprechenden datenschutzrechtlichen Rechtsgrundlagen geklärt sind. Nicht nur Informationen, die sich explizit auf natürliche Personen beziehen (Name, Anschriften, etc.) sind personenbezogene Daten. Auch personenbeziehbare Daten, also Daten, die aus dem Zusammenhang heraus Rückschlüsse auf einzelne Personen erlauben, zählen dazu.
KI-Modelle sind in unterschiedlich großem Maße intransparent. Nicht nur sind sie oft Gegenstand von Geschäftsgeheimnissen, sie sind auch aufgrund ihrer Funktionsweise und Architektur eine „Black Box“. Häufig wissen die Entwicklerinnen und Entwickler selbst nicht, wie genau ein KI-Modell zu seinem Ergebnis kommt. Eine Verarbeitung von personenbezogenen Daten durch KI-Systeme ist deshalb in der Regel datenschutzrechtlich problematisch. Die Eingabe von Texten, die personenbezogene Daten von Lehrkräften oder Schülerinnen und Schülern sowie weiteren Personen enthalten, ist daher zu vermeiden.

Die großen frei verfügbaren KI-Anwendungen können nur nach vorheriger Registrierung mit E-Mail und ggf. auch Mobilfunknummer bei den Anbietern genutzt werden. Die Unternehmen erheben in der Regel über ihre KI-Dienste Nutzungsdaten, die in Länder außerhalb der Europäischen Union übertragen, dort gespeichert und regelmäßig zu kommerziellen Zwecken verarbeitet werden. Lediglich Nutzungsdaten europäischer Anbieter verbleiben in der EU. Lehrkräfte dürfen Schülerinnen und Schüler daher nicht verpflichten, einen eigenen Account anzulegen.

Eine datenschutzkonforme Nutzung von generativen KI-Anwendungen ist möglich, wenn über eine sichere Schnittstelle (API) auf ein KI-Modell zurückgegriffen wird. Wenn hierbei alle Nutzenden der Schnittstelle wie eine einzige Person gegenüber dem Anbieter behandelt werden, sind die Anmelde- und Verbindungsdaten nicht personenbezogen. Zudem soll die Nutzung der eingegebenen Daten für Trainingszwecke der KI-Modelle vertraglich ausgeschlossen werden.

Diese Kriterien erfüllt „Assistent KAI“, eine generative KI-Anwendung, die allen sächsischen Lehrkräften über Schullogin kostenfrei bereitgestellt wird. Hier finden Sie nähere Informationen zu KAI.

Auch für KI-Anwendungen, die wie „Assistent KAI“ keine Anmeldeinformationen und sonstige Metadaten an die KI-Anbieter weitergeben, gilt, dass Lehrkräfte sowie Schülerinnen und Schüler keine personenbezogenen Daten in Chats eingeben dürfen. Stattdessen sind personenbezogene Daten z. B. durch Platzhalter zu ersetzen oder Formulierungen zu nutzen, die vollständig auf diese Informationen verzichten.

Da KI-Systeme keine natürlichen Personen sind, gibt es keinen Urheber und damit grundsätzlich kein Urheberrecht oder verwandte Schutzrechte für die Ergebnisse von KI-Anwendungen. Die Ausgaben der KI sind gemeinfrei.

Das bedeutet jedoch nicht, dass jede Ausgabe unbedenklich einsetzbar ist. Erzeugt eine KI eine Ausgabe, die einem geschützten Werk stark ähnelt, kann die Nutzung (bspw. Verbreitung) des Werkes eine Verletzung des Urheberrechts darstellen. Ursache solcher Ausgaben können beispielsweise die Trainingsdaten sein, die zum Training des KI-Dienstes verwendet wurden. Es gilt auch hier der Grundsatz, das eigene Handeln zu reflektieren. Die KI liefert zwar ein Ergebnis, für den Umgang damit aber sind immer die Nutzenden verantwortlich.

Erreichen die Prompts (Eingaben) eine gewisse Komplexität, besteht darüber hinaus die Möglichkeit, dass die Ergebnisse des KI-Systems dem Urheberrecht der Person unterliegen, die den Prompt verfasst hat. Das gleiche gilt für eine Weiterverarbeitung von KI-generierten Ausgaben.

Bei der Auswertung von Texten und anderen Werken von Schülerinnen und Schülern ist zu berücksichtigen, dass diese ab einer bestimmten sog. Schöpfungshöhe selbst dem Schutz des Urheberrechts unterliegen. Sie dürfen deshalb nicht ohne Weiteres in eine Software eingegeben und dadurch vervielfältigt werden. Soll die Auswertung von Schülerwerken KI-gestützt erfolgen, bedarf es einer Einwilligung oder sonstigen Rechtsgrundlage für die Weiterverarbeitung. Wird sichergestellt, dass Schülerwerke nicht in das Training des KI-Modells Eingang finden können und ihre weitere Verbreitung auch nicht auf andere Weise aus der Hand gegeben wird, kann die Verarbeitung als vorübergehende Vervielfältigung ohne Einwilligung der Schülerinnen und Schüler erfolgen. Andernfalls sind sie vor der Einwilligung umfassend über die Folgen der Weiterverarbeitung ihrer Werke zu informieren.

Mit dem EU-Gesetz über Künstliche Intelligenz (EU AI Act) hat die Europäische Union einen einheitlichen Rechtsrahmen für den Einsatz von KI geschaffen. Das Gesetz unterscheidet vier Risikostufen von KI-Systemen:

• unvertretbares Risiko (verbotene Praktiken),
  
• hohes Risiko (z. B. bestimmte KI-Systeme im Bildungsbereich),
• begrenztes Risiko (z. B. Chatbots und generative KI),
• geringes Risiko (z.B. automatische Rechtschreibprüfung oder digitale Spiele)

Bei der Auswahl geeigneter Systeme sollten Schulen nur KI-Werkzeuge einsetzen, die rechtlich zulässig sind und die Anforderungen des EU AI Act erfüllen.

Die Schulung des Personals ist Pflicht. Lehrkräfte und schulische Teams brauchen grundlegende Kenntnisse über Funktionsweise, Risiken und Pflichten beim KI-Einsatz. Fortbildungen zu KI-Kompetenzen (AI Literacy) sind hierfür ein wichtiger Baustein (siehe 🎓 Fortbildungen & Qualifizierung).

Die KI-Verordnung regelt KI-Systeme je nach ihrem Risiko für Gesundheit, Sicherheit und Grundrechte.

• KI-Systeme in der Bildung, die bestimmte Aufgaben übernehmen, wie den Zugang zu Bildungseinrichtungen regeln, Lernergebnisse bewerten oder verbotenes Verhalten bei Prüfungen überwachen, fallen in den Hochrisiko-Bereich, wenn sie die Bewertung wesentlich beeinflussen. Ein vollständiges Verbot gibt es für die Emotionserkennung an Schulen.
• Ein begrenztes Risiko liegt vor, wenn das System eine spezifische Aufgabe erfüllt, menschliche Ergebnisse verbessert, Entscheidungsmuster und nicht allein bewertet. Es sind im Einzelfall schwierige juristische Abwägungen vorzunehmen.

Eine Einstufung in den Hochrisiko-Bereich bedeutet nicht, dass KI-Anwendungen im Bildungsbereich verboten sind. Allerdings müssen die Anbieter sicherstellen, dass die Anforderungen der KI-Verordnung eingehalten werden. Wenn Anbieter behaupten, dass ihre KI-Anwendungen nicht dem Hochrisiko-Bereich angehören, obwohl sie eine Verwendung im Rahmen der Kategorien erlauben, sind die KI-Anwendungen ausschließlich entsprechend der Nutzungsbedingungen zu verwenden. Bei Zweifeln an der durch einen Anbieter vorgenommenen Risiko-Einordnung sollten Schulen sich an das Landesamt für Schule und Bildung wenden. Auch der KI-Service-Desk der Bundesnetzagentur bietet Orientierung bei der Umsetzung der KI-Verordnung, bspw. mit Informations- und Vernetzungsveranstaltungen für Interessierte.

Die Datenschutz-Grundverordnung, die Verordnung über Künstliche Intelligenz der Europäischen Union und das sächsische Schulrecht setzen dem zulässigen Einsatz von KI-Anwendungen im schulischen Kontext Grenzen. In den Blick zu nehmen ist insbesondere der Einsatz zum Zweck der Bewertung schulischer Leistungen.

Unterschieden werden müssen hier Momente, in denen es um die Rückmeldung zu einem Lernstand geht und solche, in denen eine Leistung bewertet werden soll.

Der Einsatz von KI-Anwendungen zur Bewertung ist in diesem Rahmen nicht gestattet.

Die Schulordnungen legen fest, dass

"Die Ermittlung, Beurteilung und Bewertung von Leistungen […] in der pädagogischen Verantwortung des Lehrers" liegt. (z. B. Schulordnung Gymnasium §18 (2)) Die pädagogische Verantwortung wird per Schulgesetz (§40 (2)) auf die Lehrkraft übertragen.

Daraus lässt sich ableiten, dass diese Verantwortung nicht an KI-Systeme übertragen werden kann.

Weiterhin ist z. B. in den Verordnungen zu Abschlussprüfungen vorgeschrieben, dass "schriftlichen Prüfungsarbeiten vom Fachlehrer und einem vom Vorsitzenden des Prüfungsausschusses bestimmten Zweitkorrektor unabhängig voneinander zu bewerten" sind.

Der menschliche Beitrag zur Entscheidungsfindung steht hier im Vordergrund, eine Unterstützung durch KI-Anwendungen ist nicht vorgesehen (z. B. in Schulordnung Oberschulen §38 (1)).

Ein unterstützender Einsatz von KI-Anwendungen bei der Ermittlung eines Lernstands kann möglich sein. Soweit eine Lehrkraft hiervon Gebrauch macht, muss sie über die nötigen KI-Kompetenzen verfügen, so wie in Artikel 4 der KI-Verordnung beschrieben. Sie muss den Einsatz der Anwendungen offenlegen und begründen können, dass und wie die KI-Anwendung den Lernstand misst. Die Rückmeldung der KI zum Lernstand dürfen nicht als für die Festlegung der Note herangezogen werden. Stattdessen hat die Lehrkraft auf der Grundlage ihrer professionellen Fertigkeiten letztverantwortlich die Entscheidung zu treffen.
Die Hinweise zum Datenschutz- und Urheberrecht aus dem vorhergehenden Abschnitt sind zu beachten.

Das Sächsische Staatsministerium für Kultus hat im Februar 2026 folgende Hinweise im Schulportal veröffentlicht:

Wie bisher müssen alle Schülerinnen und Schüler vor Prüfungen aktenkundig über die Folgen von Täuschungshandlungen belehrt werden. Dazu gehören auch technische Hilfsmittel verschiedenster Art, die unerlaubt mitgebracht oder während der Prüfung genutzt werden. Das "Mitführen, Bereithalten und Verwenden" soll mit 0 Punkten oder Note 6 bewertet werden.

Auch nach der Prüfung können korrigierende Lehrkräfte noch Täuschungen feststellen, nämlich wenn sich "Texte und Begründungen deutlich von den Darstellungen im Unterricht oder den bisherigen Formulierungsstilen" der Schülerinnen und Schülern unterscheiden. In diesem Fall sollte eine Mitteilung an den oder die Vorsitzende des Prüfungsausschusses erfolgen und ein weiteres Prüfungsgespräch stattfinden, denn auch kurz nach einer Prüfung müssen Schülerinnen und Schüler in der Lage sein, ihre Prüfungsleistungen zu reproduzieren.

Sollte nach diesem Vorgehen eine Täuschung vorliegen, kann die Schulleitung sich für rechtliche Unterstützung an das Landesamt für Schule und Bildung wenden.

🎓 Fortbildungen & Qualifizierung

Artikel 4 der KI-Verordnung verlangt von Anbietern und Betreibern ein ausreichendes Maß an „KI-Kompetenz“ bei ihren Beschäftigten, die mit der Nutzung von KI-Systemen befasst sind. Lehrkräfte, die KI-Anwendungen dienstlich nutzen, sind daher gehalten, sich auf diesem Gebiet fortzubilden, sofern sie nicht bereits über die erforderliche Kompetenz verfügen.

Fortbildungsveranstaltungen zu Kompetenzen im Umgang mit KI-Anwendungen lassen sich im aktuellen Fortbildungskatalog des Schulportals finden (Direktlink). Auch in fachdidaktischen Fortbildungen wird KI mehr und mehr thematisiert werden. Des Weiteren stehen verschiedene Selbstlernangebote in Form von Online-Kursen zur Verfügung.

Darüber hinaus sind die Medienpädagogischen Zentren regionale Ansprechpartner für Fragen zum Thema Künstliche Intelligenz.

Im Internet finden Sie eine Vielzahl an Online-Kursen. Sie können bspw. folgende Selbstlernangebote in Form von Online-Kursen nutzen:

• Online-Kurs: Modul „Künstliche Intelligenz“ im Selbstlernkurs „Online Lehren und Lernen in Sachsen“
• Online-Kurs: Die Welt der Künstlichen Intelligenz entdecken
• Selbstlernkurs für Lehrkräfte „KI im Unterricht" von Lehrer-Online.de
• Kurse zu KI und ChatGPT auf fobizz.com
• Kurse, Videos und Podcasts zu KI und ChatGPT in der Lehre bei ki-campus.com
• eBildungslabor: Reflexives Online-Lernangebot KI-Orientierung
• Qualitäts- und UnterstützungsAgentur – Landesinstitut für Schule NRW: Moodle-Kurs Textgenerierende KI-Anwendungen in Schule und Unterricht
• Studypoint teacher: Online-Kurs: ChatGPT in der Schule

• elementsofai.de
• YoundData – Ein Informationsangebot der Datenschutzkonferenz
• Lernangebote „KI verstehen – Zukunft gestalten“ des Niedersächsisches Landesinstitut für schulische Qualitätsentwicklung

Vielfältige Materialien für die Gestaltung Ihres Unterrichts finden Sie im Internet und insbesondere auf Mundo und in der MeSax-Mediathek.

Letzte Aktualisierung 08.07.2026