Handreichung zum Umgang mit Generativer KI in Lehre und Prüfung

Der Einsatz generativer KI ist curricular relevant, weil es Qualitätsdefizite und rechtliche wie ethische Implikationen gibt.*  Fecher et al. (2023)* kommen auf der Basis einer größeren Delphi-Studie mit Wissenschaftler*innen zu dem Schluss, „dass das transformative Szenario zwar positive Auswirkungen von Large Language Models auf das Wissenschaftssystem und die Gesellschaft verspricht, es jedoch unerlässlich ist, die potenziellen Risiken und Herausforderungen proaktiv anzugehen, um sicherzustellen, dass die Integration der generativen KI in die Wissenschaft von ethischen Überlegungen, wissenschaftlicher Integrität und das Engagement für den gesellschaftlichen Nutzen geleitet wird.“

Im Kontext des möglichen Einsatzes von generativer KI durch Lehrende und Studierende sind folgende Aspekte zu beachten:

Die Urheberschaft von KI-generiertem Material bestimmen und wissenschaftliches Fehlverhalten einschätzen
Es ist unklar, ob die Person, die generative KI verwendet, die Technologie oder andere Dritte als Urheber betrachtet werden sollten. Es ist daher notwendig, KI-generiertes Material als von anderen stammend zu kennzeichnen, um Plagiate zu vermeiden. Zudem könnten Anforderungen an die Reproduzierbarkeit und Nachprüfbarkeit von Ergebnissen durch KI-Nutzung möglicherweise nicht erfüllt werden. Darüber hinaus stellt sich in allen Prüfungsszenarios, in denen KI eingesetzt werden kann, die Frage, ob die Prüfungsleistung tatsächlich die des*der zu Prüfenden ist.

Bewusstsein schärfen: KI-generiertes Material kann nicht zitierte Texte Dritter enthalten
Da KI verschiedene Quellen nutzen kann, darunter urheberrechtlich geschützte, besteht das Risiko, dass generierte Texte Plagiate anderer Texte sind, die referenziert werden müssten. Nutzer*innen müssen daher sicherstellen, dass sie etwaige Quellen recherchieren und in ihren eigenen Texten angemessen zitieren, um die Verletzung geistigen Eigentums und urheberrechtliche Ansprüche zu vermeiden. Die Verantwortung für die inhaltliche Richtigkeit und korrekte Kennzeichnung verwendeter Quellen liegt bei den Nutzer*innen. Deshalb ist immer eine kritische Prüfung sowohl von Inhalten als auch von Referenzen und Literaturangaben notwendig.

Herausforderung: Betrugsabsicht klären
Studierende, die das Ergebnis einer Prüfungs- oder Studienleistung durch Täuschung (z. B. Plagiat) oder unerlaubte Hilfsmittel beeinflussen, erhalten die Bewertung „nicht ausreichend“ (5,0). Es muss daher vorab geklärt werden, welche Hilfsmittel eingesetzt werden dürfen und inwiefern bzw. welche generative KI hierzu zählen. Lehrende müssen dafür angeben, welche Hilfsmittel erlaubt sind, und sollten mit den Studierenden besprechen, ob, wie und in welchem Umfang Software sinnvoll genutzt und wie dies kenntlich gemacht werden kann.

Chancengleichheit im Studium gewährleisten
Die Nutzung von KI zur Vorbereitung und Lernbegleitung ist bedeutsam, um Chancengleichheit im Studium zu fördern. KI in der Lehre kann einerseits Ungleichheiten ausgleichen, indem frei zugängliche oder für alle Studierenden verfügbare KI-Tools zur Verfügung gestellt werden. Das bietet Chancen für Inklusion und Individualisierung. Andererseits könnten leistungsstarke Studierende möglicherweise mehr von der KI-Nutzung profitieren. Dadurch könnten Ungleichheiten verstärkt werden. Die gemeinsame Auseinandersetzung mit KI-Tools in Lehrveranstaltungen kann dazu beitragen, dass alle Studierenden den reflektierten Umgang mit KI erlernen und ihre KI-Kompetenzen entwickeln.
 

Neben hochschul- und bildungspolitischen Aspekten sind für den differenzierten Einsatz und die konkrete Regelung der Nutzung generativer KI in Prüfungen auch rechtliche Aspekte zu beachten. Die Verbreitung und Verbesserung von generativer KI entwickeln sich sehr dynamisch. Derzeit ist keine eindeutige Lösung umsetzbar. Es muss immer eine Abwägung zwischen Lehr- und Lernfreiheit sowie Chancengerechtigkeit vorgenommen werden. Je intensiver generative KI genutzt wird, desto stärker verlagert sich die eigenständige menschliche Leistung im Texterstellungsprozess. Mensch und Maschine avancieren zu Co-Produzenten. Dieser Paradigmenwechsel muss in Lehre und Prüfung berücksichtigt werden.

Nach Heckmann & Rachut (2024) kann die gegenwärtige rechtliche Situation folgendermaßen zusammengefasst werden:

• Ein generelles Verbot der Nutzung generativer KI im Vorfeld und bei der Erstellung von Prüfungstexten bei Hausarbeiten, Referaten, Bachelor- oder Masterarbeiten ist rechtskonform nicht überprüfbar und schon deshalb rechtswidrig.
• Die konkrete Gestaltung von Prüfungsformaten liegt im Ermessen der Lehrenden/Prüfenden, die die fachdidaktischen und fachspezifischen Besonderheiten der geforderten Prüfungsleistung kennen und berücksichtigen. Sie beschreiben Schwierigkeitsgrad, Workload und Lernziele einer Prüfungsaufgabe.
• Nötig sind eine explizite und differenzierte Darstellung der zugelassenen (technischen) Hilfsmittel und transparente Bewertungsmaßstäbe im Hinblick auf die verbleibende Eigenständigkeit der erbrachten Prüfungsleistung. Die Prüfungsziele müssen im Licht der sich wandelnden technischen Möglichkeiten reflektiert und ggf. angepasst werden.
• Ob nun ein explizites Verbot der Nutzung generativer KI ausgesprochen wird oder dies still geduldet wird: einige Studierende werden solche Systeme nutzen, andere nicht. Es ist daher zu klären, wie diesbezüglich Chancengerechtigkeit hergestellt und Eigenständigkeit überprüft wird.

Herausforderung Datenschutz
Bei der Nutzung von KI-Tools werden personenbezogene Daten verarbeitet, häufig auf Servern außerhalb von Europa. Wie die Daten verarbeitet werden, ist oft intransparent. Es ist wichtig, zwischen den persönlichen Daten der Nutzer*innen der KI und den Daten zu unterscheiden, die sie im Zuge der Nutzung eingeben. Für die Registrierung und Nutzung von KI-Tools wie ChatGPT werden persönliche Daten wie Vor- und Nachname, E-Mailadresse und IP-Adresse verarbeitet. Die Registrierung sollte für alle Teilnehmer*innen freiwillig sein.
Personenbezogene Daten Dritter sollten im Rahmen der Nutzung von KI-Tools grundsätzlich nicht eingegeben werden, da dies immer die Zustimmung der betroffenen Person erfordert. Generative KI gibt nicht nur vorhandene Informationen wieder. Die Betreiber der KI-Software verwenden darüber hinaus die erhaltenen Daten, um die KI zu trainieren und zu verbessern. Daher sollte auch die Eingabe vertraulicher Daten oder aktueller Forschungsdaten vermieden werden.

Verdachtsfälle unerlaubter Verwendung von KI-Tools  
Unerlaubte Nutzung von KI-Tools nachzuweisen, ist derzeit nicht möglich. Bewertungsmaßstab muss stets der Inhalt der Prüfungsleistung sein. Durch die Kennzeichnungspflicht (Freigabeerklärung, Eigenständigkeitserklärung, siehe Anlagen) kann vermieden werden, den intellektuellen Eigenanteil bei der Anfertigung einer Prüfungsarbeit auf eine KI zu verlagern. Zur Bewertung (der Eigenständigkeit) der Prüfungsleistung sollten verschiedene Faktoren berücksichtigt werden, etwa Unregelmäßigkeiten wie fehlerhafte Formulierungen, unrealistische Quellenangaben etc. Der Eigenanteil kann in Relation zur Verwendung KI-generierter Textteile unterschiedlich bewertet werden: Eine Arbeit, die in großen Teilen KI-generierte Texte wortwörtlich übernimmt (und dies korrekt kennzeichnet), kann schlechter bewertet werden als eine Arbeit, die einen höheren Eigenanteil erkennen lässt.
 

Rückkoppelung mit expliziten Seminaranforderungen
Verantwortungsvoll, kompetent und reflektiert mit KI-Tools umzugehen, kann im Studium erlernt und sollte dort auch eingeübt werden. In Lehrveranstaltungen können zum Beispiel KI-Tools zur Unterstützung beim Schreiben, bei der bibliografischen Recherche und der Strukturierung von Forschungsaufgaben genutzt werden. Lehrende können Texte durch generative Sprachmodelle erstellen lassen und diese kriteriengestützt mit den Studierenden analysieren, um einen kritischen Umgang mit den digitalen Werkzeugen zu fördern.

Kriterien zur Dokumentation der Nutzung digitaler Werkzeuge
Wenn generative KI-Tools zur Erstellung von Texten verwendet werden, ist dies gemäß den veranstaltungsspezifischen Vorgaben zu dokumentieren. Die angewandte Methodik einschließlich der Parameter und Eingabekriterien, die für die Generierung des Outputs verwendet wurden, zu konkretisieren, hilft anderen Forscher*innen und Leser*innen, die Ergebnisse nachzuvollziehen.
 

Der Einfluss von generativer künstlicher Intelligenz auf schriftliche Prüfungsleistungen hängt stark von der Art der Aufgabenstellung ab. Generative KI ist besonders effektiv bei allgemeinen Aufgabenstellungen zu generellen Themen, für die im Wesentlichen bestehendes Wissen zusammengetragen werden muss. In solchen Bereichen besteht aktuell die größte Gefahr von Täuschungen bzw. Plagiaten. KI-Tools können hochwertige Zusammenfassungen erstellen und einen wissenschaftlichen Diskussionsstand aufbereiten. Prüfungsformate sollten daher so gewählt werden, dass generative KI nur unterstützend, nicht substituierend eingesetzt werden kann. 
In Fächern, in denen konkrete empirische Projekte die Basis für schriftliche Arbeiten darstellen, kann die Nutzung von KI hilfreich sein, um Erhebungsinstrumente zu erstellen und Daten auszuwerten. Generative KI kann etwa unterstützend eingesetzt werden, um Fragen in Fragebögen und Leitfäden zu formulieren, Analyseskripte zu erstellen und zu überarbeiten oder um statistische Kennwerte zu interpretieren usw.

Hausarbeiten
Formale Erlaubnis bei transparenter und reflektierter Nutzung: In Lehrveranstaltungen können bestimmte Arten von generativer KI explizit thematisiert und deren Nutzung geübt werden. Studierende werden angeregt und darin begleitet, diese Werkzeuge zu reflektieren und ihre Verwendung transparent zu machen. In der Lehrveranstaltung können Regeln zur Nutzung generativer KI bei Hausarbeiten festgelegt werden. Studierende müssen dann entsprechend angeben und reflektieren, ob und in welcher Weise sie solche Werkzeuge verwendet haben.

Einschränkung: In Lehrveranstaltungen kann die Nutzung generativer KI bei Hausarbeiten beschränkt werden, indem entsprechende veranstaltungsspezifische Vorgaben formuliert werden. Studierende müssen dann angeben, ob sie generative KI verwendet haben. Sie tragen die Verantwortung für die inhaltliche Richtigkeit der erstellten Inhalte.

In beiden Fällen liegt der Fokus darauf, den Studierenden bewusst zu machen, wie sie generative KI in ihren Hausarbeiten einsetzen und dass weiterhin sie die Verantwortung für die erstellten Inhalte tragen. Eine Freigabeerklärung in Verbindung mit der Eigenständigkeitserklärung kann regeln, welche Informationen anzugeben und zu listen sind (Art des genutzten KI-Systems, Dokumentation der Nutzung, Eingaben/Prompts).

Klausuren/elektronische (Fern-)Prüfungen
Ausschluss von generativer KI: Lehrende können bei konkreten Klausuren und elektronischen (Fern-)Prüfungen alle Hilfsmittel verbieten, auch die Nutzung von generativer KI. Dies kann durch klare Richtlinien und Überwachungsmechanismen sichergestellt wer-den.

Zulassung unter klaren Regeln: Lehrende können bei Klausuren und elektronischen (Fern-)Prüfungen die Nutzung generativer KI unter bestimmten Bedingungen zulassen. Dann müssen klare Richtlinien festgelegt werden, die den Rahmen für die zulässige Verwendung definieren. Studierende müssen kennzeichnen und dokumentieren, welche und wie sie generative KI-Tools verwendet haben. Konkrete Einschränkungen können gesetzt werden.

In beiden Fällen ist es wichtig, die Integrität der Prüfungen zu wahren und sicherzustellen, dass die Leistungen der Studierenden transparent bewertet werden können.

Mündliche Prüfung als Alternative oder Ergänzung zur schriftlichen Arbeit
Ob und in welcher Weise generative KI bei Studien-/Prüfungsleistungen genutzt werden darf, muss zu Beginn der Lehrveranstaltung kommuniziert werden. Eine ergänzende mündliche Prüfung ist in den Rahmenprüfungsordnungen der Universität Erfurt verankert:
In allen Modulen, mit Ausnahme der Abschlussmodule, die als Modulprüfung auch „c) Schriftliche Arbeit“ zulassen (siehe Modulbeschreibungen), ist, sofern nicht bereits die Modulprüfung „h) Schriftliche Arbeit i.V.m. Mündl./Prakt. Prüfung“ mit festgelegter prozentualer Gewichtung zugelassen ist, auch die Modulprüfung „h) Schriftliche Arbeit 70% i. V. m Mündl./Prakt. Prüfung 30%“ zur Verteidigung der schriftlichen Arbeit als weitere Modulprüfung zugelassen. Wird eine der beiden Teilprüfungen mit 5,0 bewertet, gilt die zusammengesetzte Prüfungsleistung als mit nicht ausreichend bewertet.
 

Durch schriftliche Arbeiten weisen Studierende nach, dass sie in der Lage sind, innerhalb eines vorgegebenen Zeitraumes Fragen und Problemstellungen zum Studienfach selbstständig mit wissenschaftlichen Methoden zu bearbeiten und die Ergebnisse sachgerecht schriftlich darzustellen. Im Zuge der Erarbeitung erwerben und vertiefen sie Reflexionsfähigkeit, Schreibkompetenz, korrektes Zitieren und Bibliographieren. Sie erlernen akademische Standards wissenschaftlichen Arbeitens.

Ob und welche KI-Tools im Zuge einer Prüfungsleistung als Hilfsmittel eingesetzt werden dürfen, ist genau zu definieren. Dazu kann helfen zu klären,

1. welche Hilfsmittel für die Themenfindung und Literaturrecherche (auch die Vorbereitung mit Literaturrecherche etc.) genutzt werden dürfen;
2. welche Hilfsmittel zur Generierung (Erstellung und Formulierung) von Textteilen verwendet werden dürfen;
3. welche Hilfsmittel zur Überarbeitung des Textes eingesetzt werden dürfen.

Außerdem ist zu klären, wie bei erlaubter Nutzung von KI-Tools die Eigenständigkeit der Prüfungsleistung bewertet wird.

Ein Muster einer Freigabeerklärung finden Sie hier im docx-Format: Freigabeerklärung (Muster)

Welche Hilfsmittel zur Abfassung schriftlicher Arbeiten verwendet wurden, ist auch bei der Nutzung generativer KI anzugeben. Studierende müssen weiterhin erklären, dass sie die Arbeit eigenständig verfasst haben und keine nicht erlaubten Hilfsmittel verwendet haben.

Ein Muster einer verlängerten Eigenständigkeitserklärung finden Sie hier im docx-Format: Eigenständigkeitserklärung

Über die formale Klärung hinaus sollten die Studierenden konsequent zu einer kritischen Auseinandersetzung mit dem Einsatz der Hilfsmittel angeregt werden. Dies können sie in einem kurzen Reflexionspapier dokumentieren. Darin sollten die eingesetzten Tools benannt und erörtert werden, welche Teile der Arbeit dadurch geprägt wurden und wie die Nutzung von KI inhaltliche und sprachliche Aspekte verändert hat.

Lizenzen
Die UE kann ihren Angehörigen noch keinen gesicherten Zugang einem generativen KI-Tool anbieten. Deshalb kann niemand dazu verpflichtet werden, sich bei einem KI-Tool anzumelden. Bei der aktiven Nutzung von KI-Tools in Lehrveranstaltungen müssen datenschutzrechtliche Vorgaben beachtet werden.

Schulungsmaterial/ Qualifizierungsmöglichkeiten 
Im Moodle-Raum Uni Erfurt Digital Lehren sind sämtliche Informationen zu den aktuellen Rahmenbedingungen für die digitale bzw. medienbereicherte Lehre an der Universität Erfurt abrufbar.
Das eTeach-Netzwerk Thüringen und die eTeach-Kontaktstelle an der Universität Erfurt tragen Expertise zusammen, bündeln Informationen und gestalten Angebote für Lehrende und Interessierte.

Für folgende Bereiche soll Unterstützung bereitgestellt werden:

• Entwicklung von KI-Kompetenzen und KI-Literacy,
• Ethische Reflexion bei der Anwendung von KI-Tools,
• Testen von KI-Tools für die Lehre,
• Prüfungsgestaltung im Kontext von KI-Tools.

Bei weiteren Fragen wenden Sie sich gerne an kontakt@eteachthueringen.de
 

Allgemein:

1. Einen kompetenten und kritischen Umgang mit KI-Tools selbst einüben und in der Lehre fördern
2. Hochschuldidaktische Angebote (z.B. vom eTeach-Netzwerk) nutzen.
3. Den Betreuungsprozess intensivieren (wenn möglich)

In Lehre und Prüfung

1. Bedingungen für den Einsatz von KI als Hilfsmittel in Prüfungsleistungen formulieren (Freigabeerklärung im docx-Format).
2. Prüfungsformate überarbeiten/anpassen:
   1. Aufgaben sollten so gestellt werden, dass eine gute Bearbeitung ausschließlich mit generativen KI-Systemen nicht möglich ist (z.B. durch stark spezifizierte Fragen).
   2. Wenn mit generativer KI gearbeitet werden soll/darf, sind Aufgaben zu stellen, die auf die Anwendung, Analyse, Synthese und Bewertung von Lerninhalten und damit auf Transferleistungen und schlussfolgerndes Denken abzielen.
   3. Wenn mit generativer KI gearbeitet werden soll/darf, sollte ein Reflexionstext als Teil der Prüfungsleistung eingefordert werden.
   4. Bewertungskriterien überdenken (Eigenständigkeit!).
   5. Schriftliche Entwürfe im laufenden Semester einfordern; KI-Nutzung im Arbeitsprozess reflektieren; ggf. auch dokumentieren lassen: beispielsweise durch ein Verzeichnis, in dem fortlaufend notiert wird, welche Tools für welche Abschnitte eingesetzt wurden (Name und Version des Tools, Prompt, Datum, Adresse/URL des Tools, Referenztexte der KI-Ergebnisse)
   6. Reflexionstext (max. 1 Seite) einfordern, in dem erläutert wird, wie mit KI gearbeitet wurde und inwiefern dies Inhalt und Sprache der Ausführungen verändert hat (Anlage 1)
   7. Eigenständigkeitserklärung erläutern und einfordern (Eigenständigkeitserklärung im docx-Format)
   8. Und natürlich immer: die Prüfungsordnung beachten. Studierende, die das Ergebnis einer Prüfungs- oder Studienleistung durch Täuschung (z. B. Plagiat) oder unerlaubte Hilfsmittel beeinflussen, erhalten die Bewertung „nicht ausreichend“ (5,0).