Empfehlungen zum Umgang mit generativer KI

Die folgenden Empfehlungen werden unter den Prämissen gegeben, dass mit generativer KI für Lehren und Lernen sowohl Chancen als auch Risiken und technologische Grenzen verbunden sind. Es wird für einen kritisch-offenen Umgang mit generativer KI geworben und Leitplanken für eine verantwortungsbewusste Integration angeboten.

Wir verfügen nicht über etablierte KI-Systeme und "KI-Praktiken" - weder an der Hochschule, noch gesamtgesellschaftlich. Das Feld ist durch eine dynamische Entwicklung und eine Vielfalt an KI-Anwendungen gekennzeichnet. Eine kontinuierliche Auseinandersetzung mit KI-Technologie und den Folgen für Lehre und Studium ist erforderlich.

KI-Chatsysteme wie ChatGPT basieren auf Sprachmodellen und nicht auf traditionellen Wissensmodellen. Die Systeme wurden ursprünglich darauf trainiert, natürliche Sprache zu interpretieren und eloquente Sprache auszugeben - nicht jedoch, wahrhaftige, faktische oder logisch begründete Aussagen zu treffen. Mit generativen KI-Systemen können zudem (Deep) Fakes erzeugt werden und Vorurteile reproduziert werden. Ein kritischer Umgang mit generativer KI ist erforderlich. Der Inhalt der Sprachausgabe muss (noch) überprüft werden. Das menschliche Urteilsvermögen kann durch KI-Chatbots nicht ersetzlich werden, insbesondere bei Entscheidungen, die mit Verantwortungsübernahme einhergehen.

Generative KI-Systeme können Inspirationsquellen sein und zu persönlichen Assistenten befähigt werden, die nicht nur die Lehr- und Lernumgebung bereichern, sondern auch die Barrierefreiheit fördern können.

letzte Änderung am 28.02.2024

Die Registrierung bei Anbietern von generativer KI, welche die Preisgabe personenbezogener Daten fordern, darf nicht erzwungen werden. Es ist wichtig, dass Studierende und Lehrende die Autonomie über ihre eigenen Daten behalten.

Generativer KI kann nicht der Status von Autor:innen zugesprochen werden und ist somit nicht zitierfähig. Generative KI erzeugt Unikate: eine erneute Eingabe führt nicht zur Reproduktion älterer Ausgaben. Der Verweis auf eine Quelle wie "ChatGPT" kann mithin nicht überprüft werden. Fachzeitschriften akzeptieren generative KI nicht als Autor (z. B. nature).

Die Urheberschaft der KI-generierten Ausgaben ist eine offene Frage. Mit der maschinellen Generierung von Wörtern auf Grundlange einer Wahrscheinlichkeitsverteilung wird keine originäre Schöpfungshöhe erreicht. Technische Systeme können kein Urheberrecht beanspruchen. Die betreibenden Technologieunternehmen treten in der Regel das Recht an Bild und Text an die Nutzer:innen ab. Jedoch wird in den AGB der Technologieunternehmen grundsätzlich untersagt, KI-generierten Text als menschliches Erzeugnis darzustellen (z. B. OpenAI).

Urheberrechtlich geschützte Inhalte sollten bei der Verwendung von generativer KI nicht eingegeben werden, da unklar ist, inwiefern die Technologieunternehmen die Eingaben verarbeiten. Eine Vervielfältigung kann nicht ausgeschlossen werden.

Es obliegt der Verantwortung der Nutzenden, sich vorab mit den Richtlinien der Technologieunternehmen auseinanderzusetzen und deren Implikationen für den Datenschutz zu bewerten.

Zur vertieften Auseinandersetzung mit rechtlichen Fragen wird die Zusammenfassung des Rechtsgutachtens zum Umgang mit KI-Software im Hochschulkontext empfohlen.

letzte Änderung am 28.02.2024

(Generative) KI ist in der Lebens- und Arbeitswelt angekommen. Es gibt keine intellektuelle oder akademische Tätigkeit, die nicht mit KI unterstützt werden kann oder in absehbarer Zeit unterstützt werden wird (z. B. Dede et al. 2021). Studierende sollten auf eine agile, chaotische und von KI-geprägte Lebens- und Arbeitswelt vorbereitet werden. Die Relevanz von (generativer) KI in der Lebens- und Arbeitswelt geht mit einer Neuinterpretation und Schärfung von Kompetenzen einher. Für einen souveränen Umgang mit generativer KI müssen alle Hochschulangehörigen Kompetenzen entwickeln. Im Folgenden wird Fokus auf Studierende (Kompetenzentwicklung in den Studiengängen) und Lehrende (Kurse, Beratung und Material) gelegt.

Kompetenzentwicklung in den Studiengängen
Die bei Absolvent:innen angestrebten Kompetenzen werden in den Curricula beschrieben. Reinmann (2023) schlägt eine Berücksichtigung von genereller KI-Literacy, fach-spezifischen KI-Kompetenzen und KI-unabhängigen (Basis-)Kompetenzen in den Curricula vor. Dafür sei eine Einigung im Kolleg:innen-Kreis auf fach- und studiengangspezifische Ziele und Inhalt nötig - eine Einigung auf Ziele und Inhalte, die mit der fortschreitenden Entwicklung von KI regelmäßig kritisch hinterfragt werden müssen.

KI-unabhängige (Basis-)Kompetenzen stehen dabei besonders für Kompetenzen, die an Relevanz gewinnen, weil sie nicht gänzlich durch KI geleistet werden können (z.B. Kreativität, Entscheidungsfähigkeit, Teamwork). Zu einer KI-Literacy zählt u. a. ein kritisches und ethisches Denken im Einsatz von KI. Fach-spezifische und anwendungsbezogene KI-Kompetenzen bestehen u. a. aus der Interaktion mit KI-Technologie und dem Formulieren von Prompts. In dem Zusammenhang sei auf eine Übersicht zu Future Skills verwiesen.

Studierenden könnten auch additive (extracurriculare, fachübergreifende) Angebote zum Erwerb von KI-spezifischen Kompetenzen angeboten werden (z. B. Kurse zum KI-gestützten Wissenschaftlichen Arbeiten). Allerdings stellt dieses Vorgehen eine Notlösung dar. Aufgrund von Selbstselektionseffekten werden additive, freiwillige Angebote tendenziell nur von leistungsstarken und interessierten Studierende wahrgenommen. Darüber hinaus werden erlernte allgemeine Kompetenzen nur bedingt in fachspezifische Kontexte übertragen.

Kurse, Beratung und Materialien für Lehrende
Für einen souveränen Umgang mit generativer KI werden Fachkompetenzen, didaktische Kompetenzen, Kontextwissen und KI-Kompetenzen benötigt. Folgend werden Möglichkeiten der Kompetenzerweiterung empfohlen.

Veranstaltungen des Service Hochschuldidaktik an der WHZ

• online-Veranstaltungsreihe „Leben mit KI“ (Studium generale und Bürgerakademie)
• online-Austausch "Innovatives Lehren und Lernen mit KI: Theorie und Praxis"
• Beratung und WHZ-interne, hochschuldidaktische Kurse auf Anfrage

Podcasts und Videokanäle

• ARD: Der KI-Podcast
• Deutschlandfunk: KI verstehen
• AI Explained

Blogs/Newsletter

• Jens Polomski: KI-Tool Newsletter
• Ethan Mollick: One Useful Thing
• Matthias Kindt: KI & Bildung
• Zeit online: natürlich intelligent
• Gary Marcus: Marcus on AI

Online-Kurse und Materialien

• KI-Campus
• Hochschulforum Digitalisierung
• Netzwerk Landeseinrichtungen für digitale Hochschullehre
• Hochschuldidaktik Sachsen

letzte Änderung am 28.02.2024

Generative KI verändert die Art und Weise, wie gelernt und gelehrt wird. Im Gegensatz zu vielen technologischen Entwicklungen, die Menschen in ihrer körperlichen Arbeit unterstützen, ergänzt KI die intellektuellen Tätigkeiten von Menschen. Hier sind Hochschulen in doppelter Hinsicht gefragt. Sie bereiten nicht nur auf das intellektuelle Lösen komplexer Probleme vor. Lehren und Studieren selbst können von generativer KI unterstützt werden - mindestens im Sinne einer verteilten Kognition. KI wird immanenter Bestandteil des Lehrens und Lernens – sowohl als Bildungsinhalt als auch als Lern- und Lehrmethode. Lehrende gestalten die dafür notwendigen Lernräume. Studierende werden von KI bei der Bearbeitung von fachlichen Problemen unterstützt und beim Lernen begleitet. Hochschulen profitieren von den Lernerfahrungen der Studierenden und nutzen diese für die Weiterentwicklung der Lehre (Amlung et al. 2023).

Generative KI als Lehr- und Lerngegenstand
Ausgehend von der Annahme, dass Studierende auf eine agile, chaotische und von KI-geprägte Lebens- und Arbeitswelt vorbereitet werden sollten, wird KI zum Gegenstand der Studiengänge. Die Lehrveranstaltung können Räume werden, in denen sich über Nutzungserfahrungen, Grenzen und Umgangsregeln ausgetauscht werden kann. Fachliche und wissenschaftlichen Probleme werden KI-gestützt bearbeitet. Studierende erstellen Prompts, analysieren und bewerten KI-Ausgaben und kennen Funktionsweisen von KI-Technologie. An den Hochschulen werden die ökonomischen, fachlichen, wissenschaftlichen, ethischen oder gesamtgesellschaftlichen Folgen der KI diskutiert.

Generative KI als Lehrunterstützung
Hochschullehre bereitet nicht nur auf akademische Tätigkeiten vor. Sie ist selbst eine akademische Tätigkeit, die von den Potenzialen und Grenzen der KI-Technologie tangiert wird. Lehrende sind gefordert, generative KI in der Vorbereitung und Durchführung von Lehre zu erproben, zu überprüfen, inwiefern eine Erleichterung der Tätigkeit und Steigerung von Lehrqualität möglich ist, sowie sich um einen Austausch zu guten Ansätzen und gescheiterten Versuchen mit Kolleg:innen zu bemühen.
Zu einer Lehrunterstützung durch generative KI gehören u. a. die Erstellung von Lehr-Lern-Materialien, Quiz- und Prüfungsfragen sowie die Förderung von Interaktion, Anwendungsorientierung und kritischem Denken der Studierenden im Umgang mit KI. Es kann aber auch das Selbststudium mit Hilfe bereitgestellter Prompts strukturiert werden und Feedbacks der Studierenden schnell zusammengefasst werden.

Generative KI als Lernunterstützung
Generative KI kann einerseits das Lernen der Studierenden bereichern. Andererseits birgt generative KI das Potenzial, in einige Fällen die Kompetenzentwicklung der Studierenden zu hintergehen, indem Ergebnisse von der KI hergestellt werden und die anstrengende Lernaktivität den Studierenden abgenommen wird. Das sollte der Grundsatz gelten, dass Studierende KI als Unterstützung und nicht als Entledigung des Lernens einsetzen - KI arbeitet also interaktiv an der Seite der Studierenden (Human-on-the-loop-Systeme). Darüber hinaus sollten Lehrende beachten, dass der Einsatz von generativer KI die Chancengleichheit wahrt, dass die Nutzung generativer KI nicht als Voraussetzung für die erfolgreiche Teilnahme an einer Lehrveranstaltung (zumindest, solange kein KI-Zugang durch die Hochschule bereitgestellt wird) und mit generativer KI ein Mehrwert für das studentische Lernen einhergeht.
Studierende können generative KI als eine individualisierte Lernunterstützung (Strukturierung, Übersetzung, Zusammenfassung, Recherche, Feedback), als eine Inspirationshilfe (Brainstorming, Formulierungsvorschläge) oder für eine sokratische Gesprächsführung und Argumentationshilfe einsetzen.

Sicherung KI-unabhängiger (Basis-)Kompetenzen
Es gibt begründete Bedenken, dass relevante Kompetenzen der Studierenden zukünftig nicht mehr gefördert werden, da generative KI mindestens vorgibt, selbst über diese Kompetenzen zu verfügen. Damit wird u. a. eine Behinderung der menschlichen Entfaltung, ein Kontrollverlust oder ein Ausgeliefertsein gegenüber KI verbunden.
Zunächst wird empfohlen, relevante KI-unabhängige (Basis-)Kompetenzen von tradierten, aber überkommenen Kompetenzen zu differenzieren. Entlang folgender Prüfstellen kann eine Differenzierung erfolgen:

1. Ist die anvisierte Kompetenz tatsächlich noch für die Bearbeitung von fachlichen oder wissenschaftlichen Problemen relevant oder habe sich Anforderungen an Tätigkeiten in einer Welt mit KI verändert?
2. Sind tatsächlich grundlegendes Wissen und Basiskompetenzen Voraussetzung für das Bearbeiten von fachlichen oder wissenschaftlichen Problemen (induktiver Erkenntnisweg bzw. Hausmetapher, in der das Fundament die oberen Etagen trägt) oder erarbeiten sich Studierende im Zuge von speziellen Anwendungen ein fachliches Grundverständnis (deduktiver Erkenntnisweg bzw. Baummetapher, in der das Wachsen der Baumkrone mit einem Ausbrieten des Wurzelwerkes einhergeht)?

Wenn nach der Überprüfung relevante KI-unabhängiger (Basis-)Kompetenzen identifiziert wurden, kann nun nach Umgebungen und Bedingungen gesucht werden, in denen die (Basis-)Kompetenzen ohne Einfluss von generativer KI gefördert werden können. Dazu zählen eine Verständigung mit Studierenden zu Veranstaltungsbeginn zum Umgang mit generativer KI und das gemeinschaftliche Finden von Regelungen zum Lernen mit KI. Lernziele sollten vor dem Hintergrund generativer KI reflektiert und die Bedeutung der Entwicklung von Fachkompetenzen betonet werden. Unter Umständen müssen dafür Lernaktivitäten "neu gedacht" werden. Beispielsweise könnte das Erstellen von Hausarbeiten im Selbststudium mit einem Schreiben in der Lehrveranstaltung (technologiesparsam, aber reich an zwischenmenschlicher Kommunikation) ersetzt werden.

Akademische Gemeinschaft
Die akademische Gemeinschaft gewinnt an Bedeutung. Die Dynamik in der Entwicklung von KI stellt das einseitige Verständnis von Lehrenden als Wissensträger:innen im Lehr-Lern-Prozess ebenso in Frage, wie die Forderung an die Hochschuldidaktik, für jede didaktische Herausforderung im Zusammenhang mit KI Lösungen anzubieten. Der hohe Grad an Agilität in Lehre und Studium kann nur kollaborativ, d. h. akteur:innen-, rollen- und hochschulübergreifend, in einer lernenden, akademischen Gemeinschaft gelingen (Amlung et al. 2023).
Das Funktionieren einer akademischen Gemeinschaft benötigt Räume und Zeiten für spontane Begegnungen und sozialen Austausch sowie eine Haltung der gegenseitigen Beachtung und des Respekts. (Fachübergreifende) Projekten oder gemeinschaftliche Forschungsinitiativen, die Zusammenarbeit erfordern können mit einer Aufwertung sozialer Beziehungen ebenso einhergehen, wie vertrauensvollen Aushandlungsprozessen (Reinmann 2023). An vielen Stellen des Studiums erproben Lehrende und Studierende gemeinsam den Einsatz von KI im Fach.

letzte Änderung am 28.02.2024

Seit der breiten Verfügbarkeit von generativer KI kann eine Fortsetzung des Prüfungsbetriebs didaktisch und prüfungsrechtlich problematisch sein.

Transparenz und Kennzeichnung
Lehrende entscheiden, wie und ob generative KI in der Prüfung zulässig ist. Es liegt in der Verantwortung der Lehrenden, transparent und im besten Fall zu Veranstaltungsbeginn mit den Studierenden in einen begründeten Dialog über die Wahl des Umgangs mit generativer KI zu treten. Falls der Einsatz erlaubt ist, muss den Studierenden klar sein, welche Bedingungen dabei gelten und was folgt, wenn die Bedingungen ignoriert werden. Es liegt in der Verantwortung der Studierenden, die Bedingungen für einen zulässigen Einsatz von generativer KI einzuhalten (z. B. Darstellung des Einsatzes von generativer KI im Methodenteil oder Darstellung der verwendeten Prompts).

Selbstständigkeitserklärung
Generative KI stellt aus prüfungsrechtlicher Sicht ein Hilfsmittel dar. Mit einer unterzeichnenden Selbstständigkeitserklärung sichern Studierende das Einhalten der gesetzten Bedingungen zum Einsatz von Hilfsmitteln zu und verantworten die Konsequenzen der Nichteinhaltung der Bedingungen. In der empfohlenen Selbstständigkeitserklärung der WHZ wurde generative KI berücksichtigt. In Absprache zwischen Lehrenden und Studierenden könnten unterschiedliche Bedingungen in der Selbstständigkeitserklärung gesetzt werden.

• keine Erwähnung der Nutzung generativer KI unter Hilfsmitteln
• Erlaubnis generierender KI ohne Kennzeichnungspflicht und Erwähnung generierender KI als Hilfsmittel
• Kennzeichnungspflicht mit generativer KI erstellter Passagen
• Verbot generativer KI

Sicherstellung der Eigenleistung sowie Identifikation und Umgang mit Verdachtsfällen
Es ist allerdings sehr schwer, die studentische Eigenleistung von einer KI-generierten „Fremdleistung” zu unterschieden. KI-Erkennungssysteme haben sich als unzuverlässig erwiesen (z. B. Weber-Wulff et al. 2023; Sadasivan et al. 2023) und sollten daher nicht als Beweis herangezogen werden. Ein subjektiver Eindruck kann durch Unregelmäßigkeiten in den Formulierungen und durch das Auffinden angegebener, aber nichtexistenter Quellen erhärtet werden. Zur Validierung der Eigenleistung kann auch ein nachgelagertes „Klärungsgespräch” dienen, in dem das Verständnis und die inhaltliche Durchdringung der Eigenleistung abgefragt wird. Kann hinreichend bestätigt werden, dass die Selbstständigkeitserklärung missachtet wurde, kann eine Prüfung auf Grundlage des Täuschungsverdachts als „nicht bestanden“ bewertet werden.

Neben einer begründeten Skepsis gegenüber studentischen Angaben und Aussagen, sollte beachtet werden, dass eine überzogene oder voreilige Verdächtigung der Studierenden ebenfalls problematisch sein kann. Ein defizitorientiertes Bild von Studierenden könnte gefördert, das Verhältnis zu den Studierenden könnte gefährdet und die studentische Übernahme von Verantwortung könnte behindert werden. Es wird daher empfohlen, neben Regeln und Kontrollen, den Studierenden mit einem Vertrauensvorschuss zu begegnen.

KI-gestützte Bewertung von Prüfungen
Mit einer KI-gestützten Bewertung von Prüfungsleistungen gehen rechtliche Fallstricke einher. So, wie die Erstellung der Prüfungsleistung eine Eigenleistung der Studierenden sein sollte, sollte auch die Bewertung der Prüfungsleistung mit einer Eigenleistung der prüfenden Person verbunden sein. Vollumfänglich darf eine Prüfungsbewertung einem KI-System nicht überlassen werden. Zudem kann das Hochladen von studentischen Prüfungsleistungen aus urheberrechtlicher Perspektive problematisch sein. Haben die Studierenden dafür nicht ausdrücklich ihre Erlaubnis erteilt, findet damit unter Umständen eine unerlaubte Vervielfältigung statt.

letzte Änderung am 01.10.2024

Angehörigen der WHZ steht unter https://hawki.whz.de ein kostenfreier und datenschutzkonformer Zugang zu Sprachmodellen zur Verfügung. Es ist also nicht notwendig, einen privaten Zugang unter Angabe persönlicher Daten einzurichten, um ein Sprachmodell für die Bearbeitung akademischer Aufgaben zu nutzen. Es ist möglich, auf zwei Arten von Sprachmodellen zuzugreifen.

OpenAI GPT-4o ist ein sehr leistungsstarkes Sprachmodell, das uneingeschränkt genutzt werden kann. Allerdings sollten keine personenbezogenen oder urheberrechtlich geschützten Daten eingegeben werden, da die Verarbeitung auf Servern in den USA eine Vervielfältigung darstellen würde.

"Llama 3.1 70B instruct" und "Alibaba Cloud Qwen 2.5" sind zwei "open source" Sprachmodelle und werden auf Servern in Deutschland gehostet. Damit können auch sensible Daten verarbeitet werden. Allerdings ist das Kontextfenster (Umfang der Prompts) kleiner und inhaltliche Fehler treten häufiger auf.

---

Alternativ können "open source" Sprachmodelle über das Portal der Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG-LLM-Service) genutzt werden.

Mit den kostenfreien Zugängen zu kommerziellen Sprachmodellen wie Anthropics Claude 3.5 Sonnet, OpenAIs GPT-4o und Googles Gemini können zusätzliche Funktionen (Dateiupload, Bildgenerierung usw.) genutzt werden. Allerdings sind die Daten der Nutzenden nicht geschützt und der Umfang an Anfragen kann begrenzt sein. Für eine umfangreichere Nutzung kommerzieller KI-Systeme stehen kostenpflichtige Zugänge wie OpenAIs ChatGPT Plus und Anthropics Claude Pro zur Verfügung.

letzte Änderung am 12.12.2024