Digitales Lernen und Lehren

Ethik & Recht für KI

Die Nutzung von Künstlicher Intelligenz (KI) im Hochschulbereich stellt Lehrende vor verschiedene Herausforderungen: Diese erstrecken sich über etliche Aspekte, darunter Datenqualität, Datenschutz, Urheberrecht, Ethik, Voreingenommenheit, Transparenz, Ressourcen und Akzeptanz sowie Fairness und Zugänglichkeit.
Die rechtliche Einordung von KI ist in vielen Punkten noch ungeklärt. Bis dahin gilt: Studierende dürfen im Rahmen von Lehrveranstaltungen von Lehrenden nicht zur Nutzung, insbesondere nicht zur Registrierung, verpflichtet werden.

Daten sind der Treibstoff der KI: Künstliche Intelligenz lernt und macht Vorhersagen auf der Grundlage von Daten. Um KI-Modelle zu trainieren und effektiv einzusetzen, wird eine große Menge an Daten benötigt. Dies führt zu Fragen über die Sammlung, Speicherung und Verwendung von persönlichen Informationen.
Nutzer*innen sollten darüber informiert sein, wie ihre Daten verwendet und welche Entscheidungen auf Grundlage ihrer Daten getroffen werden. Die Einholung von Einwilligungen und die Transparenz bei der Datennutzung sind wichtige Aspekte des Datenschutzes in der KI.
Bei den populären KI-Anwendungen wie ChatGPT oder bing fehlen jedoch, auf Grund des nicht öffentlichen Algorithmus bzw. der Komplexität der Verarbeitungsvorgänge, Möglichkeiten für eine Nachvollziehbarkeit der Nutzung von personenbezogenen Daten.
Bitte beachten Sie dies bei der Nutzung von KI-Anwendungen: Geben Sie keine personenbezogenen Daten ein, es sei denn, diese wurden vorher sicher und vollständig anonymisiert. Alle Daten, die in KI-Systeme wie ChatGPT oder bing eingegeben werden, werden dort zu Trainingszwecken verwendet und können bei Abfrage durch eine beliebige Person weltweit wieder zum Vorschein kommen. Außerdem sind sie mit dem registrierten Account eindeutig verknüpft. Forschungsgeheimnisse dürfen ebenfalls nicht eingegeben werden. Studierende dürfen im Rahmen von Lehrveranstaltungen von Lehrenden nicht zur Nutzung, insbesondere nicht zur Registrierung, verpflichtet werden.

Das deutsche Recht hat bisher eine relativ klare Auffassungen davon, welche Werke urheberrechtlich geschützt sind: Urheberrechtlich geschützte Werke sind nur persönliche geistige Schöpfungen, also vom Menschen geschaffene Ergebnisse. Da KI-generierte Erzeugnisse in Gestalt von Texten, Bildern, Musik, Code etc. das Ergebnis sog. neuronaler Netze sind, scheidet bei ihnen mangels Erstellung durch einen Menschen ein Urheberrechtsschutz grundsätzlich aus.
Handelt es sich hingegen um Arbeitsergebnisse mit einem nicht unerheblichen schöpferischen, d. h. gestalterischen, Anteil von Menschen, die unter KI-Mitwirkung entstanden sind, ist ein Urheberrechtsschutz zumindest denkbar. Dies kann etwa der Fall sein, wenn Lehrende den Dienst anweisen, einen selbst verfassten Text (oder Programmiercode etc.) nach bestimmten Vorgaben nicht unerheblich umzuschreiben – oder diese umgekehrt einen KI-generierten Text nach der Ausgabe umfänglich bearbeiten, also nach ihren Vorstellungen stark verändern bzw. Inhalte ergänzen und die Ausdrucksweise in ihrem Sinne anpassen.
Wichtig ist zudem, dass auch die Eingabe von urheberrechtlich geschützten Werken (z.B. Teile eines Vorlesungsskripts oder Hausarbeit) in eine KI-Anwendung die Rechte der*des Urhebers*Urheberin verletzt. Nutzende müssen im Blick haben, ob sie die erforderlichen Rechte an allem, was sie eingeben oder hochladen, verfügen.
Lizenzhinweis: “Urheberrecht und Datenschutz bei ChatGPT & Co. in der Hochschullehre“, Andrea Schlotfeldt | HOOU@HAW, CC BY SA 4.

KI-Anwendungen sind immer nur so gut, wie die Daten, mit denen sie trainiert werden: KI-Modelle können durch ungleiche oder voreingenommene Daten trainiert werden, was zu diskriminierenden oder ungerechten Ergebnissen führen kann. Hinterfragen Sie also KI-generierte Inhalte immer kritisch und sensibilisieren Sie auch Ihre Studierenden für dieses Thema.
Gut zusammengefasst wird das Thema Biases in folgendem Video:

KI-Campus (Lizenz: CC BY-SA 4.0)

Auch die Auseinandersetzung mit Deep Fakes und Fake News, die KI-gestützt täuschend echt wirken, sollten Teil einer fundierten Beschäftigung mit KI-Tools sein. Einen guten Überblick bietet dieses Video aus der ARD-Mediathek.