Wikimedia Meta-Wiki

Offene KI

Offene KI füe alle! Empfehlungen für offene und gemeinwohlorientierte KI-Technologien im Bildungsbereich

edit

Wir, die Autor*innen dieses Papiers, sehen unsere Handlunsgempfehlungen als "lebendiges Dokument" an; das heißt, wir laden dazu ein, Inhalte zu aktualisieren, zu korrigieren und weiterzuentwickeln. Dieses Wiki soll dafür einen Raum bieten und wir freuen uns über rege Beteiligung! Die PDF Varianten findet ihr auf Deutsch und Englisch auf Wikimedia Commons zum Download. --Anne-Sophie Waag (WMDE) (talk) 14:51, 23 July 2024 (UTC)[reply]

Vorwort

edit

Die nachfolgenden Empfehlungen „Offene KI (Künstliche Intelligenz) für alle!“ sind die Ergebnisse des von Wikimedia Deutschland e. V. und der Pädagogin und Bildungswissenschaftlerin Nele Hirsch von November 2023 bis Mai 2024 initiierten Forums Offene KI in der Bildung. Ausgangspunkt dafür war der im Frühjahr 2023 verfasste Aufruf „Künstliche Intelligenz, Offenheit und Pädagogik“ der Initiative OE/AI, der auf dem Barcamp edunautika zu zeitgemäßer Pädagogik im digitalen Wandel verfasst wurde. Nach einem ersten informellen Austauschtreffen der Initiative im Mai 2023 bot Wikimedia Deutschland an, dem Vorhaben einen Rahmen zu geben. So entstand das Forum Offene KI in der Bildung.

Ziel des Forums war es, auf Basis eines multiperspektivischen Prozesses konkrete Handlungsempfehlungen für Bildungspolitiker*innen zu entwickeln. Aus diesen soll hervorgehen, warum eine offene und gemeinwohlorientierte KI-Technologie im Bildungsbereich benötigt wird und welche nächsten politischen Schritte daraus folgen sollten.

Die hier veröffentlichten Handlungsempfehlungen sollen darüber hinaus Gesprächsanlässe zwischen Politik und Zivilgesellschaft über die Werte und die Kriterien, die hinter der Auswahl, dem Einsatz und der Nutzung von KI in der Bildung stehen, bieten.

Executive Summary

edit

Dieses Papier richtet sich an Bildungs- und Digitalpolitiker*innen aus Bund und Ländern, die sich für die Förderung offener und gemeinwohlorientierter KI in der Bildungspraxis einsetzen möchten. Es richtet sich an Personen, die KI-Anwendungen in der Bildung fördern möchten, die zum einen auf offenen Trainingsdaten und Modellen beruhen und die zum anderen vor dem Hintergrund pädagogischer und gemeinwohlorientierter Ziele entwickelt werden.

Die Empfehlungen wurden in einem kollaborativen, mehrmonatigen Prozess zwischen November 2023 und Mai 2024 erarbeitet. Die Beteiligten kamen aus verschiedenen Bildungssektoren: Dozierende aus Universitäten und Hochschulen, Lehrkräfte allgemeinbildender und beruflicher Schulen, Lehrpersonen aus Erwachsenenbildungsinstituten, Mitarbeitende aus Fortbildungsinstituten der Bundesländer, aus politischen Stiftungen sowie Bildungsstiftungen und -organisationen.

Motivation für die gemeinsame Arbeit war der Wunsch, die Auswahl, die Nutzung und den Einsatz von KI-Anwendungen in der Bildung nicht nur zu beobachten, sondern neue Impulse in die Entscheidungsprozesse einzubringen. Während zunehmend proprietäre und geschlossene KI-Anwendungen in den Bildungsmarkt drängen, soll mit dem Empfehlungspapier der politische und gesellschaftliche Diskurs zu zentralen Fragen wie dem Zugang zu Bildungstechnologien, zu offenen Bildungspraktiken und zu Grundrechten im digitalen Raum vorangetrieben werden.

Empfehlungen für offene und gemeinwohlorientierte KI-Technologien im Bildungsbereich im Überblick

edit

Wir empfehlen die öffentlich finanzierte Entwicklung gemeinwohlorientierter und offener KI-Technologien für den Bildungsbereich mit gleichen Zugangsmöglichkeiten für alle. Alle eingesetzten KI-Systeme sollen vor ihrem Einsatz im Bildungsbereich unabhängig geprüft werden. Um dieses Ziel zu erreichen, bedarf es diverser Maßnahmen, die kurz- bis mittelfristig umzusetzen sind.

Infrastruktur und Zugang
edit
  • Kurzfristig: Bundesländer schaffen Zugänge zu KI-Systemen für alle
  • Mittelfristig: Bund und Länder fördern die (Weiter-)Entwicklung von offenen, gemeinwohlorientierten KI-Alternativen für die Bildung
  • Mittelfristig: Bund und Länder stellen öffentliche digitale Infrastrukturen zum Hosten offener KI-Systeme bereit
Offene Bildungspraxis
edit
  • Kurzfristig: Bund und Länder stellen alle öffentlich finanzierten Lern- und Weiterbildungsressourcen zu KI unter freien Lizenzen zur Verfügung
  • Kurzfristig: Bundesländer fördern den Aufbau von Offenheitskompetenzen im Kontext der Digital- und Medienbildung
  • Mittelfristig: Länder fördern eine neue Fortbildungskultur und -struktur mit offenen Formaten zum Peer-to-Peer- und Selbstlernen
  • Mittelfristig: Bundesländer unterstützen die Veränderung der Lern- und Prüfungskultur
Grundrechte im digitalen Raum
edit
  • Kurzfristig: Der Bund gewährleistet durch regulatorische Maßnahmen die Nachvollziehbarkeit von spezifischen KI-Anwendungen für Nutzende
  • Kurzfristig: Bund und Länder gewährleisten Datenschutz bei der Nutzung von KI-Anwendungen in der Bildung
  • Mittelfristig: Bund und Länder führen eine unabhängige KI-Prüfstelle ein

Einleitung

edit

Die Veröffentlichung von ChatGPT, dem ersten leicht und breit zugänglichen Sprachmodell-Chatbot im November 2022 und dessen Implikationen beschäftigen Akteur*innen in der Bildung in der ganzen Welt. Viele bestehende Lehr- und Lernpraktiken sowie Prüfungsformate werden durch die neuen Anwendungsmöglichkeiten und Funktionalitäten generativer Chatbots infrage gestellt. Diskussionen darüber, wie zeitgemäßes Lehren und Lernen aussehen kann und welche Prüfungsformen es braucht, haben dadurch neuen Aufwind erfahren (Wampfler & Albrecht, 2023).

Während in der Anfangsphase das individuelle Ausprobieren im Fokus stand, wächst nun zunehmend der öffentliche Druck auf Bildungseinrichtungen, generative Chatbots und andere KI-Anwendungen als Teil der digitalen Infrastruktur dauerhaft für Lernende und Lehrende bereitzustellen. Dabei zeichnet sich ab, dass sich die KI-Anwendung ChatGPT als neue Standardlösung für generative Chatbots in der Bildung etabliert. Auch wenn es erste Open-Source-Alternativen gibt (z. B. GPT4All, HuggingChat oder Mistral, an dem sich allerdings mittlerweile Microsoft beteiligt) und neue in der Entwicklung sind (z. B. TrustLLM oder OpenGPT-X), haben diese bislang nicht die Performanz, vor allem aber nicht den Bekanntheitsgrad von ChatGPT erreicht. Überdies bedarf es bei einigen dieser offenen Modelle spezieller fachlicher Expertise, beispielsweise weil sie selbst gehostet werden müssen. Damit sichert sich nach Microsoft Office und Apples iPad eine weitere kommerzielle, proprietäre und geschlossene Technologielösung ihren festen Platz in den Bildungsinstitutionen.

Sowohl aus demokratischer als auch pädagogischer Perspektive ist diese Entwicklung kritisch zu beurteilen: Erstens ist aufgrund der Intransparenz wenig über das große Sprachmodell und dessen Trainingsdaten bekannt und es kann kaum durch externe Personen beurteilt werden; zweitens kommen Ausgaben für Bildungstechnologien einem privatwirtschaftlichen Unternehmen zugute, anstatt das öffentliche Geld in die Entwicklung öffentlicher Systeme zu investieren; und drittens wurde der Chatbot nicht für pädagogische Zwecke entwickelt und verhindert durch die Geschlossenheit eine Anpassung an die jeweiligen Bildungsbedarfe. Aus Sicht der Autor*innen stehen proprietäre, geschlossene KI-Anwendungen im Widerspruch zu den Prinzipien und den Überzeugungen einer offenen Bildungspraxis und einer zeitgemäßen Pädagogik, die auf den Werten Freiheit und Offenheit, Transparenz und Mitbestimmung fußt.

Dass spezifische KI-Anwendungen vielfältige Potenziale für eine chancengerechte Bildung bieten, hat sich bereits mehrfach gezeigt: So können sich KI-Systeme positiv auf das Lernen, die Lernmotivation und den Lernerfolg auswirken (siehe Ständige Wissenschaftliche Kommission, 2024). Hilfreiche Anwendungen sind beispielsweise KI-Tutorsysteme, die den Lernenden beim Bearbeiten von Aufgaben beistehen, ohne dass sie dabei müde werden oder sich langweilen. Generative Chatbots können Lehrende dabei unterstützen, Aufgaben zielgruppengerecht für die verschiedenen Lernendengruppen aufzubereiten. Und KI-unterstützte Sprachassistenzsysteme können es Personen mit noch geringen Sprachkenntnissen ermöglichen, am Fremdsprachenunterricht teilzunehmen. Diese Potenziale gilt es zu nutzen.

Damit die Potenziale der KI-Systeme im Sinne von Offenheit und Gemeinwohlorientierung genutzt werden können, sind verschiedene Aspekte in den Blick zu nehmen. Dazu gehören u. a. technische, pädagogische, rechtliche und ethische Aspekte. Als Zusammenschluss von Personen aus dem Bildungskontext wird in den Handlungsempfehlungen insbesondere die pädagogische Perspektive auf offene KI in der Bildung eingenommen. Dabei werden drei zentrale Bereiche fokussiert: (1) Infrastruktur und Zugang, (2) offene Bildungspraxis und (3) Grundrechte im digitalen Raum. Für jeden Bereich wird kurz die aktuelle Ausgangsposition geschildert, gefolgt von Empfehlungen, die daraus abgeleitet wurden. Ergänzt wird jeder Abschnitt um Hinweise auf weiterführende Literatur.

Literatur

edit
Begriffserklärungen
Das verstehen wir unter künstlicher Intelligenz Das verstehen wir unter offener Bildung
Künstliche Intelligenz (KI) wird vielfach nicht als technologischer Begriff verwendet, sondern stellt ein gesellschaftliches Narrativ dar. Gerade in Bildungskontexten wird mit dem Begriff KI meistens auf zwei zentrale Anwendungsbereiche Bezug genommen: (1) generative Chatbots, die auf großen Sprachmodellen basieren, und (2) intelligente Tutorsysteme, die auf maschinellem Lernen beruhen. Wir nehmen für dieses Papier beispielhaft generative KI in den Fokus – die grundlegenden Werte, Themen und Herausforderungen lassen sich aber auf die verschiedensten Bildungstechnologien übertragen. Unter freier, offener Bildung verstehen wir Bildungsansätze, die kollaboratives, kokreatives und vernetztes Lehren und Lernen fördern. Das kann u. a. über partizipative, autonomiefördernde, lernendenzentrierte, pädagogische Praktiken sowie frei zugängliche, veränderbare und häufig digitale Inhalte, Anwendungen und Produkte (Lehrbücher, Online-Übungen, digitale Anwendungen etc.) unterstützt und gestaltet werden. Offene Bildung verbindet formale und nicht formale Bildungsbereiche.

Handlungsempfehlungen

edit

Infrastruktur und Zugang

edit

Ausgangssituation

edit

Ob und in welcher Form Lehrende und Lernende im Bildungskontext Zugang zu KI-Anwendungen haben, ist sehr uneinheitlich. Es zeigen sich große Unterschiede je nach Bundesland und Bildungssektor. Einige Lehrende und Lernende erhalten Zugang über ihr Bundesland, andere über ihre jeweilige Bildungsinstitution und wieder andere müssen sich eigenständig darum kümmern.

Bundesländer wie Mecklenburg-Vorpommern und Rheinland-Pfalz haben ihren Schulen über privatwirtschaftliche Bildungsanbieter Zugang zu Sprachmodellen verschafft. In Baden-Württemberg erfolgt der Zugriff für Lehrkräfte über das Lernmanagementsystem Moodle und in Sachsen-Anhalt ist der Zugang über eine selbst programmierte Schnittstelle unter Nutzung des landesweiten Lernmanagementsystems geregelt. Bei den zugänglichen Sprachmodellen handelt es sich in erster Linie um das proprietäre Produkt ChatGPT, auch wenn z. B. der Anbieter fobizz (101skills GmbH, 2024) zusätzlich den offeneren generativen Chatbot Mistral zur Verfügung stellt. Für die Nutzung des Sprachmodells zahlen die Länder entweder Lizenzgebühren an einen Anbieter oder für eine zentrale Programmierschnittstelle (API). Je mehr Personen die Anwendung über den jeweiligen Zugang nutzen und sogenannte Tokens produzieren, desto höher sind die Kosten (Salden et al., 2024).

Bei den Bildungsausgaben für KI-Anwendungen prognostiziert Statista zwischen 2018 und 2025 weltweit einen Anstieg um das 7,5-Fache von jährlich 0,8 auf 6,1 Milliarden Dollar (Statista, 2024). Eine zentrale Frage ist jedoch, wie diese Mittel alloziert werden: Generieren privatwirtschaftliche Unternehmen Einnahmen durch Lizenzgebühren oder werden die Gelder in die (Weiter-)Entwicklung von offenen, gemeinwohlorientierten KI-Systemen investiert? Nichtsdestotrotz ist die zentrale Übernahme der Kosten durch Bund und Länder aus Gründen der Bildungsgerechtigkeit kurzfristig unumgänglich, damit weder Lehrende noch Lernende für den Zugang zu einem Sprachmodell oder zu anderen lernrelevanten KI-Systemen privat aufkommen müssen. Fehlt es an solchen zentralen und für die Nutzenden von Bildungsangeboten kostenfreien Zugängen zu KI-Systemen, werden Disparitäten schnell verstärkt, da sich nicht alle Lernenden und Lehrenden ein kostenpflichtiges KI-System leisten können. Eine Vergrößerung des „Digital Divide“, also des Auseinanderdriftens digitaler Grundkompetenzen (Bachmann et al., 2022; Kramer, 2023), ist damit vorprogrammiert.

Bei Betrachtung der verschiedenen Bildungssektoren zeigen sich außerdem große Unterschiede hinsichtlich der digitalen Ausstattung. Während beispielsweise die meisten Hochschulen über eigene Rechenzentren und IT-Mitarbeitende verfügen, gilt dies für Schulen und bei Bildungsträgern der Erwachsenenbildung in der Regel nicht. Hochschulen können somit deutlich schneller und gezielter auf neue Entwicklungen reagieren und haben digitale Expertise im eigenen Haus. In Schulen werden häufig einzelne Lehrkräfte abbestellt, um sich neben ihrer Lehrverpflichtung um die Inbetriebnahme und Instandhaltung technischer Geräte oder Programme zu kümmern. Lehrkräfte bei Bildungsträgern der Erwachsenenbildung hingegen arbeiten oft nur stundenweise und auf Honorarbasis. Sie müssen daher als Selbstständige in manchen Fällen sogar für eine eigene Lizenz zahlen, oftmals den vollen Preis.

Empfehlungen

edit
Kurzfristig: Bundesländer schaffen Zugänge für alle
edit

Damit alle Lehrenden und Lernenden die Funktionsweisen, Nutzungsmöglichkeiten und Auswirkungen von KI-Anwendungen auf das Lehren und Lernen kennenlernen und beurteilen können, brauchen sie freien, kostenlosen Zugang zu diesen Systemen. Die aktive Erprobung ist eine wichtige Grundlage für pädagogische Reflexion und Bewertung. Sie muss unabhängig vom genutzten Betriebssystem und vom finanziellen Hintergrund der Person möglich sein und darf nicht davon abhängen, in welchem Bundesland oder in welcher Bildungseinrichtung sie lernt oder lehrt. Dazu gehört auch, dass alle Zugang zu den gleichen Systemen haben, um Unterschiede bezüglich Funktionalität und Qualität auszuschließen. Es braucht eine flächendeckende und zuverlässige Bereitstellung von generativen Chatbots für alle Lehrenden und Lernenden – vom schulischen Bereich bis in die Erwachsenenbildung. Dabei kann durchaus heute schon auf offene(re) KI-Alternativen zurückgegriffen werden, wie die Auflistung großer Sprachmodelle bei AlternativeTo (2024) zeigt: Darunter zu finden sind HuggingChat oder GPT4All. Auch wenn diese Systeme aktuell noch nicht an die Performance von ChatGPT heranreichen, können sie gleichsam für pädagogische Zwecke eingesetzt werden. Um den Zugang für alle möglichst niedrigschwellig zu gestalten, empfehlen wir, auf bestehende Strukturen wie Lernmanagementsysteme oder (zukünftig) die Vernetzungsinfrastruktur Mein Bildungsraum (VDI/VDE-IT, 2024) zurückzugreifen.

Mittelfristig: Bund und Länder fördern die (Weiter-)Entwicklung von offenen, gemeinwohlorientierten KI-Alternativen für die Bildung
edit

Mittelfristig sollte die (Weiter-)Entwicklung von offenen und gemeinwohlorientierten KI-Alternativen für den Bildungsbereich gefördert werden (siehe auch Ständige Wissenschaftliche Kommission, 2024: Entwicklung von „Commons-Alternativen“). Es besteht die Möglichkeit, sowohl die Entwicklung neuer Modelle als auch die Weiterentwicklung bestehender offener Modelle zu fördern. Offene KI-Systeme bieten diverse Vorteile: Sie können von Anfang an für spezifische Bedarfe und Ziele im Bildungsbereich (weiter- )entwickelt und darüber hinaus fortwährend angepasst werden. Aufgrund der zugrunde liegenden offenen Trainingsdaten, -modelle und Evaluationsdaten haben Wissenschaftler*innen die Möglichkeit, die Systeme frei zu beforschen. So können systemimmanente Verzerrungen erkannt und ggf. verringert werden.

Auf die spezielle Domäne Bildung bezogen, ist die Förderung und Entwicklung von Small Language Models zu unterstützen. Die Modelle werden mit kuratierten, strukturierten und domänenspezifischen Daten trainiert. Dadurch sind sie deutlich effizienter, datensparsamer und somit ressourcenschonender, was eine dezentrale Anwendung auf den individuellen Endgeräten vereinfacht. Möglicherweise bietet das angekündigte Projekt „Adaptives Intelligentes System“ (Steinlein, 2024) aus Mitteln des Digitalpakts einen passenden Startpunkt für die Entwicklung einer offenen, gemeinwohlorientierten KI für die Bildung. Wir empfehlen, diese Option zu prüfen.

Mittelfristig: Bund und Länder stellen öffentliche digitale Infrastrukturen zum Hosten offener KI-Systeme bereit
edit

Für die unabhängige Bereitstellung offener und gemeinwohlorientierter KI-Anwendungen benötigt es entsprechende öffentlich finanzierte und betriebene digitale Infrastrukturen. Hierbei können Hochschulen eine besondere Rolle spielen, wie Paaßen (2024) erläutert. Wir empfehlen, bestehende Infrastrukturen und die Expertise der Hochschulrechenzentren zu nutzen und diese dabei mit Finanz- und Sachmitteln zu unterstützen, um offene und datenschutzkonforme KI-Anwendungen dezentral auf den eigenen Servern zu hosten. Gleichzeitig können Hochschulen die KI-Systeme umliegenden Bildungseinrichtungen zur Verfügung stellen. Dadurch würden bestehende Lizenzgebühren, die aktuell vornehmlich an privatwirtschaftliche Unternehmen abfließen, wegfallen. Die frei werdenden Gelder könnten in mehr IT-Personal und deren Kompetenzaufbau investiert werden. Möglichkeiten der Kooperation und der Bereitstellung von Dienstleistungen zwischen Bildungseinrichtungen sollten geprüft werden.

Literatur

edit

Offene Bildungspraxis

edit

Ausgangssituation

edit

In allen Bundesländern liegen inzwischen eigene Handreichungen und FAQs zum Umgang mit KI in Unterricht und Lehre vor. In der Regel beziehen sich die Handreichungen und FAQs auf KI-Systeme im Allgemeinen, gehen aber häufig auch auf spezifische Anwendungen wie generative KI und Produkte wie ChatGPT ein. Eine Ausnahme stellen die Handreichungen von Galla et al. (2023) und Stracke et al. (2024) dar. In beiden Handreichungen werden Lehrende und Entscheidungstragende in Bildungseinrichtungen mithilfe von Kontextinformationen und Leitfragen dabei unterstützt, pädagogisch sinnvolle Entscheidungen bei der Auswahl von KI-Systemen in Lehr-Lern-Kontexten zu treffen.

Neben eigenen Handreichungen bieten die Landesinstitute und -akademien sowie die Hochschuldidaktikzentren hauseigene Fortbildungen zum Thema an. Übersichten dazu gibt es für den Bereich Schule (Altmann, 2023) und Hochschule (Tobor, 2024). Meist handelt es sich dabei um einzelne Workshoptage und Kurzfortbildungen, die einen ersten Einblick und Anstoß zur weiteren Erprobung von KI-Systemen in Lehr-Lern-Kontexten bieten können, häufig aber keine anhaltende und nachhaltige Unterstützung von Lehrenden auf ihrem Lernweg ermöglichen.

Ein Großteil der Fortbildungen fokussiert bislang den Anwendungsbezug (Wie nutze ich das?). Teilweise werden auch technologische Aspekte behandelt (Wie funktioniert das?). Die gesellschaftliche Perspektive (Wie wirkt das?) kann durchaus einen noch größeren Stellenwert erhalten (siehe Dagstuhl-Dreieck, Gesellschaft für Informatik, 2016). Insbesondere ein Verständnis über den Zusammenhang von technologischen Funktionsweisen und den sozialen Auswirkungen ist zentral, wenn es darum geht, auszuhandeln, wie in Zukunft gemeinsam gelernt werden soll, was zeitgemäße Bildung bedeutet und wer über die Lernszenarien oder den Einsatz von digitalen Tools entscheidet. Zu diesem Aushandlungsprozess gehört auch das Wissen über verschiedene Interessengruppen wie kommerzielle Großunternehmen, Educational-Technologies-Unternehmen (EdTechs) oder Bildungsvereine, die insbesondere in digitalen Bildungskontexten agieren.

Empfehlungen

edit
Kurzfristig: Bund und Länder stellen alle öffentlich finanzierten Lern- und Weiterbildungsressourcen zu KI unter freien Lizenzen zur Verfügung
edit

Weiterbildungsressourcen zu KI in der Bildung, die aus öffentlichen Mitteln finanziert werden, sollten standardmäßig unter freien Lizenzen veröffentlicht und niedrigschwellig zur Verfügung gestellt werden. Diese Empfehlung entspricht der Grundidee „Öffentliches Geld – Öffentliches Gut!“ und bezieht sich damit auf alle öffentlich finanzierten Bildungsmaterialien, die im Kontext staatlicher Bildungseinrichtungen erstellt werden. Beispiele für bereits bestehende Ressourcensammlungen mit vielen frei lizenzierten Inhalten sind der KI-Campus (Stifterverband für die Deutsche Wissenschaft e. V., 2024) oder die Toolbox Datenkompetenz (Stack Fuel GmbH, 2024). Der Vorteil von freien und offenen Bildungsmaterialien liegt in der Möglichkeit, diese als Lehrperson einfach nutzen und verbreiten, individuell anpassen und weiterentwickeln zu können.

Kurzfristig: Bundesländer fördern den Aufbau von Offenheitskompetenzen im Kontext der Digital- und Medienbildung
edit

Bei der Auswahl einer bestimmten KI-Anwendung sollten neben deren Funktionsumfang auch gesellschaftliche und demokratische Fragen eine Rolle spielen. Bildung als öffentliches Gut muss von Inhalten, Ressourcen und Technologien geprägt sein, die entlang pädagogischer Ziele und der Bedarfe von Lehrenden und Lernenden entwickelt werden. Grundlage für ein Verständnis für die Zusammenhänge zwischen Technologieauswahl und ihren Folgen für den Bildungsbereich sind neben den Digital- und Medienkompetenzen auch die Offenheitskompetenzen (Bündnis Freie Bildung, 2024). Letztere beziehen sich auf Facetten von Wissen, Skills und Haltungen bezüglich offener Bildung und die damit zusammenhängenden Praktiken. Da bislang insbesondere die Offenheitskompetenzen im Kontext der Digital- und Medienbildung noch nicht zum Standard-Curriculum in der Aus-, Fort- und Weiterbildung von Lehrpersonen gehören, wird empfohlen, diesen Kompetenzbereich regulär mit aufzunehmen.

Mittelfristig: Länder fördern eine neue Fortbildungskultur und -struktur mit offenen Formaten zum Peer-to-Peer- und Selbstlernen
edit

Um mit KI und über KI zu lernen, werden Freiräume zum Ausprobieren und Erkunden benötigt. Offene Lernformate, die sich nicht an einem bereits vorab feststehenden Lernziel orientieren, sondern freie Entwicklung ermöglichen sowie die Selbstbestimmung der Lernenden und den Austausch untereinander in den Fokus stellen, sind dafür zentral. Beispiele hierfür sind Peer-to-Peer-Lernformen wie Barcamps, Learning Circles oder Werkstätten. Wir empfehlen, Frei- und Lernräume für Lehrende und Lernende zu schaffen, um regelmäßig in offenen Bildungssettings neue Technologien oder Praktiken ausprobieren zu können. Dafür benötigen wir neue Fortbildungskonzepte und entsprechende Zeitressourcen für Lehrpersonen. Den Bundesländern wird empfohlen, sich für die Anpassung bestehender Fortbildungsformate an aktuelle Bedarfe einzusetzen und insbesondere im schulischen Kontext explizit Zeit für kollegiale und offene Weiterbildungsmöglichkeiten für Lehrpersonen zu schaffen.

Mittelfristig: Bundesländer unterstützen die Veränderung der Lern- und Prüfungskultur
edit

Einhergehend mit dem Ermöglichen neuer Lernräume für Lehrende in Aus-, Fort- und Weiterbildung kann die Disruption, für die KI im Bildungssystem gesorgt hat, als Motor für weitere Veränderungsprozesse dienen. Es wird empfohlen, die Dynamik zu nutzen, um zeitgemäße Lern- und Prüfungsformate in Unterricht, Lehre und Weiterbildung zu etablieren. Diese sollten Kompetenzbereiche adressieren, die in einem zunehmend KI-geprägten Bildungsumfeld wichtiger werden. Erste Ansatzpunkte liefern die Kompetenzmodelle zu den Future Skills, die wie im Projekt AI Comp (Ehlers et al., 2023) der DHBW Karlsruhe um KI-Kompetenzen erweitert wurden. Entscheidungstragende der Bundesländer sollten sich dafür einsetzen, dass die rechtlichen und strukturellen Bedingungen für die Entwicklung und die Erprobung neuer Lern- und Prüfungsformate gegeben sind.

Literatur

edit

Grundrechte im digitalen Raum

edit

Ausgangssituation

edit

Das Trainieren und die Nutzung von KI-Systemen birgt neben den Chancen auch Risiken, die in vielerlei Hinsicht die Grundrechte von Menschen tangieren. Bei großen Sprachmodellen beispielsweise ist meist nicht bekannt und nicht nachvollziehbar, welche Daten für das Training genutzt wurden. Somit ist nicht transparent, ob z. B. Urheberrechte oder Persönlichkeitsrechte verletzt werden. Die Filter zum Vermeiden von diskriminierenden und strafrechtlich relevanten Ergebnissen sind ebenso wenig bekannt wie System-Instruktionen für Diversität erzeugende Ergebnisse. KI-Systeme generieren mitunter Darstellungen, die gesellschaftlich bestehende Vorurteile und Stereotype in der Ungleichstellung von Menschen fortschreiben und im schlimmsten Fall verstärken. Ohne Kenntnis der verwendeten Datenbasis zum Training der Modelle, der Modelle selbst sowie der angewandten Filtermechanismen kann diesen Verzerrungen (Biases) nicht gezielt entgegengewirkt werden.

Während im Bildungskontext vor allem über große Sprachmodelle diskutiert wird, können systemimmanente Verzerrungen gravierende Folgen insbesondere dann haben, wenn selbstlernende Entscheidungssysteme in Prüf- oder Auswahlsituationen angewandt werden. Nicht ohne Grund sind diese KI-Systeme im Artificial Intelligence Act der EU als Hochrisikosysteme eingestuft worden (siehe Annex III, Abschnitt 3 des EU AI Act, 2024). Welche Konsequenzen das für die Bildungspraxis haben wird, muss sich noch zeigen.

Es gibt allerdings erste Ansätze, wie KI-Systeme besser erklärbar gemacht werden können. Dazu gehören zum Beispiel der Forschungsbereich Constructing Explainability der Universität Paderborn (2024) oder das gezielte Aufdecken von KI-Mythen im Projekt „Why, AI?“ des Alexander von Humboldt Instituts für Internet und Gesellschaft (Kettemann et al., 2024). Die Ansätze und Projekte können eine hilfreiche Grundlage dafür bieten, KI-Systeme und die durch ihre Nutzung entstehenden Konsequenzen für verschiedene Zielgruppen nachvollziehbarer zu machen. Das ist auch für die politische Arbeit zur Regulierung von KI-Systemen in der Zukunft unabdingbar.

Eine weitere Herausforderung beim Einsatz von KI-Anwendungen in Lehr-Lern-Kontexten ist datenschutzrechtlicher Natur. Die Datenschutzbeauftragten der Länder sprechen teilweise unterschiedliche Empfehlungen aus. So besteht in einigen Bundesländern z. B. die Maßgabe, darauf zu achten, dass keine personenbezogenen Daten in sogenannte Prompts der KI eingegeben werden. Dafür müssen Nutzende allerdings entweder das Konzept der personenbezogenen Daten in ihrer Komplexität durchdringen oder Lehrende müssen die Möglichkeit haben, Lernende an der Eingabe solcher Daten zu hindern. Die zweite Variante scheint wenig praktikabel.

Empfehlungen

edit
Kurzfristig: Der Bund gewährleistet durch regulatorische Maßnahmen die Nachvollziehbarkeit von spezifischen KI-Anwendungen für Nutzende
edit

Beim Einsatz von KI-Anwendungen im Bildungskontext muss sichergestellt werden, dass die Nutzenden einen größtmöglichen Einblick in die Funktionsweise des Systems erhalten. Das bedeutet auf Seiten der Anbietenden, dass transparent, verständlich und in einfacher Sprache dargestellt werden muss, auf Basis welcher Trainingsdaten und Modelle die jeweilige Anwendung funktioniert. Gebru et al. (2021) stellen in ihrem Artikel die Idee der „datasheets for datasets“ vor und rekurrieren dabei auf die übliche Praxis aus der Elektronikindustrie, bei der jede Komponente eine eigene Dokumentation erhält. In der Machine Learning Community ist das noch nicht standardisiert, wäre aber eine wichtige Grundlage, um die KI-Systeme nachvollziehbarer zu machen. Entsprechende Regularien könnten auf Ebene der EU und des Bundes verabschiedet werden. Darüber hinaus empfehlen wir, über eine Art Ampelsystem zur Kategorisierung von KI-Anwendungen nachzudenken (siehe z. B. das Ethical AI Rating von Nextcloud), um eine niedrigschwellige Einordnung verschiedener KI-Anwendungen zu ermöglichen. Parallel dazu empfehlen wir, die Forschungsförderung im Bereich der „erklärbaren KI“ auszubauen.

Kurzfristig: Bund und Länder gewährleisten Datenschutz bei der Nutzung von KI-Anwendungen in der Bildung
edit

Wenn der Zugang zu KI-Systemen vermeintlich dezentral über eine API-Schnittstelle eines zentralen Anbieters läuft, dann muss sichergestellt werden, dass eingegebene Prompts von Nutzenden nicht in das ursprüngliche System zurücklaufen. Eine API-Schnittstelle, die selbst Open Source ist und Datenschutz gewährleistet, ist HAWKI (Hochschule für Angewandte Wissenschaften und Kunst Hildesheim/Holzminden/Göttingen, 2024), entwickelt für den Einsatz an Hochschulen. Noch empfehlenswerter ist es, auf dezentrale KI-Systeme zu setzen, bei denen alle Daten auf den Endgeräten der Nutzenden bleiben. Einhergehend mit der Empfehlung, die Entwicklung offener und gemeinwohlorientierter KI-Alternativen zu fördern, ist die Empfehlung, dass solche KI-Alternativen möglichst datensparsam und effizient sind. Damit kann eine Verwendung der Systeme auf bestehender Hardware von Lehrenden und Lernenden ohne Performance-Nachteile ermöglicht werden.

Mittelfristig: Bund und Länder führen eine unabhängige KI-Prüfstelle ein
edit

Bevor KI-Systeme in Bildungseinrichtungen eingesetzt werden, muss sichergestellt werden, dass diese von demokratisch legitimierten Stellen geprüft werden können. Diese Idee ist vergleichbar mit der Freiwilligen Selbstkontrolle der Filmwirtschaft (FSK, 2024), mit dem Unterschied, dass eine Prüfung von KI-Anwendungen im Bildungsbereich verpflichtend sein müsste. Für den Bildungsbereich kann hier das Projekt EduCheck (FWU Institut für Film und Bild, 2024) genannt werden, das digitale Bildungsmedien prüft – allerdings nicht flächendeckend und nicht verpflichtend vor deren Einsatz im Bildungskontext. Grundlage für eine solche Prüfstelle wären die Entwicklung und die Festlegung von Kriterien und Standards, aufgrund derer über eine Zulassung entschieden wird. Zu den Kriterien sollten u. a. die Aspekte Offenheit, Transparenz und Datenschutz gehören. Die Autor*innen empfehlen, die Einrichtung einer solchen unabhängigen Prüfstelle zu initiieren.

Literatur

edit
  • European Union (2024). Der AI Act Explorer: Anhang III: In Artikel 6 Absatz 2 genannte AI-Systeme mit hohem Risiko. Future of Life Institute. Abgerufen am 12.04.2024 unter https://artificialintelligenceact.eu/de/annex/3/
  • Freiwilligen Selbstkontrolle der Filmwirtschaft (2024). FSK. Abgerufen am 12.04.2024 unter https://www.fsk.de/
  • FWU Institut für Film und Bild (2024). EduCheck. Abgerufen am 12.04.2024 unter https://educheck.schule/
  • Gebru, T., Morgenstern, J., Vecchione, B., Wortmann Vaughan, J., Wallach, H., Daumé III, H. & Crawford, K. (2021). Datasheets for Datasets. Abgerufen am 12.04.2024 unter https://arxiv.org/pdf/1803.09010.pdf
  • Hochschule für Angewandte Wissenschaften und Kunst Hildesheim/Holzminden/Göttingen (2024). HAWKI. Abgerufen am 15.04.2024 unter https://ai.hawk.de/login.php
  • Ilkka, T. (2018). The impact of Artificial Intelligence on Learning, teaching, and education. In M. Cabrera, Y. Punie & R. Vuorikari (Hrsg.), JRC Science for Policy Report. European Union. Abgerufen am 15.04.2024 unter https://doi.org/10.2760/12297
  • Kettemann, M. C. & Dicks, D. et al. (2024). Why, AI? Alexander von Humboldt Institut für Internet und Gesellschaft. https://www.hiig.de/dossier/why-ai/
  • Knight, S., Dickson-Deane, C., Heggart, K., Kitto, K., Çetindamar Kozanoğlu, D., Maher, D., Narayan, B. & Zarrabi, F. (2023). Generative AI in the Australian education system: An open data set of stakeholder recommendations and emerging analysis from a public inquiry. Australasian Journal of Educational Technology, 39, S. 101–124. http://hdl.handle.net/10453/173897
  • Nextcloud (2023). Nextcloud Ethical AI Rating. Abgerufen am 12.04.2024 unter https://nextcloud.com/blog/nextcloud-ethical-ai-rating/
  • Seidl, T., Cicek, T. & Vonhof, C. (2023). Hey ChatGPT, kannst du mir helfen? Hochschulforum Digitalisierung. Abgerufen am 15.04.2024 unter https://hochschulforumdigitalisierung.de/hey-chatgpt/
  • Universität Paderborn (2024). TRR 318 „Constructing Explainability“. Erklärungen gemeinsam entwickeln. Abgerufen am 12.04.2024 unter https://trr318.uni-paderborn.de/

Impressum

edit

Wikimedia Deutschland e. V. Tempelhofer Ufer 23–24 10963 Berlin Telefon: 030 21915826-0

Geschäftsführende Vorstände: Dr. Christian Humborg, Franziska Heine Eingetragen im Vereinsregister des Amtsgerichts Charlottenburg, VR 23855.

Redaktion

edit

Sarah-Isabella Behrens, Heike Gleibs, Maiken Hagemeister, Dr. Anne-Sophie Waag

Inhaltlich verantwortlich

edit

Heike Gleibs

Autor*innen

edit
  • Alles, Susanne
  • Behrens, Sarah-Isabella (Wikimedia Deutschland e. V.)
  • Brandenburger, Bonny (Weizenbaum Institut)
  • Franke, Katharina
  • Friedrichs, Linn
  • Hirsch, Nele (eBildungslabor)
  • Klar, Maria (Universität Duisburg-Essen,
  • Kleinesper, Celestine (Open Education and Software Association e. V.)
  • Kölling, Britta
  • Kranz, Uwe (Medienpädagogisches Zentrum Mecklenburg-Vorpommern)
  • Kreissig, TeeKay (EIS-Coaching)
  • Kracht, Frauke (Pacemaker Initiative – Education Y e. V.)
  • Löser, Kai
  • Lohrer, Jörg (Comenius-Institut/rpi-virtuell)
  • Mundorf, Margret
  • Menne, Andreas (Medienkompetenzzentrum im Katholisch-Sozialen Institut)
  • Riebe, Katharina (Hochschule Bremen / Zentrum für Lehren und Lernen)
  • Schampijer, Simon
  • Schleiss, Johannes (Otto-von-Guericke-Universität Magdeburg)
  • Stade, Philip (Hochschule für Musik Freiburg / Zentrum für Schulqualität und Lehrerbildung Baden-Württemberg)
  • Schießer, Daniela
  • Schulz, Regina
  • Thiel, Sonja
  • Waag, Anne-Sophie, Dr. (Wikimedia Deutschland e. V.)
  • Wetzel, Wiebke (Kundenzauberin),
  • Wissmann, Svenja (Tech and Teach gGmbH / Coding For Tomorrow)

Gestaltung

edit

Matthias Wörle, MOR Design, www.mor-design.de

Lizenz

edit

Die Texte, die Grafiken und das Layout dieser Publikation werden unter den Bedingungen der Creative Commons Attribution-Lizenz (CC BY-SA) in der Version 4.0 veröffentlicht. https://creativecommons.org/licenses/by-sa/4.0/legalcode.de

Retrieved from "https://meta.wikimedia.org/w/index.php?title=Offene_KI&oldid=27162076"