Technical ReportPDF Available

Dateninfrastrukturen, Learning Analytics und KI-Systeme in staatlichen Bildungssystemen. Schriftliche Empfehlungen zur Projektgruppe 4 „KI und Arbeit, Bildung, Forschung“ der Enquete Kommission des Bundestages „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“

Authors:

Abstract

In Bezug auf Algorithmizität und Automatisierung erfordert Bildung, sich kritisch und konstruktiv mit dem Status Quo auseinander zu setzen und setzen zu können. Dies bedeutet nicht nur die "richtige" Nutzung von Technologien sondern auch die Auseinandersetzung mit der Frage: Welche Technologien kommen wie zum Einsatz? Eine bildende Auseinandersetzung mit Künstlicher Intelligenz heisst deshalb auch, sich aus Interesse an Gesellschaft und Demokratie mit Regeln und Modellen sozialen, kollektiven und kulturellen Handelns auseinander zu setzen und setzen zu können. Modelle dürfen deshalb nicht implizit bleiben. "The reason the digital debate feels so empty and toothless is simple: [it is] framed as a debate over 'the digital' rather than 'the political' and 'the economic'." (Morozov, 2013). Diskussion über Digitales sind unweigerlich solche über Politisches und Ökonomisches. Eine der Kernfragen ist somit, wieviele Markt-und Governancestrukturen wir in öffentlichen Bildungsinstitutionen für wünschenswert halten. Die informatorische Optimierung von KI-Systemen im Sinne der Rationalisierung und Optimierung von Lernprozessen sowie die Erhöhung von Datendichte steht Bildungsanliegen ggf. direkt entgegen: "(…) educational technology, that is, a situation in which there is a perfect match between ‚input' and ‚output', is neither possible nor desirable. And the reason for this lies in the simple fact that if we take the risk out of education, there is a real chance that we take out education altogether" (Biesta 2013:16). Die Idee, dass KI-Systeme Freiräume schaffen ist naiv, da sie einen zweckrationalen Gebrauch unterstellt: dass die technischen Objekte tun, was wir von ihnen erwarten und dass man sie isoliert einsetzen könne. Algorithmisierung und Datafizierung strukturieren jedoch bereits heute umfassend Schule und Hochschule, das Denken über Bildung/Lernen sowie alltägliche Bildungspraxis (im Sinne der sogenannten "Postdigitalität"). Tatsächlich entstehen Freiräume nicht durch den Einsatz von KI-Systemen sondern müssen durch politisches und pädagogisches Handeln insbesondere in öffentlichen Institutionen geschaffen werden. Staatliche Institutionen in Demokratien sollen freigehalten werden von übermäßigen Markt-und Governancestrukturen. Pädagogisches Handeln muss auch Räume schaffen, die nicht unter Beobachtung stehen, d.h. Orte des Rückzugs erhalten, weil dies zur Identität von Jugendlichen gehört. Die nicht-anpassende, subversive, emanzipierte Nutzung von Technologien darf nicht systematisch ausgeschlossen werden. Es sind die tatsächlichen Datenpraktiken in Organisationen und sozialen Zusammenhängen, die wirksam werden-nicht die technischen Systeme und reinen statistischen Verfahren selbst. Die Datenpraktiken selbst sind ambivalent.
Prof. Dr. Heidrun Allert !
(Medienpädagogik/Bildungsinformatik)!
Christian-Albrechts-Universität zu Kiel
von "1 3
07. Januar 2020"
Dateninfrastrukturen, Learning Analytics und KI-Systeme in staatlichen Bildungssystemen.
Beitrag zur Projektgruppe 4 „KI und Arbeit, Bildung, Forschung“"
Präambel"
In Bezug auf Algorithmizität und Automatisierung erfordert Bildung, sich kritisch und konstruktiv
mit dem Status Quo auseinander zu setzen und setzen zu können. Dies bedeutet nicht nur die
„richtige“ Nutzung von Technologien sondern auch die Auseinandersetzung mit der Frage: Welche
Technologien kommen wie zum Einsatz? Eine bildende Auseinandersetzung mit Künstlicher
Intelligenz heisst deshalb auch, sich aus Interesse an Gesellschaft und Demokratie mit Regeln
und Modellen sozialen, kollektiven und kulturellen Handelns auseinander zu setzen und setzen zu
können. Modelle dürfen deshalb nicht implizit bleiben."
„The reason the digital debate feels so empty and toothless is simple: [it is] framed as a debate
over ‘the digital’ rather than ‘the political’ and ‘the economic’.“ (Morozov, 2013). Diskussion über
Digitales sind unweigerlich solche über Politisches und Ökonomisches. Eine der Kernfragen ist
somit, wieviele Markt- und Governancestrukturen wir in öentlichen Bildungsinstitutionen für
wünschenswert halten. Die informatorische Optimierung von KI-Systemen im Sinne der
Rationalisierung und Optimierung von Lernprozessen sowie die Erhöhung von Datendichte steht
Bildungsanliegen ggf. direkt entgegen: „(…) educational technology, that is, a situation in which
there is a perfect match between ‚input‘ and ‚output‘, is neither possible nor desirable. And the
reason for this lies in the simple fact that if we take the risk out of education, there is a real chance
that we take out education altogether“ (Biesta 2013:16). "
Die Idee, dass KI-Systeme Freiräume schaen ist naiv, da sie einen zweckrationalen Gebrauch
unterstellt: dass die technischen Objekte tun, was wir von ihnen erwarten und dass man sie
isoliert einsetzen könne. Algorithmisierung und Datafizierung strukturieren jedoch bereits heute
umfassend Schule und Hochschule, das Denken über Bildung/Lernen sowie alltägliche
Bildungspraxis (im Sinne der sogenannten „Postdigitalität“). Tatsächlich entstehen Freiräume
nicht durch den Einsatz von KI-Systemen sondern müssen durch politisches und pädagogisches
Handeln insbesondere in öentlichen Institutionen geschaen werden. Staatliche Institutionen in
Demokratien sollen freigehalten werden von übermäßigen Markt- und Governancestrukturen.
Pädagogisches Handeln muss auch Räume schaen, die nicht unter Beobachtung stehen, d.h.
Orte des Rückzugs erhalten, weil dies zur Identität von Jugendlichen gehört. Die nicht-
anpassende, subversive, emanzipierte Nutzung von Technologien darf nicht systematisch
ausgeschlossen werden."
Es sind die tatsächlichen Datenpraktiken in Organisationen und sozialen
Zusammenhängen, die wirksam werden - nicht die technischen Systeme und reinen
statistischen Verfahren selbst. Die Datenpraktiken selbst sind ambivalent."
Empfehlungen "
1) Demokratische und nachhaltige Formen von Datennutzung und Dateninfrastrukturen
fördern. KI-Systeme und Dateninfrastrukturen in öentlichen Bildungsinstitutionen müssen
demokratischen Grundsätzen und Kriterien digitaler Nachhaltigkeit entsprechen. !
Solche Formen der Datennutzung und Dateninfrastrukturen liegen bislang nur in Ansätzen vor
und müssen entwickelt werden. Bisher werden oft auch Konzepte und Logiken der
Plattformökonomie, mit ihren Geschäftsmodellen und Anliegen der Privatisierung und
Entstaatlichung, übernommen. Demokratische Formen der Datennutzung allerdings sind noch
wenig ausgearbeitet - sie sind in demokratisch legitimierten Gremien und in öentlichen
Bildungsinstitutionen (Schulen, Universitäten und Forschungseinrichtungen) selbst zu
Prof. Dr. Heidrun Allert !
(Medienpädagogik/Bildungsinformatik)!
Christian-Albrechts-Universität zu Kiel
von "2 3
erarbeiten und betreen u.a. Mitbestimmung, Dezentralisierung, Data-Ownership, Transparenz
der Modellierung und Konzepte. Sich darüber zu verständigen, sie zu definieren und zu
verstehen, sind notwenige Inhalte von Forschungs- und Bildungsprozessen zum Thema
Digitalisierung.!
!
Begründung: !
Staatliche Bildungsinstitutionen sind demokratisch verfasst. Damit haben sie auch die
Aufgabe, demokratische Prozesse einzuüben und zu gewährleisten. Dies muss sich auch in
und durch Dateninfrastrukturen realisieren. Lernprozesse durch KI-Systeme zu
individualisieren birgt die Gefahr neue Ungleichheiten zu erzeugen. In Anbetracht des
Zusammenhangs von Plattformökonomie und Entstaatlichung sollen öentliche
Bildungsinstitutionen Digitalisierung als Form der Demokratisierung vorantreiben und neue
Formen der (kollektiven und kollaborativen) Zusammenarbeit erproben. Diese Konzepte liegen
derzeit unzureichend vor. Gerade in öentlichen Bildungs- und Forschungsinstitutionen
müssen diese entwickelt werden. Dazu sind kreativ-gestaltende Bemühungen erforderlich, die
gefördert werden müssen. "
2) Modellierungen sind vollständig oen zu legen und gesellschaftlich/bildungstheoretisch
zu diskutieren. Die den Algorithmen zugrundeliegenden Überlegungen und die Modelle der
KI-Systeme müssen oengelegt werden in für alle NutzerInnen verfügbaren Dokumenten. Es
soll erkennbar und diskutierter werden 1) welche Idee von Lernen und Bildung und von den an
der Bildungspraxis Beteiligten den Systemen zugrundeliegen und 2) welche Phänomene und
Indikatoren aus welchen Gründen ausgewählt wurden und wie sie datafiziert werden. Damit
sind u.a. Informationsmodelle als abstrakte Abbildung von Objekten mit ihren Eigenschaften
und Beziehungen gemeint (auch für „derived concepts“). Dies soll für alle KI-Systeme und
Plattformen gelten, die in Bildungsinstitutionen eingeführt werden. Lehramtsstudierende und
Studierende der Pädagogik/Bildungswissenschaft sollen befähigt werden, diese zu verstehen. !
!
Begründung: !
KI-Systeme enthalten Modelle der Situation, des Gegenstands und des/der Anwender/Innen.
Die Modellierung von Bildung und Lernen, die Modellierung und Prekonfiguration der
NutzerInnen, die Auswahl und Quantifizierung der Phänomene, die für relevant gehalten
werden, müssen oengelegt werden, transparent und verhandelbar sein. Bildung ist ein
einzigartiger Gegenstand. Bildung kann und darf deshalb nicht just ein Anwendungsgebiet für
Konzepte, Analysetools und Algorithmen aus anderen Gegenstandsbereichen wie Business
Analytics, Marketing, personalisierte Medizin sein. Logiken dürfen nicht einfach übertragen
werden. Daten sind nie neutral und objektiv, sondern immer politisch (Selwyn, 2018).
Datafizierung ist immer reduktiv, während soziale Prozesse und Bildungspraxis unhintergehbar
komplex und kontingent ist. Für alle Beteiligten an Bildungspraxis müssen Modellierungen und
Operationalisierungen diskutierbar und hinterfragter sein."
!
3) Subjekte dürfen nicht objektifiziert werden; keine Einengung auf individuelle Faktoren. !
Die besondere Bildungschance von KI-Systemen liegt nicht darin, individuelle Lehrprozesse zu
steuern, zu lenken, zu beschleunigen und zu optimieren. Lernprozesse dürfen nicht verengt
werden: Das Verhalten von Individuen darf nicht standardisiert und normiert werden. Learning
Analytics sollte vielmehr dazu verwendet werden, dass die am Lernprozess Beteiligten selbst
Erkenntnisse zu Gegenständen und Prozessen generieren und neue Formen der
emanzipativen Zusammenarbeit entwickeln können. !
!
Begründung:!
Learning Analytics soll nicht eingesetzt werden um Aussagen über individuelle Subjekte wie
Lernende, Lehrende und Schulen zu generieren, sondern soll neue Formen der
Zusammenarbeit ermöglichen und unterstützen. Daten sollen Erkenntnisse über
Gegenstandsbereiche und kollektive/kollaborative Prozesse ermöglichen. Die
Bedeutungsgenerierung soll bei den Beteiligten der Bildungspraxis liegen. Individuelles Lernen
soll durch innovativen Konzepten ergänzt werden, die Learning Analytics verwenden um neue
und demokratische Formen der kollektiven und kollaborativen Zusammenarbeit zu
Prof. Dr. Heidrun Allert !
(Medienpädagogik/Bildungsinformatik)!
Christian-Albrechts-Universität zu Kiel
von "3 3
unterstützten. Lehramtsstudierenden soll Gestaltungskompetenz vermittelt werden um eigene
und neue Ideen entwickeln und in die Technologieentwicklung einbringen zu können.!
!
4) Nationale und internationale Netzwerke und Forschungsprojekte im Bereich „Critical
Data Science“ fördern. „Critical Data Literacy“ insbesondere in der Lehrerbildung
fördern.!
!
Begründung:!
Informatorische Themen werden in der Wissenschaft auch ausserhalb der Informatik
diskutiert, insbesondere in den „science and technology studies“, Kulturwissenschaften sowie
„critical data science“ und „software studies“. Für die Untersuchung von Datenpraktiken
dieser sind aufwändige Untersuchungen in Organisationen und Bildungspraxis erforderlich,
um die Transformation der sozio-technischen Systeme und Institutionen zu verstehen. Dazu
gehören auch die Transformationen, die durch neue Akteure und Datenverarbeitungskollektive
in der Bildung entstehen."
Literatur "
Biesta, G. J. J. (2013). The Beautiful Risk of Education. Boulder: Paradigm."
Morozov, E. (2013): zitiert nach: Emejulu, Akwugo/McGregor, Callum (2019): Towards a radical
digital citizenship in digital education, Critical Studies in Education, 60, 1, S. 131-147. "
Selwyn, N. (2018) [LAK'18] March 9: Keynote. https://www.youtube.com/watch?
v=rsUx19_Vf0Q&list=PLOF7tBP24lAd6eRYKrKfk5oY9zMSl5WEX&index=22"
Turner, Fred (2006): From Counterculture to Cyberculture. Stewart Brand, the Whole Earth
Network, and the Rise of Digital Utopianism. Chicago: The University of Chicago Press.
ResearchGate has not been able to resolve any citations for this publication.
ResearchGate has not been able to resolve any references for this publication.