LEITFADEN: SIEBEN ECKPUNKTE FÜR DEINE KI-KOMPETENZ

Abstract

Der vorliegende Leitfaden vermittelt in insgesamt 7 Punkten eine grundsätzliche KI-Kompetenz, mit der KI-Systeme souverän eingesetzt werden können. Der Leitfaden dient dazu, für den Umgang mit generierten Inhalten zu sensibilisieren und zugleich das Auge für mögliche Risiken zu schärfen. Der Leitfaden soll Schüler:innen, Studierenden und Mitarbeitenden von Bildungseinrichtungen eine Handreichung sein, um ihre eigene KI-Kompetenz zu überprüfen und sie zu erweitern.

Full text

LEITFADEN:
SIEBEN ECKPUNKTE FÜR DEINE KI-KOMPETENZ
JÖRG BURBACH
ANDRÉ MEYER
MARION PLANK
NADINE TRAUTZSCH
IU DISCUSSION.
PAPERS.
Design, Architektur & Bau
AI-KI-DO – „KI-SYSTEME IN DER KREATIVEN PRAXIS UND LEHRE“

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 2 von 9
IU Internationale Hochschule
Main Campus: Erfurt
Juri-Gagarin-Ring 152
99084 Erfurt
Telefon: +49 421.166985.23
Fax: +49 2224.9605.115
Kontakt/Contact: kerstin.janson@iu.org
Autorenkontakt/Contact to the author(s):
Prof. Jörg Burbach
ORCID 0000-0003-3100-8008
IU Internationale Hochschule – Campus Köln
E-Mail: joerg.burbach@iu.org
André Meyer
IU Internationale Hochschule – Campus Hannover
E-Mail: andre.meyer1@iubh-fernstudium.de
Prof. Marion Plank
ORCID 0009-0004-7368-9766
IU Internationale Hochschule – Campus München
E-Mail: marion.plank@iu.org
Prof. Nadine Trautzsch
ORCID 0009-0002-0371-8889
IU Internationale Hochschule – Campus Regensburg
E-Mail: nadine.trautzsch@iu.org
IU Discussion Papers, Reihe: Design, Architektur & Bau, Vol. 3, No. 2 (FEB 2023)
ISSN-Nummer: 2750-6266
Website: https://www.iu.de/forschung/publikationen/

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 3 von 9
ABSTRACT:
Der vorliegende Leitfaden vermittelt in insgesamt 7 Punkten eine grundsätzliche KI-Kompetenz, mit der
KI-Systeme souverän eingesetzt werden können. Der Leitfaden dient dazu, für den Umgang mit
generierten Inhalten zu sensibilisieren und zugleich das Auge für mögliche Risiken zu schärfen.
Der Leitfaden soll Schüler:innenn, Studierenden und Mitarbeitenden von Bildungseinrichtungen eine
Handreichung sein, um ihre eigene KI-Kompetenz zu überprüfen und sie zu erweitern.
Zugrunde liegen ihm eine 12-monatige empirische Forschung für die kreative Praxis, eine Medien- und
Literaturrecherche, Inputs von Expert:innen sowie die Analyse gängiger Machine-Learning-Software
(„KI-Tools“) auf dem Markt. Die Recherche fand zwischen November 2022 und November 2023 statt und
ist der erste Schritt im Forschungsprojekt „AI-KI-DO – KI-Systeme in der kreativen Praxis & Lehre“.
The present guide provides a basic AI competence in a total of 7 points, enabling the sovereign use of
AI systems. The guide is intended to raise awareness for handling generated content and at the same
time sharpen the eye for possible risks. It aims to assist students, learners, and staff of educational
institutions in checking and expanding their own AI competence. It is based on a 12-month empirical
research for creative practice, media and literature research, inputs from experts, and the analysis of
common machine learning software ('AI tools') on the market. The research took place between
November 2022 and November 2023 and is the first step in the research project 'AI-KI-DO – AI Systems
in Creative Practice & Teaching'.
KEYWORDS:
Künstliche Intelligenz, KI, AI, Kompetenz
AUTOR:INNEN:
Jörg Burbach, Professor Game Design, Fachrichtung Technologie und Game-History
Marion Plank, Professorin Game Design, Fachrichtung Game Art
Nadine Trautzsch, Professorin Game Design, Fachrichtung Game Art
André Meyer, Wissenschaftlicher Mitarbeiter, Game Design

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 4 von 9
SIEBEN ECKPUNKTE FÜR DEINE KI-KOMPETENZ
1. Zweifle immer, aber mindestens einmal: Überprüfe die dargestellte Realität.
Mittels einer Benutzereingabe, dem „Prompt“, können ein beliebiger Ort oder Zeit, ein bestimmter
Schreib-, Kunst- oder Grafikstil, eine bestimme Person oder auch ihre Stimme realistisch nachgeahmt
werden. Somit sind potenziell jedes Bild, jeder Text und jedes Video im Internet nicht von Menschen
erstellt und können somit auch bei faktenbasierten Inhalten wie Nachrichten falsch oder frei erfunden
sein.
Lerne, solche Inhalte zu erkennen: Achte auf Ungereimtheiten, überprüfe Informationen mindestens
einmal und entwickele ein kritisches Auge für Details. Die Beschäftigung mit der Funktionsweise von KI-
Werkzeugen macht vertrauter mit KI-generierten Ergebnissen, sodass Du sie schneller als solche
erkennen und besser einschätzen kannst, was real ist und was nicht.
Zum aktuellen Zeitpunkt der Recherche im November 2023 gibt es noch keine rechtliche Grundlage, KI-
generierte Inhalte zu kennzeichnen (Deutscher Bundestag, 2023). Es ist zwar technisch möglich, KI-
generierte Bilder mit einem für Menschen unsichtbaren Wasserzeichen zu markieren, das ist aber den
erstellenden Personen selbst überlassen. Wenn Du selbst Inhalte wie Bilder und Texte KI-unterstützt
erstellst, denke daran, sie entsprechend zu kennzeichnen (Gowal & Pushmeet, 2023).
2. Auf der Suche nach Wahrheit: Finde die Quelle.
KI-Systeme sind so weit entwickelt, dass sie natürliche, menschenähnliche, kohärente Texte verfassen
können. Generative KI kann aber oft zu diesen Texten keine verlässlichen Quellen zitieren, denn sie
generiert ihre Antworten basierend auf dem riesigen Datensatz, auf dem sie trainiert wurde. Achte
daher darauf, Informationen immer zu hinterfragen und auf ihre Herkunft hin zu untersuchen, vor allem
in sensiblen Bereichen wie Forschung und Journalismus, in denen es besonders auf eine korrekte
Faktenlage ankommt. Überprüfe stehts die gelieferten Informationen, die Qualität der Ergebnisse und
die Quellen sorgfältig. Nutze einen hybriden Ansatz, indem Du die Aspekte der wissenschaftlichen
Arbeit wie tiefgreifende Recherche oder kritisches Denken mit der Effizienz der Unterstützung und
Strukturierungsleistung der KI-Generatoren verbindest. KI-Systeme verwenden zum Training öffentlich
verfügbare Daten und greifen diese in einem sogenannten „Crawling“ ab, bei dem Millionen von
Webseiten mit Bildern, Texten, Musikstücken oder Designs abgerufen und analysiert werden. Dabei
gelangen auch urheberrechtlich geschützte Werke von Künstlern in die Datenbasis der KI-Systeme.
Nutzt Du dann die KI zum Generieren von Inhalten, erscheint sie Dir möglicherweise als Urheber. Das
führt schließlich dazu, dass die ursprünglichen Urheber ihre Rechte nicht mehr ausüben und mit ihren
eigenen Werken Einnahmen generieren können (Jiang et al., 2023, S. 366). Sei dir daher bei der
Verwendung der KI-generierten Inhalte bewusst, dass es sich derzeit um eine rechtliche Grauzone
handelt (Dimov, 2023), die von den gesetzgebenden Parlamenten bzw. Gerichten geklärt werden muss.

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 5 von 9
3. Mache dir die KI zu eigen: Probiere selbst aus.
Nutze KI-Systeme als Partner für kreative Prozesse. Sie dienen als Quelle der Inspiration und erleichtern
die effiziente Entwicklung von Ideen, Konzepten und Entwürfen. Bei kompetenter Anwendung können
diese Programme deine Kreativität anregen, neue Perspektiven eröffnen und deine Denkweise
bereichern. KI-Systeme sind fähig, große Textmengen zu analysieren, Thesen zu formulieren und
umfassende Datensätze zügig zu interpretieren. Sie eignen sich, um dir einen Überblick über ein
Forschungsfeld zu verschaffen oder dich schnell in ein neues Thema einzuarbeiten. Generative Bild-KI,
die in professionellen Softwarelösungen implementiert werden, sind exakt auf eine Anwendung
zugeschnitten und geben gute Standards vor. Auch hier gilt es, die Bildinformationen, die Tonalität und
visuelle Kommunikation zu überprüfen und zu kuratieren. Indem Du mit verschiedenen Systemen
experimentierst, erhältst Du Einblicke in ihre Stärken und Grenzen. Dies hilft dir, ihre Möglichkeiten voll
auszuschöpfen, während gleichzeitig aber auch die Einschränkungen und Risiken berücksichtigt
werden. Nutze diese Experimente als Basis für eine fundierte Bewertung. Verlasse dich daher nicht
ausschließlich auf die Ergebnisse der KI-Tools. Sie können zwar beeindruckende Bilder und gut
strukturierte Texte erzeugen, aber erst durch deine kritische Analyse, Nachbearbeitung und
Überprüfung werden sie wirklich nutzbar. KI-Systeme können deine Arbeit effizienter machen und
unterstützen, ersetzen jedoch nicht deine Fähigkeiten, Kreativität, Teamarbeit, Kommunikations- und
Bewertungskompetenzen.
4. Lehre und Lerne!
KI benutzt Du am besten nicht lediglich als Werkzeug, sondern auch als Lernhilfe. Denn mit einer
Sprach-KI kannst du wie mit einem Gesprächspartner im Dialog komplexe Konzepte besprechen und
dir diese erkären lassen. Egal ob grammatikalische Strukturen in verschiedenen Sprachen,
fachspezifische Konzepte oder Abläufe oder Tipps für Programmiercode, du kannst diese Systeme für
die Gestaltung deines eigenen interaktiven Lernprozesses nutzen.
Es ist zudem möglich, KI-Programme mit eigenen Dokumenten zu „füttern“. Lädst Du zum Beispiel
Arbeitsblätter oder ein Fachbuch hinein, wird die KI zur Expertin in diesem Bereich. Nutze diese
Systeme etwa für die Vorbereitung auf eine Prüfung oder Klausur und zum interaktiven Lernen, aber
achte dabei auch auf den Datenschutz, wie in Punkt 5 beschrieben.
KI-Systeme können schnell und präzise Informationen liefern, allerdings ist es wichtig, dass sowohl
Lehrende als auch Lernende sich der Grenzen und möglichen Fehlerquellen bewusst sind. Überprüfe
zur Sicherheit alle gelieferten Informationen mithilfe einer Suche im Internet und recherchiere vertieft
vor allem dann, wenn eine Information seltsam erscheint. Als Lehrkraft sind die Aneignung und
Vermittlung dieser Kompetenzen besonders wichtig, um keine falschen Lehrinhalte zu erzeugen.
Beim Verwenden einer textgenerierenden KI wirst Du bald merken, dass sie gewisse Formulierungen
bevorzugt. ChatGPT etwa nutzt sehr viele Adjektive wie „hervorragend“ oder „außergewöhnlich“, die
im deutschen Sprachgebrauch sparsamer verwendet werden. Das liegt daran, dass Englisch derzeit die
wichtigste Forschungssprache ist und weltweit die meisten Dokumente in englischer Sprache
vorliegen. Deshalb werden auch die meisten KI-Systeme überwiegend auf Englisch entwickelt und
trainiert (Lauer, 2023).

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 6 von 9
5. Der Weg der Files: Daten schützen.
KI kann in vielen Organisationen eine große Hilfe sein, insbesondere bei repetitiven oder
standardisierten Aufgaben. Jedoch ist es entscheidend, den Einsatz von KI sorgfältig zu planen, um den
Schutz sensibler Daten zu gewährleisten. Schulungen zum sicheren Umgang mit KI-Technologien sind
für Mitarbeitende unerlässlich, um Risiken zu minimieren.
Du solltest immer davon ausgehen, dass Daten, die in die KI-Systeme eingegeben werden, auch für das
weitere Training dieser Programme in den Datensatz einfließen. Deswegen ist es wichtig,
Schüler:innen, Studierende und Mitarbeitende im Umgang mit den KI-Systemen zu schulen, damit der
Datenschutz gewahrt wird. Beim Hochladen von Dokumenten in KI-Systeme solltest Du immer den
Kontext und die potenziellen Konsequenzen bedenken. Achte darauf, keine irreführenden oder
schädlichen Informationen zu verbreiten. Ein verantwortungsvoller Umgang mit Deinen Daten und den
Daten anderer ist entscheidend, um die positiven Aspekte von KI zu maximieren und negative
Auswirkungen zu minimieren.
6. Innovation und Respekt: Ethische und moralische Fragen anstoßen.
Der Umgang mit KI wirft eine Reihe ethischer und moralischer Fragen auf, mit denen sich
Wissenschaftler:innen und Philosoph:innen beschäftigen. In der deutschen Bundesregierung
diskutieren Expert:innen und Abgeordnete über die Regulierung und Förderung der KI-Systeme. Die EU
hat Ende 2023 einen AI-Act verabschiedet, der als ein erster Schritt in eine Regulierung zu sehen ist
(European Parliament, 2023).
Besonders brisant ist die Verwendung urheberrechtlich geschützter Werke zur Verwendung in den
Datensätzen. Die rechtlichen Rahmenbedingungen sind hier oft noch unklar und es besteht eine
Grauzone bezüglich der kommerziellen Nutzung.
Laut § 60 UrhG ist die Nutzung auch urheberrechtlich geschützter Werke zu nicht kommerziellen
Zwecken – sprich zu Forschungs- und Trainingszwecken – erlaubt. Für dich als Endnutzende:r sind diese
ursprünglichen Quellen nicht mehr ersichtlich. Dadurch, dass die KI-Systeme jedoch einzelne Stile und
Werke beinahe identisch nachahmen können, ergeben sich naturgemäß ethische und moralische
Fragen, wie an dieser Stelle das Urheberrecht greift. Eine Entlohnung der Kunstschaffenden, mit deren
Werken die KI-Systeme trainiert wurden, wäre eine Möglichkeit, dieses Dilemma aufzulösen – in
welchem Rahmen und Umfang auch immer.
7. Auswirkungen auf die Gesellschaft und das Klima berücksichtigen
Faktenchecks von Sprachmodellen werden von sogenannten Clickworkern durchgeführt, die häufig für
ihre Aufgaben unter vagen Vorgaben und hohem Zeitdruck arbeiten. Die Arbeit der Clickworker ist oft
im Niedriglohnsektor angesiedelt. In einigen Fällen erfolgt der Faktencheck durch den Abgleich mit
Wikipedia oder einfachen Internetsuchen. Aufgrund der knappen Zeitvorgaben und niedrigen Löhnen
liegt der Fokus auf quantitativen Ergebnissen und schneller Bearbeitung. Sei dir bewusst, dass dies
möglicherweise zu Einschränkungen in der Qualität führt. Führe deinen eigenen Faktencheck durch,
wie in Punkt 2 des Leitfadens beschrieben wird (Smith, 2021).

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 7 von 9
Aktuell fehlen detaillierte Daten und Statistiken zum Ressourcenverbrauch von KI-Systemen, sowohl
für das notwendige Training als auch für den produktiven Einsatz. Wissenschaftler:innen fordern daher,
dass diese Daten aus Gründen der Nachhaltigkeit erhoben werden. Sei Dir daher als Enduser:in
bewusst, dass die Nutzung von KI-Systemen mit einem gewissen Ressourcenverbrauch einhergeht und
versuche, die Systeme sinnvoll und zielgerichtet einzusetzen. So kannst Du auch Deinen eigenen
Fußabdruck so gering wie möglich halten (Krempl, 2023).
TL;DR – DIE 7 ECKPUNKTE IN KÜRZE
Als Handreichung hier die 7 Eckpunkte in gekürzter Version:
1. Zweifle immer, aber mindestens einmal: Überprüfe das Dargestellte.
2. Auf der Suche nach Wahrheit: Finde die Quelle.
3. Mache dir die KI zu eigen: Probiere selbst aus.
4. Nutze KI-Systeme zum Lernen.
5. Der Weg der Files: Schütze deine Daten.
6. Innovation und Respekt: Stoße ethische und moralische Fragen an.
7. Berücksichtige die möglichen Auswirkungen auf Klima und Gesellschaft.

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 8 von 9
QUELLENANGABEN
Um nachvollziehbare, vergleichbare und zuverlässige Quellenangaben für KI-generierte Inhalte zu
erhalten, solltest Du die folgenden Hinweise befolgen: Da KI-Inhalte dynamisch generiert werden,
ergibt nicht jeder Prompt immer das gleiche Ergebnis. Die Angabe des Prompts ermöglicht Dir selbst
und Dritten, Deine Ergebnisse nachzuvollziehen. Nenne daher das Datum der Generierung - bei
mehreren Prompts fortlaufend a, b, c - sowie das KI-Modell und die Version.
Du kannst auf ein unverändertes KI-System mit "Standard" hinweisen oder auf ein bestimmtes System,
z.B. Stable Diffusion XL.
Hast Du mit eigenen Trainingsdaten gearbeitet, solltest Du „eigenes Training“ angeben.
Bei öffentlich verfügbaren Trainings ergänze zusätzlich zum Namen auch einen Link, z.B. "Persona Pro:
https://chat.openai.com/g/g-8lyh1sQJd-persona-pro". Dies gilt auch für Deine eigenen Trainings, die
Du öffentlich zur Verfügung stellst.
Format der Quellenangabe, basierend auf der APA-7-Notation
Ersteller (Erstelldatum), Prompt, KI und Version, KI-Modell, (optional) URL zum Modell
Beispiele
Burbach, J. (2023-11-30), erstelle eine Persona für ein Brettspiel wie" Mensch Ärger Dich nicht",
ChatGPT 4, Persona Pro: https://chat.openai.com/g/g-8lyh1sQJd-persona-pro
Du kannst mehrere Quellen für das gleiche Datum und den gleichen Ersteller mit a, b, c markieren.
Plank, M. (2023-11-30a), eine Professorin im Hörsaal, Midjourney 5.2, Standard
Plank, M. (2023-11-30b), eine Gruppe von Studierenden in der Mensa, ChatGPT 4, Dall-E 3
Du kannst bis zu 5 Autoren für einen Prompt nennen.
Burbach, Meyer, Plank, Trautzsch (2023-11-30), beschreibe die Vor- und Nachteile von KI-
Systemen, ChatGPT 4, Standard
Kurzzitat im Text
Trautzsch, 2023-11-30

IU Discussion Papers – Design, Architektur & Bau, No. 2 (Februar 2024)
Seite 9 von 9
LITERATURVERZEICHNIS
Deutscher Bundestag. (2023). Kennzeichnungspflicht bei Einsatz von KI-Systemen gefordert
[Pressemitteilung]. https://www.bundestag.de/presse/hib/kurzmeldungen-955624
Dimov, V. (2023). KI-Inhalte im Gaming: So steht es um das Urheberrecht. Härting.
https://haerting.de/wissen/ki-inhalte-im-gaming-so-steht-es-um-das-urheberrecht
European Parliament. (2023). Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI
[Pressemitteilung]. https://www.europarl.europa.eu/news/en/press-
room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
Gowal, S. & Pushmeet, K. (2023). Identifying AI-generated images with SynthID. Google DeepMind.
https://deepmind.google/discover/blog/identifying-ai-generated-images-with-synthid/
Jiang, H., Brown, L., Cheng, J., Khan, M., Gupta, A., Workman, D., Hanna, A., Flowers, J. & Gebru, T. (29.
August 2023). AI Art and its Impact on Artists. AIES ’23: AAAI/ACM Conference on AI, Ethics, and Society,
Montreal, Canada. https://doi.org/10.1145/3600211.3604681
Krempl, S. (22. November 2023). Nachhaltigkeitsforscher: Umweltauswirkungen von KI sind ein großer
dunkler Fleck. Heise. https://www.heise.de/news/Nachhaltigkeitsforscher-Umweltauswirkungen-von-
KI-sind-ein-grosser-dunkler-Fleck-9536878.html
Lauer, B. (24. Februar 2023). Warum die KI am liebsten Englisch spricht. com! Professional.
https://www.com-magazin.de/news/kuenstliche-intelligenz/ki-am-liebsten-englisch-spricht-
2843012.html
Smith, C. (2021), Clickworker Review: How Much Money Can You Make? Clark. https://clark.com/make-
money/clickworker-review/