Künstliche Intelligenz in der Hochschulbildung und das Transparenzproblem. Eine Analyse und ein Lösungsvorschlag.

Autor/in	Herzberg, Dominikus
Titel	Künstliche Intelligenz in der Hochschulbildung und das Transparenzproblem. Eine Analyse und ein Lösungsvorschlag.
Quelle	Aus: Schmohl, Tobias (Hrsg.); Watanabe, Alice (Hrsg.); Schelling, Kathrin (Hrsg.): Künstliche Intelligenz in der Hochschulbildung. Chancen und Grenzen des KI-gestützten Lernens und Lehrens. Bielefeld: transcript (2023) S. 87-98 PDF als Volltext kostenfreie Datei (1); PDF als Volltext kostenfreie Datei (2) Link als defekt meldenVerfügbarkeit
Reihe	Hochschulbildung: Lehre und Forschung. 4
Sprache	deutsch
Dokumenttyp	online; Sammelwerksbeitrag
ISSN	2749-7623; 2749-7631
ISBN	978-3-8376-5769-2; 978-3-8394-5769-6
DOI	10.25656/01:27832
URN	urn:nbn:de:0111-pedocs-278329
Schlagwörter	Bildungsforschung; Learning Analytics; Künstliche Intelligenz; Hochschulbildung; Transparenz
Abstract	Es ist hochgradig attraktiv, das kognitive Potenzial Künstlicher Intelligenz (KI) in der Hochschulbildung beim Lernen und Lehren auf allen hochschuldidaktischen Ebenen zu den verschiedensten Zwecken heranzuziehen und zu nutzen: von der Lernassistenz über Tutorsysteme bis hin zu Planungssystemen zur Ausrichtung der Curricula. Einmal angenommen, solche KI-Systeme stünden uns morgen in den Hochschulen zur Verfügung: Sollten wir sie einsetzen? Überraschenderweise ist uns die Entscheidung bereits abgenommen. Die Antwort lautet "Nein", wenn man die sogar rechtlich verankerte Forderung an die Transparenz von KI ernst nimmt, womit die Nachvollziehbarkeit, Erklärbarkeit und Interpretierbarkeit ihres Verhaltens verlangt wird. Dieser Beitrag zeigt auf, dass KI mit dem Transparenz-Prinzip unverträglich ist. Dieses Dilemma muss gesellschaftlich aufgelöst werden. Gleichwohl kann die hochschulische Bildungsforschung Rahmenbedingungen schaffen, die die Intransparenz von KI integriert und nicht ausschließt, indem sie den KI-Einsatz durch eine Bildungsfolgenforschung und wissenschaftliche "Echtzeit"-Methoden begleitet. Es wäre damit denkbar, die Forderung nach Transparenz abzuschwächen oder aufzugeben. (DIPF/Orig.). It is highly attractive to use the cognitive potential of Artificial Intelligence (AI) in higher education in learning and teaching on all levels of higher education didactics for a wide variety of purposes: from learning assistancetotutoring systemsto planning systems for aligning curricula. Let's assume for a moment that such AI systems would be available for us tomorrow in higher education institutions: Should we use them? Surprisingly, the decision is already taken from us. The answer is "no" if we take seriously the even legally enshrined requirement for AI to be transparent, thereby demanding that its behaviour be comprehensible, explainable, and interpretable. This paper shows that AI is incompatible with the transparency principle. This dilemma needs to be resolved by society. Nonetheless, higher educational research can create conditions that integrate rather than exclude the intransparency of AI. And this can be done by accompanying the use of AI with educational impact research and scientific "real-time" methods. It would thus be conceivable to weaken or abandon the demand for transparency. (DIPF/Orig.).
Erfasst von	DIPF \| Leibniz-Institut für Bildungsforschung und Bildungsinformation, Frankfurt am Main
Update	2024/1