Dr. Carsten Orwat

Institut für Technikfolgenabschätzung und Systemanalyse (ITAS), KIT

Beim Schlagwort KI denken heute viele an große Sprachmodelle wie ChatGPT. Die Anwendungen von KI sind jedoch weitaus vielfältiger, ebenso wie ihre gesellschaftlichen Probleme. Als problematisch gelten auch KI-Anwendungen zur automatisierten Differenzierung von Personen in Wirtschaft, Verwaltung oder Justiz. Neben Datenschutzproblemen wurden hier relativ früh auch Diskriminierungsrisiken sichtbar, die Forschungen zur Fairness des maschinellen Lernens und den Ruf nach Regulierung hervorgerufen haben. Der Vortrag beleuchtet diese Entwicklungen und nimmt dabei Bezug auf Grundrechte und gesellschaftliche Grundwerte. In welcher Weise sind Menschenwürde, informationelle Selbstbestimmung und Gleichheitsvorstellungen durch KI gefährdet? Was kann in diesem Zusammenhang von der künftigen KI-Verordnung erwartet werden? Warum kann zunehmend von systemischen Risiken der KI gesprochen werden?