Forschung zu Mensch–KI-Interaktion erneut international ausgezeichnet

Prof. Dr. Kevin Bauer hat gemeinsam mit Prof. Dr. Oliver Hinz, Prof. Dr. Michael Kosfeld und Dr. Rebecca Heigl einen der renommiertesten internationalen Publikationspreise der Wirtschaftsinformatik/Information Systems erhalten: den AIS Senior Scholars Best IS Publication Award. Ausgezeichnet wurde die Publikation „Feedback Loops in Machine Learning: A Study on the Interplay of Continuous Updating and Human Discrimination“.

Der Preis wird von den Senior Scholars der Association for Information Systems (AIS) vergeben und würdigt seit 2006 jährlich bis zu fünf herausragende Fachartikel über führende Journale hinweg. Die Auszeichnung wird im Rahmen der International Conference on Information Systems (ICIS) verliehen.

Forschungsergebnis: Wenn KI-Entscheidungen beeinflusst, verändert sie auch die Daten von morgen
Machine-Learning-Modelle wirken in vielen Bereichen nicht nur auf Entscheidungen – sie prägen zugleich die Datenbasis, aus der sie später erneut lernen. Ein Beispiel: Führt eine Modellprognose zur Ablehnung eines Kredits, entsteht kein Datenpunkt zur tatsächlichen Rückzahlungsfähigkeit. Genau diese Rückkopplungen (Feedback-Loops) können Fairness und Leistungsfähigkeit eines Systems langfristig beeinflussen.

Die Studie untersucht, wie sich kontinuierliche Modellaktualisierung und algorithmische Diskriminierung in solchen dynamischen Umgebungen gemeinsam entwickeln. Auf Basis umfangreicher Simulationen mit sekundären empirischen Daten zeigen die Autorinnen und Autoren unter anderem:

• Kontinuierliches Updating kann Diskriminierung im Zeitverlauf reduzieren und die wirtschaftliche Effizienz steigern.
• Menschliche Entscheidungen „in the loop“, können Selbstkorrekturprozesse jedoch behindern – und sogar anfangs unverzerrte Modelle schrittweise diskriminierend werden lassen.

Zweites Jahr in Folge: Bauer & Hinz erneut mit AIS-Publikationspreis ausgezeichnet
Besonders bemerkenswert: Prof. Dr. Kevin Bauer und Prof. Dr. Oliver Hinz erhalten den AIS Senior Scholars Best IS Publication Award damit zum zweiten Mal in Folge – erneut für Arbeiten zur Mensch–KI-Interaktion. Im Vorjahr wurde ihre Publikation „Expl(AI)ned: The Impact of Explainable Artificial Intelligence on Users’ Information Processing“ ausgezeichnet. Diese erneute internationale Anerkennung unterstreicht die Spitzenstellung der Goethe-Universität Frankfurt in der Forschung an der Schnittstelle von KI, menschlichem Entscheidungsverhalten und verantwortungsvoller Gestaltung KI-gestützter Systeme.

Publikationen

• Bauer, K., Heigl, R., Hinz, O., & Kosfeld, M. (2024). Feedback Loops in Machine Learning: A Study on the Interplay of Continuous Updating and Human Discrimination. Journal of the Association for Information Systems, 25(4), 804–866.
• Bauer, K., von Zahn, M., & Hinz, O. (2023). Expl (AI) ned: The impact of explainable artificial intelligence on users’ information processing. Information systems research, 34(4), 1582-1602.

Weitere Informationen zur Publikation finden Sie hier.