Nicht nur Unternehmen, auch staatliche Institutionen setzen verstärkt auf automatisierte Entscheidungen durch algorithmenbasierte Systeme. Ihre Effizienz spart Zeit und Geld - birgt jedoch vielfältige Gefahren der Benachteiligung einzelner Menschen und ganzer Bevölkerungsgruppen. Zu diesem Ergebnis kommt eine jetzt vorgestellte Studie der Technikfolgenabschätzung des Karlsruher Instituts für Technologie (KIT) im Auftrag der Anti-diskriminierungsstelle des Bundes. Ob bei der Kreditvergabe, der Auswahl neuer Mitarbeitender oder bei juristischen Entscheidungen - in immer mehr Bereichen werden Algorithmen dazu eingesetzt, menschliche Entscheidungen vorzubereiten oder sie ihnen gleich ganz abzunehmen. »Dass dies zwangsläufig zu objektiveren und damit faireren Entscheidungen führt, erweist sich heute leider oft als Trugschluss«, sagt Carsten Orwat, vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des KIT. »Kritisch wird es insbesondere dann, wenn die Algorithmen mit tendenziösen Daten arbeiten«, so der Autor. Hierzu gehören vor allem Alter, Geschlecht, ethnische Herkunft, Religion, sexuelle Orientierung oder Behinderungen.
展开▼
