Digital Humanism 2020ICT20-058

Interpretability and Explainability as Drivers to Democracy


Interpretability and Explainability as Drivers to Democracy
Principal Investigator:
Institution:
Projekttitel:
Interpretability and Explainability as Drivers to Democracy
Projektpartner:innen:
Torsten Möller (University of Vienna) (Co-Principal Investigator)
Mark Coeckelbergh (University of Vienna) (Co-Principal Investigator)
Status:
Laufend (01.10.2021 – 30.09.2025)
Fördersumme:
€ 397.330

 
Kurzzusammenfassung:

Immer häufiger basieren Entscheidungen mit beträchtlichen Auswirkungen auf uns als Individuen und unsere Gesellschaft auf Vorhersagen komplexer mathematischer Modelle. Beispielsweise plant das österreichische Arbeitsmarktservice die Verwendung von intelligenten Modellen („AMS-Algorithmus“) zur Einstufung der Jobchancen von Arbeitslosen; und die Strategie der Bundesregierung im Umgang mit der Coronavirus-Pandemie basiert unter anderem auf komplexen Simulationsmodellen, die die Verbreitung des Virus vorhersagen. Daher wäre es in einer demokratischen Gesellschaft von großer Bedeutung, die Verwendung und Details dieser Modelle öffentlich zu diskutieren und zu beurteilen. Dies ist derzeit allerdings herausfordernd - die genaue Funktionsweise solcher Modelle ist sowohl für Laien als auch Experten oft schwer greifbar und die Art und Weise der Verwendung in Entscheidungsfindungsprozessen wird oft nicht offengelegt. In diesem Projekt verfolgen wir die Idee, dass Modelle mit speziellen Eigenschaften (Interpretierbarkeit und Erklärbarkeit) und geeignete Kommunikation dieser, sowie die Offenlegung deren Rolle zur Entscheidungsfindung, einen breiteren und qualitativeren öffentlichen Diskurs bezüglich der Nutzung dieser Modelle ermöglichen. Insbesondere entwickeln wir interpretierbare und erklärbare Modelle, Leitfäden für die Kommunikation von durch solche Modelle unterstützten Entscheidungsfindungsprozessen und reflektieren die Implikationen für eine (partizipative) Demokratie.

 

Wir nutzen Cookies auf unserer Website. Einige von ihnen sind technisch notwendig, während andere uns helfen, diese Website zu verbessern oder zusätzliche Funktionalitäten zur Verfügung zu stellen. Weitere Informationen