Wenn Maschinen Menschen bewerten: To-dos für Teilhabe

Vortrag, gehalten am 1.9.2017 auf der Konferenz “Das ist Netzpolitik!“

Wenn Maschinen Menschen bewerten: To-dos für Teilhabe

Gehalten bei der Konferenz “Das ist Netzpolitik!”, 1.9.2017

Speaker Deck

7 Kernthesen des Vertrags:

1. Die Diskussion fokussiert auf Maschinen, mit denen eine Macht Menschen beurteilt. Es fehlt: Der Mensch als Subjekt.
2. Positive, gemeinwohlfördernde Gestaltung umfasst mehr als Abwehr und Nachsorge durch Regulierung. Der Staat ist in einer Doppelrolle als zu kontrollierender ADM-Anwender und Ermöglicher einer positiven Ordnung.
3. Wenn es viele richtige Operationalisierungen eines sozialen Konzepts gibt, sind unterschiedliche Systeme sinnvoll. Es braucht Systemvielfalt!
4. Dass ein ADM-System zuverlässig und nachvollziehbar arbeitet, sagt wenig über seinen gesellschaftlichen Sinn aus. Es braucht Diskurs über gesellschaftliche Angemessenheit!
5. Lösungsansätze: Diskurs über die Messbarmachung vor der Messbarmachung führen. Und Reflexion der Angemessenheit institutionalisieren
6. Transparenz allein schafft keine Öffentlichkeit. Überprüfbarkeit sichert nicht Überprüfung. Deshalb braucht es vielfältige Wächter-Institutionen.
7. Fazit: Handlungsbedarf und Lösungsansätze auf allen Ebenen des Gemeinwesens