Intransparente Diskriminierung durch maschinelles Lernen
Maschinelles Lernen kann zu Diskriminierungen anhand von völlig neuen Merkmalen führen. Diese Merkmale können uns außerdem nicht transparent sein. Um dies zu zeigen, werde ich argumentieren, dass Diskriminierung nicht nur anhand von Merkmalen in abschließenden Listen erfolgen kann, sondern grundsät...
| Main Author: | |
|---|---|
| Format: | Article |
| Language: | deu |
| Published: |
Universität Salzburg
2020-06-01
|
| Series: | Zeitschrift für Praktische Philosophie |
| Subjects: | |
| Online Access: | https://www.praktische-philosophie.org/zfpp/article/view/201 |
| _version_ | 1797809298142658560 |
|---|---|
| author | Heiner Koch |
| author_facet | Heiner Koch |
| author_sort | Heiner Koch |
| collection | DOAJ |
| description |
Maschinelles Lernen kann zu Diskriminierungen anhand von völlig neuen Merkmalen führen. Diese Merkmale können uns außerdem nicht transparent sein. Um dies zu zeigen, werde ich argumentieren, dass Diskriminierung nicht nur anhand von Merkmalen in abschließenden Listen erfolgen kann, sondern grundsätzlich anhand beliebiger Merkmale, und dass Algorithmen trotz fehlender mentaler Eigenschaften diskriminierend sein können. Zudem werde ich die Probleme beschreiben, die damit einhergehen, dass diese neuen Formen der Diskriminierung nur schwer erkennbar sind, weil die eingesetzten Algorithmen intransparent sind. Hierbei sind drei Arten der Intransparenz zu unterschieden, die jeweils unterschiedliche Auswirkungen auf die Erkennbarkeit von Diskriminierungen haben:
(i) Merkmale, anhand derer ungleich behandelt wird, können unbekannt sein
(ii) Merkmale, anhand derer ungleich behandelt wird, können unverständlich sein (sie sind zu komplex oder „chaotisch“, um von Menschen sinnvoll erfasst werden zu können)
(iii) es können Erklärungen dafür fehlen, wie und weshalb bestimmte Merkmale für eine Ungleichbehandlung herangezogen werden
Gerade die Kombination aus Intransparenz und Diskriminierung anhand neuer Merkmale stellt eine besondere Herausforderung für die philosophische Debatte um Diskriminierung dar. Bisherige Ansätze beschränken sich darauf, verständliche Merkmale zu identifizieren oder zu erzeugen, die ihre Träger_innen unter expliziten Diskriminierungsschutz stellen. Damit geraten jedoch neue Diskriminierungen aus dem Blick, die in Zukunft erhebliche Auswirkungen haben können. Um intransparente Diskriminierungen aufzudecken, müssen unbekannte Merkmale identifiziert werden, unverständliche Merkmale hinreichend verständlich gemacht werden und Korrelationen und Trainingsverfahren erklärbar sein. Anschließend müssen die diskriminierenden Elemente des Algorithmus beseitigt werden können. Insofern keine angemessenen Lösungsstrategien vorliegen, muss darüber nachgedacht werden, für bestimmte Kontexte nur Formen des maschinellen Lernens zuzulassen, die sich hinreichend auf diskriminierende Konsequenzen untersuchen lassen.
|
| first_indexed | 2024-03-13T06:50:29Z |
| format | Article |
| id | doaj.art-5c03aac1cb924da99ada9a9b0de28b15 |
| institution | Directory Open Access Journal |
| issn | 2409-9961 |
| language | deu |
| last_indexed | 2024-03-13T06:50:29Z |
| publishDate | 2020-06-01 |
| publisher | Universität Salzburg |
| record_format | Article |
| series | Zeitschrift für Praktische Philosophie |
| spelling | doaj.art-5c03aac1cb924da99ada9a9b0de28b152023-06-07T16:10:12ZdeuUniversität SalzburgZeitschrift für Praktische Philosophie2409-99612020-06-017110.22613/zfpp/7.1.9Intransparente Diskriminierung durch maschinelles LernenHeiner Koch0Duisburg-Essen Maschinelles Lernen kann zu Diskriminierungen anhand von völlig neuen Merkmalen führen. Diese Merkmale können uns außerdem nicht transparent sein. Um dies zu zeigen, werde ich argumentieren, dass Diskriminierung nicht nur anhand von Merkmalen in abschließenden Listen erfolgen kann, sondern grundsätzlich anhand beliebiger Merkmale, und dass Algorithmen trotz fehlender mentaler Eigenschaften diskriminierend sein können. Zudem werde ich die Probleme beschreiben, die damit einhergehen, dass diese neuen Formen der Diskriminierung nur schwer erkennbar sind, weil die eingesetzten Algorithmen intransparent sind. Hierbei sind drei Arten der Intransparenz zu unterschieden, die jeweils unterschiedliche Auswirkungen auf die Erkennbarkeit von Diskriminierungen haben: (i) Merkmale, anhand derer ungleich behandelt wird, können unbekannt sein (ii) Merkmale, anhand derer ungleich behandelt wird, können unverständlich sein (sie sind zu komplex oder „chaotisch“, um von Menschen sinnvoll erfasst werden zu können) (iii) es können Erklärungen dafür fehlen, wie und weshalb bestimmte Merkmale für eine Ungleichbehandlung herangezogen werden Gerade die Kombination aus Intransparenz und Diskriminierung anhand neuer Merkmale stellt eine besondere Herausforderung für die philosophische Debatte um Diskriminierung dar. Bisherige Ansätze beschränken sich darauf, verständliche Merkmale zu identifizieren oder zu erzeugen, die ihre Träger_innen unter expliziten Diskriminierungsschutz stellen. Damit geraten jedoch neue Diskriminierungen aus dem Blick, die in Zukunft erhebliche Auswirkungen haben können. Um intransparente Diskriminierungen aufzudecken, müssen unbekannte Merkmale identifiziert werden, unverständliche Merkmale hinreichend verständlich gemacht werden und Korrelationen und Trainingsverfahren erklärbar sein. Anschließend müssen die diskriminierenden Elemente des Algorithmus beseitigt werden können. Insofern keine angemessenen Lösungsstrategien vorliegen, muss darüber nachgedacht werden, für bestimmte Kontexte nur Formen des maschinellen Lernens zuzulassen, die sich hinreichend auf diskriminierende Konsequenzen untersuchen lassen. https://www.praktische-philosophie.org/zfpp/article/view/201Diskriminierungmaschinelles LernenAlgorithmenExplainable Artificial Intelligencestatistische DiskriminierungIntransparenz |
| spellingShingle | Heiner Koch Intransparente Diskriminierung durch maschinelles Lernen Zeitschrift für Praktische Philosophie Diskriminierung maschinelles Lernen Algorithmen Explainable Artificial Intelligence statistische Diskriminierung Intransparenz |
| title | Intransparente Diskriminierung durch maschinelles Lernen |
| title_full | Intransparente Diskriminierung durch maschinelles Lernen |
| title_fullStr | Intransparente Diskriminierung durch maschinelles Lernen |
| title_full_unstemmed | Intransparente Diskriminierung durch maschinelles Lernen |
| title_short | Intransparente Diskriminierung durch maschinelles Lernen |
| title_sort | intransparente diskriminierung durch maschinelles lernen |
| topic | Diskriminierung maschinelles Lernen Algorithmen Explainable Artificial Intelligence statistische Diskriminierung Intransparenz |
| url | https://www.praktische-philosophie.org/zfpp/article/view/201 |
| work_keys_str_mv | AT heinerkoch intransparentediskriminierungdurchmaschinelleslernen |