Österreich: Automatisierte Diskriminierung per Algorithmus

1 Beitrag / 0 neu
Bild des Benutzers Helmut S. - ADMIN
Helmut S. - ADMIN
Online
Beigetreten: 21.09.2010 - 20:20
Österreich: Automatisierte Diskriminierung per Algorithmus
DruckversionPDF version

Automatisierte Diskriminierung

Österreichs Jobcenter richten künftig mit Hilfe von Software über Arbeitslose

von Alexander Fanta

In Österreich teilt ab nächstem Jahr ein Algorithmus alle Jobsucher in Kategorien. Wer schlecht abschneidet, dem werden Zukunftschancen verbaut. Die Behörden bejubeln das als Effizienzsteigerung mit modernsten technischen Mitteln. Experten warnen hingegen vor automatisierter Diskriminierung.

220.000 Menschen sind nach neuesten Zahlen in Österreich arbeitslos. Damit möglichst viele davon schnell wieder einen Job finden, finanziert der Staat ähnlich wie in Deutschland Maßnahmen zur Weiterbildung. Wer eine solche Schulung bezahlt bekommt, entscheidet das Arbeitsmarktservice (AMS), das österreichische Gegenstück zu den Jobcentern in Deutschland. Bereits ab Januar hilft den Beratern des AMS ein algorithmisches Empfehlungssystem, wie nun bekannt wurde.

Die Software teilt künftig Arbeitssuchende in drei Gruppen ein: Hohe Chancen, mittlere Chancen, niedrige Chancen. Wer in letzterer Kategorie landet, kriegt eher keine teure Ausbildung bezahlt. Die Arbeitsvermittler erhoffen sich von von der Software raschere Entscheidungen – mehr Effizienz für weniger Geld. „Wir setzen derzeit öfter geförderte Beschäftigungsprojekte bei ganz Schwachen ein und sind dann oft unglücklich, dass wir zu sehr hohen Kosten im Vergleich relativ wenige Arbeitsaufnahmen bei dieser Personengruppe haben“, sagt Behördenchef Johannes Kopf. Die Software soll dabei helfen, die „Schwachen“ in billigere Kurzzeitprogramme zu stecken. „Die Technik trifft keine Entscheidung, sondern weist nur die Arbeitsmarktchancen aus“, betont Kopf. Ab Januar 2019 testen die Arbeitsämter die Software der Firma Synthesis Forschung. Ab 2020 soll sie regulär zum Einsatz kommen.

► Alte und Ausländer abgestuft

Das algorithmische Entscheidungssystem stützt sich auf Daten zu Beruf, Ausbildung und bisherige Jobs. Es bezieht aber auch Alter, Geschlecht und Nationalität ein. Unter-25-Jährige kommen nie in die schlechteste Kategorie, für sie gilt in Österreich eine Ausbildungsgarantie. Alte und Nicht-Österreicher hingegen gelten als häufiger von Arbeitslosigkeit gefährdet und werden vom algorithmischen Entscheidungssystem darum schlechter eingestuft. Das stellt aus Sicht des AMS aber keine Benachteiligung der Betroffenen dar. Eine Diskriminierung läge nur dann vor, wenn die Software direkt selbst entscheide, sagt AMS-Pressesprecherin Beate Sprenger auf Anfrage von netzpolitik.org. Das sei aber nicht der Fall: „Die Letztentscheidung hat der Berater.

Ohnehin gibt es für die Angaben der Software keine Gewähr: Das algorithmische Entscheidungssystem hat nach offiziellen Angaben eine Trefferquote von 85 Prozent – das heißt, jede siebte seiner Entscheidungen ist falsch.

► Von Kunden zu Verdächtigen

Datenexperte Wolfie Christl sieht das Programm als Schritt hin zu einem System, in dem sozial Schwache und Benachteiligte mehr und mehr von Algorithmen und Maschinen verwaltet werden. Aus zahlreichen Untersuchungen sei bekannt, dass Empfehlungen der Software von Menschen kaum verändert würden. „Einerseits macht der Glaube an die heilige Quantifizierung blind, andererseits werden sich AMS-BetreuerInnen für jede ‚Hochstufung‘ rechtfertigen und erklären müssen, warum sie etwas besser wissen wollen als der Computer“, sagt Christl. In einem derartigen System würden Arbeitslose nicht wie bisher als Kunden, sondern pauschal als Verdächtige behandelt.

Arbeitnehmervertretern äußern bereits Skepsis an dem System. Gernot Mitterer, ein Arbeitsmarktexperte der Arbeiterkammer, sieht die Gefahr eines automatischen Richterspruchs über Beschäftigungslose. „Wir bemühen uns daher, wirksame Vorkehrungen gegen eine Dominanz des Algorithmus in der täglichen Arbeit in den AMS-Geschäftsstellen beim Roll-out dieses ‚Profilings‘ zu verankern“, schrieb Mitterer auf Anfrage von netzpolitik.org per E-Mail.

Der Experte verweist auf die große Arbeitslast von AMS-Mitarbeitern, die schneller zu Fehlentscheidungen führt. In Österreich müsse ein Jobcenter-Berater mehr als 250 Arbeitslose mit längerer als dreimonatiger Arbeitslosigkeit betreuen. In Deutschland liege dieses Verhältnis etwa bei 1:100. Das algorithmische Entscheidungssystem dürfe persönliche Beratung höchstens ergänzen, nicht ersetzen.

► Unsoziale Big-Data-Maßnahmen

amazon_nein_danke_monopolstellung_alexa_sklavenarbeit_ausbeutung_kritisches_netzwerk_eco_app_rotraut_susanne_berner_packer_picker_jeffrey_jeff_preston_bezos_menschenverachtung_boykott.gif Österreich setzte zuletzt bereits unsoziale Maßnahmen. Die rechte Regierung in Wien führte zuletzt den 12-Stunden-Tag ein u. lockerte deutlich die Rechte von Beschäftigten. Zugleich verpflichtete die Regierung die Krankenkassen dazu, in sensiblen Gesundheitsdaten nach möglichem Missbrauch von Kassenleistungen zu fahnden.

International sorgte zuletzt Amazon mit seinem umstrittenem Umgang mit Arbeiternehmerdaten für Aufregung. Der Onlinehandel- und Datenkonzern, der nach einem legendären Stamm von Kriegerinnen benannt ist, musste die Diskriminierung von Frauen durch sein durch Künstliche Intelligenz-gestützten Rekrutierungsystem eingestehen. Amazon schaffte das experimentelle Tool inzwischen wieder ab. Die Bedenken gegen von Algorithmen gelenkten sozialen Systemen bleiben aber bestehen.

Alexander Fanta
_______________

Alexander ist seit Januar 2018 Journalist bei Netzpolitik.org und schreibt dort über die digitale Gesellschaft und ihre Feinde. 2017 beschäftigte er sich als Stipendiat am Reuters-Institut für Journalismusforschung in Oxford und bei der NZZ in Zürich mit Projekten zum Roboterjournalismus. Davor arbeitete Alexander für die österreichische Nachrichtenagentur APA. Er ist unter alexander.fanta ett Netzpolitik.org (PGP) und unter @FantaAlexx erreichbar.

netzpolitik.org ist eine Plattform für digitale Freiheitsrechte. Die Betreiber und deren Autoren thematisieren die wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik und zeigen Wege auf, wie man sich auch selbst mithilfe des Netzes für digitale Freiheiten und Offenheit engagieren kann. Mit netzpolitik.org beschreiben sie, wie die Politik das Internet durch Regulation verändert. Und wie das Netz Politik, Öffentlichkeiten und alles andere verändert. Sie verstehen sich als journalistisches Angebot, sind jedoch nicht neutral. Ihr Haltung ist: Engagement für digitale Freiheitsrechte und ihre politische Umsetzung.

   



► Quelle: Erstveröffentlicht am 13. Oktober 2018 auf NETZPOLITIK.org >> Artikel. Lizenz: Die von NETZPOLITIK verfassten Inhalte stehen, soweit nicht anders vermerkt, unter der Lizenz Creative Commons (Namensnennung - Nicht-kommerziell - Weitergabe unter gleichen Bedingungen 4.0 International (CC BY-NC-SA 4.0). Die Fotos und Grafiken sind NICHT Bestandteil des Artikels und wurde von KN-ADMIN Helmut Schnug eingefügt.

► Bild- und Grafikquellen:

1. REJECTED - ABGELEHNT - DENIED. Grafik: Stampf. Quelle: Pixabay. Alle bereitgestellten Bilder und Videos auf Pixabay sind gemeinfrei (Public Domain) entsprechend der Verzichtserklärung Creative Commons CC0. Das Bild unterliegt damit keinem Kopierrecht und kann - verändert oder unverändert - kostenlos für kommerzielle und nicht kommerzielle Anwendungen in digitaler oder gedruckter Form ohne Bildnachweis oder Quellenangabe verwendet werden. >> Grafik.

2. Wolfie Christl lebt in Wien und ist Programmierer, Forscher, Publizist, Erwachsenenbildner, Netzaktivist und Leiter von Cracked Labs. Ausgebildeter Nachrichtentechniker, abgebrochene Studien an der Kunstuniversität Linz sowie Informatik, Soziologie und Theater-, Film- und Medienwissenschaften an der Universität Wien. Er beschäftigt sich seit vielen Jahren mit den gesellschaftlichen Auswirkungen neuer Informations- und Kommunikationstechnologien – bis 2006 als Mitarbeiter der renommierten Wiener Netzkultur-Organisation Public Netbase. Denkt, schreibt und spricht über freie Medien, kritische Netzkultur, Big Data, Privacy, Überwachung, Copyright, Open Source und erforscht seit einigen Jahren die Macht der Online-Plattformen, algorithmische Entscheidungssysteme und die Ökonomie der persönlichen Daten im digitalen Zeitalter. Foto: (c) Wolfie Christl, Creative Commons BY-SA.

3. Amazon? nein, danke! Illustrationen von Rotraut Susanne Berner, Grafikerin, Illustratorin und Kinderbuchautorin. > Berners blog.

"Was viele nicht wissen: der deutsche Buchhandel hat den besten Liefer- und Bestellservice der Welt. Jede Buchhandlung kann (fast immer) von einem auf den anderen Tag bestellte Bücher oder CDs liefern. Und das ganz ohne Monopolstellung, schlecht bezahltes Personal oder Stress für Paketboten und Nachbarn. Und ist es nicht sowieso viel schöner, mal wieder in die Buchhandlung um die Ecke reinzuschaun, zu stöbern und in echten Büchern zu blättern, als immer nur vor dem Bildschirm zu sitzen?

Wir hätten ja alle als Verbraucher ungeheure Möglichkeiten gegen die Monopolisten und gegen die oben genannten Entwicklungen. Schade, dass die Bequemlichkeit größer ist als unser gesunder Menschenverstand. Der homo sapiens ist dumm". (Rotraut Susanne Berner)