Böser Algorithmus, guter Algorithmus. Wie leben damit?

Diese Frage stellen wir uns in der Arbeitsgruppe Netzpolitik der Grünen Schweiz sehr oft. Entscheidungen werden uns zunehmend von automatisierten Entscheidungsverfahren (Algorithmen) abgenommen. Ganz gleich, ob es um die nächste Mahlzeit geht oder um eine Gefahreneinschätzung unserer Person vor Gericht: Die Entscheide sind an Kategorisierungen und Berechnungen von Maschinen gebunden.

Die Fragen können wir in zwei Dimensionen aufteilen:

  • Die private Seite: Wie können wir lernen und verstehen, wie Algorithmen funktionieren – und ihre Ergebnisse kritisch entgegennehmen? Welches Wissen, welche Informationen und welche Fähigkeiten braucht es dazu?
  • Die gesellschaftliche Seite: In welchen Situationen sollen Algorithmen kritisch begutachtet werden? Welche Bereiche sind zu sensibel, um sie von Maschinen gestalten zu lassen? Wann braucht es Transparenz und Regulation? Mit welchen Mitteln sollen Algorithmen reguliert werden – Gesetze, Zertifizierung, zivilgesellschaftlicher Protest?

Einfache Antworten gibt es nicht. Und gerade deshalb interessierte uns, diese Frage mit vielen Interessierten aus dem Bereich Netzpolitik zu erörtern. Das geeignete Mittel dazu: Im Rahmen des Winterkongress 2019 der Digitalen Gesellschaft organisierten Rahel Estermann und Markus Schmidt im Namen der AG Netzpolitik der Grünen einen Workshop zum Thema.

Die Fragen interessieren und bewegen: Über 70 Personen diskutierten mit uns. Wir unterteilten in Arbeitsgruppen, die je einen Aspekt zum Thema Algorithmen anhand eines Textes diskutierten.

  1. Mit welchem Daten-Input sollen Algorithmen trainiert werden?
    https://www.blaetter.de/archiv/jahrgaenge/2018/august/wider-die-digitale-manipulation (Abschnitt 7)
  1. Wieviel Transparenz und Kontrolle benötigen selbstlernende Algorithmen?
    https://www.wired.de/article/ubernehmt-endlich-verantwortung-fur-eure-algorithmen
  1. Wo darf der Staat Algorithmen einsetzen und wie muss er sie regulieren?
    https://www.republik.ch/2018/09/19/die-tyrannei-des-wahrscheinlichen-in-der-justiz
  1. Wie sich gegen Algorithmen wehren?
    https://www.medienpolitik.net/2017/08/netzpolitikwir-sind-nicht-hilflos/
  1. Können Algorithmen diskriminieren?
    https://verfassungsblog.de/koennen-algorithmen-diskriminieren/
  1. Wie in der Schule auf Algorithmen vorbereiten?
    https://www.nzz.ch/feuilleton/soll-der-mensch-wie-ein-computer-denken-ld.1292090
  1. Algorithmen anstelle von Vertrauen? China und der Social Credit
    https://www.zeit.de/2019/03/china-regime-ueberwachungsstaat-buerger-kontrolle-polizei
  1. Wirtschaft: Wenn der Algorithmus Preisabsprachen macht
    https://www.nzz.ch/wirtschaft/wenn-algorithmen-kartelle-bilden-ld.1415028

Anschauungsbeispiel: Erfolgreich gegen den Algorithmus gewehrt!

Angeregte Diskussionen in den Arbeitsgruppen folgten. Zum Schluss standen die Gruppen vor der Herausforderung, ein Fazit in Tweet-Länge zu fassen. Und: Die oder der Präsentator*in des Fazits bestimmte ein (vorerst intransparenter) Algorithmus. Im Sinne von der Forderung nach transparenten Algorithmen liessen wir das Rätsel nicht ungelöst: Diejenige Person mit dem „vordersten“ Buchstaben (gemäss Alphabet) an dritter Stelle des Vornamens war auserwählt. In einem Fall von zwei identischen Vornamen diskriminierte der Algorithmus nach Lust und Laune – wie im Leben halt. Im Sinne von „Wehr dich gegen den intransparenten Algorithmus!“ setzte die auserwählte Person aus der Arbeitsgruppe 4 das Thema gleich um und wehrte sich gegen die Präsentation – erfolgreich. Mit menschlicher Kompetenz fand die Gruppe einen anderen Präsentator.

Herzlichen Dank allen, die diskutiert haben! Wir freuen uns, mit euch viele weitere Debatten in Politik und Gesellschaft zum Thema Algorithmen zu führen.

Hier die Tweet-Fazite, die wir sogleich auf Twitter und Mastodon teilten (rangiert nach dem Beliebtheitsalgorithmus von Twitter):

Teilen macht Freude:

Promihack in Deutschland: Wie schützt man sich?

Die Veröffentlichung privater Daten von Promis und Politiker*innen in Deutschland hat viele aufgeschreckt. Auch wenn aktuell, am 5. Januar 2019, noch viele Details unbekannt sind, lohnt es sich sicher für alle, die das Internet nutzen, die eigenen Sicherheitsvorkehrungen zu überprüfen. Hier ein paar Tipps dazu.  Weiterlesen

Teilen macht Freude:
Photo by Rock'n Roll Monkey on Unsplash

Senkung von Gewinnsteuern könnte unzeitgemässer nicht sein

In den vergangenen Jahrzehnten wurde die Steuerbelastung für Unternehmen und Aktionäre immer wieder reduziert und die Abgaben für Erwerbseinkommen sukzessive erhöht. Die aktuellen Unternehmenssteuerreformen zeigen, wohin die Reise gehen soll: Unternehmens- und Aktionärsbesteuerung weiter reduzieren. Diese Strategie ist in der Zeit der zunehmenden Automatisierung durch die Digitalisierung geradezu fatal. Denn nicht nur wird dadurch der Druck auf menschlichen Arbeitsbeitrag noch höher, sondern das Steuersubstrat als Ganzes und damit auch die Kaufkraft der konsumierenden Bevölkerung wird gefährdet. Wir beschleunigen mit einer solchen Steuerpolitik die negativen Effekte der Digitalisierung auf dem Arbeitsmarkt.

Robotersteuer ist kein probates Mittel

Um dem drohenden Ausfall an Steuereinnahmen durch die Digitalisierung zu begegnen, werden verschiedene Ideen besprochen. Nicht selten wird der Begriff Robotersteuer ins Feld geführt. Meist ist damit eine Steuer auf einen Roboter, einen Automaten oder Algorithmus gemeint. Prominentes Beispiel dafür ist die Abgabe, die auf eine Self-Checkout Kasse zu entrichten sein soll; wie das etwa Politiker in Genf fordern. Das mag auf den ersten Blick einleuchten. Nicht alle Automaten haben jedoch einen so direkt kausalen Zusammenhang mit dem Verlust eines einzelnen Arbeitsplatzes wie eine automatisierte Kasse. Was ist mit dem Putzroboter, der einen Teil der Raumpflege autonom übernimmt und entsprechend mit zumindest einem Teil menschlicher Reinigungsarbeit konkurriert? Was mit dem Smartphone, das menschliche AssistentInnen zu weiten Teilen ersetzt? Und überhaupt: wann gilt eine Maschine als Roboter, eine Software als Algorithmus? Zu definieren wäre das in einem solchen Szenario wohl durch eine Art “Bundesamt für Automatisierungsgrad- und Künstliche-IQ-Bestimmung”. Es wird schnell klar, dass eine derartige Besteuerung unheimlich kompliziert, bürokratisch und kaum mehrheitsfähig wäre.

Erwerbsarbeit steuerlich entlasten und Unternehmensgewinne stärker belasten

Wir müssen gar nicht so weit suchen, um Steuersubstrat zur Abschöpfung von geschaffenem Mehrwert zu finden: Unternehmensgewinnsteuern. Diese Steuern sind die neutralste und am einfachsten zu eruierende Grösse, die durch Geschäftstätigkeit entsteht. Und sie sind komplett losgelöst von der Art und Weise der Wertschöpfung. Ein Roboterpark oder ein Handwerksbetrieb: Beiden bleibt bei erfolgreichem Geschäftsgang ein positives steuerbares Resultat übrig. Würden nun sukzessive die Abgaben auf Erwerbsarbeit reduziert und gleichzeitig die Unternehmensgewinnsteuern erhöht, wäre das aus Sicht des Unternehmens ein Nullsummenspiel. Denn über die Löhne wird die Einkommenssteuer ja auch durch sie erwirtschaftet. Es nähme aber den Druck auf die Kosten menschlicher Arbeit und würde damit die Spiesse für Mensch und Maschine mindestens in dieser Hinsicht ähnlich lang werden lassen.

Und wir würden den rasanten Wandel im Arbeitsmarkt nicht noch zusätzlich durch eine Benachteiligung der Arbeitskraft Mensch beschleunigen. Wir hätten etwas mehr Luft und wären bereit für eine – wenn auch heute sehr hypothetisch anmutende – Zukunft, in der menschlicher Beitrag für gewinnorientierte Geschäftstätigkeit weniger oder gar nicht mehr nachgefragt wird. Nicht zuletzt würden wir mit einer solchen Strategie auch die Grundlage für ein Grundeinkommen schaffen. Eine echte Chance, Sinnhaftigkeit von Arbeit neu auszuhandeln.

Teilen macht Freude:

Video „Silicon Valley: Empire du Futur“

Plongeant au cœur de la Silicon Valley, une remarquable enquête sur les visées impérialistes des géants des nouvelles technologies, Google, Apple, Facebook, Amazon et autres Microsoft, qui ambitionnent de redessiner notre avenir. Disponible en ligne du 26/06/2018 au 31/08/2018
(ARTE) Weiterlesen

Teilen macht Freude:

Die Grüne Haltung zur Elektronischen Identität E-ID

Die Grünen hatten in ihrer Vernehmlassungsantwort 2017 Kritik geäussert am damaligen Konzept der eID. Die Mitglieder der AG Netzpolitik diskutierten mit Interesse den Lösungsvorschlag der Swiss Data Alliance. Davon inspiriert formuliert die Arbeitsgruppe im April 2018 Empfehlungen an die Bundeshausfraktion für die Beratung des E-ID-Gesetzes (BGEID).

Weiterlesen
Teilen macht Freude:

Datenportabilität ist wichtig, Interoperabilität noch wichtiger

Nach dem Recht auf Kopie, welches in der Datenschutzgrundverordnung der EU festgelegt wird, geht die Debatte weiter. Das ist gut. Und wichtig.

Das Recht auf Datenübertragbarkeit (Recht auf Kopie) ist derzeit in aller Munde. Die Möglichkeit des Herunterladens der eigenen Daten oder noch besser auf eine Zugriff auf die eigenen Daten via einer Schnittstelle – eines der Kernthemen der neuen EU-Datenschutz-Grundverordnung (DSGVO resp. GDPR in englisch)  – ist ein wichtiger Meilenstein hin zu mehr Kontrolle über eigene Daten der Nutzer von digitalen Diensten und Produkten. Damit ist aber noch nicht sonderlich viel erreicht. Denn das wahre Problem ist, dass mir fehlende resp. nicht-respektierte Standards und sehr starke Monopole den Wechsel zu einem alternativen Anbieter de facto verunmöglichen oder sehr unattraktiv machen.

Dabei gibt es Konzepte, wie man diesem Problem begegnen könnte. Standards wie SMS oder E-Mail sind gute Beispiele dafür: Man kann heute noch immer mit nahezu 100%ger Wahrscheinlichkeit davon ausgehen, dass eine SMS oder eine Mail das Gegenüber erreichen wird, egal welches System die Kommunikationspartner nutzen: iOS kommuniziert mit Android oder FirefoxOS, mit Windows Phone und mit einem alten Blackberry. Genau so sollten wir Standards einfordern, welche die Direkt-Kommunikation (RCS) oder Soziale Netzwerke miteinander kompatibel machen. So, dass ich mit einer Messaging App meiner Wahl mit all meinen Kontakten interagieren kann, ohne an eine gemeinsame Applikation, App oder Plattform gebunden zu sein. Denn die Unterschiede dieser Apps schwinden sowieso zusehends.

Die aktuelle Situation ist weder marktwirtschaftlich noch zeitgemäss sondern feudalistisch. Offene Standards würden die Monopolbildung verhindern und den dysfunktionalen Markt aufbrechen. So hätten wir als Nutzer auch endlich wieder mehr Wahlfreiheit und könnten uns dem Anbieter unseres Geschmacks anvertrauen. Wir wären nicht länger gezwungen, überhebliches monopolistisches Gebaren der derzeitigen Platzhirsche zu akzeptieren. Der wahre Wettbewerb der besten Ideen würde neue Innovationen hervorbringen – ganz im Gegensatz zu den grossen Plattformen, welche es nicht mehr nötig haben, wirklich innovativ zu sein.

Teilen macht Freude: