Kategorie-Archiv: Netzpolitik

Datennutzung und Algorithmen human und werteorientiert gestalten

Daten, Digitale Ethik, Digitalisierung, Netzpolitik, Nonprofit-Organisation, NPO, , , , ,

Die Datenethikkommission der Bundesregierung hat Ende Oktober 2019 ihren Abschlussbericht vorgelegt, der in einer Lang- und Kurzfassung zum freien Download zur Verfügung steht. Die Ergebnisse sind auch für Nonprofits von Bedeutung, da sie

  • als Sozialunternehmen selbst Daten generieren, verarbeiten und nutzen, u.a. von pflege- und schutzbedürftigen Menschen und Mitarbeiter*innen
  • unter Umständen selbst an automatisierten Assistenzsystemen beteiligen sind, die Algorithmen einsetzen, oder als Kooperationspartner der Leistungsverwaltung mit den Auswirkungen von Algorithmen bzw. automatisierten Entscheidungen befasst sind
  • als gesellschaftliche Akteure auf die humane Ausgestaltung der Digitalisierung Einfluss nehmen wollen
  • als lokale Akteure mit der Digitalisierung von Sozialräumen und Infrastrukturen konfrontiert sind.

Die Datenethikkommission (DEK) legt ihrem Gutachten die folgenden Leitgedanken zugrunde:

  • menschenzentrierte und werteorientierte Gestaltung von Technologie
  • Förderung digitaler Kompetenzen und kritischer Reflexion in der digitalen Welt
  • Stärkung des Schutzes von persönlicher Freiheit, Selbstbestimmung und Integrität
  • Förderung verantwortungsvoller und gemeinwohlverträglicher Datennutzungen
  • Risikoadaptierte Regulierung und wirksame Kontrolle algorithmischer Systeme
  • Wahrung und Förderung von Demokratie und gesellschaftlichem Zusammenhalt
  • Ausrichtung digitaler Strategien an Zielen der Nachhaltigkeit
  • Stärkung der digitalen Souveränität Deutschlands und Europas

(DEK Kurzfassung, S. 5). Handlungsmaßstäbe für die Ausgestaltung digitaler Technologien sollen Werte und Rechte sein, die in unserer Verfassung und der europäischen Charta der Grundrechte festgelegt sind: die Würde des Menschen, Selbstbestimmung, Privatheit, Sicherheit, Demokratie, Gerechtigkeit und Solidarität sowie Nachhaltigkeit.

Weil viele unterschiedliche Akteure an der Datengenerierung beteiligt sind, soll es kein Eigentumsrecht an Daten, sondern Mitsprache- und Teilhaberechte geben. Um die Datenrechte des einzelnen zu klären, sind Umfang und Art seines Beitrags an der Datengenerierung zu untersuchen, sein Individualinteresse zu gewichten und mit konfligierenden Interessen abzuwägen, die Interessen der Allgemeinheit zu beachten und die Machtverteilung zwischen den Akteuren in den Blick zu nehmen (Kurzfassung, S. 9).

Die DEK empfiehlt u.a. Maßnahmen gegen eine ethisch nicht-vertretbare Datennutzung, Leitlinien für den Umgang mit den Daten pflege- und schutzbedürftiger Menschen, datenschutzfreundliche Produkte und Designs, sowie eine Förderung des Beschäftigtendatenschutzes. Personalisierte Tarife bei Versicherungen soll es nur in engen Grenzen geben.

Algorithmen können menschliche Entscheidungen unterstützen. Sie können aber auch menschliche Entscheidungen so prägen, dass die Selbstbestimmung von Menschen eingeschränkt wird. Und schließlich können sie Entscheidung ganz übernehmen, so dass Menschen im Entscheidungsprozess  keine Rolle mehr spielen (= automated decision making, ADM)

Bei algorithmischen Systemen empfiehlt die Kommission eine fünfstufige Bewertungsskala, die das Schädigungspotenzial dieser Systeme und Regulierungsmöglichkeiten auflistet: in einer niedrigen Gefährdungsstufe sollen z.B. eine Risikofolgenabschätzung des algorithmischen Systems durchgeführt und Transparenzpflichten, Kontrollen und Auditverfahren etabliert werden. In einer höheren Gefährdungsstufe empfiehlt die Kommission ex-ante-Zulassungsverfahren für Algorithmen, Live-Schnittstellen für Aufsichtsinstitutionen oder sogar vollständige und teilweise Verbote von algorithmischen Systemen (DEK-Kurzfassung, S. 19). Wichtig ist hier, dass nicht nur die Algorithmen als solche im Fokus stehen, sondern das ganze “sozio-technische System”, d.h. auch die beteiligten Menschen und die unterschiedlichen Phasen der Entwicklung, Implementierung und Evaluation algorithmischer Systeme.

Die DEK empfiehlt der Bundesregierung, die bestehenden  Aufsichtsinstitutionen zu stärken und ein neues Kompetenzzentrum für algorithmische Systeme auf Bundesebene zu schaffen. Aber auch die Ko- und Selbstregulierung wird empfohlen, wie DIN Normen und  Gütesiegel, sowie Kennzeichnungspflichten und ein bindender Codex für die Betreiber von algorithmischen Systemen. Sowohl bei der Ausarbeitung des bindenden Codex als auch in den Aufsichtsbehörden solle es Beiräte geben, in denen die Zivilgesellschaft vertreten ist.

Das Gutachten der DEK ist ein beeindruckender Beitrag zur Ethik der Digitalisierung. Die DEK unterstützt mit ihrem Gutachten den “europäischen Weg”, d.h. die europäische Strategie, Technologieentwicklung und Technologieeinsatz mit europäischen Werten und Grundrechten in Verbindung zu bringen. Was im Bericht meines Erachtens noch etwas zu kurz kommt, ist die kollektive Dimension: Datenrechte werden aus individueller Perspektive betrachtet. Es wird nicht klar, inwieweit die Gesellschaft an der Entwicklung digitaler Infrastrukturen und Tools mitwirken kann, welche Möglichkeiten also bspw. lokale Communities haben, ein smartes Quartier und eine smarte Stadt mitzugestalten. Über die Grenzen der Partizipation in eben diesen Smart Cities wurde hier im Blog schon an anderer Stelle geschrieben.

 

Die Macht der Internetkonzerne und die Rolle der Zivilgesellschaft

Bürgergesellschaft, Digitalisierung, Dritter Sektor, Macht, Netzpolitik, NPO, Plattform, Social Media, Sozialeinrichtung, Staat, Strategie, Unternehmen, Wohlfahrtsverbände, , , , ,

Das Internet hat sich in den vergangenen Jahren stark zentralisiert. Nutzer/innen, Organisationen und nicht-organisierte Massen und Schwärme sind hauptsächlich auf den Plattformen der folgenden vier Unternehmen aktiv: Google, Facebook, Amazon und Apple.

Mit ihren Diensten geben diese vier kommerziellen Anbieter die Handlungsmöglichkeiten der Nutzer in weiten Teilen des Internet vor. Sie regulieren mit ihrer Infrastruktur das soziale Handeln im Netz. Sie sind “Gatekeeper”, “Kuratoren”, Kontrolleure und Überwacher. Die ursprüngliche Hoffnung, dass das Internet dezentralisierte  Angebote befördert, wird durch Netzwerkeffekte konterkariert: Nutzer/innen bevorzugen jene Angebote, die die Masse nutzt, und nicht kleine Plattformen mit wenig traffic, selbst wenn letztere bottom up entwickelt, demokratisch und gemeinnützig sein sollten.

In dem neuen Buch “Kollektivität und Macht im Internet“ von Dolata/Schrape (2018) kommt Ulrich Dolata deshalb zu folgendem Schluss:  “Nicht Dezentralisierung, Demokratisierung und Kooperation, sondern Konzentration, Kontrolle und Macht sind (…) die Schlüsselprozesse und -kategorien, mit denen sich die wesentlichen Entwicklungstendenzen des (kommerziellen) Internets angemessen erfahren lassen” (Dolata 2018, 101).  Durch die schiere Reichweite ihrer Plattformen und Angebote gewinnen Google, Facebook, Amazon und Apple im Internet Macht über a) Infrastrukturen und Regeln, b) Daten und c) ökonomische Macht durch Werbeinnahmen, Handel, den Geräteverkauf und Dienste, da sie in ihren Segmenten Monopolisten sind (Google im Bereich der Suchmaschinen, Facebook im Bereich sozialer Netzwerke, Amazon im Internethandel und Apple bei den multimedialen Geräten) (Dolata 2018, 123ff).

Die Abwanderung von Nutzern wollen die vier Monopolisten in jedem Fall vermeiden. Durch die Weiterentwicklung ihrer Angebote zu “soziotechnischen Ökosystemen” (Dolata) mit einer Vielzahl aufeinander abgestimmten Diensten und der Entwicklung “proprietärer technischer Systemwelten” (Dolata), die untereinander inkompatibel sind, soll der Wechsel zu einem anderen Anbieter für Nutzer erschwert werden. Die Stellung der Monopolisten wird noch gefördert durch

  • ihre hohen Investitionen in die bestehenden Plattformen und Dienste
  • ihre massiven Ausgaben für Forschung und Entwicklung
  • den Aufkauf von innovativen startups, um neue zukunftsweisende Angebote machen zu können

(Dolata 2018, 101ff).

Aber da die Netzwerkeffekte bzw. die Reaktionen der nicht-organisierten Massen und Schwärme nicht vorhersehbar sind, ist auch keiner der Monopolisten unangreifbar. Trotz aller Maßnahmen, die die Konzerne ergreifen, um eine Nutzerabwanderung zu verhindern: “Der Schwarm kann auch weiterziehen” (Dolata 2018, 111). Und darin liegt die Macht der Nutzer: in dieser kollektiven Dimension, nicht – so Dolata – in der Macht der Einzelpersonen. Erst als Masse haben Nutzer Macht und diese Masse baut sich dem Autor zufolge “unkoordiniert auf” (Dolata 2018, 12). Neben der Macht der Schwärme spielen auch die Staaten und ihre Verbünde eine wichtige Rolle als regulierende Instanz, um die Macht der großen Internetkonzerne einzuschränken.

Die Frage ist, weshalb der Autor die Macht organisierter Bewegungen nicht als Bedrohung für die Monopole sieht. Vielleicht deshalb nicht, weil auch organisierte soziale Bewegungen (und viele Nonprofits …) zwischenzeitlich ganz auf die kommerziellen Plattformen mit ihrer großen Reichweite setzen (Dolata 2018, 52). Schade, dass von Seiten der großen gemeinnützigen Organisationen – und ich denke hier speziell an die mächtigen Wohlfahrtsverbände – nie eine breite gesellschaftliche Debatte über alternative Wege und Tools im Internet angezettelt wurde oder man eine Bewegung initiierte, die auf die Regulierung und Kontrolle der Internetkonzerne zielt. Die großen Konzerne ihrerseits umgarnen die engagierte Zivilgesellschaft mit Förderprogrammen und Wettbewerben wie dem Smart Hero Award, den Facebook und die Stiftung digitale Chancen gemeinsam ausloben, die Google.org Impact Challenge, die von der Google Foundation und betterplace gemeinsam durchgeführt wird oder mit dem Förderprogramm “digital.engagiert”, einer gemeinsamen Initiative von Amazon und dem Stifterverband. Die drei Internetkonzerne drängen mit ihrer Infrastruktur gezielt in zivilgesellschaftliche Domänen, die zum Teil noch abgehängt sind von der Digitalisierung.

Eine solche Eroberung zivilgesellschaftlicher Räume durch die großen Plattformen sollte neben den Vorteilen, die mit der digitalen Infrastruktur einhergehen, auch deren Schattenseiten nicht verschweigen, um Bürgern und Nonprofits eine mündige Entscheidung darüber zu ermöglichen, welche Tools sie nutzen wollen und welche nicht. Ganz dringend müsste eine breite zivilgesellschaftliche Debatte darüber geführt werden, wie ein bürgerfreundliches Internet aussehen könnte, welche Anforderungen Bürger und zivilgesellschaftliche Organisationen an die großen Plattformen stellen und welche Forderungen an die Politik herangetragen werden müssten, um der Macht der Internetkonzerne Einhalt zu gebieten. Den großen Wohlfahrtsverbänden käme hier eine wichtige Rolle zu: gerade sie haben den Kontakt zu digital abgehängten Gruppen, gerade sie erreichen über ihre Nutzer und all die ehrenamtlich Engagierten große Teile der hiesigen Bevölkerung und zwar sowohl in der Stadt als auch auf dem Land, – denn Sozialeinrichtungen gibt es nahezu überall.

In Stuttgart hat sich im Sommer 2017 ein Netzwerk aus ganz verschiedenen Organisationen gebildet, um diesen kritischen Diskurs in Bezug auf die Digitalisierung der Lebenswelt zu führen (siehe die folgende Pressemitteilung). Das Netzwerk “Sozialer Zusammenhalt in digitaler Lebenswelt” will die Bürgerrechte und die Bürger-Teilhabe in der digitalen Gesellschaft stärken. Ein solches Netzwerk kann zur Gründung weiterer Netzwerke in anderen Bundesländern, Regionen und Kommunen anregen.

Vom Internet zum “Alternet” – Entwicklungen jenseits der großen Plattformen

Demokratisierung, Genossenschaft, Netzpolitik, Netzwerke, Nonprofit-Organisation, NPO-Blogparade, Partizipation, Plattform, Social Media, , , , , , ,

Wie kann man als Bürger/in, als zivilgesellschaftliche Gruppe, als gemeinnützige Organisation und Wohlfahrtsverband den Algorithmen proprietärer Plattformen entkommen? Diese Frage stellt Caritas digital im Rahmen der 30. Nonprofit-Blogparade zum Thema “Nonprofits im Social Web: Wen erreichen wir noch und zu welchem Preis?”.

Algorithmen bestimmen in einem komplexen Zusammenspiel mit ihrem technischen und sozialen Umfeld unsere Suchergebnisse bei Google, unseren Facebook Newsfeed und die Vorschläge, wem wir auf Twitter folgen sollten. Michelle Willson zeigt in ihrem Aufsatz “Algorithms (and the) everyday” (2017, in: Information, Communication & Society) auf, wie Nutzer immer mehr Praktiken des Alltags an intransparente Algorithmen delegieren, die folglich immer mehr Einfluss auf unser Leben, unsere Wahrnehmung und unser soziales und politisches Umfeld erhalten. Auch Nonprofits sind in dieser Filterblase, die Algorithmen produzieren, gefangen und haben Schwierigkeiten, auf den kommerziellen Plattformen mit ihren Inhalten durchzudringen. Speziell  vor Facebook “ist jeder gleich”, wie Martin Herceg in seinem Blogbeitrag schreibt, und wenn Gemeinnützige mit ihren Inhalten über ihre Filterblase hinaus wollen, müssen sie dafür bezahlen.

Social Media-Manager von Nonprofit-Organisationen stehen Herceg zufolge täglich vor einem Dilemma: einerseits ist man dem Gemeinwohl bzw. christlichen Grundsätzen verpflichtet, andererseits unterstützt man Plattformen  inhaltlich und finanziell, die keine Steuern zahlen, Filterblasen produzieren, Nutzer entmachten, Daten abgreifen, das Netz zentralisieren und monopolisieren und einen digitalen Kapitalismus vorantreiben. Gibt es Alternativen zu dieser Dominanz kommerzieller Plattformen bzw. der “platform society” (van Dijck)?

Die Forscherin van Dijck rät, realistisch zu bleiben: “You can’t stop the growth of platforms” (in : encore 2016, S. 95). Aber sie sieht die Notwendigkeit, dass Bürger auf die demokratische Steuerung von Plattformen drängen. Und hier kommt die Rolle von Nonprofits und der großen Wohlfahrtsverbände ins Spiel. Auch letztere haben sich wie viele andere in den vergangenen Jahren hauptsächlich nur als Nutzer der großen Plattformen und nicht als aktiver Mitgestalter von Netzstrukturen gesehen. Netzpolitische Aktivitäten und online-Projekte abseits des Mainstreams waren nicht wirklich sichtbar. Ein großer Fehler, – meines Erachtens sogar ein Politikversagen der großen Wohlfahrtsverbände, die sich eben immer mehr auf ihre Rolle als soziale Dienstleister und als Marketeers in eigener Sache zurückziehen.  Hier sollte ein Umdenken in den Verbänden einsetzen, um ihrer demokratischen Verantwortung in einer digitalen Gesellschaft gerecht zu werden.

Dazu gehört auch, dass man alternative digitale Projekte abseits des Mainstreams stärker unterstützt, man Kooperationen sucht und lokale Gruppen gründet, die die Möglichkeiten alternativer Vernetzung, Tools und Plattform-Modelle im Sinne eines “Alternets”  ausloten. Dies könnte gerade auf der lokalen Ebene ein interessantes Format sein, weil es die Beteiligung am und das gemeinsame Lernen im digitalen Raum fördert, – Bereiche, in denen Nonprofits noch Nachholbedarf haben, wie Hannes Jähnert und Hendrik Epe in ihren Beiträgen zur NPO-Blogparade herausarbeiten.

An welche Entwicklungen und Bewegungen könnten die Verbände hier andocken?

An genossenschaftlich verfasste Plattformen, bei denen die Webseite / die App den Mitarbeitern und Nutzern gehört und für die eine demokratische Steuerung (one man – one vote) das Ideal ist. Was unter einer “platform co-op” verstanden wird, ist in einem Artikel auf Shareable gut erklärt, hier finden Interessierte auch weitere Literatur-Links und Beispiele wie fairmondo (ein genossenschaftlich betriebener Online-Marktplatz), resonate (genossenschaftlicher Musik-Streamingdienst) und  Stocksy (eine Foto-Plattform, die in der Hand der Künstler ist). Es gibt eine Bewegung, die in genossenschaftlich verfassten Plattformen, die sich untereinander vernetzen, die Zukunft des Internets sieht (“platform cooperativism”) und auf diese Weise auch dem traditionellen genossenschaftlichen Gedanken den Weg ins digitale Zeitalter weisen will (“Geno 2.0”). Meines Erachtens liegt in diesem Genossenschaftsgedanken, der auf digitale Dienste bezogen ist, ein riesiges Potenzial für Nonprofits, die sich überlegen sollten, welche lokalen Angebote man in diese innovative Form bringen könnte.

Auf lokaler Ebene, wo sich die Kommunikation häufig im Rahmen von Nachbarschaften, kleinen Gruppen und unterschiedlichen öffentlichen Räumen bewegt, können kleine selbstgemachte und kabellose “DIY-Netzwerke” abseits des Internets bzw. “off-the-cloud” eine Chance bieten, jenseits der kommerziellen Plattformen zu interagieren, auf der Basis von Tools, die in einem gemeinsamen Lernprozess zusammen erstellt wurden. Durch die Verbindung dieser “off-the-cloud” Netzwerke untereinander entstehen alternative Netze. Panayotis Antoniadis von nethood.org zeigt die Potenziale von DIY-Netzwerken in einem  Aufsatz , in:  First Monday vom 05.12.2016, auf – das ganze Heft kreist um das Thema “Re-Dezentralisierung des Internets”. Auch “vermaschte Netzwerke” mit vielen untereinander vernetzten Knoten, wie sie freifunk.net lokal aufbaut, sind hier ein Thema, wobei es sowohl bei DIY-Netzwerken als Einzelprojekte als auch bei mesh networks offene Sicherheitsfragen gibt, auf die Haralanova/Light (2016) in einem Aufsatz für das Journal of Peer Production hinweisen.

Weil technisch versierte Communities durch ihr Expertenwissen nach außen hin eher geschlossen wirken, braucht es dringend Mittler, die zwischen diesen Communities und nicht-technischen Nonprofits Verbindungen schaffen können, damit beide Seiten miteinander ins Gespräch kommen und sich örtlich Kooperationen ergeben können.

Man muss realistisch bleiben, was die kommerziellen Plattformen angeht, – das fordert die oben zitierte Wissenschaftlerin van Dijck. Und sich dennoch für demokratischere Plattform-Modelle politisch und praktisch stark machen. Hier könnten die Wohlfahrtsverbände noch eine größere Rolle spielen. Immerhin machen schon zwei hiesige Gewerkschaften (ver.di, IG-Metall) beim internationalen Konsortium mit, das Plattform-Genossenschaften vorantreiben möchte (Platform Cooperativism Consortium).