Der Ethics Canvas ermöglicht ein partizipatives und diskursives Brainstorming der ethischen Folgen von Technologien, die im Rahmen von Forschung und Innovation entstehen. Das nicht-kommerzielle Tool eignet sich speziell für Lehrende, Forschende, Unternehmen und politische Entscheidungsträger, – die Zivilgesellschaft wird hier nicht explizit aufgelistet. Man kann den Ethics Canvas ausdrucken und gemeinschaftlich ausfüllen oder online bearbeiten, speichern und teilen. Dafür haben die Entwickler des Canvas eine Webseite samt Handbuch erstellt.

Die zentralen Fragen , die der Ethics Canvas stellt, lauten:

• Welche Personen und Gruppen sind von der Technologie bzw. dem Produkt oder Service betroffen?
• Von welchen möglichen ethischen Folgen sind diese Personen und Gruppen betroffen?
• Wie kann man diese ethischen Probleme lösen?

Berücksichtigt wird auch der problematische Ressourcenbedarf eines Produkts oder Dienstes (Energie, Daten usw.), als auch mögliche Produktfehler und -schwächen.

CC BY-SA 3.0 ADAPT Centre/Trinity College Dublin/DCU 2017

Die Autoren des Ethics Canvas gehen davon aus, dass man ihn in rund 1,5 Stunden gemeinschaftlich ausfüllen kann. Der inhaltliche Aufbau des Canvas beruht auf wissenschaftlichen Ansätzen aus der Technikforschung und Philosophie. Wichtig ist den Autoren, dass Technik nicht deterministisch gedacht wird, sondern Menschen mit der Technik interagieren und sich diese aneignen. Deshalb wird im Ethics Canvas so viel Wert auf Verhalten und Beziehungen gelegt.

Im Unterschied zu MEESTAR ist der Ethics Canvas ein allgemeineres Brainstorming- und Analyse-Tool, das sich nicht mit der konkreten Risikoabschätzung von Technologien befasst. Wie MEESTAR beruht der Ethics Canvas auf dem gemeinsamen Austausch der Stakeholder. Unterschiedliche Perspektiven und Interessen werden sichtbar. Aber auch hier gibt es  – wie bei MEESTAR – keine Lösung für Wert- und Interessenkonflikte, – außer Kompromisse, die in der Diskussion gefunden werden müssen und bei denen sich Machtverhältnisse negativ auswirken können.

Was ich beim Ethics Canvas vermisse, ist die Raumkategorie bzw. die Frage, wie sich eine Technologie auf die Raumbildung  und -gestaltung auswirkt, – ein ganz wichtiges Thema im Hinblick auf Sozialräume bzw. die Smart City-Diskussion.

Was MEESTAR und Ethics Canvas beide nicht bieten, sind Alternativen zu den behandelten Technologien. Man hat nur die Möglichkeit, sich mit einem bestimmten technischen Produkt zu befassen und keine Chance,  über die Sinnhaftigkeit des gesamten Projekts und dessen Annahmen und Ziele zu sprechen. Dieses Denken in Alternativen wird dagegen von Szenario-Methoden gefördert. Hier können Teilnehmer*innen die Frage diskutieren, welche Zukunft und welche Technologien sie sich aus normativer Perspektive wünschen. Mehr zu Szenario-Methoden im nächsten Blog-Artikel.

Unter den Verfassern des oben verlinkten Aufsatzes ist auch Karsten Weber, der 2019 auf der Jahrestagung der Gesellschaft für Informatik praxisorientierte “Methoden der  ethischen Evaluation von IT” vorstellte. In seinem Papier im Tagungsband der INFORMATIK 2019, S. 431-444, stellt er u.a. die MEESTAR-Methode als ein “Modell zur ethischen Evaluation sozio-technischer Arrangements” vor. Die Methode, an deren Entwicklung er mitwirkte, ermöglicht ein partizipatives und diskursethisches Evaluations-Verfahren. Stakeholder, die eine Technik entwickeln, einsetzen und nutzen treten mit ihren ganz unterschiedlichen Interessen und Perspektiven in einen inhaltlichen Austausch untereinander.  Die Vielfalt der Perspektiven ist gewollt. Sie ist eine Bereicherung, weil sie alle möglichen Probleme und Aspekte  eines Technikeinsatzes auf die Agenda bringt.

Ziel des Verfahrens ist eine Kompromissfindung unter den Stakeholdern. Die Ergebnisse aus dem Verfahren sollen dann in die Forschung und Entwicklung zurückfliessen, – im Idealfall nicht erst am Ende, sondern schon während der Technikentwicklung. MEESTAR kann und soll mehrmals während eines Technikprojektes eingesetzt werden (“iterativ”), und kann übrigens auch in technikfernen Situationen, in denen moralische Konflikte vorliegen, sehr gute Dienste leisten.

MEESTAR wurde als Instrument der angewandten Ethik für konkrete Technikeinsätze in der Praxis entwickelt, nicht zur allgemeinen Reflexion moralischer Aspekte von Technologien. Entstanden ist die Evaluations-Methode im Rahmen eines Technikprojektes in der Pflege. Sie wird zwischenzeitlich öfters bei öffentlichen Forschungs- und Entwicklungsvorhaben eingesetzt.

MEESTAR funktioniert wie folgt:

Für die Bewertung der Technik braucht man moralische Dimensionen wie: Selbstbestimmung, Sicherheit, Gerechtigkeit, Privatheit usw.  Diese Dimensionen sind nicht fest vorgegeben. Man erhält sie durch

1. eine Literaturrecherche in Bezug auf die konkrete Technologie und ihre möglichen Folgen
2. Action Sheets: hier setzen sich die Beteiligten mit den Anwendungsszenarien der einzusetzenden Technik im Detail auseinander. Welche Gefahren und Probleme könnten auftreten? Alternativ kann auch ein Ethics Canvas genutzt werden. Dazu mehr im nächsten Blogartikel.

Betrachtet werden die moralischen Dimensionen aus drei Perspektiven: der individuellen, organisationalen und gesellschaftlichen. Je nach Perspektive werden manche moralische Dimensionen  ganz unterschiedlich bewertet. Weber führt das Beispiel der “Privatheit” an: während Nutzer darunter z.B. eine Wohnung ohne Beobachtungstechnologie verstehen, können kommerzielle Dienstleister Privatheit mit Sensoren in Smart Homes in Einklang bringen, sofern deren Einsatz den Vorgaben der DSGVO entspricht. Hier muss man einen Kompromiss unter den Beteiligten finden.

Zur ethischen Risikoabschätzung dienen dann die folgenden vier Stufen (siehe Weber 2019, S. 434):

• Stufe 1: Anwendung ist aus ethischer Sicht völlig unbedenklich
• Stufe 2: Anwendung weist ethische Sensibilität auf
• Stufe 3: Anwendung ist ethisch äußerst sensibel
• Stufe 4: Anwendung ist aus ethischer Sicht abzulehnen

Wobei es auch hier um Kompromissfindung geht, denn bei einer Anwendung können Werte wie Selbstbestimmung und Privatheit berücksichtigt, aber Gerechtigkeit und Teilhabe verletzt sein. Man muss – um Stufe 1 zu erreichen – dann bei den beiden letzten Punkten nachbessern. Wenn das nicht möglich ist, dann wird auch eine Anwendung nicht klar in eine Stufe eingeordnet werden können, sondern in sich Wertekonflikte bzw. – kompromisse tragen, – so zumindest mein Eindruck.

Laut Weber ist ein partizipatives ethisches Evaluationsverfahren von Technik wichtig, nicht nur aus Gründen der Ethik selbst, sondern um eine hohe Gebrauchstauglichkeit bzw. usability von Technologien zu erzielen. Ihm zufolge ist aber die Bereitschaft, möglichst viele und vielfältige Stakeholder in ethische Bewertungsprozesse einzubeziehen in der Praxis “oftmals nicht gegeben” (Weber 2019, 442).

Sozialorganisationen, die zunehmend in ihrem Alltag mit Technik konfrontiert sind und diese im Umgang mit ihren Klienten anwenden, sollten unbedingt ein ethisches Assessment von Technologien vornehmen, um die richtige Auswahl an Tools treffen zu können. Gerade wo Anwendungen in Auftrag gegeben oder eingekauft werden, hat man die Wahl oder muss sich eine Wahlsituation schaffen. Ethische Aspekte sollten in Ausschreibungen ihren Platz finden. Einrichtungen und ihre Verbände brauchen ethische Leitlinien für den Umgang mit Technik, Daten und Algorithmen.

Wer noch weitere Informationen zu MEESTAR sucht, wird bei der Fachstelle für Ethik und Anthropologie im Gesundheitswesen fündig.

Im letzten Beitrag wurden ethische Grundprinzipien aufgelistet, die im Umgang mit Daten und Algorithmen von Bedeutung sind: die Würde des Menschen, Selbstbestimmung, Privatheit, Sicherheit, Demokratie, Gerechtigkeit und Solidarität, Nachhaltigkeit. Aber wie kann man in der Praxis das ethische Assessment von Technologien durchführen? Wie können Nonprofits ihre IKT-Auswahl, -Nutzung, – Evaluation in ethischer Hinsicht reflektieren oder sich im Hinblick auf Zukunftstechnologien positionieren, am besten gemeinsam mit ihren Stakeholdern?

Wessel Reijers hat dazu gemeinsam mit sechs Kolleg*innen 2018 einen Beitrag in Science and Engineering Ethics  veröffentlicht, der auf der Auswertung von 136 wissenschaftlichen Aufsätzen basiert. Diese stammen aus einem breiten Spektrum, von Medizin über IKT, Nanotechnologie, Agrarwissenschaft, bis hin zu Texten, die sich ganz allgemein mit  Technologien und ihren Folgen befassen. Die Autoren haben in diesen 136 Aufsätzen 35 Methoden gefunden, mit deren Hilfe man ein ethisches Assessment von Technologien durchführen kann. Die Methoden ordnen sie drei Kategorien zu (S. 1448):

• Ex ante (8 Methoden): diese Methoden befassen sich mit Technologien und Anwendungen, die gerade neu aufkommen bzw. sich am Horizont abzeichnen
• Intra (14 Methoden): diese Methoden konzentrieren sich auf Technologien und Anwendungen, die im Moment konkret entwickelt werden
• Ex post (13): diese Methoden befassen sich mit Technologien und Anwendungen, die schon vorliegen und in Organisationen bzw. im Alltag genutzt werden

Bei den Ex ante-Methoden sind Szenario- und Foresight-Ansätze stark vertreten. Sie visualisieren Zukünfte oder verdeutlichen diese durch Geschichten. Diese Methoden richten sich in erster Linie an Experten wie Ethiker. Die Einbeziehung unterschiedlicher Stakeholder ist hier eher selten. Kritisiert wird an Ex ante-Methoden, dass eine Schau in die Zukunft spekulativ ist und Zukunftsanalysen durch unvorhergesehene Ereignisse konterkariert werden.

Bei den Intra-Methoden, die die Technologieentwicklung begleiten, setzt man z.B. auf “value sensitive design” und “human driven design”. Auch diese Methoden wenden sich eher an Experten (Ethiker, Forscher, Designer). Ihre Schwachstelle liegt laut Reijers u.a. darin, dass sie in den Arbeitsalltag von Forschern nur schwer zu integrieren sind und der Zusammenhang zwischen Werten und Design in theoretischer Hinsicht nicht klar ausgearbeitet ist.

Ex post-Methoden, die sich mit vorhandenen Technologien befassen, arbeiten oft mit Checklisten oder einer ethischen Matrix, um die ethischen Fragen zu identifizieren, die von den Technologien aufgeworfen werden.  Auch diese Methoden wenden sich eher an Experten, zum Teil aber auch an größere Stakeholder-Kreise. Speziell bei einer “ethischen Matrix” wird nach den ethischen Auswirkungen einer Technologie auf unterschiedliche Gruppen gefragt. Kritisiert wird von Reijers und Kolleg*innen an Ex post-Methoden, dass Konflikte zwischen Normen (z.B. Sicherheit versus Autonomie) im Rahmen dieser Methoden nicht gelöst werden können, weil sie keine Wertehierarchie zur Verfügung stellen. Und auch die Wertkonflikte zwischen Stakeholdern finden keine Auflösung.

An allen Methoden kritisiert die Forschergruppe, dass sie zu wenig partizipativ seien. Die Methoden könnten die Fragen: “Wie kann man Partizipation organisieren? Wer sind die Stakeholder?” nicht beantworten, weil sie zumeist top down konzipiert sind. Deshalb plädieren die Autor*innen dafür,  auch beim ethischen Technologie-Assessment stärker auf Co-Design und “power sharing” zu setzen (S. 1459).

Als Fazit kann man festhalten, dass es im Moment noch nicht die optimale Methode gibt, um die ethische Wirkung von Technologien zu klären, seien die Technologien “Zukunftsmusik”, in der Entwicklung oder schon in der Anwendung. Dennoch wäre es wichtig, dass sich die soziale Profession, die Wohlfahrtsverbände und ihre Einrichtungen und die ganze Zivilgesellschaft, mit ethischen Fragen bezüglich neuer Technologien auseinandersetzten (siehe dazu meinen Vorschlag der Digitalwerkstätten).

Im nächsten Beitrag stelle ich diskursethische Methoden für die Evaluation von Technologien vor, die in der hiesigen Forschungspraxis erfolgreich erprobt wurden und vielleicht eine Alternative für Nonprofits darstellen.

• als Sozialunternehmen selbst Daten generieren, verarbeiten und nutzen, u.a. von pflege- und schutzbedürftigen Menschen und Mitarbeiter*innen
• unter Umständen selbst an automatisierten Assistenzsystemen beteiligen sind, die Algorithmen einsetzen, oder als Kooperationspartner der Leistungsverwaltung mit den Auswirkungen von Algorithmen bzw. automatisierten Entscheidungen befasst sind
• als gesellschaftliche Akteure auf die humane Ausgestaltung der Digitalisierung Einfluss nehmen wollen
• als lokale Akteure mit der Digitalisierung von Sozialräumen und Infrastrukturen konfrontiert sind.

Die Datenethikkommission (DEK) legt ihrem Gutachten die folgenden Leitgedanken zugrunde:

• menschenzentrierte und werteorientierte Gestaltung von Technologie
• Förderung digitaler Kompetenzen und kritischer Reflexion in der digitalen Welt
• Stärkung des Schutzes von persönlicher Freiheit, Selbstbestimmung und Integrität
• Förderung verantwortungsvoller und gemeinwohlverträglicher Datennutzungen
• Risikoadaptierte Regulierung und wirksame Kontrolle algorithmischer Systeme
• Wahrung und Förderung von Demokratie und gesellschaftlichem Zusammenhalt
• Ausrichtung digitaler Strategien an Zielen der Nachhaltigkeit
• Stärkung der digitalen Souveränität Deutschlands und Europas

(DEK Kurzfassung, S. 5). Handlungsmaßstäbe für die Ausgestaltung digitaler Technologien sollen Werte und Rechte sein, die in unserer Verfassung und der europäischen Charta der Grundrechte festgelegt sind: die Würde des Menschen, Selbstbestimmung, Privatheit, Sicherheit, Demokratie, Gerechtigkeit und Solidarität sowie Nachhaltigkeit.

Weil viele unterschiedliche Akteure an der Datengenerierung beteiligt sind, soll es kein Eigentumsrecht an Daten, sondern Mitsprache- und Teilhaberechte geben. Um die Datenrechte des einzelnen zu klären, sind Umfang und Art seines Beitrags an der Datengenerierung zu untersuchen, sein Individualinteresse zu gewichten und mit konfligierenden Interessen abzuwägen, die Interessen der Allgemeinheit zu beachten und die Machtverteilung zwischen den Akteuren in den Blick zu nehmen (Kurzfassung, S. 9).

Die DEK empfiehlt u.a. Maßnahmen gegen eine ethisch nicht-vertretbare Datennutzung, Leitlinien für den Umgang mit den Daten pflege- und schutzbedürftiger Menschen, datenschutzfreundliche Produkte und Designs, sowie eine Förderung des Beschäftigtendatenschutzes. Personalisierte Tarife bei Versicherungen soll es nur in engen Grenzen geben.

Algorithmen können menschliche Entscheidungen unterstützen. Sie können aber auch menschliche Entscheidungen so prägen, dass die Selbstbestimmung von Menschen eingeschränkt wird. Und schließlich können sie Entscheidung ganz übernehmen, so dass Menschen im Entscheidungsprozess  keine Rolle mehr spielen (= automated decision making, ADM)

Bei algorithmischen Systemen empfiehlt die Kommission eine fünfstufige Bewertungsskala, die das Schädigungspotenzial dieser Systeme und Regulierungsmöglichkeiten auflistet: in einer niedrigen Gefährdungsstufe sollen z.B. eine Risikofolgenabschätzung des algorithmischen Systems durchgeführt und Transparenzpflichten, Kontrollen und Auditverfahren etabliert werden. In einer höheren Gefährdungsstufe empfiehlt die Kommission ex-ante-Zulassungsverfahren für Algorithmen, Live-Schnittstellen für Aufsichtsinstitutionen oder sogar vollständige und teilweise Verbote von algorithmischen Systemen (DEK-Kurzfassung, S. 19). Wichtig ist hier, dass nicht nur die Algorithmen als solche im Fokus stehen, sondern das ganze “sozio-technische System”, d.h. auch die beteiligten Menschen und die unterschiedlichen Phasen der Entwicklung, Implementierung und Evaluation algorithmischer Systeme.

Die DEK empfiehlt der Bundesregierung, die bestehenden  Aufsichtsinstitutionen zu stärken und ein neues Kompetenzzentrum für algorithmische Systeme auf Bundesebene zu schaffen. Aber auch die Ko- und Selbstregulierung wird empfohlen, wie DIN Normen und  Gütesiegel, sowie Kennzeichnungspflichten und ein bindender Codex für die Betreiber von algorithmischen Systemen. Sowohl bei der Ausarbeitung des bindenden Codex als auch in den Aufsichtsbehörden solle es Beiräte geben, in denen die Zivilgesellschaft vertreten ist.

Das Gutachten der DEK ist ein beeindruckender Beitrag zur Ethik der Digitalisierung. Die DEK unterstützt mit ihrem Gutachten den “europäischen Weg”, d.h. die europäische Strategie, Technologieentwicklung und Technologieeinsatz mit europäischen Werten und Grundrechten in Verbindung zu bringen. Was im Bericht meines Erachtens noch etwas zu kurz kommt, ist die kollektive Dimension: Datenrechte werden aus individueller Perspektive betrachtet. Es wird nicht klar, inwieweit die Gesellschaft an der Entwicklung digitaler Infrastrukturen und Tools mitwirken kann, welche Möglichkeiten also bspw. lokale Communities haben, ein smartes Quartier und eine smarte Stadt mitzugestalten. Über die Grenzen der Partizipation in eben diesen Smart Cities wurde hier im Blog schon an anderer Stelle geschrieben.

Bei den AAL (Altersgerechten Assistenzsystemen) und Smart Services kommunizieren Geräte nicht nur untereinander, sondern auch mit den Bewohner*innen selbst und mit deren sozialem Umfeld (Angehörige, Pflegedienste). Sensoren an Gegenständen, an der Kleidung sowie Videokameras und Mikrophone ermöglichen eine Überwachung in Echtzeit und generieren fortlaufend Daten über die Bewegungsabläufe und den Gesundheitszustand der Bewohner*innen. Die intelligenten Geräte erinnern an die Einnahme von Medikamenten und an Verabredungen („nudging“). Sie ermöglichen den Kontakt zwischen dem Bewohner, seinem sozialen Umfeld und seinen pflegerischen und medizinischen Dienstleistern.

Smart Home-Technologien werfen ethische Fragen auf: einerseits unterstützen sie das selbstständige Wohnen, andererseits bedrohen sie die Privatsphäre des einzelnen angesichts des allgegenwärtigen Sensoring und Monitorings. Brolcháin/Gordijn setzen sich in ihrem Aufsatz „Privacy challenges in smart homes for people with dementia and people with intellectual disabilities“ (2019) mit den ethischen Herausforderungen von Smart Homes mit Blick auf die Privatheit auseinander. Die Fragen, die sie aufwerfen, berühren nicht nur die Zielgruppe „Menschen mit Demenz/mit Lernbehinderung“, sondern sind für alle Stakeholder des Smart Home-Themas relevant, d.h. für Bürger*innen, Technologieentwickler*innen, Smart Home-Anbieter, Stadtplaner*innen, soziale Dienste usw.

Brolcháin/Gordijn beleuchten fünf Dimensionen von Privatheit:

• Informational privacy: in Smart Homes werden Daten gesammelt und gespeichert.
  Wer hat Zugriff auf die Daten, wie sicher sind sie gespeichert? Wie steht es um die Informationskontrolle seitens der Bewohner*innen? Auch bei einer Anonymisierung der Daten besteht die Gefahr einer Re-Identifizierung. Werden die vorhandenen Daten für das „Nudging“ eingesetzt, also das Verhalten des Bewohners manipuliert?
• Physical privacy: inwieweit werden die häusliche und körperliche Intimität durch Sensoren, Kameras und Audioaufzeichnungen gefährdet?
• Associational privacy: wer erhält über Kameras Einblick in den Haushalt eines Bewohners und ist über Monitore präsent in dessen vier Wänden?
• Proprietary privacy: nicht nur die körperliche Privatsphäre, auch die seelische und geistige wird durch Gesichts- und Emotionserkennungs-Software bedroht
• Decisional privacy: einerseits soll das Smart Home Bewohner*innen bei den Aufgaben des Alltags unterstützen. Andererseits gehen bei automatisierter Unterstützung Kompetenzen verloren und können aufgrund des Nudgings und des Monitorings Entscheidungen nicht mehr autonom gefällt werden.

Um die Privatheit in Smart Homes zu wahren, schlagen Brolcháin/Gordijn folgendes vor:

Eine informierte Einwilligung („informed consent“) der Bewohner*innen von Smart Homes in die Datenerhebung, – verarbeitung und -speicherung muss eingeholt werden, – ist aber nicht ausreichend,

• denn nicht nur der Bewohner, sondern auch seine Gäste werden vom Sensoring und Monitoring berührt
• eine Einwilligungserklärung kann nicht die Bandbreite der Privatheitswünsche für ganz unterschiedliche Situationen abdecken.

Brolcháin/Gordijn plädieren deshalb für folgendes (S. 261):

1. Für eine kontextabhängige Bestimmung der Privatsphäre, die der Bewohner je nach Situation vornehmen soll
2. Für eine kontextabhängige Bestimmung, wer Zugriff auf welche Daten hat oder ob die Datenerhebung und -verarbeitung im Einzelfall blockiert werden soll

In der Praxis bedeutet dies: der Bewohner eines Smart Homes wird mehrmals täglich in wechselnden Situationen um seine Einwilligung in die privacy-Settings gebeten, die er/sie dann je nach Situation unterschiedlich bestimmen kann. Die Einwilligungsformulare sollen digital vorliegen, d.h. auf tablets oder auf Bildschirmen in der Wohnung eingespielt werden. Auch Besucher*innen werden um ihre Einwilligung in die Datenerhebung und -verarbeitung gebeten. Bewohner*innen und Gäste sollen mehrmals täglich daran erinnert werden, dass eine Überwachung durch Sensoren und Kameras stattfindet. Brolcháin/Gordijn räumen ein, dass solch eine situativ zu erteilende Einwilligung für die Bewohner*innen zur echten Bürde werden kann, – sehen aber im Einzelfall keine andere Lösung.

Kritiker der informierten Einwilligung würden Brolcháin/Gordijn aus folgenden Gründen widersprechen:

Bei einer permanenten Abfrage von Privatheitswüschen wird die informierte Einwilligung schnell zu einem Ritual, bei dem man Fragen einfach „wegklickt“, um seine Ruhe zu haben, in diesem Fall erfolgt die Einwilligung faktisch uninformiert (Hofmann/Bergemann 2017). Der einzelne ist auch deshalb mit einer solchen Individualisierung der Datenschutzverantwortung überfordert, weil unser Urteil situativ ist (und laut Brolcháin/Gordijn explizit auch situativ sein soll). Wir überblicken aber in der Regel nicht den Wert unserer Daten, der sich durch deren Zusammenführungen ergibt (Big Data) und in Zukunft ergeben kann. Durch das Machtungleichgewicht zwischen dem einzelnen und den digitalen Anbietern können letztere ihre Datenforderungen „nahezu unbegrenzt“ (Hofmann/Bergemann) anheben, – der einzelne wird zustimmen, wenn er die digitale Leistung oder das Smarte Home nicht verlieren will. Viele individuelle uninformierte Einwilligungen können aber im Endergebnis zu negativen Folgen für das Gemeinwohl führen. Deshalb plädieren Hofmann/Bergemann (2017) dafür, das „Datenschutzphantom“ der informierten Einwilligung von seinem Sockel als zentrales Datenschutzinstrument zu stoßen und andere Regulierungsformen in den Blick zu nehmen.

Dass dabei gesetzliche Regelungen eine ganz zentrale Rolle spielen sollten, wird auch von Brolcháin/Gordijn vertreten. Denn sie räumen ein, dass ihr Vorschlag einer situativ zu erteilenden Einwilligung die Zunahme der Datenerhebung und Verletzung der Privatsphäre letztlich gar nicht verhindern kann, weil Unternehmen dazu neigen, nach und nach ständig mehr Daten einzusammeln und sich dafür sukzessive die Zustimmung einzuholen. Kritiker sehen in der informierten Einwilligung denn auch eine ideale Grundlage für den zeitgenössischen Datenkapitalismus. Brolcháin/Gordijn fordern, dass Regierungen der Wirtschaft verbindlich vorgeben, welche Art von Daten überhaupt erhoben werden dürfen und wie viele Einwilligungen mit welchem Umfang Bürger*innen vorgelegt werden können, – unter besonderer Berücksichtigung derjenigen, die beeinträchtigt und hilfsbedürftig sind.

Drei Beispiele für ethische Herausforderungen durch die Digitalisierung:
Würde: Inwieweit verliert der einzelne seinen Status als ganzheitliche “Person”, wenn er/sie durch algorithmisches Profiling und automatisierte Entscheidungen als “Datenaggregat” oder bloßer “Datenpunkt” behandelt wird?
Autonomie: Wie sehr wird man durch persuasive Technologien manipuliert, die das menschliche Verhalten steuern?
Gleichheit: Inwieweit diskriminieren automatisierte Entscheidungen den einzelnen?

Auch in der internationalen Sozialarbeit sind automatisierte Informations- und Entscheidungssysteme auf dem Vormarsch.  Die gemeinnützige Organisation Algorithm Watch hat im Januar 2019 einen Bericht über den Stand des “automated decision-making” (ADM) in zwölf europäischen Ländern veröffentlicht und im April 2019 einen Atlas über das ADM in Deutschland.  In immer mehr Feldern kommen ADM-Systeme zum Einsatz, – auch im Wohlfahrtsbereich, wo Quartiere nach Risiko-Indikatoren “bepunktet” werden wie in Dänemark oder Daten aggregiert werden, um Risikofaktoren in der Kinder- und Jugendarbeit herauszufinden (Finnland).

An der Entwicklung und Einführung elektronischer Informationssysteme zur Falldokumentation ist die hiesige Sozialarbeit nur mangelhaft beteiligt. Zu wenig fordert sie ihre Teilhabe in diesem Feld ein und zu wenig wird die Digitalisierung auf Professions- und Einrichtungsebene systematisch reflektiert. Die Auseinandersetzung mit IuK-Technologien ist nicht im “Kerncurriculum Soziale Arbeit” der Deutschen Gesellschaft für Sozialarbeit verankert, ebenso fehlen der sozialen Profession Standards, wie im Alltag mit den neuen Technologien umzugehen ist, – in einem anderen Blogartikel habe ich mich mit diesem Thema befasst bzw. mit den amerikanischen “Standards for Technology in Social Work Practice”.

Beide Säulen (IuK in Kerncurriculum, Technologiestandards in der sozialarbeiterischen Praxis) bräuchte die Profession dringend. Und ebenso notwendig sind ethische Leitlinien auf Professions- aber auch auf Einrichtungsebene, um eine Richtschnur mit Werten und richtigem Handeln für den Umgang mit den neuen technologischen Herausforderungen zu haben.

Solche Leitlinien müssten vor Ort partizipativ erarbeitet werden: da Sozialleistungen durch Koproduktion entstehen, müssen auch ethische Leitlinien im Rahmen eines Co-Design-Prozesses formuliert werden, d.h. gemeinsam mit Klienten, Angehörigen, Unterstützern, Ehrenamtlichen usw. So würde das Thema “digitale Ethik” auch stärker in die lokale Zivilgesellschaft getragen werden, wo es momentan noch nicht verankert ist, mit äußerst negativen Folgen im Hinblick auf die Machtbalance zwischen Staat und Firmen als wichtige (big data)-Player auf der einen und der Zivilgesellschaft auf der anderen Seite . Neue Bündnisse könnten entstehen und die Sozialarbeit würde ihrem Selbstanspruch als “Menschenrechtsprofession” gerecht.

Momentan ist da, wo eine kritische professionelle Diskussion über die Chancen, Gefahren und ethischen Herausforderungen der Digitalisierung sein sollte, aber noch eine große Leerstelle, bei der nicht klar ist, ob und wann die Profession sie füllen wird. Auch in den Einrichtungen selbst ist es mit dieser Diskussion nicht weit her.  “Digitalwerkstätten” auf lokaler Ebene mit allen Stakeholdern einer Einrichtung könnten hier Abhilfe schaffen.

Wie wird sich die erweiterte Realität im physikalischen Raum auswirken? Wer darf öffentliche und private Räume mit digitalen Informationen anreichern? Welche Folgen wird AR für Räume im Quartier, die dortigen gemeinnützigen Einrichtungen und die Quartiersvernetzung haben?

Über die Ethik von AR macht sich E. Neely (2018) Gedanken. Sie versucht zu klären, wer reale Räume mit digitalen Informationen anreichern darf. Ihr zufolge hängt eine Antwort entscheidend davon ab, ob sich für die erweiterte Realität eine bzw. wenige Plattformen und Apps durchsetzen oder viele konkurrierende. Ist ersteres der Fall, dann sollte bei privaten Räumen der jeweilige Besitzer vorrangig das Recht haben, seinen Raum mit digitalen Informationen anzureichern. Wo für Augmented Reality viele konkurrierende Apps und Plattformen genutzt werden, werden auch private Räume mit vielen unterschiedlichen Erweiterungen ergänzt werden können, ohne dass dies der Besitzer eines Raumes verhindern kann. Im öffentlichen Bereich kann durch AR ein neuer Diskurs begründet werden: Bürger/innen kommen miteinander im realen Raum ins Gespräch, wobei man hier beachten muss, dass die öffentliche Rede via AR länger sichtbar bleibt als das gesprochene Wort. Auch müssen unter Umständen für bestimmte öffentliche Räume Regeln definiert werden, um AR auf dem Niveau von graffitiy oder Spam entfernen zu können.

Aufgrund der negativen Erfahrungen im Zusammenhang mit den sozialen Medien ist damit zu rechnen, dass auch die Augmentierung von Räumen unethisch genutzt werden wird, d.h. dass private und öffentliche Räume erweitert werden mit Inhalten, die beleidigend, rassistisch, gewalttätig  und pornographisch sind:  In der realen Umwelt werden virtuelle “Aushänge” mit negativen und polarisierenden Inhalten angebracht. Abschreckende Beispiele finden sich im Text der Autorin (Neely 2018).

Nonprofits im Quartier müssen damit rechnen, dass digitale Informationen, Kommentare und Bewertungen  ihrer Einrichtungen von Dritten mit dem realen Raum verbunden werden, so dass jeder Vorbeikommende, der über die entsprechende AR-Anwendung verfügt, diese Informationen sofort sieht. Grundsätzlich bietet AR so auch die Chance einer besseren Kontaktaufnahme zwischen einer Einrichtung und Bürgern: Wer an einer gemeinnützigen Einrichtung vorbei spaziert  und mit einem Smartphone ausgestattet ist, sieht z.B. an das Haus “gepinnte” virtuelle Kontaktdaten und Angebote für Freiwillige. Passanten können bei Interesse direkt mit der Organisation in den Austausch treten, Wände werden durchlässiger. Angebote im Quartier werden so viel besser und unmittelbarer bekannt.

Das derzeitige Problem vieler Quartiere, dass ihre Ressourcen nicht kartiert und allgemein bekannt sind bzw. die Ressourcen untereinander zu wenig verknüpft, könnte AR reduzieren. Die erweiterte Realität bietet die Chance, Einrichtungen und Bürger ganz niedrigschwellig und raumbezogen miteinander zu vernetzen.

Aber es existieren auch – wie oben erwähnt – erhebliche Gefahren, wenn sich der Hass und die Desinformation aus den sozialen Medien in realen Räumen lokalisiert. Hinzukommt die zunehmende Individualisierung durch AR: Wenn sich reale und virtuelle Welt zunehmend mischen und jeder – je nach benutzter Anwendung – unterschiedliche digitale Informationen  im Raum vorfindet, dann stimmt die Annahme, dass wir alle die selbe Realität teilen, nicht mehr (vgl. Wolf/Grodzinsky/Miller 2015). Diese Annahme war zwar schon in der Vergangenheit nicht ganz richtig angesichts unterschiedlicher sozialer Herkünfte und unterschiedlichem kulturellen und sozialen Kapital. Aber mit der erweiterten Realität werden die Erfahrungen im Raum nochmals stärker und radikaler individualisiert.

AR-Anwendungen und Plattformen werden eine ganz zentrale Rolle spielen, wenn es um den Blick auf die physikalische Welt geht, denn was wir vor Ort sehen, wird durch die Inhalte dieser Plattformen mitbestimmt werden und ist in deren Besitz. Dies wirft die ethische und politische Frage auf: “Wem gehört der Raum zwischen unseren Augen und einem Objekt?” (Wolf/Grodzinsky/Miller 2015). Die Zivilgesellschaft sollte diese Frage ganz dringend diskutieren.

Literatur:

• Neely, E.L. (2018): Augmented reality, augmented ethics: who has the right to augment a particular space?, in: Ethics and Information Technology, https://doi.org/10.1007/s10676-018-9484-2
• Wolf, M.J., Grodzinsky, F.S., Miller K.W. (2015): Augmented Reality All Around Us: Power and Perception at a Crossroads, ACM
  Computers and Society, Vol 45 issue 3,  S. 126-131

Zorn und Seelmeyer (2017) bedauern in ihrem Aufsatz, dass IuK-Technologien  im aktuellen “Kerncurriculum Soziale Arbeit”, entwickelt von der Deutschen Gesellschaft für Soziale Arbeit (2017), keine Rolle spielen. Dabei will das Kerncurriculum der Standard für die Vermittlung der wissenschaftlichen Grundlagen Sozialer Arbeit sein und einen Rahmen formulieren “welche Studieninhalte in jedem Studiengang der Sozialen Arbeit vorkommen sollten” (DGSA, Curriculum S. 1).

Im Unterschied dazu haben mehrere amerikanische Verbände der Sozialen Arbeit ebenfalls im Jahr 2017 gemeinsame “Standards for Technology in Social Work Practice” ausgearbeitet. Insgesamt 55 Standards wurden entwickelt für die Bereiche

• Öffentlichkeitsarbeit
• Soziale Dienstleistungen
• Informationsgewinnung, – verwaltung und -speicherung
• Ausbildung und Supervision

Aus dieser Standardsammlung möchte ich sieben herausgreifen, um den konzeptionellen Rahmen der Sammlung deutlich zu machen:

1. Sozialarbeiter/innen müssen qualifiziert werden, damit sie die neuen Technologien im Arbeitsalltag sicher, kompetent und ethisch korrekt einsetzen können.  Ausbildung, Beratung, Supervision und Training sollten zur Verfügung stehen, um den technologischen Wandel kontinuierlich zu begleiten und aufzuarbeiten (Standard 2.06, S. 16)
2. Sozialarbeiter/innen sollten die Vorteile, aber auch die Risiken elektronischer sozialer Dienste genau kennen und im Einzelfall abwägen, ob elektronische Angebote dem Nutzer einen Mehrwert bringen oder ob auf alternative Angebote zurückgegriffen werden sollte (Standard 2.01, S. 11)
3. Im Umgang mit den Klienten ist nicht nur deren psychosoziale Situation abzufragen, sondern auch deren Umgang mit Technologien: welche Stärken, Bedürfnisse, Risiken und Schwierigkeiten liegen hier vor? “With the increasing use of technology in society, it is important for social workers to also consider clients’ relationship and comfort with technology”.  (Standard 2.05, S. 15)
4. “Informed Consent”: Die Nutzer sozialer Dienste müssen durch die Sozialarbeiter/innen über Vorteile und Risiken der elektronischen Dienste aufgeklärt werden. Die Nutzer brauchen einen Entscheidungsspielraum (Standard 2.04, S. 14)
5. Wenn Sozialarbeiter/innen Social Media nutzen, dann brauchen sie dafür eine Social Media Policy, die auch den Klienten sozialer Dienste bekannt sein muss: “The social media policy should be reviewed with clients during the initial interview in the social worker-client relationship and revisited and updated as needed” (Standard 2.10, S. 18)
6. Wenn Sozialorganisationen neue Technologien einsetzen wollen, dann sollte die Soziale Arbeit darauf drängen, dass hier nicht Wirtschaftlichkeit und Kostenersparnis  im Vordergrund stehen, sondern die Bedürfnisse der Klienten: “they shall prioritize the needs of their clients” (Standard 2.17, S. 23)
7. Zu den Aufgaben der Sozialen Arbeit gehört es auch, den Zugang zu neuen Technologien für ihre Klientel einzufordern, insbesondere für Arme, für Menschen mit Behinderung, für Menschen mit  fehlenden Sprachkenntnissen und solchen, die ungeübt im Umgang mit digitalen Technologien sind. “Having access to appropriate technology may also be a concern for social workers themselves. Social workers may need to advocate within their organizations and communities to ensure that they have access to technology that is required to perform their jobs effectively.” (Standard 2.21, S. 26f).

Inwieweit ist die hiesige Praxis der Sozialen Arbeit mit solchen Standards vertraut? Inwieweit werden heute schon angehende Sozialarbeiter/innen aller Studienniveaus umfassend auf die digitale Sozialarbeit vorbereitet?

In diesem Blogbeitrag sollen seine Erkenntnisse auf die Sozialwirtschaft übertragen werden, wo Koproduktion eine ganz zentrale Rolle spielt: Ohne die aktive Beteiligung von Klienten bzw. Nutzern sozialer Dienste können letztere nicht wirklich erfolgreich erbracht werden. Über die Koproduktion im Sozialbereich sind hier im Blog schon einige Artikel veröffentlicht worden, – wer sich näher informieren möchte recherchiert einfach unter dem Schlagwort „Koproduktion“.

Veiko Lember geht in seinem Aufsatz davon aus, dass durch die zunehmende Digitalisierung unserer Lebenswelt die etablierten Koproduktionsverfahren im Bereich öffentlicher Dienstleistungen a) ergänzt b) ersetzt oder c) verändert werden. Im Sozialbereich ist also mit folgendem zu rechnen:

1. Ergänzung der Koproduktion:
   Die Digitalisierung hilft sozialen Organisationen dabei, sich mit ihren Nutzern besser zu koordinieren und mehr Informationen bereit zu stellen (Lember 2018, 4). Über Apps wird Hilfe und Beratung geleistet, Bildtelefonie, Videos, Chaträume, Online-Lernprogramme und Online-Coaching helfen Nutzern dabei, ihre Probleme gemeinsam mit der sozialen Profession zu lösen. Nutzer/innen bringen in diese Prozesse ihr eigenes Wissen und auch ihre Daten ein (Gesundheitsdaten, Fitnessdaten, Klienten-Aufzeichnungen usw.). Die Nutzerdaten ergänzen hier die Koproduktion und ersetzen sie nicht wie im Fall einer Automatisierung, die im folgenden Punkt behandelt wird.
2. Ersetzung der Koproduktion:
   Wenn Klientendaten automatisiert erhoben und ausgewertet werden, wenn dadurch automatisch Dienstleistungsprozesse starten und das Verhalten oder die gesundheitliche Situation von Klienten nicht nur für den Moment analysiert, sondern auch vorausgesagt werden, dann wird die handlungsorientierte und gemeinschaftliche Koproduktion ersetzt durch Technologien (Lember 2018, 6). Dies ist heute schon der Fall im Bereich der Psychiatrie, wo Klienten mit Sensoren und Kameras überwacht werden und auch in der Pflege, wo Sensoren, Smart-Home-Technik, Telemonitoring und Telecare Klienten überwachen und Hilfseinsätze automatisiert ausgelöst werden. Algorithmen helfen bei der Auswertung von Klientendaten und ermöglichen das Vorhersehen von Krisensituationen. In diesem Setting spielt der Nutzer eine komplett passive Rolle .Die Koproduktion kann jedoch auch ersetzt werden durch eine aktive Rolle des Nutzers (Lember 2018, 7). Immer mehr Bürgerinnen und Bürger verabschieden sich von öffentlichen oder gemeinnützigen Dienstleistern und entscheiden sich für die Selbstorganisation. Gemeinsam mit anderen gründen sie Pflege-WGs, Kindertagesstätten, gemeinschaftliches Wohnen für Menschen mit Behinderungen, Hilfsdienste und Nachbarschaftsinitiativen. Die digitalen Technologien und Plattformen helfen Bürgern bei der Selbstorganisation und ersetzen so die traditionellen Koproduktionsprozesse.
3. Veränderung der Koproduktion:
   Laut Lember (2018, 4) entstehen durch die digitalen Technologien ganz neue Settings in der Zusammenarbeit zwischen Bürgern und Organisationen. Dazu zählen u.a.  das crowdsourcing (Bürgerwissen oder Spenden werden für soziale Organisationen über digitale Plattformen gesammelt), Hackathons (Bürger entwickeln für die Sozialwirtschaft neue digitale Tools) und gamification (über Online-Spiele und Wettbewerbe mit Rankings wird das Nutzerverhalten beeinflusst).

Lember kritisiert, dass die im Koproduktionsprozess eingesetzten Technologien zumeist nicht von Bürgern, sondern den Organisationen ausgewählt werden – auch im Sozialbereich. Es sind damit die Organisationen, die bestimmen, was? wie? erhoben und angeboten wird. Die eingesetzten Technologien sind zumeist im Besitz von privaten Unternehmen. Hier sammeln sich Macht und Intransparenz.

Viele der digitalen Angebote gehen am Bedarf der Nutzer/innen vorbei, weil diese kein Mitspracherecht haben und auch soziale Organisationen können ihr Wissen gegenüber den Experten aus Wirtschaft, Wissenschaft und Technik, die viele der digitalen Angebote entwickeln, zumeist nicht durchsetzen. Dies zeigt sich deutlich in der Pflege, siehe die Studie ePflege aus dem Jahr 2017. Auch die Exklusion von Nutzern spricht Veiko Lember an (2018, 9), – Menschen, die Schwierigkeiten im Umgang mit digitalen Technologien haben und an der digitalen Koproduktion deshalb nicht mitwirken können.

Soll die Koproduktion mit Hilfe digitaler Technologien auf Akzeptanz stoßen, müssen die Nutzer/innen Mitsprachemöglichkeiten haben, wenn es um die Auswahl und Ausgestaltung der Technologien geht. Dass im Alltag sehr häufig top down-Technologien eingesetzt werden, zeigt auch der letzte Blogbeitrag über Cardullo/Kitchins Studie zum Thema Partizipation in der Smart City (2017).

Digitale Teilhabe muss auch in der Sozialwirtschaft ein wichtiges Thema werden. Bastian Pelka schildert in seinem Aufsatz für den Sammelband von Kreidenweis (2018): “Digitaler Wandel in der Sozialwirtschaft” einige Partizipationsprojekte (PIKSL, MakerSpaces, FabLabs). Aber die digitale Teilhabe muss auch im Verhältnis Sozialorganisation und Nutzer/innen etabliert werden, nicht nur im Hinblick auf die Stellung des einzelnen in der digitalen Gesellschaft.

Literatur:
Lember, Veiko (2018): The role of new technologies in co-production, in: Brandsen, T./Steen, T. /Verschuere, B. (Hrsg): Co-production and co-creation: engaging citizens in public service delivery. Routledge, im Erscheinen.

Pelka, Bastian (2018): Digitale Teilhabe: Aufgaben der Verbände und Einrichtungen der Wohlfahrtspflege, in: Kreidenweis, Helmut (Hrsg): Digitaler Wandel in der Sozialwirtschaft, Baden-Baden: Nomos

Smart City-Konzepte beziehen diverse Dimensionen einer Stadt in die Digitalisierung ein. Sie zielen auf: Smart Governance, Smart Citizens, Smart Education, Smart Living, Smart Mobility, Smart Environment und Smart Economy (Meier/Zimmermann, 2016).  Initiiert wurden Smart City-Konzepte von IT-Unternehmen, Universitäten, Regional- und Kommunalverwaltungen und der Politik. Die Entwicklung hin zu einer Smart City gilt als rational, wirtschaftlich und als gut für die Bevölkerung. Es handelt sich um Konzepte, die den Fokus auf Technologien legen und damit eher entpolitisiert sind. Zumeist sind sie deterministisch angelegt, d.h. ihnen zufolge wird die Smarte Stadt kommen, – sie ist sozusagen “unausweichlich” ( Valdez/Cook/Potter 2018). Als  “Top Performer” unter den europäischen Städten gelten Amsterdam, Barcelona, Kopenhagen, Helsinki, Manchester und Wien.

Smart City-Konzepte haben massive Auswirkungen auf die lokale Zivilgesellschaft. Deren Rolle wird wie folgt beschrieben: “Die Smart City bringt eine besondere Form der Zivilgesellschaft hervor: Bürgerinnen und Bürger sind sozial vernetzt und überzeugt, dass sie ihr Leben durch technische Innovationen besser gestalten können”(Meier/Zimmermann 2016, 5). Während zu Beginn der Smart City-Debatte Bürgerinnen und Bürger keine besondere Rolle spielten, wird zwischenzeitlich großen Wert auf die Partizipation der Bürgerschaft gelegt, auf deren Mitwirkung an der Co-Creation und Coproduction von Smart City-Produkten und -Diensten.

Wie sehen Partizipations-Projekte in der  Smart City aus? Wie sehr können Bürgerinnen und Bürger teilhaben? Hierzu gibt es nur sehr wenig Literatur. Eine inspirierende Analyse liefern Cardullo/Kitchin (2017): ” Being a ‘citizen’ in the smart city: Up and down the scaffold of smart citizen participation”. Die Studie untersucht anhand von Smart City-Initiativen in Dublin, wie die lokale Bürgerschaft einbezogen wird.

Die Autoren benutzen als Analyse-Instrument die “ladder of citizen participation in planning” von Arnstein (1969), die auf den drei Stufen

• Nicht-Partizipation
• Schein-Beteiligung
• echte Partizipation mit Bürgermacht und -kontrolle

basiert. Cardullo/Kitchin erweitern dieses Raster jedoch erheblich: sie fügen eine neue Stufe ein (“Consumerism”), bestimmen mögliche Rollen eines Bürgers in der Smart City (Datenpunkt, Nutzer, Produkt, Konsument, Bewohner,  Vorschlagender, Co-Creator usw.). Sie listen auf, wie Bürger eingebunden werden können (als Feedbackgeber, als Konsument oder nur als Subjekt, das gesteuert und kontrolliert wird). Die Autoren beschreiben den politischen Rahmen von Smart City-Diskursen und deren Richtung (top down oder bottom up), wie bspw: Paternalismus, Neoliberalismus, Bürgerschaftliches Engagement, Deliberative Demokratie usw. Und schließlich ordnen sie den unterschiedlichen Stufen rund 20 praktische Smart City-Initiativen in Dublin zu.

Das Fazit von Cardullo und Kitchin: es dominieren in der Praxis top down-Beteiligungsverfahren, bei denen die Rolle des Bürgers die eines Konsumenten ist, der aus unterschiedlichen smarten Angeboten auswählt oder in einem smarten Haus / Viertel lebt. Ferner sind Bürger selbst “Produkte”, indem sie durch die Nutzung smarter Angebote Daten generieren, bewusst oder unbewusst bzw. automatisiert. Es gibt den Autoren zufolge nur wenig Beispiele, wo Bürger auf Augenhöhe mit den Smart City-Verantwortlichen agieren oder wo Bürger selbst Initiativen zum Thema gründen.

Generell verfolgen Beteiligungsprojekte in der Smart City eher instrumentelle Ziele (Feedback zu bestimmten Plänen einholen, Programmierung einer App usw.).
Es fehlt ein begleitender Diskurs zum Thema Bürgerrechte und über Alternativen zur Smart City.

Literatur, wenn nicht verlinkt:

Meier/Zimmermann (2016): Digitales Entwicklungsmodell smarter Städte, in: Meier/Portmann (Hrsg.): Smart City, Wiesbaden: Springer.