Kategorie-Archiv: Sozialeinrichtung

Ethische Bewertung von Technologien (Teil 3) – der Ethics Canvas

Im letzten Blogartikel habe ich die MEESTAR-Methode  zur ethischen Evaluation von Technologien von Karsten Weber (2019) vorgestellt. In dem Aufsatz von Weber (S. 431-444) wird auch der Ethics Canvas von Reijers/Lewis u.a. des ADAPT Centre/Dublin als Tool erwähnt. Der Ethics Canvas basiert auf dem bekannten Business Model Canvas.

Der Ethics Canvas ermöglicht ein partizipatives und diskursives Brainstorming der ethischen Folgen von Technologien, die im Rahmen von Forschung und Innovation entstehen. Das nicht-kommerzielle Tool eignet sich speziell für Lehrende, Forschende, Unternehmen und politische Entscheidungsträger, – die Zivilgesellschaft wird hier nicht explizit aufgelistet. Man kann den Ethics Canvas ausdrucken und gemeinschaftlich ausfüllen oder online bearbeiten, speichern und teilen. Dafür haben die Entwickler des Canvas eine Webseite samt Handbuch erstellt.

Die zentralen Fragen , die der Ethics Canvas stellt, lauten:

  • Welche Personen und Gruppen sind von der Technologie bzw. dem Produkt oder Service betroffen?
  • Von welchen möglichen ethischen Folgen sind diese Personen und Gruppen betroffen?
  • Wie kann man diese ethischen Probleme lösen?

Berücksichtigt wird auch der problematische Ressourcenbedarf eines Produkts oder Dienstes (Energie, Daten usw.), als auch mögliche Produktfehler und -schwächen.

CC BY-SA 3.0 ADAPT Centre/Trinity College Dublin/DCU 2017

 

 

 

 

 

 

 

 

 

 

Die Autoren des Ethics Canvas gehen davon aus, dass man ihn in rund 1,5 Stunden gemeinschaftlich ausfüllen kann. Der inhaltliche Aufbau des Canvas beruht auf wissenschaftlichen Ansätzen aus der Technikforschung und Philosophie. Wichtig ist den Autoren, dass Technik nicht deterministisch gedacht wird, sondern Menschen mit der Technik interagieren und sich diese aneignen. Deshalb wird im Ethics Canvas so viel Wert auf Verhalten und Beziehungen gelegt.

Im Unterschied zu MEESTAR ist der Ethics Canvas ein allgemeineres Brainstorming- und Analyse-Tool, das sich nicht mit der konkreten Risikoabschätzung von Technologien befasst. Wie MEESTAR beruht der Ethics Canvas auf dem gemeinsamen Austausch der Stakeholder. Unterschiedliche Perspektiven und Interessen werden sichtbar. Aber auch hier gibt es  – wie bei MEESTAR – keine Lösung für Wert- und Interessenkonflikte, – außer Kompromisse, die in der Diskussion gefunden werden müssen und bei denen sich Machtverhältnisse negativ auswirken können.

Was ich beim Ethics Canvas vermisse, ist die Raumkategorie bzw. die Frage, wie sich eine Technologie auf die Raumbildung  und -gestaltung auswirkt, – ein ganz wichtiges Thema im Hinblick auf Sozialräume bzw. die Smart City-Diskussion.

Was MEESTAR und Ethics Canvas beide nicht bieten, sind Alternativen zu den behandelten Technologien. Man hat nur die Möglichkeit, sich mit einem bestimmten technischen Produkt zu befassen und keine Chance,  über die Sinnhaftigkeit des gesamten Projekts und dessen Annahmen und Ziele zu sprechen. Dieses Denken in Alternativen wird dagegen von Szenario-Methoden gefördert. Hier können Teilnehmer*innen die Frage diskutieren, welche Zukunft und welche Technologien sie sich aus normativer Perspektive wünschen. Mehr zu Szenario-Methoden im nächsten Blog-Artikel.

Ethische Bewertung von Technologien (Teil 2) – die MEESTAR-Methode

Im letzten Blogartikel habe ich den Aufsatz von Reijers u.a. (2018) vorgestellt. Die Autoren besprechen 35 Methoden, mit denen ein ethisches Assessment von Technologien durchgeführt werden kann. An den Methoden kritisieren die  Autoren, dass sie zu wenig partizipativ seien.

Unter den Verfassern des oben verlinkten Aufsatzes ist auch Karsten Weber, der 2019 auf der Jahrestagung der Gesellschaft für Informatik praxisorientierte “Methoden der  ethischen Evaluation von IT” vorstellte. In seinem Papier im Tagungsband der INFORMATIK 2019, S. 431-444, stellt er u.a. die MEESTAR-Methode als ein “Modell zur ethischen Evaluation sozio-technischer Arrangements” vor. Die Methode, an deren Entwicklung er mitwirkte, ermöglicht ein partizipatives und diskursethisches Evaluations-Verfahren. Stakeholder, die eine Technik entwickeln, einsetzen und nutzen treten mit ihren ganz unterschiedlichen Interessen und Perspektiven in einen inhaltlichen Austausch untereinander.  Die Vielfalt der Perspektiven ist gewollt. Sie ist eine Bereicherung, weil sie alle möglichen Probleme und Aspekte  eines Technikeinsatzes auf die Agenda bringt.

Ziel des Verfahrens ist eine Kompromissfindung unter den Stakeholdern. Die Ergebnisse aus dem Verfahren sollen dann in die Forschung und Entwicklung zurückfliessen, – im Idealfall nicht erst am Ende, sondern schon während der Technikentwicklung. MEESTAR kann und soll mehrmals während eines Technikprojektes eingesetzt werden (“iterativ”), und kann übrigens auch in technikfernen Situationen, in denen moralische Konflikte vorliegen, sehr gute Dienste leisten.

MEESTAR wurde als Instrument der angewandten Ethik für konkrete Technikeinsätze in der Praxis entwickelt, nicht zur allgemeinen Reflexion moralischer Aspekte von Technologien. Entstanden ist die Evaluations-Methode im Rahmen eines Technikprojektes in der Pflege. Sie wird zwischenzeitlich öfters bei öffentlichen Forschungs- und Entwicklungsvorhaben eingesetzt.

MEESTAR funktioniert wie folgt:

Für die Bewertung der Technik braucht man moralische Dimensionen wie: Selbstbestimmung, Sicherheit, Gerechtigkeit, Privatheit usw.  Diese Dimensionen sind nicht fest vorgegeben. Man erhält sie durch

  1. eine Literaturrecherche in Bezug auf die konkrete Technologie und ihre möglichen Folgen
  2. Action Sheets: hier setzen sich die Beteiligten mit den Anwendungsszenarien der einzusetzenden Technik im Detail auseinander. Welche Gefahren und Probleme könnten auftreten? Alternativ kann auch ein Ethics Canvas genutzt werden. Dazu mehr im nächsten Blogartikel.

Betrachtet werden die moralischen Dimensionen aus drei Perspektiven: der individuellen, organisationalen und gesellschaftlichen. Je nach Perspektive werden manche moralische Dimensionen  ganz unterschiedlich bewertet. Weber führt das Beispiel der “Privatheit” an: während Nutzer darunter z.B. eine Wohnung ohne Beobachtungstechnologie verstehen, können kommerzielle Dienstleister Privatheit mit Sensoren in Smart Homes in Einklang bringen, sofern deren Einsatz den Vorgaben der DSGVO entspricht. Hier muss man einen Kompromiss unter den Beteiligten finden.

Zur ethischen Risikoabschätzung dienen dann die folgenden vier Stufen (siehe Weber 2019, S. 434):

  • Stufe 1: Anwendung ist aus ethischer Sicht völlig unbedenklich
  • Stufe 2: Anwendung weist ethische Sensibilität auf
  • Stufe 3: Anwendung ist ethisch äußerst sensibel
  • Stufe 4: Anwendung ist aus ethischer Sicht abzulehnen

Wobei es auch hier um Kompromissfindung geht, denn bei einer Anwendung können Werte wie Selbstbestimmung und Privatheit berücksichtigt, aber Gerechtigkeit und Teilhabe verletzt sein. Man muss – um Stufe 1 zu erreichen – dann bei den beiden letzten Punkten nachbessern. Wenn das nicht möglich ist, dann wird auch eine Anwendung nicht klar in eine Stufe eingeordnet werden können, sondern in sich Wertekonflikte bzw. – kompromisse tragen, – so zumindest mein Eindruck.

Laut Weber ist ein partizipatives ethisches Evaluationsverfahren von Technik wichtig, nicht nur aus Gründen der Ethik selbst, sondern um eine hohe Gebrauchstauglichkeit bzw. usability von Technologien zu erzielen. Ihm zufolge ist aber die Bereitschaft, möglichst viele und vielfältige Stakeholder in ethische Bewertungsprozesse einzubeziehen in der Praxis “oftmals nicht gegeben” (Weber 2019, 442).

Sozialorganisationen, die zunehmend in ihrem Alltag mit Technik konfrontiert sind und diese im Umgang mit ihren Klienten anwenden, sollten unbedingt ein ethisches Assessment von Technologien vornehmen, um die richtige Auswahl an Tools treffen zu können. Gerade wo Anwendungen in Auftrag gegeben oder eingekauft werden, hat man die Wahl oder muss sich eine Wahlsituation schaffen. Ethische Aspekte sollten in Ausschreibungen ihren Platz finden. Einrichtungen und ihre Verbände brauchen ethische Leitlinien für den Umgang mit Technik, Daten und Algorithmen.

Wer noch weitere Informationen zu MEESTAR sucht, wird bei der Fachstelle für Ethik und Anthropologie im Gesundheitswesen fündig.

Digitale Ethik – welche Antworten gibt die Sozialarbeit?

Die Digitalisierung verändert unsere materielle, biologische und soziokulturelle Welt. Die neuen Technologien haben erhebliche ethische und soziale Folgen. Werte, die in der UN-Menschenrechtserklärung, in der EU-Grundrechtecharta , dem EU-Grundlagenvertrag und diversen nationalen Verfassungen niedergelegt sind, werden durch die Veränderungen im Zuge der Digitalisierung berührt. Royakkers u.a. (2018), aber auch die EDPS Ethics Advisory Group (2018) stellen eine Sammlung tangierter Werte zusammen: Würde, Autonomie, Sicherheit, Privatheit, Demokratie, Machtbalance, Gleichheit, Gerechtigkeit, Solidarität.

Drei Beispiele für ethische Herausforderungen durch die Digitalisierung:
Würde: Inwieweit verliert der einzelne seinen Status als ganzheitliche “Person”, wenn er/sie durch algorithmisches Profiling und automatisierte Entscheidungen als “Datenaggregat” oder bloßer “Datenpunkt” behandelt wird?
Autonomie: Wie sehr wird man durch persuasive Technologien manipuliert, die das menschliche Verhalten steuern?
Gleichheit: Inwieweit diskriminieren automatisierte Entscheidungen den einzelnen?

Auch in der internationalen Sozialarbeit sind automatisierte Informations- und Entscheidungssysteme auf dem Vormarsch.  Die gemeinnützige Organisation Algorithm Watch hat im Januar 2019 einen Bericht über den Stand des “automated decision-making” (ADM) in zwölf europäischen Ländern veröffentlicht und im April 2019 einen Atlas über das ADM in Deutschland.  In immer mehr Feldern kommen ADM-Systeme zum Einsatz, – auch im Wohlfahrtsbereich, wo Quartiere nach Risiko-Indikatoren “bepunktet” werden wie in Dänemark oder Daten aggregiert werden, um Risikofaktoren in der Kinder- und Jugendarbeit herauszufinden (Finnland).

An der Entwicklung und Einführung elektronischer Informationssysteme zur Falldokumentation ist die hiesige Sozialarbeit nur mangelhaft beteiligt. Zu wenig fordert sie ihre Teilhabe in diesem Feld ein und zu wenig wird die Digitalisierung auf Professions- und Einrichtungsebene systematisch reflektiert. Die Auseinandersetzung mit IuK-Technologien ist nicht im “Kerncurriculum Soziale Arbeit” der Deutschen Gesellschaft für Sozialarbeit verankert, ebenso fehlen der sozialen Profession Standards, wie im Alltag mit den neuen Technologien umzugehen ist, – in einem anderen Blogartikel habe ich mich mit diesem Thema befasst bzw. mit den amerikanischen “Standards for Technology in Social Work Practice”.

Beide Säulen (IuK in Kerncurriculum, Technologiestandards in der sozialarbeiterischen Praxis) bräuchte die Profession dringend. Und ebenso notwendig sind ethische Leitlinien auf Professions- aber auch auf Einrichtungsebene, um eine Richtschnur mit Werten und richtigem Handeln für den Umgang mit den neuen technologischen Herausforderungen zu haben.

Solche Leitlinien müssten vor Ort partizipativ erarbeitet werden: da Sozialleistungen durch Koproduktion entstehen, müssen auch ethische Leitlinien im Rahmen eines Co-Design-Prozesses formuliert werden, d.h. gemeinsam mit Klienten, Angehörigen, Unterstützern, Ehrenamtlichen usw. So würde das Thema “digitale Ethik” auch stärker in die lokale Zivilgesellschaft getragen werden, wo es momentan noch nicht verankert ist, mit äußerst negativen Folgen im Hinblick auf die Machtbalance zwischen Staat und Firmen als wichtige (big data)-Player auf der einen und der Zivilgesellschaft auf der anderen Seite . Neue Bündnisse könnten entstehen und die Sozialarbeit würde ihrem Selbstanspruch als “Menschenrechtsprofession” gerecht.

Momentan ist da, wo eine kritische professionelle Diskussion über die Chancen, Gefahren und ethischen Herausforderungen der Digitalisierung sein sollte, aber noch eine große Leerstelle, bei der nicht klar ist, ob und wann die Profession sie füllen wird. Auch in den Einrichtungen selbst ist es mit dieser Diskussion nicht weit her.  “Digitalwerkstätten” auf lokaler Ebene mit allen Stakeholdern einer Einrichtung könnten hier Abhilfe schaffen.