Schlagwort-Archiv: Digitalisierung

Smart Homes und AAL – ethische Herausforderungen

Smart Home-Technologien sind auf dem Vormarsch. Auf der Basis vernetzter Geräte und automatisierter Abläufe sollen Energieeffizienz und Lebensqualität von Räumen und Quartieren gesteigert werden. Speziell im Hinblick auf alte Menschen, Menschen mit Demenz und Menschen mit Behinderung versprechen altersgerechte Assistenzsysteme und Smart Services ein selbstbestimmtes Leben in den eigenen vier Wänden.

Bei den AAL (Altersgerechten Assistenzsystemen) und Smart Services kommunizieren Geräte nicht nur untereinander, sondern auch mit den Bewohner*innen selbst und mit deren sozialem Umfeld (Angehörige, Pflegedienste). Sensoren an Gegenständen, an der Kleidung sowie Videokameras und Mikrophone ermöglichen eine Überwachung in Echtzeit und generieren fortlaufend Daten über die Bewegungsabläufe und den Gesundheitszustand der Bewohner*innen. Die intelligenten Geräte erinnern an die Einnahme von Medikamenten und an Verabredungen („nudging“). Sie ermöglichen den Kontakt zwischen dem Bewohner, seinem sozialen Umfeld und seinen pflegerischen und medizinischen Dienstleistern.

Smart Home-Technologien werfen ethische Fragen auf: einerseits unterstützen sie das selbstständige Wohnen, andererseits bedrohen sie die Privatsphäre des einzelnen angesichts des allgegenwärtigen Sensoring und Monitorings. Brolcháin/Gordijn setzen sich in ihrem Aufsatz „Privacy challenges in smart homes for people with dementia and people with intellectual disabilities“ (2019) mit den ethischen Herausforderungen von Smart Homes mit Blick auf die Privatheit auseinander. Die Fragen, die sie aufwerfen, berühren nicht nur die Zielgruppe „Menschen mit Demenz/mit Lernbehinderung“, sondern sind für alle Stakeholder des Smart Home-Themas relevant, d.h. für Bürger*innen, Technologieentwickler*innen, Smart Home-Anbieter, Stadtplaner*innen, soziale Dienste usw.

Brolcháin/Gordijn beleuchten fünf Dimensionen von Privatheit:

  • Informational privacy: in Smart Homes werden Daten gesammelt und gespeichert.
    Wer hat Zugriff auf die Daten, wie sicher sind sie gespeichert? Wie steht es um die Informationskontrolle seitens der Bewohner*innen? Auch bei einer Anonymisierung der Daten besteht die Gefahr einer Re-Identifizierung. Werden die vorhandenen Daten für das „Nudging“ eingesetzt, also das Verhalten des Bewohners manipuliert?
  • Physical privacy: inwieweit werden die häusliche und körperliche Intimität durch Sensoren, Kameras und Audioaufzeichnungen gefährdet?
  • Associational privacy: wer erhält über Kameras Einblick in den Haushalt eines Bewohners und ist über Monitore präsent in dessen vier Wänden?
  • Proprietary privacy: nicht nur die körperliche Privatsphäre, auch die seelische und geistige wird durch Gesichts- und Emotionserkennungs-Software bedroht
  • Decisional privacy: einerseits soll das Smart Home Bewohner*innen bei den Aufgaben des Alltags unterstützen. Andererseits gehen bei automatisierter Unterstützung Kompetenzen verloren und können aufgrund des Nudgings und des Monitorings Entscheidungen nicht mehr autonom gefällt werden.

Um die Privatheit in Smart Homes zu wahren, schlagen Brolcháin/Gordijn folgendes vor:

Eine informierte Einwilligung („informed consent“) der Bewohner*innen von Smart Homes in die Datenerhebung, – verarbeitung und -speicherung muss eingeholt werden, – ist aber nicht ausreichend,

  • denn nicht nur der Bewohner, sondern auch seine Gäste werden vom Sensoring und Monitoring berührt
  • eine Einwilligungserklärung kann nicht die Bandbreite der Privatheitswünsche für ganz unterschiedliche Situationen abdecken.

Brolcháin/Gordijn plädieren deshalb für folgendes (S. 261):

  1. Für eine kontextabhängige Bestimmung der Privatsphäre, die der Bewohner je nach Situation vornehmen soll
  2. Für eine kontextabhängige Bestimmung, wer Zugriff auf welche Daten hat oder ob die Datenerhebung und -verarbeitung im Einzelfall blockiert werden soll

In der Praxis bedeutet dies: der Bewohner eines Smart Homes wird mehrmals täglich in wechselnden Situationen um seine Einwilligung in die privacy-Settings gebeten, die er/sie dann je nach Situation unterschiedlich bestimmen kann. Die Einwilligungsformulare sollen digital vorliegen, d.h. auf tablets oder auf Bildschirmen in der Wohnung eingespielt werden. Auch Besucher*innen werden um ihre Einwilligung in die Datenerhebung und -verarbeitung gebeten. Bewohner*innen und Gäste sollen mehrmals täglich daran erinnert werden, dass eine Überwachung durch Sensoren und Kameras stattfindet. Brolcháin/Gordijn räumen ein, dass solch eine situativ zu erteilende Einwilligung für die Bewohner*innen zur echten Bürde werden kann, – sehen aber im Einzelfall keine andere Lösung.

Kritiker der informierten Einwilligung würden Brolcháin/Gordijn aus folgenden Gründen widersprechen:

Bei einer permanenten Abfrage von Privatheitswüschen wird die informierte Einwilligung schnell zu einem Ritual, bei dem man Fragen einfach „wegklickt“, um seine Ruhe zu haben, in diesem Fall erfolgt die Einwilligung faktisch uninformiert (Hofmann/Bergemann 2017). Der einzelne ist auch deshalb mit einer solchen Individualisierung der Datenschutzverantwortung überfordert, weil unser Urteil situativ ist (und laut Brolcháin/Gordijn explizit auch situativ sein soll). Wir überblicken aber in der Regel nicht den Wert unserer Daten, der sich durch deren Zusammenführungen ergibt (Big Data) und in Zukunft ergeben kann. Durch das Machtungleichgewicht zwischen dem einzelnen und den digitalen Anbietern können letztere ihre Datenforderungen „nahezu unbegrenzt“ (Hofmann/Bergemann) anheben, – der einzelne wird zustimmen, wenn er die digitale Leistung oder das Smarte Home nicht verlieren will. Viele individuelle uninformierte Einwilligungen können aber im Endergebnis zu negativen Folgen für das Gemeinwohl führen. Deshalb plädieren Hofmann/Bergemann (2017) dafür, das „Datenschutzphantom“ der informierten Einwilligung von seinem Sockel als zentrales Datenschutzinstrument zu stoßen und andere Regulierungsformen in den Blick zu nehmen.

Dass dabei gesetzliche Regelungen eine ganz zentrale Rolle spielen sollten, wird auch von Brolcháin/Gordijn vertreten. Denn sie räumen ein, dass ihr Vorschlag einer situativ zu erteilenden Einwilligung die Zunahme der Datenerhebung und Verletzung der Privatsphäre letztlich gar nicht verhindern kann, weil Unternehmen dazu neigen, nach und nach ständig mehr Daten einzusammeln und sich dafür sukzessive die Zustimmung einzuholen. Kritiker sehen in der informierten Einwilligung denn auch eine ideale Grundlage für den zeitgenössischen Datenkapitalismus. Brolcháin/Gordijn fordern, dass Regierungen der Wirtschaft verbindlich vorgeben, welche Art von Daten überhaupt erhoben werden dürfen und wie viele Einwilligungen mit welchem Umfang Bürger*innen vorgelegt werden können, – unter besonderer Berücksichtigung derjenigen, die beeinträchtigt und hilfsbedürftig sind.

Share

Digitale Ethik – welche Antworten gibt die Sozialarbeit?

Die Digitalisierung verändert unsere materielle, biologische und soziokulturelle Welt. Die neuen Technologien haben erhebliche ethische und soziale Folgen. Werte, die in der UN-Menschenrechtserklärung, in der EU-Grundrechtecharta , dem EU-Grundlagenvertrag und diversen nationalen Verfassungen niedergelegt sind, werden durch die Veränderungen im Zuge der Digitalisierung berührt. Royakkers u.a. (2018), aber auch die EDPS Ethics Advisory Group (2018) stellen eine Sammlung tangierter Werte zusammen: Würde, Autonomie, Sicherheit, Privatheit, Demokratie, Machtbalance, Gleichheit, Gerechtigkeit, Solidarität.

Drei Beispiele für ethische Herausforderungen durch die Digitalisierung:
Würde: Inwieweit verliert der einzelne seinen Status als ganzheitliche „Person“, wenn er/sie durch algorithmisches Profiling und automatisierte Entscheidungen als „Datenaggregat“ oder bloßer „Datenpunkt“ behandelt wird?
Autonomie: Wie sehr wird man durch persuasive Technologien manipuliert, die das menschliche Verhalten steuern?
Gleichheit: Inwieweit diskriminieren automatisierte Entscheidungen den einzelnen?

Auch in der internationalen Sozialarbeit sind automatisierte Informations- und Entscheidungssysteme auf dem Vormarsch.  Die gemeinnützige Organisation Algorithm Watch hat im Januar 2019 einen Bericht über den Stand des „automated decision-making“ (ADM) in zwölf europäischen Ländern veröffentlicht und im April 2019 einen Atlas über das ADM in Deutschland.  In immer mehr Feldern kommen ADM-Systeme zum Einsatz, – auch im Wohlfahrtsbereich, wo Quartiere nach Risiko-Indikatoren „bepunktet“ werden wie in Dänemark oder Daten aggregiert werden, um Risikofaktoren in der Kinder- und Jugendarbeit herauszufinden (Finnland).

An der Entwicklung und Einführung elektronischer Informationssysteme zur Falldokumentation ist die hiesige Sozialarbeit nur mangelhaft beteiligt. Zu wenig fordert sie ihre Teilhabe in diesem Feld ein und zu wenig wird die Digitalisierung auf Professions- und Einrichtungsebene systematisch reflektiert. Die Auseinandersetzung mit IuK-Technologien ist nicht im „Kerncurriculum Soziale Arbeit“ der Deutschen Gesellschaft für Sozialarbeit verankert, ebenso fehlen der sozialen Profession Standards, wie im Alltag mit den neuen Technologien umzugehen ist, – in einem anderen Blogartikel habe ich mich mit diesem Thema befasst bzw. mit den amerikanischen „Standards for Technology in Social Work Practice“.

Beide Säulen (IuK in Kerncurriculum, Technologiestandards in der sozialarbeiterischen Praxis) bräuchte die Profession dringend. Und ebenso notwendig sind ethische Leitlinien auf Professions- aber auch auf Einrichtungsebene, um eine Richtschnur mit Werten und richtigem Handeln für den Umgang mit den neuen technologischen Herausforderungen zu haben.

Solche Leitlinien müssten vor Ort partizipativ erarbeitet werden: da Sozialleistungen durch Koproduktion entstehen, müssen auch ethische Leitlinien im Rahmen eines Co-Design-Prozesses formuliert werden, d.h. gemeinsam mit Klienten, Angehörigen, Unterstützern, Ehrenamtlichen usw. So würde das Thema „digitale Ethik“ auch stärker in die lokale Zivilgesellschaft getragen werden, wo es momentan noch nicht verankert ist, mit äußerst negativen Folgen im Hinblick auf die Machtbalance zwischen Staat und Firmen als wichtige (big data)-Player auf der einen und der Zivilgesellschaft auf der anderen Seite . Neue Bündnisse könnten entstehen und die Sozialarbeit würde ihrem Selbstanspruch als „Menschenrechtsprofession“ gerecht.

Momentan ist da, wo eine kritische professionelle Diskussion über die Chancen, Gefahren und ethischen Herausforderungen der Digitalisierung sein sollte, aber noch eine große Leerstelle, bei der nicht klar ist, ob und wann die Profession sie füllen wird. Auch in den Einrichtungen selbst ist es mit dieser Diskussion nicht weit her.  „Digitalwerkstätten“ auf lokaler Ebene mit allen Stakeholdern einer Einrichtung könnten hier Abhilfe schaffen.

Share

Augmented Reality – Folgen für den Sozialraum

Augmented Reality (AR) bedeutet im engen Sinn, dass die reale Welt um digitale Informationen ergänzt wird. Diese Informationen können unterschiedlich abgerufen werden: u.a. über das Smartphone, über AR-Brillen oder als Projektion auf  Windschutzscheiben und in den realen Raum. Grundsätzlich kann alles in der realen Welt um digitale Inhalte ergänzt bzw. erweitert werden: Gebäude, Infrastrukturen, Gegenstände, Natur, – aber auch Menschen und deren Interaktionen. Bei der Augmented Reality verschmelzen reale und virtuelle Welt miteinander, deshalb spricht man auch von einer „mixed reality“. Wichtig für AR ist der Standort des Nutzers,  denn abhängig von dessen Position im Raum verändern sich die angezeigten Informationen.

Wie wird sich die erweiterte Realität im physikalischen Raum auswirken? Wer darf öffentliche und private Räume mit digitalen Informationen anreichern? Welche Folgen wird AR für Räume im Quartier, die dortigen gemeinnützigen Einrichtungen und die Quartiersvernetzung haben?

Über die Ethik von AR macht sich E. Neely (2018) Gedanken. Sie versucht zu klären, wer reale Räume mit digitalen Informationen anreichern darf. Ihr zufolge hängt eine Antwort entscheidend davon ab, ob sich für die erweiterte Realität eine bzw. wenige Plattformen und Apps durchsetzen oder viele konkurrierende. Ist ersteres der Fall, dann sollte bei privaten Räumen der jeweilige Besitzer vorrangig das Recht haben, seinen Raum mit digitalen Informationen anzureichern. Wo für Augmented Reality viele konkurrierende Apps und Plattformen genutzt werden, werden auch private Räume mit vielen unterschiedlichen Erweiterungen ergänzt werden können, ohne dass dies der Besitzer eines Raumes verhindern kann. Im öffentlichen Bereich kann durch AR ein neuer Diskurs begründet werden: Bürger/innen kommen miteinander im realen Raum ins Gespräch, wobei man hier beachten muss, dass die öffentliche Rede via AR länger sichtbar bleibt als das gesprochene Wort. Auch müssen unter Umständen für bestimmte öffentliche Räume Regeln definiert werden, um AR auf dem Niveau von graffitiy oder Spam entfernen zu können.

Aufgrund der negativen Erfahrungen im Zusammenhang mit den sozialen Medien ist damit zu rechnen, dass auch die Augmentierung von Räumen unethisch genutzt werden wird, d.h. dass private und öffentliche Räume erweitert werden mit Inhalten, die beleidigend, rassistisch, gewalttätig  und pornographisch sind:  In der realen Umwelt werden virtuelle „Aushänge“ mit negativen und polarisierenden Inhalten angebracht. Abschreckende Beispiele finden sich im Text der Autorin (Neely 2018).

Nonprofits im Quartier müssen damit rechnen, dass digitale Informationen, Kommentare und Bewertungen  ihrer Einrichtungen von Dritten mit dem realen Raum verbunden werden, so dass jeder Vorbeikommende, der über die entsprechende AR-Anwendung verfügt, diese Informationen sofort sieht. Grundsätzlich bietet AR so auch die Chance einer besseren Kontaktaufnahme zwischen einer Einrichtung und Bürgern: Wer an einer gemeinnützigen Einrichtung vorbei spaziert  und mit einem Smartphone ausgestattet ist, sieht z.B. an das Haus „gepinnte“ virtuelle Kontaktdaten und Angebote für Freiwillige. Passanten können bei Interesse direkt mit der Organisation in den Austausch treten, Wände werden durchlässiger. Angebote im Quartier werden so viel besser und unmittelbarer bekannt.

Das derzeitige Problem vieler Quartiere, dass ihre Ressourcen nicht kartiert und allgemein bekannt sind bzw. die Ressourcen untereinander zu wenig verknüpft, könnte AR reduzieren. Die erweiterte Realität bietet die Chance, Einrichtungen und Bürger ganz niedrigschwellig und raumbezogen miteinander zu vernetzen.

Aber es existieren auch – wie oben erwähnt – erhebliche Gefahren, wenn sich der Hass und die Desinformation aus den sozialen Medien in realen Räumen lokalisiert. Hinzukommt die zunehmende Individualisierung durch AR: Wenn sich reale und virtuelle Welt zunehmend mischen und jeder – je nach benutzter Anwendung – unterschiedliche digitale Informationen  im Raum vorfindet, dann stimmt die Annahme, dass wir alle die selbe Realität teilen, nicht mehr (vgl. Wolf/Grodzinsky/Miller 2015). Diese Annahme war zwar schon in der Vergangenheit nicht ganz richtig angesichts unterschiedlicher sozialer Herkünfte und unterschiedlichem kulturellen und sozialen Kapital. Aber mit der erweiterten Realität werden die Erfahrungen im Raum nochmals stärker und radikaler individualisiert.

AR-Anwendungen und Plattformen werden eine ganz zentrale Rolle spielen, wenn es um den Blick auf die physikalische Welt geht, denn was wir vor Ort sehen, wird durch die Inhalte dieser Plattformen mitbestimmt werden und ist in deren Besitz. Dies wirft die ethische und politische Frage auf: „Wem gehört der Raum zwischen unseren Augen und einem Objekt?“ (Wolf/Grodzinsky/Miller 2015). Die Zivilgesellschaft sollte diese Frage ganz dringend diskutieren.

Literatur:

  • Neely, E.L. (2018): Augmented reality, augmented ethics: who has the right to augment a particular space?, in: Ethics and Information Technology, https://doi.org/10.1007/s10676-018-9484-2
  • Wolf, M.J., Grodzinsky, F.S., Miller K.W. (2015): Augmented Reality All Around Us: Power and Perception at a Crossroads, ACM
    Computers and Society, Vol 45 issue 3,  S. 126-131
Share