ELSA-Workshop: 21.11.2023

Virtuelle Agenten und Chatbots in der Gesundheitsversorgung: Implikationen für Haftung, Schweigepflicht und Datenschutz

Virtuelle Agenten und Chatbots, die auf Künstlicher Intelligenz basieren, finden zunehmend Einzug in den Gesundheitsbereich. Ihr Einsatzgebiet reicht von der Symptomanalyse über Aufklärung und Informationsaustausch bis hin zur Unterstützung in der Psychotherapie. Während Chatbots teilweise nur einfache Frage-Antwort-Spiele nutzen, bieten die technischen Fortschritte im Bereich der Großen Sprachmodelle wie ChatGPT neue Möglichkeiten, die Gesprächsinteraktion deutlich besser – weil sehr menschenähnlich – zu gestalten. Dadurch können bestimmte Aufgaben, die gesprächsbasiert sind, auch an Maschinen ausgelagert werden. Forscher:innen, Gesundheitsexpert:innen und Unternehmen versprechen sich davon eine Verbesserung und Entlastung des Gesundheitssystems.

Mit dem Einzug von quasi-autonom agierenden Agenten in die Gesundheitsversorgung stellen sich wichtige rechtliche und ethische Fragen: Wer haftet, wenn Agenten oder Chatbots eine falsche Entscheidung treffen oder sich unangemessen äußern und verhalten? Welche rechtlichen Rahmenbedingungen existieren bereits und wo gibt es noch rechtliche Lücken?

Auch im Bereich des Datenschutzes und der Schweigepflicht bestehen durch die Einführung solcher Systeme noch eine Reihe von Unklarheiten. So ist fraglich, wie Ärzt:innen und Therapeut:innen ihre Schweigepflicht einhalten können, wenn KI-basierte Agenten oder Chatbots einen Teil der Patient:innengespräche übernehmen. Gerade im Bereich der medizinischen Versorgung werden äußerst sensible Daten gesammelt und genutzt. Eine Nutzung von digitalen Tools zur Erfassung und Analyse dieser Daten müssen den geltenden Datenschutzbestimmungen entsprechen. Diese Prozesse sind deutlich erschwert, wenn Tools von Drittanbietern und Cloudservices genutzt werden. Aus ethischer Perspektive geht der Schutz der Privatsphäre von Patient:innen sogar möglicherweise über die rechtlichen Bestimmungen hinaus.

Der Workshop setzt sich auf Basis von Vorträgen, interaktiven Formaten und Diskussionen mit Fragen rund um Privatsphäre, Datenschutz, Haftung und Schweigepflicht im Kontext KI-basierter virtueller Agenten und Chatbots näher auseinander und lädt externe Gäste zur Teilnahme ein.

Zeit: 21.11.2023, 9:00 bis 15:30 Uhr 

Ort: Universität Hamburg, Informatikum, Vogt-Kölln-Straße 30, 22527 Hamburg 

Anmeldung: bis 16.11.23 per E-Mail an Catharina Rudschies (catharina.rudschies@uni-hamburg.de ) – bitte Namen und Institution/Organisation angeben; Plätze sind begrenzt

Kosten: Die Teilnahme ist kostenfrei.