Auf der EMRN Konferenz A Metaverse for the Good haben wir ein Short Paper namens Considering Psychotherapy in the Metaverse vorgestellt. In dem Paper beleuchten wir drei der technisch-ethischen Aspekte, die bei der Entwicklung von Psychotherapie und deren Darstellung im Metaverse beachtet werden sollen. Die Ergebnisse stützen sich auf unsere Interviews mit medizinischem Personal und (ehemaligen) Patient:innen. Außerdem haben wir ein Paper zur Integration von intelligenten virtuellen Agenten in Meetings veröffentlicht, das einige mögliche Rollen, Schwierigkeiten aber auch Möglichkeiten beleuchtet. Die beiden Paper können unter diesem Link abgerufen werden.

Am 17.01.2024 besuchten Studierende des Studiengangs "Digital Reality" von der Hochschule für Angewandte Wissenschaften Hamburg die Universität Hamburg, um Demos der Studierender und HCI Forschungsprojekte auszuprobieren. Hierbei hatten sie auch Gelegenheit, den interaktiven Prototypen von HIVAM auszuprobieren und eine kurze kognitive Übung durchzuführen. Der interaktive Agent wurde gut aufgenommen und es gab viel positives Feedback zur Idee und Umsetzung.

Welche ethischen, rechtlichen und sozialen Implikationen können virtuelle Agenten und Virtual Reality-Technologien in der Gesundheitsversorgung haben? Dieser Frage gehen die Autorinnen Catharina Rudschies und Ingrid Schneider in dem kürzlich veröffentlichten Review-Artikel mit dem Titel “Ethical, legal, and social implications (ELSI) of virtual agents and virtual reality in healthcare” nach. Der Artikel gibt einen Überblick über die in der Literatur diskutierten ELSA-Aspekte, erläutert Empfehlungen, um Risiken zu minimieren, und identifiziert aktuelle Forschungslücken. Der Artikel wurde im Social Science & Medicine Journal publiziert und kann unter diesem Link abgerufen werden.

In der Sendung DAS! im NDR wurde ein Beitrag ausgestrahlt, der die neuen Entwicklungen im Gesundheitswesen beleuchtet und das Projekt HIVAM vorstellt. Es wurden Interviews mit Prof. Dr. Frank Steinicke von der Universität Hamburg und mit Univ.-Prof. Dr. med. Jürgen Gallinat geführt und Demonstrationen unseres Prototypen gezeigt. Das Video kann hier angeschaut werden. Das HIVAM Projekt wird etwa ab Minute 16 vorgestellt.

Am 21.11.23 fand ein zweiter ELSA-Workshop an der Universität Hamburg statt. Dieses Mal lag der Fokus auf den rechtlichen und ethischen Implikationen von IVAs und Chatbots in der Gesundheitsversorgung. In mehreren Vorträgen sowie einem interaktiven Format setzten sich die Workshop-Teilnehmenden mit den Themen Datenschutz, Privatsphäre, Schweigepflicht und Haftung im Kontext KI-basierter Agenten auseinander.

Unser Literaturreview zu Embodied Virtual Medical Agents wurde auf der ISMAR publiziert und von Lucie Kruse vorgestellt. In dieser Arbeit fassen wir wichtige Erkenntnisse für unserer Anforderungsanalyse zusammen, welche uns im Design der visuellen Aspekte und des Verhaltens unserer Agenten helfen werden. Die Publikation findet sich hier.

Bei der SUI 2023 in Sydney hat die HCI Mitarbeiterin Lucie Kruse ihre Arbeit zur Visualisierung der Sichtbarkeit von virtuellen Agenten in VR vorgestellt. Das Design von Agenten hat Einflüsse auf die wahrgenommene soziale Präsenz der Nutzenden und auch für das Design unserer Agenten im klinischen Kontext ist dies von Bedeutung, beispielsweise beim Einsatz für neurologische Testungen. Das komplette Paper findet sich hier.

Welche ethischen Kompetenzen werden im Umgang mit intelligenten virtuellen Agenten (IVAs) in der Telemedizin benötigt? Diese Frage adressierte Catharina Rudschies, wissenschaftliche Mitarbeiterin im HIVAM-Projekt, auf der Jahrestagung der Akademie für Ethik in der Medizin (AEM) vom 28. bis 30.09.2023 in Halle (Saale). In dem Vortrag ging es zum einen um ethische Kompetenzen, die in der Erforschung von IVAs im Gesundheitswesen wichtig sind, und zum anderen um die notwendigen ethischen Kompetenzen bei einer prospektiven Anwendung im Medizinsektor.

Im Rahmen des Projektes HIVAM haben wir kollaborativ ein Paper für den Workshop "Co-Creation of Hybrid Interactive Systems for Healthcare", organisiert durch das Begleitprojekt CoCre-HIT, veröffentlicht. Der Artikel beschäftigt sich mit der Nutzung großer Sprachmodelle wie ChatGPT für intelligente virtuelle Agenten im Kontext der Psychotherapie. Er diskutiert die technischen Limitationen sowie die ethischen Implikationen und bietet letztlich Handlungsvorschläge für die Berücksichtigung ethischer Aspekte in der Entwicklung und Anwendung solcher Systeme. Mehr Details befinden sich hier.

Anknüpfend an den ELSA-Workshop wurden am 27.07. in einem Konsortialtreffen mit Hilfe der Value-Sensitive-Design-Methode die Werte und Interessen der verschiedenen Stakeholder wie Patient:innen und Kliniker:innen sowie potenzielle Konflikte zwischen ihnen identifiziert. Ziel war es, Erkenntnisse darüber zu gewinnen, welche Werte beim Design von IVAs im psychotherapeutischen Kontext berücksichtigt werden müssen und welche Anwendungsbereiche, Gestaltungsoptionen und Rahmenbedingungen sich daraus ergeben.

Am 04.07.23 stellte Catharina Rudschies, wissenschaftliche Mitarbeiterin im HIVAM-Projekt, einige Ergebnisse der qualitativen Interviews mit Patient:innen und Kliniker:innen auf der Konferenz der International Association of Computing and Philosophy (IACAP) in Prag vor. Fokus des Vortrags mit dem Titel „Trusting Intelligent Virtual Agents in Psychotherapy? Ethical Implications for the Doctor-Patient Relationship“ waren die ethischen Implikationen der Nutzung von IVAs für die Therapeut:innen-Patient:innen-Beziehung und insbesondere für das Vertrauensverhältnis zwischen Patient:innen und menschlichen bzw. virtuellen Therapeut:innen. 

Im Rahmen der Interaktionsdesign-Übungen an der UHH haben sich die Studierenden mit dem Design und der Ausgestaltung einer medizinischen Plattform auseinandergesetzt. Hierbei haben viele Gruppen Funktionen designt, die wir auch bei dem HIVAM Projekt erforschen, beispielsweise die Nutzung von KI, virtuelle Sprechstunden oder digitale Gesundheitsdokumente. Bei den anschließenden Prototyping Awards haben die Gruppen Intelligent x Dediziert, Goldene Schnitten und Team Hello Doc die ersten drei Plätze belegt.

In dem ELSA-Workshop „Ethische und soziale Implikationen intelligenter virtueller Agenten in der Gesundheitsversorgung“ lag der Fokus zum einen auf der werteorientierten Technikentwicklung unter Einbezug verschiedener Stakeholder wie Patient:innen und Kliniker:innen. Zum anderen wurden die technischen Limitationen und die damit einhergehenden ethischen Herausforderungen großer Sprachmodelle und intelligenter virtueller Agenten diskutiert. Der Workshop fand am 31.05. in Hamburg statt und begrüßte externe Referierende sowie Gäste aus ganz Deutschland.

In Zusammenarbeit mit dem UKE haben die UHH und Sympatient Interviews mit Kliniker:innen, Angehörigen und Patient:innen geführt, um Ihre Meinungen und Wünsche zu virtuellen Agenten zu erfahren. Aus diesen Interviewdaten werden nun die Anforderungen an unseren virtuellen Agenten generiert.

In dieser Forschungswerkstatt beschäftigen wir uns mit der Frage, was Vulnerabilität überhaupt bedeutet. Wir möchten herausfinden, wie wir den Zugang zu diesen Personengruppen erhalten können und ob die Digitalisierung eine Lösung für mögliche Herausforderungen im Umgang mit vulnerablen Personen darstellt. 

Bei unserem ersten Meeting in Präsens treffen wir uns am Universitätsklinikum Hamburg Eppendorf (UKE). Projektpartner und Gastgeber Univ.-Prof. Dr. med. Jürgen Gallinat präsentiert uns ausführlich, welche Herausforderungen und Ziele für das UKE von Interesse sind. Anschließend präsentieren die Universität Hamburg (UHH) und die Hochschule Düsseldorf (HSD) erste funktionale Prototypen, um im Anschluss mit den Partnern darüber zu diskutieren.

Weiteres Kennenlernen der anderen BMBF Projekte aus dem Call Hybride Interaktionssysteme zur Aufrechterhaltung der Gesundheit auch in Ausnahmesituationen. Wir suchen zusammen Forschungs- und Entwicklungsschwerpunkte, bei denen wir uns gegenseitig gezielt unterstützen und austauschen können.

Das BMBF hat eine Auftaktveranstaltung organisiert, die vom Begleitprojekt CoCre-Hit organisiert wurde. In den Breakout-Sessions konnten die Teilnehmer*innen mehr über die anderen Projekte und ihre gemeinsamen Ziele erfahren. Außerdem wurden Forschungswerkstätten angekündigt, bei denen in Zukunft gemeinsam Themen diskutiert werden, mit denen sich alle Projekte auseinandersetzen. 

Bei unserem ersten offiziellen virtuellen Treffen im Projekt konnten sich alle Projektpartner:innen vorstellen und kennenlernen. Das VDI/VDE war ebenfalls mit wichtigen Hinweisen zur Projektorganisation anwesend und erste Planungen mitzuverfolgen. Anschließend wurden die ersten Aufgaben besprochen und verteilt. Wir freuen uns auf einen erfolgreichen Projektverlauf!