Roboterhund HELIA im Klinikalltag: Ethische Forschung und erste Updates

Im Verbundprojekt HELIA – Helfender Roboter im Klinikalltag erforschen Partner*innen aus Medizin, Informatik, Robotik und Ethik gemeinsam, wie ein KI-gestützter, sprachgesteuerter Assistenzroboter sinnvoll, sicher und verantwortungsvoll in klinische Arbeitsabläufe integriert werden kann. Koordiniert wird das vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) geförderte Projekt vom Universitätsklinikum Würzburg (UKW). Weitere Projektpartner sind das Karlsruher Institut für Technologie (KIT), das FZI Forschungszentrum Informatik sowie das Forschungszentrum Jülich (FZJ).

Ziel von HELIA ist es, medizinisches und pflegerisches Personal bei zeitintensiven Routineaufgaben zu entlasten und so mehr Raum für die unmittelbare Patient*innenversorgung zu schaffen. Der vierbeinige Roboter soll langfristig über natürliche Sprache bedient werden können und flexibel auf unterschiedliche Anforderungen im Klinikalltag reagieren.

Teamvorstellung: Forschungszentrum Jülich (FZJ)

Die Arbeitsgruppe „Neuroethik und Ethik der KI“ des Instituts für Neurowissenschaften und Medizin am Forschungszentrum Jülich übernimmt bei HELIA die Leitung des Arbeitspakets 9 „ELSA-Betrachtungen“. In enger Zusammenarbeit mit den anderen Teilprojekten untersuchen wir die forschungs-, technik- und medizinethischen Fragen, die mit der Entwicklung und Erprobung des KI-gestützten Assistenzroboters im Klinikalltag verbunden sind.

Das Institut für Neurowissenschaften und Medizin (INM-7) am Forschungszentrum Jülich ist auf die Integration multimodaler Neuroimaging-Daten spezialisiert. Ziel ist es, auf dieser Basis maschinelle Lernmodelle zur Vorhersage komplexer Phänotypen zu entwickeln. 

Die Arbeitsgruppe „Neuroethik und Ethik der KI“ befasst sich mit den ethischen und philosophischen Fragen, die sich aus der neurowissenschaftlichen Forschung und der Entwicklung KI-basierter Technologien ergeben. Sie arbeitet interdisziplinär an der Schnittstelle zwischen Philosophie, Neurowissenschaft und Informatik. Ein zentrales Anliegen ist es, einen Rahmen zu entwickeln, der verantwortungsvolle Forschung und Anwendung neuer Technologien ermöglicht. Dabei wird untersucht, wie klassische ethische Prinzipien – etwa Autonomie, Nichtschaden und Gerechtigkeit – im Kontext moderner KI-gestützter Verfahren angemessen interpretiert und umgesetzt werden können. Neben der Analyse forschungsethischer Fragen liegt ein Schwerpunkt der Gruppe auf der Technikethik und der Entwicklung von Kriterien für eine ethisch vertretbare Implementierung von KI-Systemen in Medizin und Gesellschaft. Über HELIA hinaus ist die Arbeitsgruppe in mehrere nationale und internationale Verbundprojekte eingebunden. Ein zentraler Knotenpunkt ist der vom BMFTR geförderte Research Hub Neuroethics (RHUNE), der den interdisziplinären Austausch in der Neuroethics Community stärkt, die internationale Sichtbarkeit deutscher Neuroethik fördert und Forschende, Industrie, Politik und Zivilgesellschaft miteinander vernetzt; die Projektkoordination liegt dabei bei Mitgliedern der Arbeitsgruppe. Zudem ist die Gruppe an weiteren Projekten beteiligt, darunter BrainTree, ein internationales Projekt zur ethischen Begleitung von Brain-Age-Prediction-Verfahren, das kürzlich abgeschlossene Projekt AI-PHCA zur KI-basierten Gesundheitsvorsorge bei Kindern und Jugendlichen sowie VINNIE, das den Einsatz virtueller Technologien zur Unterstützung von Kindern mit psychosomatischen Beschwerden erforscht. Diese Erfahrungen fließen in die ethische Arbeit im Projekt HELIA ein.

Im Rahmen des Beitrags zu HELIA werden zunächst forschungsethische Anforderungen an KI-basierte Assistenzsysteme identifiziert. Dazu identifizieren und bewerten wir mögliche Sicherheitsrisiken, die insbesondere aus der Flexibilität des eingesetzten Systems resultieren könnten (z. B. Missbrauchsoptionen und Dual Use Risiken etwa bei der Nachprogrammierung), sowie Risiken bei der Erprobung des frühen Demonstrators in Forschungssituationen, in denen menschliche Proband*innen beteiligt sind.

Zudem analysieren wir aus technikethischer Perspektive, wo die Verantwortung für KI-Handlungen liegt und wie transparent beziehungsweise erklärbar die verwendeten KI-Modelle sind und sein sollen. Zudem erheben wir die Diskriminierungs- und Datenschutzrisiken und setzen die benötigten Ressourcen ins Verhältnis zu den Forschungszielen (Kosten-Nutzen-Analyse).

Ein weiterer Fokus liegt auf der medizinethischen Evaluation des robotischen Systems, wenn es einmal in die klinische Praxis übernommen wird. Dabei werden Fragen der Akzeptabilität, der Vertrauensbildung, der Inklusivität und der Auswirkungen auf die Ärzt*in-Patient*in-Interaktion untersucht, insbesondere in Hinblick auf vulnerable oder technikferne Patient*innengruppen. Die Ergebnisse fließen in die iterative Gestaltung und ethische Bewertung des Systems ein.

Wir begleiten das Projekt von der Planung, über Evaluation, Durchführung/Produktion und Vermarktung, sodass bei jedem Schritt die jeweiligen ethischen Aspekte berücksichtigt werden können. Das Forschungszentrum Jülich berät die anderen Teilprojekte in Bezug auf ethische Aspekte und erforscht dabei die Praxis verantwortlicher Forschung und Entwicklung im hochsensitiven Bereich KI-gestützter medizinischer Robotik.

Text: Dilara Diegelmann

Am 3. Dezember fand in Würzburg das Kick-off-Meeting des im Oktober gestarteten Projekts „HELIA – Helfender Roboter im Klinikalltag” statt. Das vom BMFTR geförderte interdisziplinäre Projekt verfolgt das Ziel, einen hundeartigen Assistenzroboter zu entwickeln, der von autorisiertem Klinikpersonal mittels natürlicher Sprache nachprogrammiert werden kann. Nach dem offiziellen Projektstart im Oktober 2025 kamen die beteiligten Teilprojekte nun erstmals in der Bibliothek der Dermatologie des Universitätsklinikums Würzburg zusammen, um – nach einem ersten Kennenlernen bei einem gemeinsamen Abendessen am Vortag – gemeinsam über Ziele und Umsetzung des Projekts zu beraten.

Neben der Dermatologie des Universitätsklinikums Würzburg (UKW), in der der Roboter künftig zum Einsatz kommen soll und Prof. Dr. med. Astrid Schmieder als leitende Oberärztin tätig ist, sind das Karlsruher Institut für Technologie (KIT), das FZI Forschungszentrum Informatik in Karlsruhe sowie das Forschungszentrum Jülich (FZJ) an HELIA beteiligt. Im Mittelpunkt der Diskussionen standen sowohl praktische Fragen zu den Fähigkeiten des Assistenzroboters und deren technischer Umsetzung als auch ethische Aspekte, etwa zu Sicherheit, Datenschutz, Transparenz und Akzeptabilität.

Ein besonderes Highlight des Treffens war der Assistenzroboter HELIA selbst, der erstmals durch die Flure der Hautklinik laufen durfte. Mitarbeitende aus unterschiedlichen Berufsgruppen der Hautklinik – darunter Oberärzt*innen, Pförtner*innen, Beschäftigte aus dem Sekretariat, Pflegekräfte und Studierende – hatten die Gelegenheit, HELIA kennenzulernen und im Anschluss im Rahmen eines Fragebogens wertvolles Feedback zu möglichen Einsatzszenarien, Wünschen, aber auch zu bestehenden Bedenken zu geben.

Nach dem erfolgreichen Auftakttreffen geht das Projekt nun in die nächste Phase. In enger Abstimmung mit dem Klinikpersonal vor Ort wird HELIA schrittweise an die konkreten Bedürfnisse des Klinikalltags angepasst, um diesen künftig effektiv, sicher und nachhaltig entlasten zu können. Wir danken allen Beteiligten für ihr Engagement und freuen uns auf die weitere gemeinsame Zusammenarbeit.

Text: Dilara Diegelmann

Am 6. Oktober stellte Prof. Dr. med. Astrid Schmieder das erst wenige Tage zuvor gestartete Forschungsprojekt „HELIA – Helfender Roboter im Klinikalltag” im Rahmen der BMFTR-Forschungstour „Ich, Zukunft und sprachgesteuerte Robotik in der Medizin” vor. Die Koordination liegt beim Universitätsklinikum Würzburg (UKW), weitere Partner sind das FZI Forschungszentrum Informatik (Karlsruhe), das Forschungszentrum Jülich (FZJ) sowie das Karlsruher Insitut für Technologie (KIT).

In einem humorvollen Science Slam nahm Prof. Schmieder das Publikum mit in ihren stressigen Klinikalltag und zeigte augenzwinkernd – unter anderem mit einem Verweis auf ihre Crocs, die „nicht für das Laufen von Patient*in zu Patient*in taugen”–, wie der hundeartige Roboter HELIA das Klinikpersonal künftig unterstützen könnte. HELIA soll sich durch natürliche Sprache von autorisiertem Klinikpersonal nachprogrammieren und an die jeweiligen Bedürfnisse des medizinischen Personals anpassen lassen, um einfache, aber zeitaufwendige Aufgaben zu übernehmen und so mehr Raum für das Wesentliche zu schaffen: mehr Zeit für die Patient*innen.

Neben der Vorstellung von HELIA bot die Veranstaltung Gelegenheit, Einblicke in weitere, nun auslaufende BMFTR-geförderte Robotik-Projekte zu gewinnen – ein wertvoller Austausch, um mögliche Synergien zu erkennen und voneinander zu lernen. Ziel ist es, einen Roboter zu entwickeln, der sicher, ethisch und verantwortungsvoll in den Klinikalltag integriert werden kann.

Die Illustratorin Tiziana Beck hat zentrale Themen und Eindrücke der Veranstaltung in einem Graphic Recording festgehalten – ein Best-of ihrer Illustrationen sowie ein Foto des HELIA-Teams finden Sie unten.

Das Kick-off-Meeting des Projekts findet Anfang Dezember in Würzburg statt – wir freuen uns auf die gemeinsame Reise und die weitere Arbeit an unserem helfenden Roboter!

Text: Dilara Diegelmann