22. Individualisierung und Demokratisierung der Versorgung von Krebspatienten

ein ML-basiertes Programm entwickeln, das Prostatakrebspatienten in Ballungs-
zentren und in ländlichen Gebieten gleichermaßen zur Verfügung gestellt wird,
um ihre Gesundheitsdaten und ihren Krankheitsstatus zu überwachen und Ärz-
te zu ermächtigen, evidenzbasierte medizinische Entscheidungen mittels KI und
computergestützter Analytik zu treffen.
Ein Schwerpunkt der Forschung an der Heidelberger Akademie der Wissen-
schaften liegt darin, die ethischen und rechtlichen Rahmenbedingungen, die die
Interaktion zwischen Patienten, Kl-basierter Plattform und Arzt bestimmen, aus
der Perspektive der Verantwortung zu analysieren. Ein weiterer Schwerpunkt liegt
auf der Datennutzung: Wie kann das Vorhaben aus datenschutzrechtlicher Perspek-
tive realisiert werden? Daher werden wir uns mit Fragen nach dem angemessenen
Niveau des Datenschutzes und der Systemsicherheit beschäftigen und dabei vor
allem die Umsetzung der Datenschutzprinzipien Privacy-by-Design und Privacy-
by-Default bestimmen und mögliche Ausnahmen und Privilegien zugunsten der
wissenschaftlichen Forschung und der sekundären Datennutzung definieren. Weil
die Datenschutz-Grundverordnung und die mitgliedstaatlichen Umsetzungen die
technischen und organisatorischen Maßnahmen für die Realisierung dieser Prinzi-
pien nicht abschließend bestimmen und die Besonderheiten von KI nicht berück-
sichtigen, soll unser Vorhaben über die Perspektive der reinen Anwendung des
Datenschutzrechts hinausgehend verallgemeinerbare Datensicherheits-Maßstäbe
für den ML-Kontext aufstellen.
Ausgangspunkt unseres Vorhabens bei der Bearbeitung des ersten Schwer-
punkts ist die Feststellung, dass wenn der Arzt während seiner Behandlung ML-ge-
nerierte Forschungsergebnisse nutzt, bis dato unklar ist, wer in welchem Umfang
für etwaige Schäden haftet. Der Einsatz autonomer Systeme bei der medizinischen
Entscheidungsunterstützung oder als Entscheidungsträger bereitet hinsichtlich der
Vorhersehbarkeit und Beherrschbarkeit von Risiken sowie der Nachweisbarkeit
von kausalen Pflichtverletzungen und Verschulden haftungsrechtliche Probleme.
Eine einseitige haftungsrechtliche Zuordnung zum Arzt bzw. Produkthersteller
kann nicht erfolgen. Mit unserem Projekt wollen wir daher in einem ersten Schritt
mögliche Haftungsregime im medizinischen und versorgungstechnischen Bereich
untersuchen, auf ihre genaue Anwendbarkeit hin prüfen, de jure und de facto ko-
ordinierte Haftungsregeln entwickeln und letztendlich das einschlägige Haftungs-
konzept (oder -konzepte!) für die unterschiedlichen Anwendungstypen von ML
am Beispiel unseres Modellprojektes aufzeigen.
Die Ergebnisse dieser Untersuchung können dazu beitragen, Verantwortung
im Kontext von potenziellen Verursachung und Verschulden von Schäden klarer
zu definieren und Handlungsmaßstäbe für die verschiedenen involvierten Akteure
zu bestimmen sowie Anpassungen bei den anzuwendenden normativen Rahmen
vorzuschlagen. Hierbei ist besonders bedeutend, dass die Notwendigkeit einer
Restrisikozuweisung durch politische Vorabentscheidung bezüglich verschiedener

339