KI bietet Risiken und Chancen

Künstliche Intelligenz (KI) verändert unsere Gesellschaft grundlegend.

Der Einsatz von KI darf nicht nur unter wirtschaftlichen Gesichtspunkten gesehen werden. Die sozialpolitischen Auswirkungen müssen immer mitbedacht werden. Nur eine vertrauenswürdige KI sichert den digitalen Fortschritt im Gesundheitswesen.

Die Diskussion über die elektronische Patientenakte (ePA) geht und ging angstbesetzt zur Ablenkung durch die Medien. Allen Versicherten werde eine ePA bereitgestellt, „es sei denn, sie widersprechen“. Dem besonderen Schutzbedürfnis von Gesundheitsdaten als sensiblen personenbezogenen Daten wird mit der Beschränkung des Kreises der Zugriffsberechtigten auf Berufsgeheimnisträger in Paragraf 352 Sozialgesetzbuch V (SGB V) Rechnung getragen.  KI-basierte Systeme unterstützen bereits vielerorts die tägliche Arbeit im Gesundheitswesen. 

Daten werden gesammelt und ausgewertet, oft ohne Wissen der Betroffenen oder unter Beachtung des Schutzes nach § 352 SGB V.

Die mangelnde Nachvollziehbarkeit von KI-Entscheidungen – die „Black Box-Problematik“ – sät Misstrauen, gefährdet die Patientensicherheit und erschwert die Einwilligungen. Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind (z. B. Chatbots, KI-basierte Assistenzsysteme, Pflegeroboter), müssen sicherstellen, dass die betreffenden Personen darüber informiert werden, dass sie mit einem KI-System interagieren (Art. 50 Abs. 1 Satz 1 KI-VO). Dies gilt nicht, wenn die Interkation mit einem KI-System aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist. Zur Beurteilung der Offensichtlichkeit ist entsprechend dem europäischen Verbraucherleitbild auf eine natürliche Person abzustellen, die angemessen informiert, aufmerksam und umsichtig ist. Kann dies von einer pflegebedürftigen Person erwartet werden?

Wer fühlte sich noch nicht beim Arzt, im Krankenhaus oder beim gewerblichen Pflegeanbieter zur Freizeichnung indirekt erpresst.

Durch Hinweise wollen wir zur Versachlichung beitragen.

Vertrauen ist die zentrale Rolle

medizinische Entscheidungen betreffen die Gesundheit und Grundrechte der Patientinnen. Haftungs- und Verantwortungsfragen bleiben herausfordernd. Die Verantwortlichkeit für Entscheidungen liegt weiterhin bei den Ärzten, den Einrichtungsträgern, den Softwarehäusern, demnächst durch das Pflegekompetenzgesetz auch bei den Pflegekräften – nicht bei der KI. Doch die Pflichtverletzungen in Verbindung mit KI-Anwendungen sind oft schwer nachweisbar.

Wie sicher sind meine Daten

Können KI-Systeme unbeabsichtigt vertrauliche Informationen preisgeben?

Das Vertrauen in den Arzt meiner Wahl wird wichtiger und vielschichtiger. Doch nicht nur der Arzt erhält meine sensiblen Daten. Die immer stärkere Vernetzung von Medizintechnik macht Kliniken zu bevorzugten Zielen von Cyberkriminellen.

Wo bleiben meine Vitaldaten der Smartwatch, die KI-gestützte Leistungsanalysen oder der Einsatz KI-unterstützter Überwachung zur Sturz- oder Notfallerkennung? Was nutzen unbekannte Schutzgesetze, die nicht eingehalten werden oder gar fehlender Schutz durch den „freien“ Markt ausserhalb von Europa.  

Wer kennt

• Die Datenschutzgrundverordnung (DSGVO), sie schützt die informationelle Selbstbestimmung der Betroffenen und stellt hohe Anforderungen an die Verarbeitung genetischer, biometrischer und Gesundheitsdaten.
• Die europäische KI-Verordnung (EU AI Act), sie setzt Vorgaben für KI-Systeme, deren Training und Nutzung. Sie klassifiziert KI-Systeme in Risikoklassen und definiert besondere Vorgaben für Hochrisiko-Anwendungen.

Gesetze können nur beachtet werden, wenn sie allgemein bekannt sind. So möchten wir Ihre Aufmerksamkeit auf Artikel 5 der KI-Verordnung „Verbotene Praktiken im KI-Bereich“ lenken. Die Abgeordneten im Europaparlament haben versucht einen Schutzteppich auszurollen, der in der gesamten EU gilt. Deshalb ist darauf zu achten, dass Ihre Daten in Europa bleiben und nicht irgendwo in der Welt ungeschützt gesammelt und ausgewertet werden. Die Künstliche Intelligenz ist das Macht- und Herrschaftsinstrument der Zukunft.

Achten wir auf unsere Daten(spuren)

In Baden-Württemberg geht der Aufbau der landesweiten cloudbasierten Gesundheitsplattform MEDI:CUS (Medizindaten-Infrastruktur: cloudbasiert, universell, sicher) voran.

Wir stehen erst an Anfang der neuen Zeit der künstlichen Intelligenz. Die Kenntnisse, die Fähigkeiten und das Verständnis ist in den Kinderschuhen und Bedarf der Beobachtung und des Lernens.

Bedenken Sie amerikanische Anbieter, wie Amazon Web Services, Microsoft Azure und Google Cloud, dominieren derzeit mit 72% des regionalen Marktanteils, ihre Daten sind schutzlos.

Vertrauen spielt eine zentrale Rolle, denn medizinische Entscheidungen betreffen die Gesundheit und Grundrechte der Patientinnen.

Künstliche Intelligenz verändert die Welt.

Unbekannt sind die europäischen Anstrengungen von Open-Source-Projekte

Seit Ende November 2024 steht mit Teuken-7B ein europäisches mehrsprachiges Open-Source-Sprachmodell auf Hugging Face zum kostenlosen Download bereit.

Anfang Juli 2025 präsentierten die beiden Eidgenössischen Technischen Hochschulen, ETHZ und EPFL, an einem Treffen in Genf rund 50 führenden Organisationen ihr Open-Source-Sprachmodell. Wie aus ihren News (ETHZ, EPFL) vom 9. Juli 2025 hervorgeht, soll dieses im Spätsommer nach den letzten Tests zur allgemeinen Verfügung stehen.

Eigene digitale europäische Sprachmodelle sollen vertrauenswürdiger sein. Sie sind auch unerlässlich für mehr Sicherheit.

Dies kann nur ein erster Beitrag sein. Die Veränderung durch und mit KI sind nicht absehbar und werden kommende Generationen begleiten.  Eine Studie zeigt: Global sind rund 25 Prozent aller Berufe potenziell durch KI gefährdet. In vergleichsweise wohlhabenden Ländern steigt jener Anteil gar auf 34 Prozent. Ein zweites Ergebnis der Studie lautet: Weibliche Beschäftigte verschiedener Berufsgruppen unterliegen einem deutlich höheren Risiko, in ihrer beruflichen Tätigkeit von KI-Programmen ersetzt zu werden. 

Ob Fluch oder Segen, dies entscheiden wir alle durch unser Verhalten mit. Bereits heute bezahlen wir bewußt oder unbewußt mit unseren persönlichen Daten. Bedenken wir, das Netz vergisst nichts. Wir müssen uns ständig weiterbilden.

********************