Künstliche Intelligenz (KI) spielt in Arztpraxen eine immer wichtigere Rolle. Doch mit den neuen Möglichkeiten kommen auch neue rechtliche Vorgaben. Am 1. August 2024 ist die EU-KI-Verordnung in Kraft getreten. Wir zeigen Ihnen, was das für Ihre Praxis bedeutet und wie Sie sich optimal auf den Einsatz von KI-Systemen vorbereiten können.
Einführung // Zeitstrahl // Klassifizierung von KI-Systemen // AI Literacy
KI-Verordnung: Was Arztpraxen beachten müssen
Die EU-KI-Verordnung wurde eingeführt, um den Einsatz von Künstlicher Intelligenz sicherer und transparenter zu gestalten. KI-Systeme bieten enormes Potenzial, gerade in sensiblen Bereichen wie der Medizin, wo sie zur Unterstützung von Diagnosen, Behandlungen und administrativen Aufgaben eingesetzt werden. Gleichzeitig bestehen jedoch auch Risiken, wie fehlerhafte Entscheidungen, Verzerrungen durch unzureichende Daten oder der Missbrauch personenbezogener Informationen. Die Verordnung soll solche Risiken minimieren und gleichzeitig die Innovation fördern.
Die KI-Verordnung unterscheidet zwischen verschiedenen Risikoklassen für KI-Systeme. Dabei reicht die Bandbreite von Systemen mit minimalem Risiko, wie etwa Spam-Filtern, bis hin zu Hochrisiko-KI-Systemen, die in sicherheitskritischen Bereichen wie der Medizin eingesetzt werden. Insbesondere für Arztpraxen sind die Regelungen für diese Hochrisiko-Systeme von Bedeutung. Dazu zählen beispielsweise medizinische Geräte, die auf KI basieren, wie Diagnosesysteme oder robotische Hilfsmittel. Die Verordnung trat am 1. August 2024 in Kraft, doch die einzelnen Regelungen werden stufenweise eingeführt:
Für Arztpraxen ist es essenziell, sich auf diese Stichtage vorzubereiten. Insbesondere die Transparenzpflichten und die Anforderungen an die Datenverarbeitung werden relevant, sobald KI-Systeme in der Praxis verwendet werden.
KI-Verordnung: Nächsten Schritte
Inkraftreten der KI-Verordnung
Einzelnen Regelungen werden stufenweise eingeführt
Anwendbarkeit von Kapitel I (General Provisions) und II (Prohibited AI Systems)
Pflicht, zur allgemeinen KI-Weiterbildung (AI Literacy) + KI Systeme, die gegen die Grundrechte und Sicherheitsstandards der EU verstoßen sind verboten (Art. 5 KI-Verordnung).
Ausarbeitung von Verhaltenskodizes
Codes of Practice für Anbieter von KI mit allgemeinem Verwendungszweck (General Purpose AI)
Regelungen für allgemeine KI-Systeme treten in Kraft
Systeme mit einer erheblichen allgemeinen Verwendbarkeit, die in der Lage sind, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen (Art. 53, 55 KI-Verordnung)
Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme
Chatbots und Generierung von Video, Ton und Text
Bestimmungen über Hochrisikosysteme
Systeme, die in sicherheitskritischen Bereichen oder solchen, die erhebliche Auswirkungen auf das Leben und die Rechte der Bürger haben, eingesetzt werden (Art. 6 KI-Verordnung mit Anhang I und III)
Klassifizierung von KI-Systemen nach der KI-Verordnung
Die KI-Verordnung unterscheidet zwischen verschiedenen Kategorien von KI-Systemen, abhängig von ihrem Risiko für die Gesellschaft und die betroffenen Personen. Diese Klassifizierung ist auch für Arztpraxen von Bedeutung, da je nach Kategorie unterschiedliche Anforderungen und Vorschriften gelten.
Verbotene Praktiken
Die Verordnung definiert einige KI-Systeme, die aufgrund ihres hohen Gefahrenpotenzials verboten sind. Diese Systeme greifen tief in die Autonomie und Rechte der Menschen ein. Beispiele sind:
- KI-Systeme, die das Verhalten von Menschen manipulieren, um unbewusste Entscheidungen zu beeinflussen.
- Systeme, die Schwächen von schutzbedürftigen Personen ausnutzen, etwa von Patienten mit psychischen Erkrankungen.
Für Arztpraxen sind solche Praktiken meist irrelevant, da sie nicht im medizinischen Kontext verwendet werden. Dennoch sollten sich Praxen bewusst sein, dass diese Art von Technologien nicht erlaubt ist.
Hochrisiko-KI-Systeme
Diese Kategorie betrifft KI-Systeme, die in sicherheitskritischen Bereichen eingesetzt werden, wie in der Medizin. Hochrisiko-KI-Systeme müssen strenge Anforderungen in Bezug auf Transparenz, Datensicherheit, Risikomanagement und menschliche Aufsicht erfüllen.
Beispiele für Hochrisiko-KI in Arztpraxen:
- Diagnosesysteme, die medizinische Daten analysieren und Vorschläge für Diagnosen liefern (z.B. KI-gestützte Auswertung von Röntgenbildern oder MRT-Scans).
- Robotische Chirurgiesysteme, die minimal-invasive Eingriffe mit Unterstützung von KI durchführen.
- Medikamentenmanagement-Systeme, die KI nutzen, um personalisierte Medikamentenpläne für Patienten zu erstellen.
Da diese Systeme unmittelbar Auswirkungen auf die Gesundheit und das Leben der Patienten haben, unterliegen sie besonders strengen Auflagen. Arztpraxen, die solche Systeme einsetzen, müssen sicherstellen, dass sie die Anforderungen der Verordnung erfüllen, etwa durch regelmäßige Kontrollen und die Nachvollziehbarkeit aller Entscheidungen, die durch die KI getroffen werden.
Fragen zur KI-Verordnung (EU-AI-Act)?
Wir beraten Sie gerne!
Systeme mit begrenztem Risiko
Diese Systeme bieten ein geringeres Risiko für die Nutzer, erfordern jedoch bestimmte Transparenzmaßnahmen. Beispiele hierfür sind:
- Chatbots, die Patienten einfache Fragen beantworten oder bei der Terminvereinbarung helfen.
- Virtuelle Assistenten, die administrative Aufgaben übernehmen, wie das Verwalten von Patientendaten oder das Versenden von Erinnerungen für Arzttermine.
Für Arztpraxen sind solche Anwendungen nützlich, da sie den administrativen Aufwand reduzieren können. Wichtig ist, dass die Patienten darüber informiert werden, dass sie mit einem KI-System interagieren, und dass klar erkennbar ist, welche Aufgaben die KI übernimmt.
Systeme mit minimalem oder keinem Risiko
Systeme dieser Kategorie, wie etwa Spam-Filter oder Übersetzungsprogramme, gelten als harmlos und unterliegen keiner besonderen Regulierung. Solche Systeme können auch in Arztpraxen zum Einsatz kommen, etwa zur Verwaltung der E-Mail-Kommunikation oder zur Übersetzung von Patienteninformationen. Hier sind keine speziellen Vorkehrungen nötig, außer dass die allgemeinen Datenschutzvorgaben eingehalten werden.
AI Literacy in Artikel 4 der KI-Verordnung (EU AI Act)
Artikel 4 der EU-KI-Verordnung befasst sich spezifisch mit „AI Literacy“. Er legt fest, dass Anbieter und Anwender von KI-Systemen Maßnahmen ergreifen müssen, um ein ausreichendes Niveau an AI-Kompetenz bei ihrem Personal und anderen Personen, die mit dem Betrieb und der Nutzung dieser Systeme befasst sind, sicherzustellen. Dies umfasst die Berücksichtigung ihres technischen Wissens, ihrer Erfahrung, Ausbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden, sowie die Personen oder Gruppen, auf die die KI-Systeme angewendet werden.
Wichtige Aspekte von Artikel 4 umfassen:
1. Kompetenzanforderungen:
Anbieter und Anwender müssen sicherstellen, dass ihr Personal über ausreichende Fähigkeiten und Kenntnisse im Umgang mit KI verfügt. Dies schließt technisches Wissen, praktische Erfahrung und eine angemessene Ausbildung ein.
2. Bewusstsein für Chancen und Risiken:
Es soll ein Bewusstsein dafür geschaffen werden, welche Chancen und Risiken mit der Nutzung von KI verbunden sind. Dies umfasst auch das Verständnis potenzieller Schäden, die durch KI verursacht werden können.
3. Ethische und rechtliche Rahmenbedingungen:
Die Ausbildung sollte sich nicht nur auf technische Aspekte konzentrieren, sondern auch ethische und rechtliche Implikationen der KI-Nutzung vermitteln.
4. Zielgruppenorientierte Maßnahmen:
Maßnahmen zur Förderung von AI Literacy sollten auf die spezifischen Bedürfnisse und Kontexte der Personen abgestimmt sein, die mit KI-Systemen interagieren.
Beratung im Datenschutz
Gerne beraten wir Sie hierzu und zu weiteren Themen im Datenschutz in der Arztpraxis. Sprechen Sie uns als externe Datenschutzbeauftragte für Arztpraxen an. Sie erreichen uns unter 0511/37388134 oder per Mail über datenschutzbeauftragter@datenschutzundgesundheit.de. Wir freuen auf Ihre Anfrage.
