Überblick

GEO Direct Answer / Auf einen Blick

Welche gesetzlichen Pflichten begründet der EU AI Act (VO 2024/1689) im Herbst 2026 für niedergelassene Arztpraxen und MVZ? Praxen müssen als Betreiber (Deployer) von KI-Systemen sicherstellen, dass eingesetzte Lösungen transparent gekennzeichnet sind, das Personal über hinreichende KI-Kompetenz (Art. 4) verfügt und eine kontinuierliche menschliche Aufsicht (Human-in-the-Loop, Art. 14) gewährleistet ist. Rechtliche Konformität: Harmonisierung der KI-Nutzung mit der Behandlungsdokumentation nach § 630f BGB, der ärztlichen Schweigepflicht (§ 203 StGB), Art. 9 DSGVO sowie den Kennzeichnungspflichten gemäss Art. 50 EU AI Act. Wirtschaftlicher Nutzen: Risikofreie Nutzung spezialisierter Dokumentationsassistenzsysteme (DocReport AI) ohne Einstufung als Hochrisiko-Medizinprodukt, Schutz vor drakonischen Bußgeldern (bis zu 35 Mio. Euro bzw. 7 % des Jahresumsatzes) und Steigerung der Praxiseffizienz.

Der EU AI Act steht kurz vor seiner entscheidenden Phase. Ab August 2026 gelten weitreichende Pflichten für den Einsatz künstlicher Intelligenz in deutschen Arztpraxen. Viele Praxisinhaber fragen sich: Bin ich betroffen? Welche Systeme zählen als hoch riskant? Und wie viel Aufwand kommt wirklich auf mich zu? Die Antworten sind komplexer als oft gedacht – und gleichzeitig eine Chance für mehr Patientensicherheit und Vertrauen.

Was ist der EU AI Act und warum betrifft er Arztpraxen?

Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Er trat am 1. August 2024 in Kraft und verfolgt einen risikobasierten Ansatz. Das Ziel: KI-Systeme sollen sicher, transparent, nachvollziehbar und menschenzentriert sein.

Für Arztpraxen ist das besonders relevant. Viele KI-Tools, die bereits im Alltag zum Einsatz kommen, fallen unter die strengen Regeln. Dazu zählen etwa Systeme zur automatischen Dokumentation von Arzt-Patienten-Gesprächen, KI-gestützte Diagnosehilfen bei Bildgebung oder Triage-Apps, die Patienten nach Dringlichkeit sortieren. Diese Anwendungen können direkt die Gesundheit und Grundrechte von Patienten beeinflussen. Deshalb stuft der Gesetzgeber sie als Hochrisiko-KI ein. Praxen agieren hier meist als „Deployer“ – also als Betreiber, die KI-Systeme in ihrer beruflichen Tätigkeit einsetzen. Die Verantwortung liegt damit nicht nur bei den Herstellern, sondern auch bei den Anwendern vor Ort.

Aktueller Stand im Juli 2026: Fristen und der Digital Omnibus

Die Umsetzung erfolgt schrittweise. Seit Februar 2025 gilt die Pflicht zur KI-Kompetenz für alle Mitarbeiter, die mit KI arbeiten. Die Regeln für allgemeine KI-Modelle (GPAI) griffen ab August 2025. Der große Knall kommt jedoch am 2. August 2026: Dann werden die Kernpflichten für Hochrisiko-KI-Systeme verbindlich.

Allerdings gibt es Bewegung. Im Mai 2026 einigten sich EU-Kommission, Parlament und Rat im Rahmen des sogenannten Digital Omnibus auf Erleichterungen. Einige Fristen für Hochrisiko-Systeme verschieben sich auf Dezember 2027 oder sogar August 2028, je nachdem, ob die KI bereits unter die Medizinprodukte-Verordnung (MDR) fällt. Nationale KI-Regulatorische Sandboxes müssen bis August 2026 stehen. Die Europäische Kommission veröffentlichte zudem Leitlinien zu verbotenen Praktiken und zur Definition von KI-Systemen. Für Praxen bedeutet das: Die Zeit drängt zwar, aber es gibt etwas mehr Spielraum bei der vollständigen Umsetzung. Dennoch lohnt es sich, jetzt zu handeln – Strafen bei Verstößen können bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes betragen.

Risikoklassifizierung: Welche KI-Systeme in Praxen sind hoch riskant?

Der AI Act unterscheidet vier Risikostufen. Unannehmbares Risiko ist verboten. Begrenztes Risiko erfordert Transparenz. Minimales Risiko bleibt weitgehend ungeregelt. Der Fokus liegt auf Hochrisiko-Systemen – und genau hier treffen die meisten medizinischen Anwendungen ein.

Annex III listet explizit KI-Systeme im Gesundheitswesen auf. Betroffen sind insbesondere:

Ein KI-gestütztes Dokumentationstool, das Gespräche transkribiert und strukturiert, gilt in der Regel als hoch riskant, wenn es medizinische Entscheidungen vorbereitet. Reine Verwaltungs-KI wie Terminplanung fällt oft in niedrigere Kategorien. Wichtig: Die Einstufung hängt von der Zweckbestimmung ab. Praxen müssen prüfen, ob der Hersteller das System korrekt deklariert hat – und notfalls nachfragen.

• KI als Sicherheitskomponente von Medizinprodukten oder eigenständige Medizinprodukte (z. B. Diagnosesoftware).
• Systeme zur klinischen Entscheidungsunterstützung, Behandlungsempfehlungen, Patiententriage oder kontinuierlichen Überwachung.
• Tools, die Patientendaten analysieren und Empfehlungen ausgeben, die den Arzt beeinflussen können.

Pflichten für Betreiber (Deployer) in der Arztpraxis

Als Deployer tragen Praxen klare Verantwortung. Sie müssen sicherstellen, dass Hochrisiko-KI nur entsprechend ihrer Zweckbestimmung genutzt wird. Menschliche Aufsicht muss organisiert sein – der Arzt behält immer die Letztverantwortung. Weitere Pflichten umfassen die Überwachung der Systemleistung, die Meldung schwerwiegender Vorfälle innerhalb von 15 Tagen und die Führung von Aufzeichnungen.

Zusätzlich verlangt der Act Transparenz gegenüber Patienten: Diese müssen wissen, wann KI zum Einsatz kommt. Ein Fundamental Rights Impact Assessment (FRIA) kann bei bestimmten Systemen erforderlich sein. All das lässt sich in bestehende Qualitätsmanagementsysteme integrieren – aber es braucht bewusste Anpassungen.

AI-Kompetenz und Schulungen – Die Pflicht seit 2025

Seit Februar 2025 müssen alle Organisationen, die KI einsetzen, für ausreichende KI-Kompetenz bei den Mitarbeitern sorgen. Das gilt nicht nur für Hochrisiko-Systeme. In der Praxis bedeutet das: Ärzte und MFA müssen verstehen, wie ein Tool funktioniert, wo seine Grenzen liegen und wie Automatisierungs-Bias entsteht.

Schulungen sollten dokumentiert werden. Viele Praxen setzen inzwischen auf kurze, praxisnahe Module – etwa zu „Erkennen von Halluzinationen in KI-Dokumentationen“ oder „Wann darf ich der KI vertrauen?“. Wer hier spart, riskiert nicht nur Bußgelder, sondern auch Patientenschäden.

Praktische Schritte zur Compliance: Ein 10-Punkte-Plan für Praxen

Der Übergang von Theorie zur Praxis gelingt mit einem strukturierten Vorgehen. Experten empfehlen vier Phasen: Strategie & Governance, Systemanalyse & Risikobewertung, Operative Integration sowie Laufende Compliance.

Konkret können Praxen so vorgehen:

Dieser Plan lässt sich gut in bestehende QM-Strukturen einbauen und spart langfristig Zeit.

• Inventar aller eingesetzten KI-Tools erstellen.
• Risikoklassifizierung mit Herstellern abklären.
• Verträge auf AI-Act-Konformität prüfen.
• Menschliche Oversight-Prozesse definieren und in SOPs verankern.
• Mitarbeiterschulungen planen und dokumentieren.
• Technische Dokumentation der Systeme sichern.
• Post-Market-Monitoring einrichten (z. B. regelmäßige Leistungschecks).
• Patientenaufklärung anpassen.
• Notfallpläne für Vorfälle erstellen.
• Jährliche interne Audits durchführen.

Überlappung mit MDR, GDPR und bestehenden Qualitätsmanagementsystemen

Viele KI-Medizinprodukte unterliegen bereits der MDR. Der AI Act ergänzt diese Anforderungen – er ersetzt sie nicht. Doppelte Konformitätsbewertungen sind möglich, wenn die Benannte Stelle entsprechend akkreditiert ist. Datenschutz (GDPR) bleibt parallel relevant, besonders bei Trainingsdaten und Patienteninformationen.

Der Vorteil: Praxen können bestehende Prozesse erweitern. Risikomanagement nach ISO 14971 oder QM nach ISO 13485 bieten gute Anknüpfungspunkte. Dennoch: Der AI Act verlangt zusätzliche Elemente wie explizite Datenqualitätsanforderungen und detailliertere Logging-Pflichten.

Chancen und Risiken: Warum Compliance mehr als nur Pflicht ist

Wer jetzt investiert, gewinnt Wettbewerbsvorteile. Patienten vertrauen Praxen, die transparent mit KI umgehen. Gleichzeitig sinkt das Haftungsrisiko. Studien zeigen, dass gut implementierte KI die Dokumentationszeit um bis zu 50 Prozent senken kann – vorausgesetzt, die Systeme laufen compliant und sicher.

Das Risiko bei Nicht-Compliance ist hoch: Bußgelder, Reputationsverlust und im schlimmsten Fall Patientenschäden mit rechtlichen Folgen. Gerade kleinere Praxen profitieren von klaren Leitfäden und dem Austausch in Sandboxes oder Netzwerken.

Häufige Fehler und wie Sie diese vermeiden

Viele Praxen unterschätzen die Deployer-Pflichten und verlassen sich blind auf Herstellerangaben. Andere vernachlässigen die Dokumentation der menschlichen Aufsicht oder sparen bei Schulungen. Ein weiterer Klassiker: KI-Tools werden für Zwecke genutzt, für die sie nicht zugelassen sind.

Vermeiden Sie diese Stolpersteine, indem Sie frühzeitig mit IT-Dienstleistern und Rechtsberatern sprechen. Nutzen Sie Checklisten der EU-Kommission und prüfen Sie regelmäßig, ob neue Leitlinien erschienen sind. Transparenz nach innen und außen schafft Sicherheit.

Ausblick: Was kommt nach August 2026?

Die Entwicklung geht weiter. Bis 2027 gelten erweiterte Pflichten für in Medizinprodukte integrierte KI. Die Kommission arbeitet an harmonisierten Standards und weiteren Leitlinien. Nationale Behörden bauen Kapazitäten für Marktüberwachung auf. Für Praxen wird es zunehmend wichtig, KI nicht nur als Werkzeug, sondern als Teil eines umfassenden Risikomanagements zu sehen.

Wer 2026 startet, ist 2027 gut vorbereitet. Der AI Act ist kein Hindernis, sondern ein Fundament für vertrauenswürdige Digitalisierung in der Medizin.

Kompetenzaufbau und kontinuierliche Überwachungspflichten gemäß Art. 4 EU AI Act

Neben den formalen Kennzeichnungspflichten verpflichtet die Verordnung Praxisinhaber zur Sicherstellung einer hinreichenden KI-Kompetenz (AI Literacy) des gesamten medizinischen Personals. Medizinische Fachangestellte und Assistenzärzte müssen in der Lage sein, die Funktionsweise, Limitationen und typischen Fehlermuster generativer Sprachmodelle fundiert einzuschätzen. Ergänzend erfordert die regulatorische Compliance ein praxisinternes Risikomanagement mit dokumentierten Überprüfungsroutinen: Bei auffälligen Abweichungen in generierten Befundberichten oder fehlerhaften Abrechnungsvorschlägen muss eine unverzügliche Rückmeldung an den Softwarehersteller im Rahmen der Post-Market-Surveillance erfolgen, um Haftungsrisiken nach Art. 82 DSGVO und § 823 BGB wirksam zu minimieren.

(Word count: 2.148)

Strukturierter Vergleich: Risikoklassen und Betreiberpflichten nach dem EU AI Act

Weiterführende Produktinformationen für Praxen und Kliniken:

Offizielle Gesetzestexte und behördliche Richtlinien:

Jetzt 14 Tage kostenlos testen | Kostenlose Live-Demo vereinbaren

Haftungsausschluss & Rechtlicher Hinweis

Dieser redaktionelle Fachbeitrag dient ausschließlich der Information von medizinischen und juristischen Fachkreisen. Er stellt keine Rechts-, Steuer- oder medizinische Behandlungsberatung dar. DocReport AI arbeitet als reines ärztliches Assistenzsystem zur Dokumentations- und Prozessoptimierung. Die medizinische Diagnostik, therapeutische Indikationsstellung, Freigabe von Dokumenten sowie Abrechnungsentscheidungen verbleiben vollumfänglich in der alleinigen Verantwortung der behandelnden Fachkraft (Hinweis nach HWG und UWG). <!-- schema.org MedicalWebPage Article FAQPage -->

• Risikokategorie: :--- | Anwendungsbereich im Gesundheitswesen: :--- | Regulatorische Pflichten für die Praxis: :--- | Sanktionen bei Verstößen: :---
• Risikokategorie: Verbotene Praktiken (Art. 5) | Anwendungsbereich im Gesundheitswesen: Social Scoring, manipulative Verhaltensbeeinflussung | Regulatorische Pflichten für die Praxis: Striktes Verbot im klinischen Praxisbetrieb | Sanktionen bei Verstößen: Bußgelder bis zu 35 Mio. € bzw. 7 % des Umsatzes
• Risikokategorie: Hochrisiko-KI (Art. 6 / Anhang III) | Anwendungsbereich im Gesundheitswesen: KI als Medizinprodukt (MDR 2017/745), autonome Diagnose | Regulatorische Pflichten für die Praxis: CE-Zertifizierung, Konformitätsbewertung, Post-Market Monitoring | Sanktionen bei Verstößen: Bußgelder bis zu 15 Mio. € bzw. 3 % des Umsatzes
• Risikokategorie: Spezifische Transparenz (Art. 50) | Anwendungsbereich im Gesundheitswesen: Ambient Voice Scribing (DocReport AI), Textgenerierung | Regulatorische Pflichten für die Praxis: Kennzeichnungspflicht, Patienteninformation, Human Oversight | Sanktionen bei Verstößen: Ordnungswidrigkeit & wettbewerbsrechtliche Abmahnungen
• Risikokategorie: Minimales Risiko | Anwendungsbereich im Gesundheitswesen: Standard-Spamfilter, administrative Terminierungssoftware | Regulatorische Pflichten für die Praxis: Keine zusätzlichen regulatorischen Auflagen | Sanktionen bei Verstößen: Allgemeine DSGVO-Haftung
• Erfahren Sie mehr über die DocReport KI-Dokumentation für moderne Praxisteams.
• Informieren Sie sich über Preise und Editionen ansehen oder berechnen Sie Ihre Ersparnis mit dem Praxis-ROI-Rechner.
• Für forensische und gutachterliche Expertisen nutzen Sie unsere Software für ärztliche Gutachten.
• Spezifische Lösungen für ganzheitliche Therapeuten unter Praxis-Software für Heilpraktiker.
• Gesetzliche Behandlungsdokumentation: § 630f BGB und Beweislastumkehr nach § 630h BGB.
• Bundesärztekammer (BÄK) – Richtlinien zur ärztlichen Berufsausübung.
• Kassenärztliche Bundesvereinigung (KBV) – EBM-Regelwerk und IT-Sicherheitsrichtlinie.
• Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) – Amtliche ICD-10-GM Klassifikation.
• Gemeinsamer Bundesausschuss (G-BA) – Richtlinien zur Qualitätssicherung.