AI Act: Seit dem 2. August gelten Transparenzpflichten – auch für Medizinprodukte-Hersteller

Mit dem 2. August 2026 ist Artikel 50 des EU AI Act in Kraft getreten. Er verpflichtet Anbieter und Betreiber bestimmter KI-Systeme zu konkreten Transparenzmaßnahmen – und zwar unabhängig davon, ob das System als hochriskant eingestuft ist oder nicht.

Artikel 50 unterscheidet präzise zwischen den Pflichten für Anbieter (technische Maßnahmen) und Betreiber (Information der Anwender):

• KI-Interaktion kennzeichnen (Anbieter): Systeme, die direkt mit Menschen interagieren (z. B. Chatbots oder Voice-Assistenten in Patientenportalen), müssen Nutzer so informieren, dass die KI-Interaktion erkennbar ist. Ausnahmen:  Es ist völlig offensichtlich oder dient (mit Ausnahmen) zur Verfolgung von Straftaten.
• Technisches Watermarking & Metadaten (Anbieter): Generative KI-Systeme für Texte, Bilder, Audio oder Video müssen Ausgaben in einem maschinenlesbaren Format markieren und als künstlich erzeugt oder manipuliert kennbar machen (Metadaten/Watermarking). Ausnahme: Das System erfüllt lediglich eine unterstützende Funktion bei der Standardbearbeitung und verändert die Eingabedaten bzw. deren Semantik nicht wesentlich oder dient zur Verfolgung von Straftaten.
• Deepfakes offenlegen (Betreiber): Synthetisch erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die realen Personen, Orten, Gegenständen oder Ereignissen ähneln (Art. 3 Nr. 60 AI Act), müssen klar als KI-generiert ausgewiesen werden. Ausnahme: Nutzung zur Verfolgung von Straftaten.
• KI-Texte von öffentlichem Interesse kennzeichnen (Betreiber): KI-generierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren (dazu zählen regelmäßig auch medizinische Informationen und Gesundheitsleistungen), müssen offengelegt werden. Ausnahme: Nutzung zur Verfolgung von Straftaten.
  • Der Ausweg: Die Kennzeichnungspflicht entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine benannte Person die redaktionelle Verantwortung trägt.
• Emotionserkennung und Biometrie (Betreiber): Systeme zur Emotionserkennung oder biometrischen Kategorisierung müssen betroffene Personen aktiv informieren (unter Einhaltung der DSGVO). Ausnahme: Nutzung zur Verfolgung von Straftaten. Hinweis: Die Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen ist seit dem 2. Februar 2025 nach Art. 5 AI Act bereits grundsätzlich verboten.
   

Die Verordnung (EU) 2026/1744 (Digital Omnibus on AI, am 24. Juli 2026 im Amtsblatt veröffentlicht und seit 27. Juli 2026 in Kraft) hat der Branche Fristverlängerungen verschafft, aber die Transparenzregeln weitgehend unberührt gelassen:

• Verschiebung bei Hochrisiko-KI: Für KI-Komponenten als Sicherheitsbauteile in regulierten Produkten nach Anhang I (wie Medizinprodukten/IVDs gemäß MDR) wurden die Hochrisiko-Anforderungen nach Kapitel III (Art. 6 Abs. 1) auf den 2. August 2028 verschoben. Unabhängige Hochrisiko-Systeme nach Anhang III wurden auf den 2. Dezember 2027 verlegt.
• Transparenz gilt ab sofort: Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich ab dem 2. August 2026.
• Die einzige Schonfrist: Für die maschinenlesbare Markierungspflicht nach Art. 50 Abs. 2 gilt für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, eine Übergangsfrist bis zum 2. Dezember 2026. Alle übrigen Pflichten – insbesondere die Offenlegungspflichten der Betreiber – greifen ohne Übergangsfrist.
   

Über die Fristverschiebungen hinaus bringt der Digital Omnibus on AI wertvolle Klarstellungen für die Medizintechnik:

• Engere Sicherheitsbauteil-Definition: KI-Systeme, die lediglich unterstützende Funktionen erfüllen (Prozessoptimierung, Qualitätskontrolle, Benutzerunterstützung, etc.), fallen nicht mehr automatisch als Hochrisiko-Systeme unter den AI Act, solange ihr Ausfall die Gesundheit oder Sicherheit nicht gefährdet.
• Vermeidung von Doppelregulierung: Die EU-Kommission wurde ermächtigt, AI-Act-Anforderungen einzuschränken, wenn durch das sektorale Medizinprodukterecht (MDR/IVDR) bereits gleichwertige Pflichten abgedeckt werden.

Auch wer keine Hochrisiko-KI betreibt, muss handeln. Wer KI-Funktionen in Patientenportalen, Symptom-Checkern, DiGA-Voice-Assistenten oder automatisierter HCP-Kommunikation einsetzt, muss prüfen: 

• Interagiert das System direkt mit Nutzern oder Patienten? 
• Werden KI-generierte Gesundheitsinformationen veröffentlicht, ohne dass ein dokumentierter redaktioneller Review stattfindet? 
• Werden synthetische Medien erzeugt oder verarbeitet? 

Wer Transparenzpflichten ignoriert, riskiert nach Art. 99 AI Act Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist; für KMU gilt der jeweils niedrigere Betrag). In Deutschland übernimmt die Bundesnetzagentur (KoKIVO) die Marktüberwachung in Abstimmung mit den Gesundheitsbehörden (BfArM).

Artikel 50 Abs. 5 schreibt vor, dass Transparenzhinweise klar, unterscheidbar und spätestens zum Zeitpunkt der ersten Interaktion bereitgestellt werden müssen – unter strikter Einhaltung der Barrierefreiheitsanforderungen.

Für Hersteller von Medical Device Software (SaMD) bedeutet das: Wer Benutzeroberflächen (UI) oder Informationsflüsse nachträglich anpasst, führt eine Äquivalenzänderung durch. Nach ISO 13485 (Abschn. 7.3.9) und MDR unterliegt dies dem Änderungslenkungsverfahren. Die Nachrüstung von Hinweisen kann als Design Change einzustufen sein. Das erfordert: 

• Überarbeitung der Risikoanalyse und Gebrauchstauglichkeitsprüfung (Usability / IEC 62366) 
• Anpassung der technischen Dokumentation 
• Gegebenenfalls die Einbindung der benannten Stelle bei wesentlichen Änderungen (MDR Anhang IX Abschn. 4.10)

Der Stichtag ist verstrichen – aber es ist nicht zu spät, die eigene Situation zu bewerten. Wer noch nicht geprüft hat, welche KI-Funktionen im eigenen Produkt unter Artikel 50 fallen, sollte das jetzt tun – strukturiert, mit Blick auf die regulatorischen Wechselwirkungen zwischen AI Act und MDR.

Wir helfen Ihnen, die Anforderungen aus Artikel 50 AI Act systematisch zu bewerten – und regulatorisch sauber umzusetzen.

Jetzt Kontakt aufnehmen