{"id":17115,"date":"2025-11-04T09:26:56","date_gmt":"2025-11-04T08:26:56","guid":{"rendered":"https:\/\/www.dhc-consulting.com\/ch\/?p=17115"},"modified":"2025-12-09T09:54:09","modified_gmt":"2025-12-09T08:54:09","slug":"validierung-von-ki-systemen-in-regulierten-branchen","status":"publish","type":"post","link":"https:\/\/www.dhc-consulting.com\/ch\/blog\/validierung-von-ki-systemen-in-regulierten-branchen\/","title":{"rendered":"Validierung von KI-Systemen in regulierten Branchen \u2013 Forschungsbedarf, Regulierungsrahmen und Ausblick"},"content":{"rendered":"

Wenn KI selbst zum Compliance-Thema wird<\/span><\/b>\u00a0<\/span><\/h3>\n

Wenn K\u00fcnstliche Intelligenz (KI) regulatorische Aufgaben \u00fcbernehmen kann, zur GxP- und IT-Compliance beitr\u00e4gt und zunehmend auch in Medizinprodukten Einzug h\u00e4lt, stellen sich zwangsl\u00e4ufig die Fragen: <\/span>Wie kann KI selbst validiert werden? <\/span><\/b>Wie l\u00e4sst sich IT-Compliance von KI-Anwendungen herstellen und nachweisen?<\/span>\u00a0<\/span><\/p>\n

Warum klassische Validierungsmethoden an Grenzen sto\u00dfen<\/span><\/b>\u00a0<\/span><\/h3>\n

F\u00fcr die Validierung\u00a0von\u00a0Softwaresystemen\u00a0existieren seit Jahren\u00a0etablierte regulatorische Methoden \u2013 etwa auf Basis der\u00a0<\/span>FDA-Guidelines<\/span><\/b>,\u00a0<\/span>GxP-Richtlinien<\/span><\/b>\u00a0oder der\u00a0<\/span>IEC\u00a062304\u00a0f\u00fcr Medizinprodukte.\u00a0<\/span><\/b>Diese Ans\u00e4tze funktionieren gut f\u00fcr Systeme, deren Verhalten\u00a0<\/span>deterministisch, reproduzierbar und nachvollziehbar<\/span><\/b>\u00a0ist.<\/span>\u00a0<\/span><\/p>\n

KI-basierte Systeme sind jedoch datengetrieben und probabilistisch. Sie ver\u00e4ndern ihre Leistungsf\u00e4higkeit durch neue Trainingsdaten \u2013 potenziell sogar aus Prozessen, die sie selbst beeinflussen.\u00a0F\u00fcr\u00a0solche\u00a0selbstlernenden Systeme\u00a0geraten klassische\u00a0Computerized\u00a0System Validation (CSV)-Methoden an ihre Grenzen.<\/span>\u00a0<\/span><\/p>\n

Neue Anforderungen an Validierung und Compliance\u00a0<\/span><\/b>\u00a0<\/span><\/h3>\n

Die Validierung von KI erfordert eine integrierte Betrachtung von<\/span>\u00a0<\/span><\/p>\n

    \n
  • Datenqualit\u00e4t und -herkunft,<\/span>\u00a0<\/span><\/li>\n
  • Modellarchitektur und Trainingsprozessen, sowie<\/span>\u00a0<\/span><\/li>\n
  • dem Anwendungskontext, in den die KI eingebettet ist.<\/span>\u00a0<\/span><\/li>\n<\/ul>\n

    Zwar enthalten bestehende Standards wie GAMP 5 Second Edition erste Ans\u00e4tze zur Validierung von\u00a0Machine\u00a0Learning-Systemen, sie reichen jedoch f\u00fcr vollst\u00e4ndig adaptive Systeme noch nicht aus.\u00a0Damit entsteht die Gefahr, dass Regulierung zur Innovationsbremse wird.\u00a0<\/span>\u00a0<\/span><\/p>\n

    Dies betrifft sowohl den Einsatz von KI in Medizinprodukten (\u201eAI\u00a0as\u00a0a\u00a0medical\u00a0device\u201c) als auch KI-basierte Systeme zur Unterst\u00fctzung von Gesch\u00e4fts-, Produktions-\u00a0oder Qualit\u00e4tsprozessen.<\/span>\u00a0<\/span><\/p>\n

    Fehlende Standards als Innovationshemmnis<\/span><\/b>\u00a0<\/span><\/h3>\n

    In\u00a0diesen\u00a0Bereichen entwickelt sich die Digitalisierung rasant, doch es fehlen geeignete Methoden und\u00a0Erfahrungen, um IT-Compliance nachvollziehbar\u00a0nachzuweisen. Fehlende regulatorische Orientierung und daraus resultierende Unsicherheit k\u00f6nnen sich zu einem Hemmnis f\u00fcr Innovationsf\u00e4higkeit und unternehmerischen Erfolg entwickeln \u2013 und das ausgerechnet in volkswirtschaftlich bedeutenden,\u00a0oft\u00a0mittelst\u00e4ndisch gepr\u00e4gten Branchen wie\u00a0Pharma, Biotechnologie und Medizintechnik.\u00a0Vor diesem Hintergrund besteht\u00a0<\/span>methodischer und technologischer\u00a0Entwicklungsbedarf<\/span><\/b>\u00a0zur Validierung von KI-Systemen.\u00a0<\/span>\u00a0<\/span><\/p>\n

    Den \u00fcbergeordneten Rahmen f\u00fcr die weitere Entwicklung setzen insbesondere die\u00a0<\/span>aktuellen europ\u00e4ischen Regelungen zur Datenverarbeitung und K\u00fcnstlichen Intelligenz<\/span><\/b>. Hierzu z\u00e4hlen der\u00a0<\/span>Data Act<\/span><\/b>\u00a0(Juni 2023), der\u00a0<\/span>Data\u00a0Governance\u00a0Act (DGA)<\/span><\/b>\u00a0(September 2023) sowie der\u00a0<\/span>EU AI Act<\/span><\/b>, der die weltweit erste umfassende Regulierung von K\u00fcnstlicher Intelligenz anstrebt. K\u00fcnftige Ans\u00e4tze zur Validierung von KI m\u00fcssen sich in diesen Rechtsrahmen einf\u00fcgen. Parallel dazu existieren internationale Initiativen, die branchenspezifische Regulierungen f\u00fcr KI entwickeln \u2013 etwa von der\u00a0EMA\u00a0oder\u00a0der\u00a0FDA.<\/span>\u00a0<\/span><\/p>\n

    Allerdings konzentrieren sich diese bisher vorrangig auf\u00a0die regulatorischen Anforderungen\u00a0f\u00fcr die Entwicklung von KI-basierten Systemen. F\u00fcr deren\u00a0<\/span>Betrieb<\/span><\/b>\u00a0\u2013 und damit auch f\u00fcr die Frage der\u00a0<\/span>Validierung und IT-Compliance<\/span><\/b> \u2013 existieren bislang keine abschlie\u00dfenden Antworten. Offene Fragen lauten<\/span><\/p>\n

      \n
    • Wie beeinflusst KI die Inspektionspraxis der \u00dcberwachungsbeh\u00f6rden?<\/span><\/li>\n
    • Welcher Anpassungsbedarf entsteht f\u00fcr bestehende CSV-Methoden?<\/span><\/li>\n
    • Wie kann die geforderte\u00a0Compliance von KI-Systemen nachgewiesen werden?<\/span><\/li>\n<\/ul>\n

      Diese Fragen verdeutlichen die bestehende L\u00fccke: Es fehlt ein verl\u00e4ssliches Regelwerk, das CSV und KI-Validierung systematisch miteinander verbindet. Ebenso fehlen standardisierte Methoden und technologische Werkzeuge, um KI-Systeme unter geltenden Regularien nachvollziehbar zu pr\u00fcfen.\u00a0<\/span><\/p>\n

      Der kommende Annex 22: Ein Schritt zur Schlie\u00dfung der L\u00fccke?<\/span><\/b>\u00a0<\/span><\/h3>\n

      Der im Entwurf befindliche\u00a0<\/span>Annex 22 \u201eArtificial\u00a0Intelligence\u201c<\/span><\/b>\u00a0soll k\u00fcnftig genau diese L\u00fccke schlie\u00dfen. Er erg\u00e4nzt\u00a0<\/span>Annex 11 \u201eComputerised\u00a0Systems\u201c<\/span><\/b>\u00a0und adressiert die Validierung von KI-Modellen in GMP-kritischen Anwendungen. Sein Geltungsbereich umfasst\u00a0Machine-Learning-Modelle, die ihre Funktionalit\u00e4t durch Training mit Daten erlangen, nicht durch fest einprogrammierte Regeln. Annex 22 legt fest, dass ausschlie\u00dflich\u00a0<\/span>statische Modelle<\/span><\/b>, also Modelle mit eingefrorenen Parametern, in kritischen GMP-Anwendungen eingesetzt werden d\u00fcrfen, da diese\u00a0Parameter\u00a0f\u00fcr die Herstellungsprozesse\u00a0(CPPs)\u00a0sowie\u00a0die entsprechenden\u00a0Attribute\u00a0in der\u00a0Qualit\u00e4tskontrolle\u00a0(CQAs)\u00a0meistens im\u00a0Zulassungsdossier des Arzneimittels\u00a0festgelegt sind und nicht ver\u00e4ndert werden d\u00fcrfen.\u00a0<\/span>Dynamische oder generative Modelle<\/span><\/b>, die sich nach ihrer Freigabe selbst weiterentwickeln, sind in diesem Kontext\u00a0daher\u00a0ausdr\u00fccklich ausgeschlossen.\u00a0Dar\u00fcber hinaus beschreibt der Entwurf Anforderungen an\u00a0<\/span>Testdaten<\/span><\/b>,\u00a0<\/span>Erkl\u00e4rbarkeit<\/span><\/b>,\u00a0<\/span>Vertrauensniveaus<\/span><\/b>,\u00a0<\/span>Change Control<\/span><\/b>\u00a0und\u00a0<\/span>Human-in-the-Loop-Prinzipien<\/span><\/b>. Ziel ist es, sicherzustellen, dass KI-Modelle nur dort eingesetzt werden, wo ihre Leistungsf\u00e4higkeit, Stabilit\u00e4t und Nachvollziehbarkeit mit\u00a0den\u00a0GMP-Anforderungen vereinbar sind.\u00a0<\/span>\u00a0<\/span><\/p>\n

      Damit entsteht erstmals ein Rahmen, der den Einsatz von KI in regulierten Umgebungen erm\u00f6glicht, ohne die Grundprinzipien von Patientensicherheit, Produktqualit\u00e4t und Datenintegrit\u00e4t zu gef\u00e4hrden.<\/span>\u00a0<\/span><\/p>\n

      Fazit<\/span><\/b>\u00a0<\/span><\/h3>\n

      Die Validierung von KI-Systemen steht an der Schnittstelle von technologischer Innovation und regulatorischer Verantwortung. Sie ist derzeit eines der dynamischsten und zugleich am wenigsten standardisierten Themen im Life-Sciences-Sektor. Zwischen klassischen CSV-Methoden und modernen, datengetriebenen Systemen klafft eine L\u00fccke, die neue Methoden, neue Denkweisen und neue Werkzeuge erfordert.<\/span>\u00a0<\/span><\/p>\n

      Mit dem EU AI Act entsteht erstmals ein Rechtsrahmen, der den Einsatz von KI in allen Sektoren adressiert. Der Annex 22 \u201eArtificial\u00a0Intelligence\u201c konkretisiert diesen Rahmen f\u00fcr GMP-regulierte Umgebungen und schafft die Basis f\u00fcr eine nachvollziehbare, risikobasierte Validierung von KI-Modellen. Damit werden regulatorische Leitplanken gesetzt, die Innovation erm\u00f6glichen, ohne die Grundprinzipien von Patientensicherheit, Produktqualit\u00e4t und Datenintegrit\u00e4t zu gef\u00e4hrden.<\/span>\u00a0<\/span><\/p>\n

      F\u00fcr Unternehmen bedeutet das: Sie\u00a0sollten\u00a0sich fr\u00fchzeitig mit den neuen Anforderungen auseinandersetzen, ihre\u00a0Validierungsstrategien\u00a0anpassen und\u00a0interne Kompetenzen f\u00fcr die Bewertung von KI-Systemen aufbauen. Nur wer diesen Wandel aktiv gestaltet, kann sicherstellen, dass K\u00fcnstliche Intelligenz nicht zum Compliance-Risiko wird, sondern zum Innovationstreiber in regulierten Branchen.<\/span>\u00a0<\/span><\/p>\n

      M\u00f6chten Sie mehr dar\u00fcber erfahren, wie Sie KI-Anwendungen regulatorisch sicher und zukunftsf\u00e4hig gestalten k\u00f6nnen?<\/strong><\/h3>\n

      Unsere DHC-Experten f\u00fcr KI-Validierung und GxP-Compliance<\/strong> unterst\u00fctzen Sie individuell und praxisnah \u2013 von der strategischen Einordnung bis zur konkreten Umsetzung unter Ber\u00fccksichtigung aktueller Vorgaben wie EU AI Act, Annex 22 und GAMP 5 Second Edition.<\/p>\n

      F\u00fcr einen kurzen, unverbindlichen Austausch zum Thema k\u00f6nnen Sie <\/strong>einen 1:1 Termin buchen.<\/strong><\/span>
      \nNutzen Sie die Gelegenheit f\u00fcr einen pers\u00f6nlichen Austausch zu Ihren Fragen rund um KI-Validierung, Compliance-Strategien oder regulatorische Anforderungen \u2013 fundiert, vertraulich und zielgerichtet.<\/p>\n

      Wir freuen uns auf den weiteren Austausch mit Ihnen.<\/strong><\/p>\n\n

      \n

      <\/p>

        <\/ul><\/div>\n
        \n
        \n\n\n\n\n\n\n<\/div>\n

        <\/span>\n<\/p>\n

        <\/span>\n<\/p>\n