Strategie & Konzept

Existieren bereits KI Use Cases in Ihrem Unternehmen?

Nein Ja, aber nicht GxP-relevant Ja, aber unklar ob GxP-relevant Ja, eindeutig GxP-relevant

Wurde der KI Use Case im Hinblick auf Patientensicherheit, Produktqualität und Datenintegrität bewertet?

Nein Erste informelle Einschätzungen Strukturierte Risikobetrachtung durchgeführt Risikobewertung ist dokumentierte Entscheidungsgrundlage

Gibt es einen strukturierten Prozess für die Bewertung und Erprobung von KI-Ideen

Nein Ad-hoc-Erprobung ohne formalen Rahmen PoC-Prozess ist definiert PoC-Prozess ist etabliert mit definierten Evaluierungskriterien und Übergang in Projektphase

Governance & Organisation

Gibt es klar definierte Verantwortlichkeiten für Entwicklung, Betrieb und Überwachung des KI-Systems?

Nein Implizit verteilt Rollen sind definiert Rollen sind formal im Governance/QMS-Rahmen verankert

Ist der KI-Einsatz organisatorisch und prozessual in bestehende IT-, Qualitäts- und Validierungsstrukturen eingebettet?

KI wird isoliert betrachtet Erste Anknüpfungspunkte vorhanden Teilweise integriert Vollständig integriert

Ist definiert, welchen Autonomiegrad das KI-System hat und wo menschliche Überprüfung zwingend erforderlich ist?

Nein Informell bekannt Autonomiestufen sind für den Use Case definiert Autonomiestufen sind dokumentiert und Human-in-the-Loop-Anforderungen sind operativ umgesetzt

Daten & Modellqualität

Sind Herkunft, Zweck und Qualität der für KI verwendeten Daten nachvollziehbar?

Nein Teilweise bekannt Weitgehend dokumentiert Vollständig dokumentiert und nachvollziehbar

Wird mit daten- oder modellbezogenen Risiken (z. B. Bias, Drift) bewusst umgegangen?

Nicht betrachtet Bewusstsein vorhanden Risiken sind bewertet Monitoring und Maßnahmen sind definiert

Werden KI-Ergebnisse und -Entscheidungen von Fachexperten kritisch hinterfragt und validiert (Critical Thinking)?

Nein, KI-Ergebnisse werden übernommen Vereinzelt, abhängig von Personen Systematische Überprüfung ist vorgesehen Kritische Prüfung ist in Prozesse und Schulungen integriert

Lieferanten & Transparenz

Ist die Verantwortung zwischen Lieferanten und Betreiber bewusst definiert und im Betrieb berücksichtigt?

Nein Teilweise Vertraglich geregelt Vertraglich geregelt und operativ gelebt

Besteht ausreichende Transparenz über Änderungen an Modellen, Daten oder KI-Funktionen durch Lieferanten?

Nein Eingeschränkt Dokumentierte Informationen vorhanden Auditierbare Transparenz gegeben

Lebenszyklus & Betrieb

Wird das KI-System über seinen gesamten Lebenszyklus betrachtet (nicht nur bis Go-Live)?

Nein Teilweise Dokumentiert Operativ umgesetzt

Sind Leistungskennzahlen und Überwachungskriterien für den laufenden Betrieb definiert?

Nein Grob definiert Klar definiert Definiert inkl. Schwellenwerten und Reaktionen

Gibt es klare Regeln, wann Anpassungen, Re-Training oder Re-Validierung erforderlich sind?

Nein Diskutiert Definiert In SOPs / Prozessen verankert

. Ist die IT-Infrastruktur für den KI-Betrieb geeignet (z. B. Datenspeicherung, Modellversionierung, Deployment)?

Nicht bewertet Grundlegende Infrastruktur vorhanden KI-spezifische Anforderungen sind identifiziert und teilweise umgesetzt Durchgängige MLOps-/KI-Infrastruktur etabliert

Regulatorik & Kompetenz

Werden Transparenz, Nachvollziehbarkeit und Fairness von KI systematisch berücksichtigt?

Nein Grundsätzlich beachtet Bewertet In Governance und Entscheidungsprozesse integriert

Wurde die Relevanz regulatorischer Anforderungen (z. B. EU AI Act, DSGVO, GxP) für den KI-Einsatz bewertet?

Nein Unsicher Bewertet Maßnahmen wurden abgeleitet

Ist der Aufbau von KI-Kompetenz (AI Literacy) als fortlaufender Entwicklungsprozess im Unternehmen etabliert?

Nein Einzelne Initiativen Regelmäßige Schulungen Etabliertes, kontinuierliches Kompetenzmodell