Künstliche Intelligenz (KI) gewinnt in nahezu allen Branchen zunehmend an Bedeutung, auch im Gesundheitswesen. Automatisierte Systeme unterstützen bei der Terminplanung, Patientenkommunikation, Dokumentation und Datenanalyse. Gleichzeitig steigen die Anforderungen an Datenschutz, IT-Sicherheit und gesetzliche Compliance. Vor diesem Hintergrund gewinnt die Rolle eines KI-Beauftragten an Relevanz, um den Einsatz von KI-Systemen sicher, effizient und rechtskonform zu gestalten.
Aufgaben einer KI-Beauftragten
Das BSI hat einen Kriterienkatalog für den sicheren Einsatz von KI bereitgestellt (Kriterienkatalog des BSI). Ganz oben auf der Liste der Forderungen: die Bestellung eines KI-Beauftragten. Dieser wird in die Nähe des ISB gerückt. Auch die GMDS erhebt hier die Forderung nach einem KI-Beauftragten (CAIO). Darüber hinaus hat das Netzwerk EURAID (European Responsible AI Development) einen praxisnahen Leitfaden zur Implementierung von Anwendungen Künstlicher Intelligenz (KI) im Krankenhaus vorgestellt (vgl. Journal of Medical Internet Research, 2026; DOI: 10.2196/80754 und als Kurzfassung der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin, 2026; DOI: 10.21934/baua:berichtkompakt20260122). Dabei fokussiert dieser Leitfaden auf Krankenhäusern, die eine eigene Entwicklung von KI-Werkzeugen und deren Implementierung in den Alltag betreiben.
Tätigkeiten als CAIO / KI-Beauftragter
Die Tätigkeiten des Chief AI Officer (CAIO) bzw. KI-Beauftragten umfassen strategische, organisatorische, rechtliche sowie technische Aufgaben. Ziel ist es, den Einsatz von KI-Systemen im Unternehmen und im Gesundheitswesen verantwortungsvoll, datenschutzkonform und rechtskonform zu gestalten und zugleich das Potenzial dieser Systeme zur Unterstützung von Arbeitsprozessen zu nutzen.
Ein KI-Beauftragter übernimmt die kontinuierliche Überwachung der Einführung und Nutzung von KI-Anwendungen. Zu seinen Aufgaben gehört die Unterstützung des Betreibers bei der Sicherstellung der rechtskonformen Nutzung von KI-Systemen, insbesondere im Umgang mit sensiblen personenbezogenen Daten und Unternehmensdaten, sowie die Integration der Systeme in bestehende IT-Sicherheitsarchitekturen. Darüber hinaus prüft der KI-Beauftragte Risiken durch automatisierte Prozesse, berät zu ethischen Fragestellungen und unterstützt bei der Entwicklung oder dem Einkauf von Konzepten für die Schulung von Mitarbeitenden im sicheren Umgang mit KI-Lösungen. Damit trägt der KI-Beauftragte entscheidend dazu bei, dass KI-Anwendungen effizient, sicher und vertrauenswürdig in die Geschäftsprozesse integriert werden.
Zusammenfassend müssen die folgenden Leistungen abgedeckt werden:
Organisation
- Entwicklung und Begleitung der Umsetzung einer KI-Strategie
- Definition von KI-Leitlinien und -Nutzungsrichtlinien mit Berücksichtigung der Themen Geschäftsprozesse, Unterstützung der Anwender, Aufgabenteilung zwischen den Fachdisziplinen und Verantwortung
- Begleitung von Aufbau und Weiterentwicklung interner KI-Kompetenzen
- Organisation Schulung von Geschäftsführung, Führungskräften und Mitarbeitenden
Implementierungsbegleitung
- Beratung der Fachbereiche bei KI-Vorhaben
- Begleitung bei der Analyse bestehender Prozesse auf KI-Potenziale
- Unterstützung bei der Konzeption, Auswahl, Pilotierung und Implementierung von KI-Lösungen
- Entwicklung von Konzepten und Unterstützung bei deren Implementierung von Qualitätssicherung und Performance-Monitoring von KI-Systemen
Compliance, Risiko & Sicherheit
- Durchführung von Risikobewertung und Klassifizierung von einzusetzenden KI-Systemen
- Abstimmung mit Qualitätsmanagement und Risikomanagement
- Prüfung der Konformität mit regulatorischen Anforderungen (z. B. EU AI Act, DSGVO, MDR)
Risikomanagement und Kontinuierliche Weiterentwicklung
- Implementierung und Durchführung Risikomanagement von KI-Anwendungen
- Kontinuierliche Weiterentwicklung des Risikomanagements von KI-Anwendungen
Unterstützung durch Synagon
Die Stellung einer KI-Beauftragten erfordert fundiertes Fachwissen in IT-Sicherheit, Datenschutz und organisatorischen Abläufen. Synagon stellt bereits erfolgreich den Beauftragten für Datenschutz, IT-Sicherheit und/oder Risikomanagement vernetzter Medizinprodukte und hat bei seinen Kunden entsprechende Managementsysteme aufgebaut. Aufgrund dieser vielfältigen Projekte bringt Synagon die Expertise zum Aufbau eines entsprechenden KI-Managementsystems ein. Als Ingenieure verstehen die Mitarbeitenden komplexe Systeme ganzheitlich, können technische Lösungen analysieren, optimieren und gleichzeitig alle gesetzlichen Anforderungen berücksichtigen.
Mit Synagon profitieren Praxen, Kliniken, Krankenhäuser und Unternehmen von einer sicheren und rechtskonformen Implementierung von KI-Systemen. KI-Lösungen werden effizient in bestehende Prozesse integriert, Risiken für Datenschutzverletzungen und IT-Sicherheitsvorfälle werden minimiert. Synagon fungiert als zentraler Ansprechpartner für alle Fragen rund um KI, Datenschutz un Gesundheitswesen und Unternehmen