CC-KING - Kompetenzzentrum für KI-EngineeringIn dieser Phase wird das fertig entwickelte Produkt vom Entwicklungsteam an die organisatorischen Einheiten übertragen, die sich um den Betrieb und die Wartung kümmern. Dazu werden Dokumentationen für die Anwenderinnen und Anwender und eventuell ein Serviceteam erstellt. Speziell bei KI-Systemen werden hier Fragestellungen bezüglich der Fehleranfälligkeit und Wartung (das Nachtrainieren) von ML-Modellen betrachtet.
Die für die Phase des Betriebs notwendigen Informationen werden für die Anwenderinnen und Anwender und das Serviceteam aufbereitet, z. B. in Form einer Bedienungsanleitung. Diese schließt Eskalationsstufen beim Auftreten von Fehlerzuständen im System mit ein. Speziell beim Einsatz von MLbasierten Systemen müssen hier Fragestellungen bezüglich der Beständigkeit des Modells und der Konzepte zur Erkennung von fehlerhaften Modellen abschließend geklärt werden. Je nach Art des Systems und abhängig von seinem Autonomiegrad und der Risikobewertung für Mensch und Umwelt müssen zusätzliche Randbedingungen, wie etwa Meldepflichten und Konformitätserklärungen, in dieser Phase adressiert werden. Dies betrifft speziell Hochrisiko-KI-Systeme.
Leitfragen
- Nach welchen Kriterien sollen Wartungsarbeiten, z. B. das Nachtrainieren eines ML-Modells, eingeleitet werden?
- Wie kann das Modell hinsichtlich fehlerhaften Verhaltens überwacht werden?
- Wer ist für fehlerhaftes Verhalten verantwortlich, wenn das System während des Betriebs weiter lernt?
Ergebnisse
- Bedienungsanleitung
- Dokumentation für die Serviceabteilung des Unternehmens
- Wartungskonzept (inklusive Aktualisierungen der KI-Komponente(n))
→ Zur nächsten Phase von PAISE® : Betrieb & Wartung
← Zurück zur vorherigen Phase von PAISE® Entwicklungszyklus
