Werkzeuge

Eines der Werkzeuge oder Methoden passt zu Ihrer Fragestellung und Sie möchten professionelle Unterstützung bei der Umsetzung? Dann bewerben Sie sich für einen kostenlosen TransferCheck!

Wir entwickeln Werkzeuge zur Unterstützung der Gesamtsystementwicklung von ML-basierten Systemen. So ist eine Übersicht gängiger, veröffentlichter Werkzeuge (ML-Tool DB) sowie ein Werkzeug zur Verwaltung des PAISE® Checkpoint-Konzepts (ML4P-Pipeline) entstanden.

Insbesondere für die ML-Komponentenentwicklung wurden Werkzeuge entwickelt, die Anwender*innen bei der Nutzung gängige ML-Frameworks unterstützen.
Diese umfassen Werkzeuge zur Integration von Datenschnittstellen und adressieren die Frage „Wie kann ein ML-Modelltraining effizient in bestehende Entwicklungsprozesse eingebunden werden“? Unsere Werkzeuge edge-ml sowie KI-DataPipe unterstützten beim Verwalten und Bereitstellen von Daten für das Modelltraining.
Auch die Modularisierung als Komponente, also die Portierung auf die Zielplattform, wird durch usere Werkzeuge unterstützt. Das durchgängige Werkzeug edge-ml unterstützt bei der Anpassung von ML-Modellen auf gegebene, ressourcenbeschränkte Hardware-Plattformen. Unsere ROS-basierte Laufzeitumgebung (KI-Box) ermöglicht die effiziente Ausführung des finalen, trainierten Modells auf ressourcenbeschränkten Plattformen. Ein weiteres Werkzeug (NASSoC Generator) unterstützt bei der Entwicklung von Hardware-Plattformen, welche auf dedizierte ML-Modelle abgestimmt sind.

Wichtiger Bestandteil bei der Entwicklung eines ML-basierten Systems ist die Datenbereitstellung. Mit unserem Werkzeug OCTANE können automobile Daten virtuell erzeugt werden. Zur Datenaufbereitung, -analyse, -bewertung und –erweiterung eignet sich unser Werkzeug DAfA. Unser Werkzeug KI-DataPipe stellt eine Pipeline zur Trainingsdatenerzeugung, insbesondere für KI-basierten Bildverarbeitungsalgorithmen, bereit.

Data Analytics for Automotive (DAfA)

DAfA ist eine Sammlung von datengetriebenen Methoden aus dem Automotive Systems Engineering. Die Leistungsfähigkeit von KI-Systemen ist maßgeblich von den zum Training verwendeten Daten beeinflusst. Diese sollten umfangreich sein und eine hohe Qualität aufweisen.

DAfA sammelt und beschreibt Methoden, um Umfang und Qualität der eingesetzten Daten zu erhöhen, um die Qualität der entwickelten KI-Systeme zu maximieren. Dabei werden verschiedene Datenformate (Bilder, Zeitreihen) adressiert.

edge-ml.org – Maschinelles Lernen für Mikrokontroller

Edge Machine Learning beschäftigt sich damit, KI-Modelle direkt auf den Geräten der Endanwendung auszuführen und benötigt deshalb keine Verbindung zur Cloud. Daraus ergeben sich Vorteile wie Wegfall einer Internetverbindung, geringere Kosten, bessere Privatsphäre, und geringere Latenz. Maschinelle Lernmodelle auf dem Mikrokontroller eines Endgeräts auszuführen, stellt auf Grund der geringen verfügbaren Speichergröße und Rechenleistung eine große Herausforderung dar. Daher bieten wir mit edge-ml.org eine Browser-basierte Werkzeugkette an, welche die Entwicklung von KI-Modellen und die Suche nach einer geeigneten KI-Modellarchitektur für Mikrokontroller vollumfänglich unterstützt.

KI-DataPipe – Pipeline zur Trainingsdatenerzeugung

Für den Einsatz von KI-basierten Bildverarbeitungsalgorithmen werden während des Modelltrainings viele annotierte Bilddaten benötigt. Sowohl die Aufzeichnung als auch die Annotation ist dabei zeit- und kostenintensiv. Um die Datenbasis für das Modelltraining anhand des Ziel-Anwendungsfalls effizient zu erstellen, kann auf die in CC-KING konzeptionierte Datenverarbeitungs-Pipeline zurückgegriffen werden. Dabei kommen Open Source Werkzeuge zum Einsatz, wie bspw. eine auf ROS (Robot Operating System) basierende Datenaufzeichnungskomponente und dem teilautomatisierten Annotationstool CVAT.

ML4P Verarbeitungspipeline

ML Pipelines sind Workflows, die eingesetzt werden, um eine vollständige Machine Learning Aufgabe zu lösen. Sie bestehen aus einzelnen Komponenten, welche jeweils für sich gekapselt eine abgeschlossene Teilaufgabe lösen. Im klassischen Sinne enthalten diese eine Quelle (z. B. Laden der Daten aus einer Datenbank), mehrere Verarbeitungsschritte (z. B. Vorverarbeitung, Trainieren, Validierung eines Modells) und letztendlich eine Senke (z. B. Dashboard zur Ergebnisdarstellung, Speichern der Ergebnisse in einer Datenbank).

Das Werkzeug „ML4P-Verarbeitungspipeline“ bietet die Möglichkeit solche Pipelines schnell umzusetzen. 

Neural Architecture Specific System-on-a-Chip (NASSoC) Generator

Neurale Netze stellen hohe Anforderungen an die Leistungsfähigkeit der Hardware. Bei Eingebetteten Systemen reichen die verfügbaren Rechenkapazitäten oft nicht aus. Spezialisierte Hardwarebeschleuniger können Abhilfe schaffen. Jedoch sind gängige Hardwareentwicklungsprozesse langwierig.

In CC-KING wurde ein Framework zur werkzeuggestützten Generierung von applikationsspezifischen System-on-a-Chip (SoC) Plattformen für künstliche Neuronale Netze entwickelt.

OCTANE

In der Mobilitätsforschung ergeben sich Fragestellungen bei der Erprobung und Evaluation neuer immer komplexerer Systeme, die oftmals KI-Komponenten beinhalten. Daraus resultiert ein immer höherer Stellenwert der Simulation als Entwicklungs- und Evaluationswerkzeug. Neben der altbewährten Methode der hochpräzisen Simulation einzelner Teilkomponenten wird es in Zukunft immer relevanter, das Fahrzeugsystem im Gesamtkontext, d.h. vom Fahrzeug über die Verkehrssituation bis hin zum Verkehrsfluss zu betrachten.

Hier setzt die Simulationsplattform OCTANE als ein modulares Werkzeug an und ermöglicht eine individuelle Anpassbarkeit der Simulation auf die jeweilige konkrete Anwendung

ROS-basierte Laufzeitumgebung (KI-Box)

Mit Hilfe künstlicher neuronaler Netze können Systeme verschiedene Objekte mit hoher Sicherheit visuell erkennen und segmentieren. So können bspw. mobile Roboterplattformen sich an Terrains anpassen oder Kollisionen vermeiden, aber auch Roboter in der Produktion können ihre Arbeitsabläufe optimieren.

In CC-KING wurde eine KI-Box Architektur entwickelt, die modular aufgebaut ist und sich dank ROS2 leicht in verschiedene Hardwaresysteme integrieren lässt (ROS2KI-Box). Darüber hinaus wurde ein Detectron2 KI-Framework für das Training visueller Klassifikatoren implementiert und für leistungsschwache Embedded-Geräte angepasst.