Embedded KI: Skalierbare Hardware mit KI-Agent

Coole Technologien – unser innovativer Ansatz und Vorsprung:

Ob Hardware, OS, Software-Toolchain, Applikationen und Modell-Entwicklung – wir können Ihnen das umfassende, erforderliche Portfolio bieten. Eine Teamarbeit ist es dennoch!

Im Fokus steht IHR Anwendungsfall:

• Was ist der «Use Case»?
• Was ist der Kundennutzen?
• Wie ist das Businessmodell?
  
  
• Welche Datenbasis ist vorhanden?
• Wollen Sie besser optimieren oder detektieren?
• Wollen Sie ein separates Edge-Gerät oder eine Kombination aus KI und SPS?
  
  
• Welche Mitarbeiter verstehen Technik und Anwendungsfall? Productowner?
• Welche Mitarbeiter haben ML / KI-Programmier-Erfahrung?
• Welche Mitarbeiter können ein KI-Projekt als Projektmanager führen?
• Welche Lösungen hat Ihr Wettbewerb bereits realisiert?

Sie sehen: Embedded KI eine auf Sie zugeschnittene Hard- und Software-Lösung, die in einem ganzheitlichen Ansatz für Sie entwickelt wird.

Die zugeschnittene Hardware als Basis

Entgegen den klassischen Ansätzen der Modellentwicklung empfehlen wir unseren Kunden die Embedded KI-Hardware rechtzeitig vorzuselektieren. Ziel ist, den Fussabdruck des Modells und der benötigten Hardware auf den Geschäftsfall zu projizieren (Kostenauswirkung). Dennoch bleibt bei unserem Ansatz die Flexibilität für verschiedene KI-Erweiterungen erhalten.

Selbstverständlich bleibt die Modell-Entwicklung am Anfang das zentrale Element. Ob mit Ihrem eigenen Modell-Entwickler oder mit einem Experten aus unserem Umfeld - gestartet wird mit der Konzeption, um neben der möglichen Ziel-Hardware auch die Software-Umgebung auszuwählen.

Unterschiedliche Software Toolchains: Integration in die Ziel-Hardware

Je nach vorhandener Entwicklungsumgebung für Ihr Modell gilt es, den Transfer auf die Ziel-Hardware abzusichern. Dies kann die Integration von Laufzeitumgebungen erfordern, oder es wird ein offenes Datenaustauschformat wie ONNX verwendet, um das Modell auf der Ziel-Hardware ausführbar zu machen.

Das Besondere bei Grossenbacher: Der Embedded KI-Agent im Yocto Container

Gemeinsam mit den KI-Spezialisten von Foresthub (www.foresthub.ai) gelang die Weiterentwicklung des Universal Controllers in einer besonderen Art und Weise. Technologisch dürfen wir diese Kombination als «führend» bezeichnen.

Auf Basis des für KI vorbereiteten Yocto hat foresthub diesen KI-Agenten eingebunden, der sich über eine no-code-Oberfläche ideal einrichten und programmieren lässt. Ideale Voraussetzungen, um sich auf die Applikationsprojekt (Optimieren/Anomaliedetektion) zu konzentrieren.

Der KI-Agent wird im Yocto Container ausgeführt und kann seine Algorithmen den generellen Cores oder auch NPU, GPU oder VPU zuweisen. Der KI-Agent kann lokale Modelle ausführen oder sich mit Large Language Models (LLMs) verbinden. Als Besonderheit kann lokal auch ein SLM (Small Language Model) eingesetzt werden. Somit haben Sie höchste Flexibilität für jede Anwendung!

Dank der skalierbaren Embedded AI-Architektur auf ARM-Basis und integrierter Cyber Security nach IEC 62443 ist der Universal Controller bestens für zukünftige KI-Anwendungen gerüstet – auch wenn das Modell grösser wird als gedacht.

Projektmanagement «AI conformal»

In einem durchdachten Projektierungsansatz findet die Mischung aus agiler Modell- und Software-Entwicklung und klassischer Hardware-Entwicklung statt. AI-Lifecycle-Management wird als neue «Disziplin» ins Projektmanagement integriert. Denn Ihr KI-Modell «lebt»: Damit gute KI-Ergebnisse stattfinden, werden die Algorithmen Ihres Modells idealerweise laufend beobachtet, trainiert und optimiert.

Unser Deployment Tool GUT! (Grossenbacher Update Tool) ist die Basis für Ihre Diagnose- und Updateanforderungen und kann spezifisch an Ihre Erfordernisse angepasst werden.

Ganzheitlicher Ansatz für Ihren Projekterfolg

Unser Ansatz für Embedded KI nimmt die Skalierbarkeit der Hardware in den Fokus. Dies, um den idealen Mix aus Sicht Kosten und Performance zu treffen. Aber auch, um ein existierendes Basis-Produkt, welches um Embedded KI erweitert werden soll, in einem ersten Schritt handhabbar zu machen und damit den Lifecycle des Standardproduktes separat führen zu können.

Wir stehen Ihnen gerne auch mit einem Vorprojekt für Wissensaufbau, PoC, Datenanalyse oder ähnlichem als ersten Schritt zur Verfügung. Nehmen Sie Kontakt mit uns auf, wir beraten Sie gerne!