Warum Standardisierung der Schlüssel zum Erfolg mit agentischer KI ist: Wie eine einheitliche Plattform Innovationen fördert

Sie haben die Aufgabe, KI in Ihr Unternehmen zu integrieren. Doch der Weg vom Proof of Concept zur produktionsfähigen Anwendung ist oft ein Labyrinth aus fragmentierten Tools und komplexen Integrationen, insbesondere bei Use Cases für agentische KI. Die eigentliche Herausforderung ist nicht nur die Technologie, sondern die Entwicklung einer KI-Strategie, die skalierbar, zuverlässig und kontrollierbar ist.

Die Standardisierung ist ein Hauptfaktor bei der Bewältigung dieser Herausforderung, vor allem durch die Reduzierung der Komplexität und die Steigerung der Effizienz. Durch die Kombination von Model Context Protocol (MCP) und Llama Stack auf einer Plattform wie Red Hat OpenShift AI können Sie eine einheitliche und portierbare Umgebung für Ihre KI-Anwendungen schaffen.

OpenShift AI kann auch die Integration anderer agentischer Frameworks und Komponenten unterstützen, darunter Tools wie LangChain, LangGraph und CrewAI. Mit dem Ansatz von Red Hat können Sie die Entwicklung vereinfachen, Abläufe optimieren und Ihrem Unternehmen die erforderlichen Tools zur Verfügung stellen, mit denen Ihre verschiedenen Teams, wie KI-Entwicklungs- und Data Science-Teams, Ihre KI-Vision in einer zuverlässigen und konsistenten Umgebung in die Realität umsetzen können. 

Die Bausteine eines intelligenten Agenten verstehen

Um resiliente KI-gestützte Anwendungen zu entwickeln, benötigen Sie eine Basis, die es intelligenten Agenten ermöglicht, auf die spezifischen Tools und Daten Ihres Unternehmens zuzugreifen und diese zu nutzen. Dies erfordert 2 Schlüsselkomponenten: eine standardisierte Methode zur Bereitstellung Ihrer Services und ein einheitliches Framework für die Interaktion mit ihnen.

Dies ist das Kernstück der agentischen KI, bei der ein autonomes System die beste Vorgehensweise und die zum Erreichen eines Ziels erforderlichen Tools bestimmen kann. Die Kombination aus MCP und Llama Stack bietet das Framework, damit diese Agenten effektiv agieren können.

MCP ist ein offenes Protokoll, das die Integration Ihrer KI-Systeme mit externen Tools und Datenquellen standardisiert. Es wird als ein „USB-C-Port für KI-Anwendungen“ beschrieben. So wie Sie mit USB-C beliebige kompatible Geräte wie Monitore, Festplatten oder Tastaturen anschließen können, stellt ein MCP-Server die Services Ihrer Organisation in einem standardisierten Format bereit. 

Ein KI-Agent kann sich dann mit diesem Server verbinden, um verfügbare Tools zu ermitteln und zu verwenden, sei es eine Datenbank, ein CRM-System (Customer Relationship Management) oder eine interne API. Dieses Protokoll bietet eine strukturierte Möglichkeit für KI-Agenten, sich mit Services zu verbinden, und erleichtert ihnen das Abrufen der Informationen, die sie zum Ausführen von Aufgaben benötigen.

Llama Stack ist ein Open Source-Framework, das einen einheitlichen, API-gesteuerten Ansatz für die Entwicklung und Bereitstellung generativer KI-Anwendungen (gen KI) bietet. Es bietet eine konsistente und portierbare Möglichkeit, die Komplexitäten der KI-Entwicklung und -Bereitstellung zu abstrahieren, und umfasst eine Suite von Unternehmenstools wie APIs für Inferenz, Retrieval-Augmented Generation (RAG) und KI-Agenten. Außerdem bietet es integrierte Komponenten für Sicherheit, Evaluierung und Beobachtbarkeit, mit denen Unternehmen produktionsbereite KI-Anwendungen erstellen können, die sowohl zuverlässig als auch skalierbar sind.

Ein Beispiel für agentische KI in Aktion

In der Unternehmens-IT kann agentenbasierte KI komplexe, mehrstufige Workflows handhaben, die eine dynamische Entscheidungsfindung erfordern. Beispielsweise kann ein hochentwickelter Agent anstelle einer einfachen Eins-zu-eins-Anfrage-und-Antwort als autonomer Service-Desk-Manager fungieren und Probleme mit minimalem menschlichen Eingriff beheben.

Hier ist ein Beispiel dafür, was dieser Agententyp tun könnte, wenn ein Nutzender ein Ticket für einen „Serviceausfall“ einreicht:

1. Llama Stack erhält das erste Ticket. Das System empfängt die Meldung des Nutzenden zu einem Serviceausfall und kategorisiert diesen als Vorfall mit hoher Priorität.
2. Der Agent verwendet MCP und formuliert einen Plan. Der Agent verwendet MCP, um die relevanten Tools zu identifizieren und zu ermitteln, auf die er Zugriff hat – etwa ein Überwachungsservice, ein Tool zur Protokollanalyse und ein Runbook-Automatisierungssystem. Mit diesem Kontext von MCP formuliert der Agent einen mehrstufigen Plan zur Untersuchung und Behebung des Problems.
3. Der Agent führt den Plan mithilfe von MCP aus, um mit den ermittelten Tools zu kommunizieren.
   • Zuerst verwendet der Agent ein Monitoring-Tool, um den Status der relevanten Services und Abhängigkeiten zu überprüfen.
   • Anschließend ruft der Agent ein Protokollanalyse-Tool auf, um die aktuellen Protokolle für eine zugehörige Anwendung oder einen Red Hat OpenShift-Container zu überprüfen und nach Fehlern zu suchen.
   • Sobald der Agent ein potenzielles Problem identifiziert hat (z. B. einen Pod-Absturz), verwendet er ein Diagnosetool, um das zugrunde liegende Problem zu ermitteln, etwa eine falsch konfigurierte Netzwerkrichtlinie oder eine volle Festplatte.
4. Der Agent ergreift Korrekturmaßnahmen. Basierend auf der Diagnose verwendet der Agent MCP, um ein vorab genehmigtes Fehlerbehebungsskript aufzurufen, um den Pod neu zu starten und den Disk-Speicherplatz zu löschen. Anschließend überprüft der Agent den Servicestatus erneut, um zu bestätigen, dass das Problem behoben ist.
5. Der Agent kommuniziert das Ergebnis. Der Agent verwendet ein internes Tool, um den Status des Tickets auf „gelöst“ zu aktualisieren, einschließlich einer Zusammenfassung der vorgenommenen Aktionen. Anschließend formuliert der Agent eine Nachricht an den Nutzenden, in der das Problem erklärt und bestätigt wird, dass der Service wieder online ist – und zwar ohne einen einzigen menschlichen Kontakt.

Durch die Verwendung von MCP zur Orchestrierung dieser Aktionen kann der Agent als autonomer und eigenständiger Service Desk arbeiten. Dadurch verringert sich die manuelle Belastung der IT-Teams, und sie haben mehr Zeit, sich auf strategischere Initiativen zu konzentrieren.

Ein optimierter Ansatz für Entwicklung und Produktion

Die Kombination aus Llama Stack und MCP verbessert das Entwicklererlebnis erheblich. Anstatt für einen spezifischen, monolithischen Stack zu entwickeln, können Ihre Entwicklungsteams eine standardisierte Abstraktionsebene über eine einzige API verwenden. Dies ermöglicht eine leistungsstarke Entwicklungsmethodologie „Inner Loop“, mit der sie ihre KI-Anwendungen auf einem lokalen Rechner unter Verwendung eines einzigen SDK entwickeln und testen können.

Da die APIs konsistent sind und die Services über ein standardisiertes Protokoll erkannt werden, können Ihre Entwicklungsteams darauf vertrauen, dass ihre Anwendung beim Deployment auf einer unternehmensgerechten Plattform genauso funktioniert.

Diese Portierbarkeit ist in der sich schnell verändernden KI-Umgebung unerlässlich. Entwicklungsteams können ihre Anwendung so erstellen, dass sie ein Modell verwendet. Wenn ein neues Modell aufkommt, das besser oder kostengünstiger ist, können sie zu diesem wechseln, ohne ihren Code neu schreiben zu müssen. Dies reduziert den Zeit- und Arbeitsaufwand für die Entwicklung, beschleunigt Innovation und sorgt für einen klaren Übergang von der Entwicklung zur Produktion.

Operative Konsistenz für KI-Workloads erreichen

Für Ihre Operations-Teams kann die Verwaltung einer Vielzahl von KI-Modellen und -Services eine erhebliche Komplexität darstellen. Wenn Sie jedoch einen standardisierten, auf Ihr Unternehmen zugeschnittenen KI-Stack auf einer Plattform wie OpenShift AI ausführen, erhalten Sie eine zentralisierte und konsistente Umgebung.

OpenShift AI bietet eine umfassende, bewährte Plattform für die Bereitstellung und den Betrieb von LLMs sowie die Ausführung der erforderlichen Datenbanken für RAG-Anwendungen. Außerdem können Ihre Teams vorhandene Microservice-Architekturen nutzen und sich reibungslos mit internen Systemen verbinden.

Ihre Operations-Teams können diese KI-Anwendungen auch mithilfe ihrer standardmäßigen GitOps-Prozesse bereitstellen und verwalten. Dadurch können dieselben Workflows wie für herkömmliche cloudnative Anwendungen auf KI-Workloads angewendet werden, was die Verwaltung und Wartung im großen Maßstab vereinfacht. Dies vereinfacht den Prozess von der Entwicklung bis zur Produktion und sorgt für operative Konsistenz in Ihren Hybrid Cloud-Umgebungen.

Durch die Kombination der Leistungsfähigkeit von Open Source-Technologien wie Llama Stack und MCP – und die Möglichkeit der Integration anderer Agenten-KI-Frameworks wie LangChain, Haystack, LlamaIndex und PydanticAI – bietet Red Hat AI eine zuverlässige Basis für die Entwicklung, Bereitstellung und Verwaltung von KI-Anwendungen in Ihrer gesamten Hybrid Cloud.

Mehr erfahren

Bereit für den Einstieg? Erfahren Sie mehr über Red Hat AI durch unsere Testversionen, Consulting Services, Trainings und Zertifizierungen und vieles mehr.

• Testversionen von Red Hat AI
• Red Hat AI Consulting Services
• Agentische KI mit Red Hat AI
• Red Hat Learning Subscription
• Red Hat Training and Certification KI-Kurse