Generative KI in Produktion
Traditionelles MLOps ist eine Reihe von Praktiken zur Bereitstellung traditioneller ML-Systeme für Unternehmensanwendungen. Generative KI stellt neue Herausforderungen an die Verwaltung und Bereitstellung von Anwendungen in großem Maßstab dar. Das Feld der generativen KI-Operationen versucht, diese neuen Herausforderungen zu bewältigen. In diesem Kurs lernen Sie die Herausforderungen kennen, die beim Einsatz und der Bereitstellung von generativen KI-gestützten Anwendungen entstehen. Sie lernen, wie Sie Ihre generativen KI-gestützten Anwendungen sichern können. Schließlich werden Sie Best Practices für die Protokollierung und Überwachung Ihrer generativen KI-gestützten Anwendungen in der Produktion besprechen.
- Dauer: 1 Tag
- Sprachen: Englisch, Deutsch
- Niveau: Experte
- Gruppengröße: Bis zu 16
Das lernen Sie
- Herausforderungen bei der Produktivsetzung von Anwendungen, die generative KI nutzen, verstehen
- Experimente und Evaluierungen für LLM-gestützte Anwendungen verwalten
- LLM-gestützte Anwendungen produktiv setzen
- Generative KI-Anwendungen absichern
- Protokollierung und Überwachung für LLM-gestützte Anwendungen implementieren
Voraussetzungen
- Abschluss von „Anwendungsentwicklung mit LLMs auf Google Cloud“ oder gleichwertige Kenntnisse.
Kursinhalt
Einführung in generative KI in der Produktion
- Generative KI-Operationen
- Traditionelle MLOps vs. GenAIOps
- Komponenten eines LLM-Systems
- RAG/ReAct-Architektur
Bereitstellung von generativen KI-Anwendungen
- Optionen für die Anwendungsbereitstellung
- Bereitstellung, Paketierung und Versionierung
Generative KI produktiv nutzen
- Wartung und Updates
- Testen und Evaluieren
- CI/CD-Pipelines für KI-gestützte Anwendungen
Sicherung von generativen KI-Anwendungen
- Sicherheitsherausforderungen
- Prompt-Sicherheit
- Schutz sensibler Daten und DLP API
- Modell-Absicherung
Observability für LLM-Produktionssysteme
- Cloud Operations
- Cloud Logging
- Monitoring
- Cloud Trace
- Agent Analytics und AgentOps
- Alles zusammenfügen
Passende Kurse
Multi-Agenten-Systeme mit dem Agent Development Kit und Agent Engine betreiben
In diesem Kurs lernst du, wie du das Google Agent Development Kit verwendest, um komplexe Multi-Agenten-Systeme zu erstellen. Du wirst Agenten mit Tools ausstatten und sie mit Eltern-Kind-Beziehungen und Workflows verbinden, um deren Interaktion zu definieren. Du wirst deine Agenten lokal ausführen und sie auf der Vertex AI Agent Engine bereitstellen, um sie als verwalteten Agenten-Workflow auszuführen, wobei Infrastrukturentscheidungen und Ressourcenskalierung von der Agent Engine übernommen werden.
Vertex Forecasting und Time Series in der Praxis
Dieser Kurs ist eine Einführung in die Entwicklung von Prognoselösungen mit Google Cloud. Sie beginnen mit Sequenzmodellen und den Grundlagen von Zeitreihen. Anschließend durchlaufen Sie einen End-to-End-Workflow: von der Datenvorbereitung bis zur Modellentwicklung und -bereitstellung mit Vertex AI. Schließlich lernen Sie die Lektionen und Tipps aus einem Einzelhandels-Anwendungsfall und wenden das Wissen an, indem Sie Ihre eigenen Prognosemodelle erstellen.
Agent-Observability auf Google Cloud
Dieser Kurs bietet eine angewandte Anleitung auf mittlerem Niveau zur Operationalisierung von KI-Agenten, die sich speziell auf das Erreichen von Produktionssicherheit und Kostenkalkulierbarkeit für Gemini-basierte Workflows in der Google Cloud konzentriert. Die Teilnehmer lernen die Methodik und die umsetzbaren Fähigkeiten, die erforderlich sind, um nicht-deterministische Agentenlogik in transparente, überprüfbare und skalierbare Systeme umzuwandeln.Der Kurs behandelt zentrale operative Disziplinen, einschließlich der Abbildung des komplexen Denkprozesses des Agenten (ReAct-Schleifen) auf Cloud Trace Spans zum Debuggen, der Implementierung von Logs-Based Security Metrics zur Compliance und der Einrichtung von umsetzbaren Warnungen und benutzerdefinierten Dashboards in Cloud Monitoring zur proaktiven Kontrolle von Kostenüberschreitungen und Qualitätsabweichungen. Der Kurs verwendet Präsentationen, visuelle Anleitungen und strategische Diskussionen, um ein effektives Lernen zu gewährleisten, das direkt auf das Vertex AI-Ökosystem anwendbar ist.
Unsicher, welcher Kurs passt?
Buchen Sie ein 30-minütiges Gespräch. Wir schauen uns an, wo Ihr Team steht und was es können muss — und stellen daraus einen konkreten Kurstermin oder einen passenden Lernplan zusammen.