LLM anwenden und integrieren

Für dieses Training erhalten Sie ein Teilnahmezertifikat von Spirit in Projects.

Sie möchten das volle Potenzial von Large Language Models (LLMs) in der Praxis ausschöpfen und in Ihre bestehenden Systeme integrieren? Wenn Sie mehr über die verschiedenen Anwendungsszenarien erfahren und gemeinsam praxisnahe Lösungen erarbeiten möchten, dann freuen Sie sich auf dieses Training. Von der Textklassifizierung bis zur Systemintegration lernen Sie, wie Sie LLMs effektiv in Ihre Infrastruktur einbinden, für unterschiedliche Aufgaben nutzen und eigene Lösungen für Ihre realen Problemstellungen entwickeln können.

Wir empfehlen:

Ziele

  • Praktische Erfahrung mit verschiedenen LLM-Anwendungsszenarien sammeln
  • Implementierung von State-of-the-Art NLP-Lösungen
  • Integration von LLMs in bestehende Systemlandschaften
  • Verständnis für die Stärken und Grenzen verschiedener Modelltypen entwickeln
  • Eigene LLM-basierte Lösungen konzipieren und umsetzen können

Zielgruppen:

AI Expert, Software Entwickler, System Architect, Software Architect, Data Scientists, Machine Learning Engineers, NLP-Spezialisten, AI Engineers und alle, die LLMs praktisch einsetzen und integrieren möchten.

Inhalt

1. Grundlagen der LLM-Integration

  • Architekturpatterns für LLM-basierte Systeme
  • REST-APIs und Microservices mit LLMs
  • Skalierbare Infrastrukturen für LLM-Anwendungen
  • Verschiedene Deployment-Optionen (Cloud, On-Premise, Hybrid)
  • Security und Governance
  • Praktische Übung: Aufbau einer skalierbaren LLM-Service-Architektur

2. Textklassifizierung und Sentimentanalyse

  • Aufbau von Klassifizierungspipelines
  • Feature-Extraktion mit Transformer-Modellen
  • Integration in Content-Management-Systeme
  • Batch- und Realtime-Processing
  • Praktische Übung: Integration eines Sentiment-Analyzers in eine bestehende Webanwendung

3. Informationsextraktion und Dokumentenverarbeitung

  • Multilinguale NER-Systeme
  • Integration mit Document Processing Pipelines
  • Anbindung an Dokumentenmanagementsysteme
  • Workflow-Integration
  • Praktische Übung: Entwicklung einer Dokumentenverarbeitungspipeline mit LLM-Integration

4. Question Answering und Retrieval-Systeme

  • Aufbau von QA-Systemen
  • Integration von Vektordatenbanken
  • Anbindung an bestehende Wissensdatenbanken
  • Caching-Strategien und Performance-Optimierung
  • Hands-on Workshop: Entwicklung eines integrierten Enterprise-Search-Systems mit LLM-Unterstützung

5. Chatbots und Dialogsysteme

  • Integration mit Messaging-Plattformen
  • Anbindung an CRM-Systeme
  • Kontextmanagement und Sessionhandling
  • Monitoring und Logging
  • Praktische Übung: Integration eines LLM-basierten Chatbots in eine Unternehmensplattform

6. Systemintegration und Produktivbetrieb

  • API-Design und -Management
  • Monitoring und Observability
  • Kostenkontrolle und Optimierung
  • A/B-Testing und Gradual Rollout
  • Fehlerbehandlung und Fallback-Strategien
  • Praktische Übung: Implementierung eines vollständigen LLM-Service mit Monitoring und Failover

Nach Absolvierung empfehlen wir:

Spirit in Projects