Generative KI mit Python - KI im Unternehmenskontext - GenAI, Agenten und mehr! Der Guide für RAG-Anwendungen und Agentensysteme mit Vektordatenbanken und LLMs

Ihr Guide für die eigene RAG-Anwendung! Freuen Sie sich auf einen umfassenden Einstieg in die Welt der Generativen KI mit Python. Dieses Buch deckt Schlüsselkonzepte wie Large Language Models (LLMs), LangChain, Vektor-Datenbanken und Retrieval-Augmented-Generation (RAG) ab. Sie lernen die Grundlagen des Prompt Engineering kennen und erfahren, wie Sie Agentensysteme entwickeln und deployen.
Mit praxisnahen Beispielen und klaren Erklärungen tauchen Sie tief in die Materie ein - ideal für alle, die Generative KI-Lösungen mit Python umsetzen wollen.

Aus dem Inhalt:

• Große Sprachmodelle - LLMs und LMMs


• Prompt Engineering


• Sprachanalyse (NLP)


• Vektordatenbanken


• LangChain


• HuggingFace


• crewAI


• AutoGen


• OpenAI- und andere APIs


• Agentensysteme


• Deployment

  Materialien zum Buch ... 13


  1.  Vorwort ... 15


       1.1 ... Zielsetzung des Buches ... 16

       1.2 ... Zielgruppe ... 17

       1.3 ... Was Sie schon wissen sollten ... 18

       1.4 ... Struktur des Buches ... 18

       1.5 ... Wie man dieses Buch effektiv nutzt ... 22

       1.6 ... Code zum Herunterladen und weitere Materialien ... 23

       1.7 ... Systemeinrichtung ... 23

       1.8 ... Danksagung ... 30

       1.9 ... Konventionen in diesem Buch ... 30



  2.  Einführung in die generative KI ... 33


       2.1 ... Einführung in die künstliche Intelligenz ... 36

       2.2 ... Die Säulen des Fortschritts in der generativen KI ... 40

       2.3 ... Deep Learning ... 43

       2.4 ... Schwache und allgemeine KI ... 46

       2.5 ... Natural Language Processing (NLP) ... 49

       2.6 ... Large Language Models (LLMs) ... 55

       2.7 ... Use-Cases ... 57

       2.8 ... Die Grenzen von LLMs ... 59

       2.9 ... Large Multimodal Models (LMMs) ... 60

       2.10 ... Generative KI-Anwendungen ... 62

       2.11 ... Zusammenfassung ... 64



  3.  Vortrainierte Modelle ... 67


       3.1 ... Was sind vortrainierte Modelle? ... 69

       3.2 ... Hugging Face ... 69

       3.3 ... Modellauswahl ... 70

       3.4 ... Coding: Textzusammenfassung ... 71

       3.5 ... Übung: Übersetzung ... 73

       3.6 ... Coding: Zero-Shot-Klassifikation ... 74

       3.7 ... Coding: Füllmaske ... 78

       3.8 ... Coding: Frage-Antwort Modelle ... 79

       3.9 ... Coding: Erkennung bekannter Entitäten (Named Entity Recognition) ... 81

       3.10 ... Coding: Text-zu-Bild ... 83

       3.11 ... Übung: Text-zu-Audio ... 85

       3.12 ... Abschlussprojekt: Kunden-Feedback analysieren ... 86

       3.13 ... Zusammenfassung ... 89



  4.  Large Language Models ... 91


       4.1 ... Eine kurze Geschichte der Sprachmodelle ... 92

       4.2 ... LLMs mithilfe von Python nutzen ... 93

       4.3 ... Modellparameter ... 107

       4.4 ... Modellauswahl ... 111

       4.5 ... Messages ... 115

       4.6 ... Prompt Templates ... 116

       4.7 ... Chains ... 120

       4.8 ... LLM-Schutz und -Sicherheit ... 135

       4.9 ... Modellverbesserungen ... 143

       4.10 ... Neue Trends ... 144

       4.11 ... Zusammenfassung ... 151



  5.  Prompt Engineering ... 153


       5.1 ... Prompting -- die Grundlagen ... 154

       5.2 ... Coding: Few-Shot Prompting ... 163

       5.3 ... Chain-of-Thought ... 166

       5.4 ... Zero-Shot Chain-of-Thought ... 166

       5.5 ... Coding: Self-Consistency Chain-of-Thought ... 167

       5.6 ... Coding: Prompt-Chaining ... 171

       5.7 ... Coding: Self-Feedback ... 173

       5.8 ... Zusammenfassung ... 178



  6.  Vektordatenbanken ... 181


       6.1 ... Einleitung ... 181

       6.2 ... Der Data-Ingestion-Prozess ... 184

       6.3 ... Dokumente importieren ... 185

       6.4 ... Dokumente aufteilen ... 193

       6.5 ... Einbettungen erstellen ... 209

       6.6 ... Daten speichern ... 225

       6.7 ... Daten abrufen ... 231

       6.8 ... Abschlussprojekt ... 238

       6.9 ... Zusammenfassung ... 251



  7.  Retrieval-Augmented Generation ... 253


       7.1 ... Einleitung ... 254

       7.2 ... Ein einfaches System zur Retrieval-Augmented Generation ... 258

       7.3 ... Fortgeschrittene Techniken ... 265

       7.4 ... Coding: Prompt-Caching ... 287

       7.5 ... Evaluierung ... 293

       7.6 ... Zusammenfassung ... 299



  8.  Agentensysteme ... 301


       8.1 ... Einführung in KI-Agenten ... 302

       8.2 ... Verfügbare Frameworks ... 304

       8.3 ... Einfache Agentensysteme ... 306

       8.4 ... Agenten-Framework: LangGraph ... 314

       8.5 ... Agenten-Framework: AG2 ... 330

       8.6 ... Agenten-Framework: CrewAI ... 346

       8.7 ... Agenten-Framework: OpenAI Agents ... 374

       8.8 ... Agenten-Framework: Pydantic AI ... 379

       8.9 ... Überwachung von Agentensytemen ... 382

       8.10 ... Zusammenfassung ... 388



  9.  Deployment ... 391


       9.1 ... Die Anwendungsarchitektur ... 392

       9.2 ... Die Deploymentstrategie ... 394

       9.3 ... Entwicklung einer eigenständigen Anwendung ... 403

       9.4 ... Deployment auf Heroku ... 410

       9.5 ... Deployment auf Streamlit.io ... 419

       9.6 ... Deployment auf Render ... 421

       9.7 ... Zusammenfassung ... 424



10.  Ausblick ... 427


       10.1 ... Fortschritte in der Modellarchitektur ... 427

       10.2 ... Limitierungen und Probleme von LLMs ... 428

       10.3 ... Regulatorische Entwicklungen ... 434

       10.4 ... Künstliche allgemeine Intelligenz und künstliche Super-Intelligenz ... 434

       10.5 ... KI-Fähigkeiten in der nahen Zukunft ... 435

       10.6 ... Hilfreiche Ressourcen ... 438

       10.7 ... Zusammenfassung ... 439



  Über den Autor ... 441


  Index ... 443