Konferenzprogramm
Die Sprecherinnen und Sprecher der InfoDays Generative AI für Developer präsentieren, implementieren und diskutieren mit den Teilnehmenden alles von A wie Agents, über Large Language Models, Embeddings, RAG, Fine-Tuning, Frameworks wie Langchain und LlamaIndex bis hin zu Z wie Zero-Shot Prompting.
Erfahrungsbericht von der Reise zum modularen RAG: im Framework-Dschungel zwischen LangChain, LlamaIndex und Haystack
Angestoßen durch den Erfolg von ChatGPT fragen sich viele Unternehmen, wie man LLMs mit den eigenen Daten anreichern und nutzen kann. Eine Möglichkeit hierfür ist Retrieval Augmented Generation (RAG). Das Ziel unserer GenAI-Reise ist die Entwicklung eines RAG Systems, dessen einzelne Komponenten ohne großen Aufwand an die vielseitigen Anforderungen des Kunden angepasst werden können. Für den Bau eines solchen RAGs existieren bereits einige Frameworks, wie LangChain, LlamaIndex, oder haystack, die dies ermöglichen. Im Vortrag wollen wir von unseren Erfahrungen berichten und Licht in den Framework-Dschungel bringen, indem wir für die jeweiligen Frameworks die Austauschbarkeit einzelner Komponenten, deren praktische Einbindung im Code und generelle Stärken und Schwächen demonstrieren.
Zielpublikum: Softwareentwickler:innen, die sich für die Fähigkeiten von LLMs interessieren oder Retrieval-Augmented Generation in ihren Anwendungen implementieren möchten
Voraussetzungen: Keine
Schwierigkeitsgrad: Advanced
Alina Bos ist Softwareingenieurin mit Fokus auf Data Science sowie Machine Learning. Sie ist Gründerin der "Data Science und Machine Learning"-Community von Accso und beschäftigt sich seit kurzem mit Retrieval Augmented Generation (RAG).
Patrick Klaus ist Software Engineer bei Accso. Nach seinem erfolgreich abgeschlossenen Masterstudium beschäftigt er sich seit kurzem mit RAG-Systemen (Retrieval Augmented Generation). Dabei liegt sein Fokus vor allem auf der modularen Architektur und der flexiblen Erweiterung und Anpassung der Pipelines.
