Weitere Informationen zu dieser Keynote folgen in Kürze.

"Coding Is Dead" – wirklich?! Aktuelle Studien zeigen jedenfalls, dass viele Unternehmen (noch) nicht die richtigen Hebel finden, um GenAI-Tools in der Softwareentwicklung zu skalieren. Es geht um mehr als Coding! In einem umfassenden Research-Projekt haben wir uns dieser komplexen Thematik gestellt.

In meinem Vortrag diskutiere ich: 

• (mindestens) drei Gründe, weshalb GenAI-Tools allein noch keine Strategie machen.
• eine Methodik, die es Unternehmen ermöglicht, Gen-AI-Potenziale in eine nachhaltig verbesserte Developer Experience einzubetten, echte Bedürfnisse über bloße Tools zu stellen, und Stakeholder frühzeitig auf die Lernreise mitnimmt. 
• die wichtigsten Chancenfelder (Beyond Coding!) sowie einen Ausblick auf die Zukunft des Jobprofils "Softwareentwickler*in"..

Zielpublikum: Softwareentwickler*innen; (IT-)Manager*innen, Mitarbeiter*innen in Software-nahen Rollen; Researcher*innen
Voraussetzungen: Keine
Level: Basic

Dieser fesselnde Vortrag wurde entwickelt, um Software-Ingenieure und IT-Architekten mit KI zu entlasten und ihre Aufgaben zu optimieren. Erfahren Sie, wie KI bei der Erstellung komplexer Systemarchitekturen und der Erstellung von Unternehmensarchitekturdiagrammen helfen und Entscheidungen erleichtern kann. In interaktiven Experimenten sehen Sie, wie KI Systemarchitekturen entdeckt, überprüft und verfeinert, qualitativ akzeptable Architekturartefakte erzeugt und allgemeine Qualitätsprobleme in Unternehmenssystemen aufdeckt. Da Architekten Struktur lieben, verbessert die Kenntnis und Wiederverwendung der zugrundeliegenden Prompting-Muster die Ergebnisse. Lassen Sie architektonisches "Work Smart" Wirklichkeit werden!

Zielpublikum: Entwickler, Architekten, Requirement Engineers, Neugierige
Voraussetzungen: Kenntnis von Grundbegriffen der IT und vertraut mit der Arbeit von Architekten
Level: Basic

Der Vortrag behandelt die erfolgreiche Einführung von GenAI-Projekten in Unternehmen. Er beleuchtet die häufigsten Gründe für das Scheitern solcher Projekte und präsentiert ein erprobtes Vorgehensmodell, das von der Ideensammlung über den Proof of Concept bis zur produktiven Umsetzung reicht. Der Prozess umfasst die Bewertung von Potenzialen, die Analyse der Datenqualität und die Integration in bestehende IT-Landschaften. Abschließend wird der Projekterfolg retrospektiv bewertet, um Optimierungspotenziale zu identifizieren und zukünftige Maßnahmen zur Weiterentwicklung abzuleiten. Ziel ist es, Mehrwerte aus Daten zu generieren und diese effizient und effektiv mittels LLM-Projekten in die Unternehmensprozesse zu integrieren.

Zielpublikum: Entwickler:innen, Prompt Engineers und Softwarearchitekt:innen, die sich für die Projektmanagement-Seite von LLM-Projekten interessieren.
Voraussetzungen: Keine
Level: Basic

Generative KI hat die Programmiereffizienz erheblich gesteigert, und wie gut wir mit KI interagieren, wird zunehmend unsere Effektivität bestimmen. Doch zeigt die Praxis, dass es nicht ausreicht, Tools zur Verfügung zu haben. Häufig zögern wir, sie zu nutzen, haben Schwierigkeiten, sie effektiv einzusetzen, oder sind uns der vollen Möglichkeiten nicht bewusst.

In diesem Vortrag zeigen wir die Best Practices, die wir beim Programmieren mit GenAI gesammelt haben. Use Cases, Prompt-Design, IDE-Tricks, Testtechniken, Dokumentation, Plausibilitätsprüfung, die Verbreitung einer AI-First-Mentalität in deiner Organisation und Erkenntnisse, die wir kurz vor der Konferenz gewonnen haben. Der Qualitätsstandard für die nächste Generation der Softwareentwicklung wird von AI-Craftern gesetzt.

Zielpublikum: Entwickler und andere technischen Rollen
Voraussetzungen: Keine
Level: Basic

Generative AI bietet enorme Potenziale, stellt jedoch besondere Herausforderungen beim Testen und Validieren dar. In dieser Session untersuchen wir praxisnahe Strategien zur Anpassung bewährter Softwaretechnik-Prinzipien an GenAI und zeigen auf, wo neue Ansätze erforderlich sind. Schwerpunktmäßig geht es um:

• Teststrategien für nichtdeterministische Ausgaben
• die Auswahl und den Umgang mit widersprüchlichen Metriken
• Vergleich von Unit-Tests und End-to-End-Tests in der Welt der GenAI
• Evaluation der Evaluatoren
• Techniken zur Bewertung von Modell-Halluzinationen und -Biases
• Performance- und Skalierbarkeitstests

Teilnehmer erhalten konkrete Einblicke, wie man robuste Testpraktiken für GenAI-Anwendungen entwickelt und die Anforderungen moderner KI-Systeme meistert.

Zielpublikum: Entwickler, die AI-Anwendungen entwickeln
Voraussetzungen: Grundlegens Verständnis über Testen in der Sofwareentwicklung und über LLMs
Level: Basic

Das "Sprechen" mit eigenen Daten (auch bekannt als RAG) ist der "Hello World"-Anwendungsfall für LLMs. Aber es gibt noch mehr zu entdecken. Basierend auf ihrem Verständnis der menschlichen Sprache können LLMs genutzt werden, um innovative Interaktionen für Anwendungen und Systeme zu realisieren.

In dieser Session zeigt Christian, wie Sie strukturierte Datenausgaben mit Datenschemata und Funktionsaufrufen nutzen, um Ihre APIs mit der Power von LLMs zu verbinden. Sehen Sie, wie die transformative Natur von Generative AI eventuell auch Ihren Lösungen helfen kann. Kommen Sie vorbei und lassen Sie uns mit unseren Systemen sprechen!

Zielpublikum: Entwickler und Architekten
Voraussetzungen: Erfahrung mit Software-Architektur, grundlegendes Verständnis des Lesens von Python-Code
Level: Basic

In dieser Session werfen wir einen genauen Blick unter die Haube von GitHub Copilot und zeigen, wie die Kommunikation mit der Azure OpenAI API abläuft. Dadurch lernst du, das Beste aus GitHub Copilot herauszuholen, und erfährst, wie Agenten durch RAG (Retrieval-Augmented Generation) es ermöglichen, dass wir fachlich über unseren Code mit der KI diskutieren können. Gregor, der in enger Zusammenarbeit mit dem Microsoft-Produktteam für GitHub Copilot Chat steht, wird seine Insiderkenntnisse teilen und demonstrieren, wie du GitHub Copilot so einsetzt, dass du genau den Code generierst, den du brauchst – effizient und zielgerichtet. Verabschiede dich von der zeitraubenden Suche nach Lösungen – es ist Zeit, deine Coding-Praxis zu transformieren und KI-Tools optimal zu nutzen.

Zielpublikum: Fortgeschrittene Entwickler, die mit Copilot bereits arbeiten.
Voraussetzungen: Grundlagen zu GitHub Copilot
Level: Expert

Mehr Informationen zu diesem Vortrag in Kürze.

In den letzten Jahren hat der Einsatz von Künstlicher Intelligenz (KI) und insbesondere von Large Language Models (LLMs) stark zugenommen. Dies birgt jedoch Risiken für persönlich identifizierbare Informationen (PII), da KI-Systeme eingegebene Texte speichern und für zukünftige Trainingszwecke nutzen.

Dieser Vortrag präsentiert ein innovatives Verfahren zur De-Identifikation von Prompts, bei dem sensible Informationen durch neutrale, semantisch gleiche Daten ersetzt werden. Dazu wird die Eingabe zuerst durch ein selbst gehostetes Backend anonymisiert, dann an das eigentliche LLM weitergegeben und schließlich die Antwort durch Re-Identifikation wieder in ihre Ursprungsform gebracht und an den Nutzer gesendet. Dies gewährleistet eine datenschutzkonforme Nutzung externer KI-Dienste.

Zielpublikum: Entwickler:innen, Architekt:innen
Voraussetzungen: Keine
Level: Basic

In diesem Vortrag erfahren Sie, wie man ein multimodales Generative AI Gateway auf AWS aufbaut. Basierend auf der Lösung aus dem GitHub-Projekt 'aws-genai-llm-chatbot' demonstrieren wir die Integration von Large Language Models (LLMs) und Retrieval-Augmented Generation (RAG) in einem Chatbot. Sie lernen die Nutzung von Amazon Bedrock, Anthropic, HuggingFace, OpenAI und weiteren Tools. Der Vortrag umfasst die Bereitstellung mittels AWS CDK, praktische Beispiele und Best Practices zur effizienten Implementierung von GenAI-Anwendungen in Ihren Geschäftsprozessen.

Zielpublikum: Entwickler, Softwarearchitekten, AI-Ingenieure und Prompt-Ingenieure, die an der Integration generativer KI in Geschäftsprozesse interessiert sind.
Voraussetzungen: Grundlegende Kenntnisse in Softwareentwicklung und Programmierung, Erfahrung im Umgang mit AWS-Diensten und Cloud-Umgebungen, Grundverständnis von maschinellem Lernen und Künstlicher Intelligenz, Kenntnisse in der Nutzung von APIs und der Bereitstellung von Anwendungen
Level: Expert

Es gibt eine große Zahl an Werkzeugen, die Qualitätsprobleme in Bestandscode mittels statischer Analyse erkennen und sichtbar machen. Die automatische Behebung dieser Probleme war bisher aber nur in vergleichsweise einfachen Fällen möglich. Die derzeitigen Entwicklungen in der künstlichen Intelligenz, speziell die Large Language Models, verschieben die Grenzen des Möglichen jedoch deutlich.

In diesem Vortrag möchte ich auf Basis eines hierfür erstellten Benchmarks aufzeigen, wie weit sich Qualitätsprobleme heutzutage durch KI beheben lassen. Neben Erfahrungen aus unserer internen Entwicklung möchte ich auch beleuchten, welchen Einfluss die Wahl des Basismodells hat, welche Informationen die LLMs dabei als Input benötigen und an welchen Problemen die KI heute noch scheitert.

Zielpublikum: Architekten, Entwickler, Projektleiter
Voraussetzungen: Interesse an Softwarequalität und KI
Level: Basic

Der Aufstieg der "Foundational Models" und mitunter auch großer (multimodaler) Sprachmodelle (Large Language Models – LLMs) hat die Einstiegshürde für Anwendungen der Künstlichen Intelligenz erheblich gesenkt – und das ist eine großartige Entwicklung! Die unkomplizierte Nutzung dieser "Schweizer Taschenmesser" durch standardisierte Programmierschnittstellen (APIs) macht sie zu (Fast-)Alleskönnern, die in vielen Bereichen eingesetzt werden können und sollten.

Die erweiterte Zugänglichkeit von KI-Technologien ist definitiv eine sehr positive und bedeutsame Entwicklung, die uns viele produktive Möglichkeiten eröffnet. Doch damit kommen auch neue Herausforderungen auf uns zu: Wir sollten das "am besten geeignete" LLM für unseren konkreten Anwendungsfall auswählen. Hierbei geht es nicht nur um das Modell an sich, sondern auch um den Modellprovider, welcher das Modell hostet und via API bereitstellt – inklusive der alternativen Option des lokalen Deployments.

Dieser Vortrag präsentiert den Rahmen eines solchen Entscheidungsprozesses und zeigt auf, wie die optimale Wahl begründet werden kann. Dabei gehen wir auf die vier entscheidenden Kriterien Performance, Preisgestaltung, Integrations- und Wartungsaufwand sowie Compliance ein und werfen zudem einen grundlegenden Blick auf die verschiedenen Deployment-Möglichkeiten und Abhängigkeiten, welche sich hierdurch ergeben.

Retrieval Augmented Generation (RAG) nutzt Retriever wie Vector-DBs, um relevante Informationen zur Beantwortung von Anfragen zu finden. In komplexen RAG-Szenarien werden oft mehrere Datenquellen genutzt. Die Auswahl des passenden Retrievers kann durch eine MultiRoute-Chain erfolgen, wobei ein LLM dynamisch die semantisch beste Datenquelle wählt. Dieser Ansatz ist jedoch zeit- und kostenintensiv. Eine schnellere und günstigere Alternative ist der Einsatz eines Semantic Router, der statt eines LLMs ein Embedding-Modell zur Retrieverwahl verwendet. Dieser Ansatz bietet vergleichbare Qualität bei deutlich geringeren Kosten. Mit Live-Coding wird eine MultiRoute-Chain implementiert und anschließend auf den Semantic Router optimiert.

Zielpublikum: Developer, IT-Manager, GenAI-Enthusiasten
Voraussetzungen: Keine
Level: Advanced

Generative KI verändert unsere Welt schneller als je zuvor – und die Entwicklung solcher Lösungen bringt sowohl spannende Möglichkeiten als auch komplexe Herausforderungen mit sich. In diesem Vortrag teilt Shezan Kazi zentrale Learnings aus der Praxis: Von der schnellen Umsetzung erster Prototypen über die Hürden bei der Skalierung und der Bedeutung von LLMOps bis hin zur Bedeutung der UX, und weshalb diese stets im Mittelpunkt stehen sollte. Lernen Sie, worauf es bei der Entwicklung erfolgreicher GenAI-Anwendungen wirklich ankommt und wie man die Balance zwischen Innovation, Konsistenz und Konformität findet.

Bei Software Craftership waren automatisierte Tests ein unverzichtbarer Bestandteil der Entwicklung – ein Handwerk, das in der aktuellen Begeisterung für KI-Systeme oft vernachlässigt wird. Doch das muss nicht so bleiben. In dieser Session liegt der Fokus auf der Integration automatisierter Tests in KI-Agentensysteme. Thomas Blank zeigt, wie semantische Ähnlichkeitsprüfungen und LLM-basierte Metriken in Testumgebungen eingebettet werden können, um die Zuverlässigkeit und Sicherheit von Anwendungen zu gewährleisten. Darüber hinaus wird er erläutern, wie Tools wie promptfoo dazu beitragen, Red Teaming für KI-Agenten durchzuführen und wie maßgeschneiderte KPIs entwickelt werden können, um diese Systeme effektiv vor böswilligen Angriffen zu schützen.

Zielpublikum: Softwareentwicklerinnen aller Erfahrungsstufen, die bereits jetzt schon oder in Zukunft von ihren Stakeholdern aufgetragen bekommen, Large Language Models und Agentensysteme in ihre Projekte zu integrieren.
Voraussetzungen: Basiswissen über die Nutzung von LLMs, gegebenenfalls Erfahrungen mit der Verwendung ihrer APIs.
Level: Basic

Moderne KI-Systeme verbinden unternehmensinternes Wissen mit der Leistungsfähigkeit von GenAI-Modellen. Intelligente Suchsysteme sind dabei die Basis, um mäßig strukturiertes Wissen zu erschließen und kontextabhängig bereitzustellen. In diesem Vortrag bieten wir einen praktischen Einblick in die Entwicklung eines modernen Suchsystems in einem Lebensmittelkonzern und demonstrieren, wie intelligente Suchsysteme die Suchqualität im Vergleich zu traditionellen Ansätzen erheblich verbessern können. Dabei beleuchten wir architektonische Entscheidungen und diskutieren Evaluationsmechanismen. Außerdem zeigen wir, dass LLMs nicht nur als Chatbot eingesetzt werden können, und vergleichen Dense- und Sparse -Embedding-Modelle, hybride Suchverfahren und fortgeschrittene Retrieval-Methodiken.

Zielpublikum: AI/Software Engineers, ArchitektInnen und EntscheiderInnen
Voraussetzungen: Basis-Know-how LLMs und Embedding-Modelle
Level: Advanced

Der Vortrag behandelt das Spannungsfeld zwischen Wertschöpfung und Compliance beim Einsatz von KI am Beispiel eines Chatbots in der Kundenkommunikation auf Basis generativer KI:

• Welcher Ansatz eignet sich für den Einsatz eines LLM als Chatbot, um genaue und präzise Antworten auf Fragen von Kunden zu gewährleisten und gleichzeitig das Problem der "Halluzination" zu vermeiden, das üblicherweise mit generativen LLMs verbunden ist?
• Wie kann der Chatbot gegen die Suggestion von Konkurrenten und deren Produkten gestärkt werden, insbesondere bei Aufforderungen, die problematische Antworten auslösen könnten?
• Welche Architektur ist am besten geeignet?
• Welche Einschränkungen sind aus Sicht der Compliance, z.B. hinsichtlich des EU AI Act zu beachten?

Zielpublikum: Entwickler:innen, Prompt Engineers und Softwarearchitekt:innen
Voraussetzungen: Grundsätzliche Kenntnisse über generative KI
Level: Basic

Azure bietet mit OpenAI Service, AI Search und co. eine Vielzahl an Tools, um die Anwendungsentwicklung auf eine neue Stufe zu stellen. So können Sie nicht nur Chat-Funktionalitäten, sondern auch semantische Suche oder Recomendations in Ihre Apps integrieren. Jörg Neumann zeigt Ihnen, wie Sie mit Hilfe von Azure AI revolutionär intelligente Systeme entwickeln können.

Zielpublikum: Entwickler, die mit KI-Entwicklung beginnen und auf der Suche nach passenden Tools sind.
Voraussetzungen: Grundlegende Entwicklerskills
Level: Basic

Dieser Vortrag untersucht die tiefgreifende Transformation des Berufsbilds von Entwicklern im Kontext der KI-Revolution. Anstatt nur Code zu schreiben, übernehmen Entwickler zunehmend die Rolle von KI-Orchestratoren, die komplexe KI-Systeme entwerfen, überwachen und anpassen.

Der Vortrag beleuchtet konkrete neue Aufgabenfelder, wie z.B. das Trainieren und Fine-Tuning von Modellen, die Integration von KI in bestehende Workflows, die Entwicklung von Tools zur Überwachung und Fehlerbehebung von KI-Systemen sowie die Zusammenarbeit mit Ethikteams zur Sicherstellung verantwortungsbewusster KI-Nutzung. Praktische Beispiele und zukünftige Trends werden vorgestellt, um Entwicklern einen klaren Fahrplan für ihre neue Rolle zu geben.

Zielpublikum: Softwareentwickler:innen, Programmierer:innen, technische Führungskräfte, Data Scientists, IT-Manager:innen, Projektleiter:innen, Bildungseinrichtungen, Ausbilder:innen, Prompt Engineers, Softwarearchitekt:innen
Voraussetzungen: Keine
Level: Basic

Informationen zum Vortrag folgen in Kürze.

Diskutieren Sie mit unseren Experten beim Panel der InfoDays Generative AI für Developer!

KI-Generatoren für Text, Code und Bilder finden zunehmend Einzug in den beruflichen Alltag. Mit ihrer wachsenden professionellen Nutzung steigt jedoch auch das Bedürfnis nach rechtlicher Klarheit beim Einsatz der neuen Technologie. Der Vortrag befasst sich mit den rechtlichen Herausforderungen und Chancen des Einsatzes von KI in Unternehmen, insbesondere im Hinblick auf das Urheberrecht und den Datenschutz.

Unter anderem werden Hilfestellungen zu folgenden Fragen gegeben:

• Welche Daten darf man eingeben?
• Darf man Ergebnisse frei verwenden und veröffentlichen?
• Wer gilt als Urheber bei KI-generierten Werken?
• Gibt es eine Möglichkeit, eigene Inhalte vor der Verwendung für KI-Trainings zu schützen?
• Wann sind Geschäftsgeheimnisse in Gefahr?

Der Vortrag gibt einen Überblick über die relevanten Rechtsgebiete und praktische Handlungsempfehlungen für den Einsatz von KI.

In 2023, generative AI became a game-changer, capturing the attention of industries and ushering in a new era of possibilities. Until now, Python has mainly been known as the go-to programming language for using generative AI capabilities in applications. Spring AI aims to change this and make it as easy as possible for you to integrate Generative AI services into your application and refine the results with your data using techniques like Function Calling or Retrieval Augmented Generation (RAG). This session will introduce you to core concepts of generative AI and what Spring AI provides to make it as easy as possible to integrate it into Spring applications.

Zielpublikum: Software-Entwickler
Voraussetzungen: Java und ggf. Spring-Kenntnisse wären hilfreich, sind aber nicht unbedingt nötig.
Level: Basic