Die Wahl des richtigen Large Language Model (LLMs) und Provider – Kriterien für eine fundierte Entscheidung
Der Aufstieg der "Foundational Models" und mitunter auch großer (multimodaler) Sprachmodelle (Large Language Models – LLMs) hat die Einstiegshürde für Anwendungen der Künstlichen Intelligenz erheblich gesenkt – und das ist eine großartige Entwicklung! Die unkomplizierte Nutzung dieser "Schweizer Taschenmesser" durch standardisierte Programmierschnittstellen (APIs) macht sie zu (Fast-)Alleskönnern, die in vielen Bereichen eingesetzt werden können und sollten.
Die erweiterte Zugänglichkeit von KI-Technologien ist definitiv eine sehr positive und bedeutsame Entwicklung, die uns viele produktive Möglichkeiten eröffnet. Doch damit kommen auch neue Herausforderungen auf uns zu: Wir sollten das "am besten geeignete" LLM für unseren konkreten Anwendungsfall auswählen. Hierbei geht es nicht nur um das Modell an sich, sondern auch um den Modellprovider, welcher das Modell hostet und via API bereitstellt – inklusive der alternativen Option des lokalen Deployments.
Dieser Vortrag präsentiert den Rahmen eines solchen Entscheidungsprozesses und zeigt auf, wie die optimale Wahl begründet werden kann. Dabei gehen wir auf die vier entscheidenden Kriterien Performance, Preisgestaltung, Integrations- und Wartungsaufwand sowie Compliance ein und werfen zudem einen grundlegenden Blick auf die verschiedenen Deployment-Möglichkeiten und Abhängigkeiten, welche sich hierdurch ergeben.
Ludwig ist ein selbstgelernter KI-Entwickler mit einem Masterabschluss der TU München und bringt bei der appliedAI Initiative GmbH seit nun vier Jahren innovative KI-Anwendungen in die Praxis. Er ist überzeugt davon, dass Wertschöpfung durch KI nur gelingt, wenn sie produktiv in Praxisanwendungen genutzt wird und besonders am Herzen liegt ihm daher auch die Weiterentwicklung des deutschen KI-Ökosystems. Deshalb entschied er sich 2023, als einer der ersten KI-Entwickler aktiv am Aufbau des "Innovation Park Artificial Intelligence (IPAI)" in Heilbronn mitzuwirken, wo er seither täglich anzutreffen ist. Sein beruflicher Werdegang begann im bayerischen Automobilsektor, wo er zudem auch die agile Softwareentwicklung in einem Software-Lab in Barcelona schätzen lernte. In seiner Freizeit genießt Ludwig das Joggen in den Weinbergen und das Bouldern in der Kletterhalle.