In diesem Workshop werden die Grundlagen von AI vermittelt. Wie funktioniert (Generative) KI, was sind Transformer Modelle und wie werden basierend darauf Large Language Modelle (LLMs) entwickelt.
Der Workshop versucht so gut wie möglich ohne Mathematik auszukommen, sondern die Konzepte so weit zu vermitteln, dass ein Verständnis dafür entsteht.
In einem zweiten Teil wird vermittelt wie LLMs auf lokalen Geräten unter Einhaltung des Datenschutzes angewendet werden können. Dies machen wir anhand des Beispiels von LM-Studio, welches die Verwendung von LLMs auf lokalen Geräten ermöglicht.
Folgende Themen werden behandelt:
- Was sind Transformer-Modelle und wie funktionieren sie?
- Wie funktioniert Generative KI?
- Lokale Nutzung von LLMs mittels LM-Studio
- Wie funktioniert Retrieval Augmented Generation (RAG)?
- Wie baue ich einen RAG-Chatbot auf meinen eigenen Dokumenten mit Open Source AI?
Zusätzliche Diskussionsthemen, die im Rahmen des Workshops auf Wunsch angesprochen werden können:
- Ethische Aspekte von KI (Bias, Fake News, Verantwortung)
- Open-Source vs. Closed-Source KI-Modelle
- Die Zukunft von LLMs und personalisierter KI
Luca RolshovenI am a PhD student doing research in NLP. I am working on an interesting Sinergia project that aims to measure the level of
...
show more
In diesem Workshop werden die Grundlagen von AI vermittelt. Wie funktioniert (Generative) KI, was sind Transformer Modelle und wie werden basierend darauf Large Language Modelle (LLMs) entwickelt.
Der Workshop versucht so gut wie möglich ohne Mathematik auszukommen, sondern die Konzepte so weit zu vermitteln, dass ein Verständnis dafür entsteht.
In einem zweiten Teil wird vermittelt wie LLMs auf lokalen Geräten unter Einhaltung des Datenschutzes angewendet werden können. Dies machen wir anhand des Beispiels von LM-Studio, welches die Verwendung von LLMs auf lokalen Geräten ermöglicht.
Folgende Themen werden behandelt:
- Was sind Transformer-Modelle und wie funktionieren sie?
- Wie funktioniert Generative KI?
- Lokale Nutzung von LLMs mittels LM-Studio
- Wie funktioniert Retrieval Augmented Generation (RAG)?
- Wie baue ich einen RAG-Chatbot auf meinen eigenen Dokumenten mit Open Source AI?
Zusätzliche Diskussionsthemen, die im Rahmen des Workshops auf Wunsch angesprochen werden können:
- Ethische Aspekte von KI (Bias, Fake News, Verantwortung)
- Open-Source vs. Closed-Source KI-Modelle
- Die Zukunft von LLMs und personalisierter KI
Luca RolshovenI am a PhD student doing research in NLP. I am working on an interesting Sinergia project that aims to measure the level of sustainability in call for tender documents in the domain of public procurement. Previously I worked as a Senior Machine Learning Engineer at BSI, where I was focusing on the deployment and ethical use of Large Language Models within the BSI Customer Suite. Regarding my studies, I earned my masters's in Computer Science, specializing in Data Science, from the University of Bern. During my master's program, I contributed to the development of DiBB, a Python library aimed at distributed black-box optimization.
Outside of work, I keep a close eye on emerging trends in generative AI and human-centered technology. When I'm not exploring the digital realm, you'll find me delving into psychology, decoding escape rooms, and indulging in bicycle rides.Gygli Marcel
show less
