Kør AI agenter på egen hardware

Kom og lær hvordan agentic workflows er bygget. Vi kommer til at gennemgå, hvad der sker, når vi sender en prompt igennem en LLM, og hvad der kommer ud i den anden ende. 

Hvordan finder man åbne vægtmodeller, og hvor store modeller kan praktisk køre på en laptop, en server eller en dedikeret AI-boks som fx NVIDIA DGX?  

Hvad er forskellen på de forskellige modeller, og hvordan får vi dem rent praktisk til at køre på ens egen laptop? 

Vi vil få indlæg fra folk som har arbejdet i mange år med teknologien og bygget store lokale AI-systemer.  

Formatet er en workshop, og vi forventer, at du som deltager ikke er bange for Linux, at skulle kode i Python og skulle downloade nogle lokale modeller på din laptop.

Modellerne, vi kommer til at arbejde med, starter i størrelse på omkring et par GB. Senere kommer vi til at lege med modeller, som er langt større, end vi har RAM til, og hvad sker der så? 

Vi kommer til at kigge på et par forskellige agentic frameworks - som vi piller fra hinanden for at forstå, hvordan disse er bygget op. 

Workshoppen ledes af Jørgen Kragh Jakobsen, som nu i et år har arbejdet med agentic workflow inden for chip- og embedded hardwareudvikling. Der vil være indlæg fra eksperter. Disse vil blive annonceret, når de er på plads.  

Der serveres sandwich i løbet af aftenen.