Jes Frellsen

Alignment i anbefalingssystemer: hvorfor designvalg betyder noget

I dette oplæg beskriver jeg, hvordan designvalg i anbefalingssystemer direkte påvirker alignment med virksomhedens værdier. Med afsæt i vores samarbejde med Ekstra Bladet og erfaringer fra RecSys Challenge 2024 viser jeg, at modeller med samme prædiktive nøjagtighed kan føre til markant forskellige udfald på normative mål. Jeg fremhæver, hvordan tilsyneladende neutrale designbeslutninger kan have utilsigtede konsekvenser for alignment og dermed for, hvilke værdier systemet i praksis fremmer. Pointen er, at alignment er et designproblem, ikke blot et modelproblem. Afslutningsvis viser jeg, hvordan man efterfølgende relativt enkelt kan justere et anbefalingssystem, så det i højere grad afspejler ønskede mål, uden at gå på kompromis med brugerengagement.

Om taleren:

Jes Frellsen er lektor på DTU Compute, hvor han leder en forskningsgruppe i generativ AI og probabilistisk maskinlæring med anvendelser inden for blandt andet bioinformatik, fysik og anbefalingssystemer.