The Alignment Problem: Machine Learning and Human Values

I dagens samfunn har maskinlæringssystemer, som er trent på data, blitt så effektive at vi overlater oppgaver til dem, inkludert å se og høre for oss, samt ta beslutninger på våre vegne. Denne utviklingen vekker imidlertid betydelig bekymring. I de senere årene har det oppstått en bølge av bekymringer ettersom maskinlæringsteknologien har utviklet seg. Når vi prøver å lære opp disse systemene, oppstår det ofte problemer som fører til at de ikke alltid gjør det vi ønsker eller forventer. Dette skaper etiske og i noen tilfeller eksistensielle risiki som forskere refererer til som 'tilpasningsproblemet'. Det har blitt avdekket at systemene våre ubevisst kan avsløre fordommer, som ved filtrering av søknader, der vi i ettertid oppdager at de bærer med seg iboende kjønnsfordommer. Algoritmer som vurderer kausjoner og prøveløslatelser ser ut til å behandle svarte og hvite tiltalte ulikt. I dag kan vi ikke lenger ta for gitt at vår boliglånsanmeldelse eller medisinske tester vil bli vurdert av menneskelige øyne. Med autonome kjøretøy som deler veiene våre, overlater vi i økende grad våre liv til disse systemene. De matematiske og beregningsmessige modellene som driver disse endringene spenner fra enkle løsninger som kan passe på et regneark, til langt mer komplekse systemer som påvirker vår hverdag på ulike måter.