tirsdag 28. juli 2020

Når den beste AI ikke er den beste AI

I dag gjør AI (artificial intelligence) at rattet vibrerer når bilen krysser en hvit eller gul kjørelinje, foreslår investeringsalternativer, og anbefaler hvilken kandidat som bør få jobben. 

På denne måten bidrar AI til at vi tar bedre beslutninger: justerer retningen på bilen, tar investeringsbeslutningen, og ansetter kandidater vi ellers ikke hadde vurdert. 

Felles for disse situasjonene er at AI gjør mennesket til den sentrale beslutningstaker. En grunn er at mens AI er overlegen i å håndtere store mengder informasjon, er mennesker overlegen når det gjelder håndtering av uvanlige/kritiske situasjoner som for eksempel uforsvarlig kjøring. En annen grunn kan være at AI som tar beslutninger, gjør at den menneskelige motivasjonen og konsentrasjonen synker. Vi får med andre ord en avveining.

I en nylig studie fra Stanford Business School (Athey, Bryan, og Gans 2020) viser forskerne at en virksomhets beslutning om å bruke AI, eller hvor omfattende man skal trene AI, ikke bare er avhengig av hva som er teknisk mulig, men også hvordan AI påvirker sine menneskelige kollegaer.

Ideen om at å delegere beslutningsmyndighet til ansatte øker motivasjonen, er ikke ny. I tillegg vet vi at mennesker som skal ta beslutninger som regel samler inn mer informasjon for å ta bedre beslutninger. 

I studien deler forskerne AI inn i fire deler hvor henholdsvis AI eller mennesker har ansvaret:
  1. AI har ansvaret: 
    1. Replacement AI: dersom AI fungerer perfekt hver gang, kan det erstatte mennesker. Skaper ledighet og høye AI-trenekostnader. 
    2. Unreliable AI: når AI ikke er perfekt, må mennesker gripe inn og justere feilen. Krever høy kompetanse og konsentrasjon 
  2. Mennesker har ansvaret: 
    1. Augmentation AI: mennesker beholder beslutningskontrollen. Gir kvalitet og motivasjon.
    2. Antagonistic AI: hvor et ikke perfekt AI trigger mennesker til kritisk tenking før hun beslutter.Utfordrer mennesker, men krevende for konsentrasjonen.

For å illustrere rammeverket, kan man tenke seg en situasjon hvor en virksomhet skal ansette en ny leder. Dersom dagens praksis med å ansettelse ledere, bevisst eller ikke, får andre ledere til å ansette folk som ser ut som dem, vil AI som er trent med å ansette data fra slike ledere, sannsynligvis lære å etterligne den skjevheten (og dermed gjøre lederne glade). 


Men dersom lederne er klar over denne skjevheten og ønsker å redusere den, må de gjøre en innsats for å utvide AI-opplæringsdataene eller til og med kjøre eksperimenter - for eksempel å legge til kandidater fra helt andre høyskoler og universiteter som kanskje ikke har blitt vurdert før - for å samle inn de nødvendige dataene å trene et objektivt AI-system. Deretter, hvis partiske ledere fortsatt har ansvaret for beslutningsprosesser, kan et oppdatert og mer objektivt AI få lederne til å lese profilen på alle kandidatene og fremdeles velge å ansette den som ser mest ut som dem. 


Men siden dette ikke hjelper eieren å oppnå målet om å eliminere skjevhet ved ansettelser, er et annet alternativ å designe AI til å overstyre de som skal ta beslutningen. Nedsiden ved dette kan være en umotivert beslutningstaker.


Etter hvert som AI blir adoptert i ulike funksjoner i virksomhetene, vil det endre måten organisasjonene fungerer på. Bedrifter og virksomheter i privat og offentlig sektor vil måtte tenke annerledes om organisasjonsdesign, arbeidstakers insentiver, hvor godt beslutningene fra arbeidstakere og AI er i tråd med virksomhetens mål, og om en investering i opplæringsdata for å forbedre AI-kvalitet vil ha ønskelige konsekvenser. Den gode nyheten er at teoretiske modeller kan hjelpe organisasjoner til å tenke gjennom samspillet mellom alle disse valgene. 


Målet er at den beste AI skal være den beste AI, ikke bare rent teknisk, men for virksomheten og de ansatte.

fredag 17. juli 2020

Hvorfor det er "harry" å dra til Syden nå!

Daværende landbruksminister, nåværende Fylkesmann for Vestland, Lars Sponheim, uttalte i et intervju i ukeavisen Dag og Tid i februar 2002 at det var «harry» å dra på handletur til Svinesund. 


På samme måte mener jeg at det nå er «harry» å dra på Sydentur. Det er en handling som er preget av egeninteresse fremfor felleskapet – som er det motsatte av hva vi trenger for å bekjempe pandemien.

 

Foranledningen er at myndighetene, 10 juli, annonserte at de fra og med 15 juli åpnet opp for flyreiser til en rekke land, inkludert Spania. Ifølge nettavisen e24.no 13 juli har charterselskapene tredoblet salget i løpet av tre dager. På mange kan dette fortone seg som Berlin-murens fall – alle vil ut. Fra Gardermoen kan man nå fly direkte til 56 av 92 utenlandske destinasjoner. Fra Flesland kan man fly direkte til 12 utenlandske destinasjoner. Åpenbart skaper knapphet sin egen etterspørsel.

 

Paradoksalt nok synes mange å ha glemt Utenriksdepartementets generelle reiseråd om at reiser som ikke er strengt nødvendige, frarådes.At man kan reise betyr ikke at man  reise.

 

Jeg ser to mulige forklaringer for denne utfartstrangen. Folk er psykisk trette eller utmattet av å innordne seg myndighetenes C-19 regime og opponerer ved å handle i egeninteresse fremfor felleskapets interesser. «Hva kan det vel bety at jeg drar til Spania på ferie?» En annen forklaring kan være at det er en «demningen brister» effekt som oppstår som en funksjon av gradvis åpning av samfunnet. «Jeg liker mitt normale liv og vil ha mer av det». Resultatet er det samme: økt risiko for oppblomstring av Covid-19. 

»Spania kan bli «rødt» i løpet av to dager« 

NRK.no to dager etter åpningen

Det er nok å se til USA hvor mange innbyggere trosser helsemyndighetenes råd om å bruke maske og unngå store folkeansamlinger eller stater som for raskt åpner opp igjen. Man skulle derfor tro at med en slik lærdom at vi ville velge hva som hva best for oss alle og ikke hva som er best for en selv.

 

Den teoretiske forklaringen på dette paradokset (egeninteressen er en trussel for felleskapet) finner vi i «Fangens dilemma» som er godt beskrevet i spill-teorien (Game theory). Her belyses konflikten mellom egeninteresser (for eksempel feriere i Syden) og fellesskap (for eksempel feriere hjemme) for to personer som hver for seg skal velge hva som er best for seg. Dersom begge tror at den andre vil «ta en for laget» og feriere hjemme i kalde Norge, vil begge mene at den beste ferien for dem er i Syden og at ingen vil lide av det. Resultatet er flyene står i kø på rullebanen med folk som skal til Syden. 

 

Fra Nobelprisvinner i økonomi, John F Nash, kan vi lære at dersom alle innbyggere har tillit til at de aller fleste følger oppfordringen fra myndighetene om å samarbeide for å få bukt med Korona-viruset, er det den beste måten å komme tilbake til normalen på. Når noen velger å ikke samarbeide – dra på «harry-tur» til Syden - er dette ikke bare brudd på samfunnsnormen om å samarbeide for å løse et samfunnsproblem. Det er også et brudd på sunn fornuft! Resultatet er at vi må slite med Covid-19 lengre enn vi trenger.