AI i finans. Vi blir alle berørt

Finans og kunstig intelligens (KI) påvirker mennesker og virksomheter i alle deler av 

samfunnet. KI anvendt i finans kan forsterke negative konsekvenser.. 

 

I en uttalelse til Financial Times 28 april (og kommentert i Finansavisen samme dag) sier Nicolai Tangen at det er et sterkt behov for å regulere kunstig intelligens generelt sett. Som leder av verdens største investeringsfond og oljefondets ulike investeringer, kan det være interessant å spørre hvilke effekter KI kan ha på finans.

 

I Financial Times artikkelen "Farene ved å la KI løpe løpsk i finans" (28 april 2023) advarer forfatteren nettopp mot å stole for mye på KI i finans uten tilstrekkelig tilsyn, åpenhet og regulering. Bekymringene inkluderer algoritmisk skjevhet (biases), cybersikkerhetsrisikoer og fluktuasjoner i finansmarkedene. La meg utdype.

 

Algoritmisk skjevhet: KI-systemer er aldri bedre enn de dataene de blir trent på. Skjeve data, data som bygger på forutinntatte holdninger, kan føre til skjeve resultater. Innen finans kan dette få alvorlige konsekvenser for marginaliserte grupper som allerede kan møte diskriminering i finansielle tjenester. Ifølge en studie fra National Bureau of Economic Research, ble fargede og latinamerikanske låntakere belastet med en høyere renter enn hvite låntakere med lignende kredittscore, inntekt og låne-til-verdi ratioer. Dette antyder at algoritmisk skjevhet kan allerede være til stede i utlånsindustrien, selv uten bruk av KI. Med KI kan de bli forsterket. Dette gir grunn til bekymring.

 

Cybersikkerhetsrisikoer: Ettersom finansinstitusjoner i økende grad stoler på KI-systemer for å håndtere sensitive data og prosesser, blir de mer sårbare for cyberangrep og datainnbrudd. Ifølge en rapport fra World Economic Forum er cyberangrep den tredje største globale risikoen når det gjelder sannsynlighet, og den nest største når det gjelder virkning. I 2020 var gjennomsnittskostnaden for et datainnbrudd 3,86 millioner dollar, ifølge en rapport fra IBM Security. Dette gir grunn til bekymring.

 

Markedsfluktuasjoner: Bruken av KI i handel av valuta og aksjer kan forsterke markedsfluktuasjoner, spesielt i krisetider. Ifølge en rapport fra Bank for International Settlements kan den økende bruken av algoritmisk handel ha bidratt til "flash crash" 

(plutselig og dramatiske fall i et aktiva eller marked) den 6. mai 2010, da Dow Jones Industrial Average falt nesten 1 000 poeng før den spratt tilbake. I tillegg har den økende bruken av KI i handel ført til bekymring for "black box"-modeller som er vanskelige å forstå eller forutsi. Både plutselige og uforklarlige fall og mangel å transparens gir grunn til 

bekymring.

 

Finans og KI har en ting til felles. De påvirker og angår alle. Det er derfor viktig å adressere risiki assosiert og gjerne forsterket ved KI i finans. Målet må være å sikre at bruken av KI i finanssektoren skjer på en etisk og ansvarlig måte. Dette kan bidra til å sikre at teknologi kan brukes til å skape positive resultater og bidra til økonomisk vekst, uten å forsterke negative samfunnsmessige utfall til glede for oss alle. Tangens opprop er derfor nødvendig, men mye KI-rusk ligger foran hans egen dør. 

Hvorfor vi må regulerer AI

Publisert i Digi.no 24 april 2023

Sebastian Storvik og jeg er uenig om hvorvidt AI er en trussel mot demokratiet. Mens jeg mener at teknologien kan være en utfordring for demokratiet og ber om regulering, mener Storvik at AI er redningen og at den bør slippes fri. Storvik hviler sine argumenter på at vestlige verdier som ytringsfrihet, privat eiendomsrett og frie markeder vil sikre mest innovasjon og dermed styrke demokratiet.

Med innovasjon mener mange at det handler om utvikling av noe nytt som er nyttig og som blir nyttiggjort. Det får meg til å tro at Storvik blander to faser: utvikling av AI (invensjonsfasen) med kommersialisering (innovasjonsfasen).

I lys av dette har jeg ingen problemer med at vestlige verdier er gode rammevilkår for utvikling av noe nytt som for eksempel AI. Fordi vestlige forskere har jobbet med AI siden 1955 har vi i den senere tid hatt store gjennombrudd innen for eksempel dyp læring, dype neurale nettverk, neurale nettverk, generative språkmodeller, og maskinlæring.

Ifølge Information Technology and Innovation Foundation har AI utviklingen i stor grad vært ledet an av Amerikanske forskere, EU har falt bakover i kappløpet, og Kina har i stor grad tatt oss igjen. Dette utfordrer Storviks argument.

OpenAI har siden november 2022 tatt verden med storm med ChatGPT og GPT4. Med lanseringen av GPT4 var vi tatt et stort skritt nærmere det man kaller General Artificial Intelligens (GAI), eller God-like AI. Dette er et nivå på kunstig intelligens som er på høyde med menneskelig (naturlig) intelligens. Dermed er det mange, inkludert meg, som mener at risikoen og konsekvensene av ukontrollert utvikling av AI er for store til å ignoreres.

Det er tilstrekkelig å peke på de samfunnsmessige skadene av algoritmene (vold, mord, radikalisering, og polarisering) i Twitter, YouTube, og Facebook som er optimalisert på å skape emosjonelle reaksjoner, økt spredning og bruk – noe Max Fisher elegant dokumenterer i boken The Chaos Machine.

Mulige risikoer ved AI, inkludert dens evne til å replisere menneskelige beslutningsprosesser, som kan føre til uønskede konsekvenser, og risikoen for at AI blir brukt til skadelige formål, er to gode argumenter for å arbeide for at teknologien, før den slippes løs på samfunnet, må gjennom en prosess for kvalitetssikring.

Når ikke-godkjent AI blir lansert på markedet, er det vanskelig å trekke den tilbake fra markedet, dvs. skaden er gjort. Dette kan lede til «fake news», angrep på tilliten i samfunnet, og en destabilisering av politiske, juridiske, og økonomiske institusjoner – grunnpilarene i demokratiet. Derfor må vi skape et rom der AI testes og godkjennes før den blir lansert. Det står for mye på spill - til tross for alle underverkene med Generativ AI-teknologi.

AI-teknologien vil utfordre oss

«People talk about AI as a technological revolution. It’s even bigger than that. It’s going to be this whole thing that touches all aspects of society.”  

Sam Altman, CEO, OpenAI

Publisert i Finansavisen 17 april 2023

Du har sikkert fått med deg den gryende polariserte «endre verden-debatten» om AI - teknologien som blant annet ligger bak ChatGPT og GPT4. Teknologien vil enten ødelegge oss eller forvandle oss til en lykkeligere, mer hyperkreativ og produktiv art. Jeg har tidligere skrevet om det siste her og her og her.

Uavhengig av om man er enig eller ikke om effektene av AI, vil utviklingen være preget av to enkle sannheter. For det første vet vi at dersom noe er lønnsomt og kan bygges, vil det bli bygget. Ifølge nettstedet Enterpriseappstoday.com vil det generative AI-markedet innen 2030 nå nesten 16 milliarder dollar med en forventet økning i globalt BNP på 26 prosent. For det andre vil teknologi alltid utvikle seg raskere enn reguleringen av den. Nå er utviklingen i antall AI-apper eksponensiell. 

Adopsjonsraten av ChatGPT kombinert med Microsoft (Copilot) og GOOGLE (Bard) sin AI satsing, viser at at AI-teknologien kommer med en hastighet nesten ingen utenfor AI-selskapene er klar over. Vi snakker måneder – ikke år – før virkningen treffer oss som lovgivere, ledere, ansatte, kunder, konsumenter, innbyggere, og velgere. Dersom vi stiller uforberedt, vil i ytterste konsekvens demokratiet være truet. 

Årsaken til denne dystre spådommen er at teknologien, brukt på gal måte, kan true vår tillit til juridiske, politiske, og økonomiske institusjoner – grunnlaget for et stabilt samfunn. At teknologien nærmer seg et nivå nær det vi kaller generell kunstig intelligens, ref GPT4, er en vesentlig årsak. I praksis betyr det at teknologien kan utføre enhver intellektuell oppgave som et menneske kan utføre – ofte bedre. I USA har GPT4 allerede bestått den medisinske embetseksamen med glans. Jeg ser tre grunner til at en uregulert AI-teknologi kan utfordre oss. 

Deepfake: Teknologien kan brukes til å lage ekstremt realistiske deepfake-videoer, lydopptak og bilder som kan brukes til å spre feilinformasjon eller propaganda. Dette kan være spesielt skadelig under valgkamper, der falsk eller villedende informasjon kan påvirke opinionen og undergrave den demokratiske prosessen.

Manipulasjon av opinionen: Teknologien kan brukes til å lage målrettet innhold, for eksempel falske nyhetsartikler, innlegg på sosiale medier eller skreddersydde reklamebudskap, som er utformet for å manipulere opinionen, skape uenighet, eller dulte konsumenter i ønskede retninger. Dette kan brukes til å undergrave tilliten til demokratiske institusjoner, politiske partier eller kandidater. Cambridge Analytics skandalen blir barnemat i forhold.

Forsterke eksisterende skjevheter: Teknologien kan opprettholde og forsterke eksisterende skjevheter (biases) i samfunnet og diskriminering mot mennesker basert på for eksempel seksuell orientering, kjønn, religion, og hudfarge. Dette kan ha betydelige konsekvenser for demokratiske prosesser, som for eksempel velgerundertrykkelse eller ulik representasjon og inkludering.

I tillegg til truslene mot demokratiet kan jeg se minst to vesentlige etiske dilemmaer som følger av teknologien. For det første vil deepfake situasjoner reise alvorlige personvern-problemer ved at man feilaktig kan bli brukt for å fremme visse synspunkter. Dette kan skape muligheter for ondsinnede aktører til å spre feilinformasjon som kan polarisere og destabilisere samfunnet 10 ganger sterkere enn Youtube, TikTok, eller Facebook.

For det andre kan teknologien brukes til å lage nytt innhold som for eksempel tekst, kunstverk eller musikk fordi teknologien har øvd på all tidligere tilgjengelig tekst, kunst og musikk – uten tillatelse. Dette er utfordrende. Hvordan skal og kan vi avgjøre hvem som eier opphavsretten eller immaterielle rettigheter for generert innhold. Dette kan føre til juridiske tvister om eierskap og kompensasjon for generert innhold. 

I 2020 la Solberg-regjeringen frem en nasjonal AI strategi. Siden november 2022 har ChatGPT skjedd. Det endrer alt. Derfor må Støre-regjeringen snarest utvikle en ny AI strategi som speiler hvor vi i dag befinner oss i utviklingen slik at vi alle er bedre rustet for fremtiden.

Å sette utviklingen på vent eller forby den (slik Italia har gjort), er ikke mulig. For mye står på spill.

ChatGPT og GPT4: EN DISRUPSJON I EMNING

Publisert i Finansavisen 11 april 2023

ChatGPT og GPT4 vil ikke erstatte virksomheter, men virksomheter som ikke tar teknologien i bruk vil bli truet av de som tar den i bruk.

Virksomheter opplever ofte eksterne sjokk som pandemi, krig eller teknologi, og det tar tid før ledere skjønner hvordan de skal tilpasse seg. ChatGPT og GPT4-sjokket som vi nå står overfor vil true veletablerte selskapers eksistens i mange bransjer.

OpenAI lanserte en AI-basert tekstgenerator, ChatGPT, den 30. november 2022. Bare tre måneder etter lansering hadde den mer enn 100 millioner brukere og omtrent 13 millioner daglige brukere. Dette er sammenlignet med Instagram, som tok nesten ett år å nå 10 millioner brukere.

Bruken og spredningen av ChatGPT og GPT4 vil trolig true eksistensen til virksomheter i etablerte markeder som skyløsninger, digital markedsføring og netthandel. Da vil selv selskaper som GOOGLE, Amazon og Microsoft være truet. GOOGLE har allerede satt krisestab av frykt for å miste USD 160 milliarder i reklame- og søkeinntekter. Microsoft har investert USD 10 milliarder i OpenAI og inngått en avtale om bruk av ChatGPT i søkemotoren Bing. Amazon har vi ikke hørt fra.

Andre virksomheter vil adoptere teknologien og bake den inn i markedstilbudet for å bli mer attraktive i markedet. Tenk kundeservice. En McKinsey-analyse viser at teknologien vil styrke verdiforslaget og øke driftsresultatet i beklednings-, mote- og luksussektorene med mellom 150 og 275 milliarder dollar.

Disrupsjons-prosessen, som er begynnelsen på slutten for virksomheter, oppstår når vellykkede virksomheter mislykkes fordi de fortsetter å ta de valgene som drev deres tidligere suksess. Dette skjer ofte på grunn av kompleksiteten i å endre forretningsmodellen og organisasjonen som har spesialisert seg på effektiv produksjon og levering av dagens løsninger, usikkerhet om hvilken teknologi som vil slå igjennom og kostnader som oppstår når nye løsninger "stjeler" inntekter fra de gamle løsningene.

I dag er det viktigere enn noensinne å ta ChatGPT-teknologiskiftet på alvor. Mobilindustrien ville avvente situasjonen da Apple lanserte iPhone i 2007, og selskaper som Ericsson, Sony, LG, BlackBerry, HTC, Motorola og Nokia forsvant fra markedet. Det vi må huske er at ChatGPT, i motsetning til iPhone, ikke er avgrenset til en bransje. Teknologien kan anvendes av alle over alt. 

Prediksjonen er klar: ChatGPT vil ikke erstatte virksomheter, men virksomheter som ikke tar teknologien i bruk vil langt på vei bli erstattet av de som gjør det.

*) Teksten er redigert ved hjelp av ChatGPT

Drift, innovasjoner, og Moonshots

Skrevet sammen med Yngvar J Ugland er Executive Vice President og leder av DNB NewTechLab

Moonshot-tenking forbereder ledere og organisasjonen på hva som må gjøres dersom en disrupsjon ala ChatGPT oppstår

Statistikken er nedslående. Ni av ti innovasjonsideer flopper i markedet. Syv av ti oppstartsel- skaper er ute av markedet tre til frem år etter oppstart. 80 prosent av toppledere sier at inno- vasjoner er topp tre på deres strategiske agenda, men bare 10 prosent er tilfreds med hva de oppnår. Innovasjoner er vanskelig.

IBM, kongen av stormaskiner, bommet ikke bare på overgangen til personlige datamaskiner; de kjempet først imot. Nokia, ikke Apple, var den dominerende produsenten av smarttelefo- ner frem til 2007, da iPhone dukket opp. 1990-tallets ledende PC-leverandører Gateway, Dell, IBM, Compaq, og HP innså ikke at melkekua deres ble erstattet av en smart mobiltelefon som milliarder av forbrukere ville ha med seg i lommen.

I dag er teknologiene ChatGPT og GPT4 en disrupsjon i emning på høyde med eksemplene over – noe som betyr at store aktører som Microsoft, GOOGLE, Apple, Amazon eller tusener av andre virksomheter enten er på randen av større suksess eller er mer sårbare enn de har vært på flere år. Terningen er kastet. Utfallet er bestemt av hva ledere gjør eller ikke gjør - nå.

Disrupsjons-prosessen, som er begynnelsen på slutten for etablerte virksomheter, oppstår når vellykkede virksomheter mislykkes fordi de fortsetter å ta de valgene som drev deres tid- ligere suksess. Utfordringen er å bryte ut av veletablerte prosesser og tankemodeller. At dette er vanskelig skyldes ikke latskap eller dårlig ledelse.

Sen eller dårlig tilpasning til en disrupsjon skjer av en rekke grunner. En er historiske bin- dinger som organisasjonskultur og gamle datasystemer. En annen er kompleksiteten i å endre forretningsmodellen og organisasjonen som har spesialisert seg på effektiv produksjon og levering av dagens løsninger. En tredje er usikkerhet om hvilken teknologi som vil slå igjennom. En fjerde er kostnader som oppstår når nye løsninger "stjeler" inntekter fra de gamle løsningene. I sum er det lett å forstå at ting tar tid og at man avventer situasjonen. Men man må handle.

I vanskelig tider må ledere investere i tiltak som koster lite, men som har stor effekt på kun- denes oppfatning av hvor attraktiv virksomheten er i markedet. I dag vet vi at for virksomhe- ter med tilstrekkelig kvalitet, vil en krone investert i innovasjoner fremfor økt kundetilfreds- het, ha en tre ganger så stor effekt på aksjekursen. I dag vet vi at virksomheter som av kun- dene oppfattes som svært innovative har en høyere aksjekursutvikling enn andre.

Fordi de fleste norske virksomhetene har tilstrekkelig kvalitet og kundetilfredshet, handler det om å øke oppfattet innovasjonsevne som i Norge er 20 prosentpoeng lavere enn kundetil- fredshet, ifølge Norsk innovasjonsindeks. Summen av tilstrekkelig kundetilfredshet og høy oppfattet innovasjonsevne leder til høy relativ attraktivitet i markedet, økt share of wallet, økt livstidsverdi, og økt firmaverdi.

Mens denne investeringsanalyse-tilnærmingen til innovasjoner sikrer fremtidige kontant- strømmer, dekker den ikke lederes behov for å se inn i fremtiden hvor omfanget av «unk- nown – unknowns» øker eksponentielt. Hvordan kan man forestille seg det utenkelige – en sort svane – og utvikle handlingsplaner for ulike scenarier ala ChatGPT og GPT4 for utvikling av egne «moonshots»? McKinsey viser i en studie at virksomheter som innoverer for å drive ny vekst og kutte kostnader samtidig, har en vesentlig høyere avkastning på investert kapital enn virksomheter som velger å ikke gjøre noe. Man må innovere for å komme gjennom opp- rørt vann.

Mens driften skal være effektiv og skape tilfredse kunder som er lojale, skal innovasjonene gi vesentlig ny topplinje vekst og økt firmaverdi på kort og lang sikt. Men en kundesentrisk holdning til innovasjoner gir ikke moonshots. Den vil finansiere jakten på moonshots. Moonshot-tenking forbereder ledere og organisasjonen på hva som må gjøres dersom en dis- rupsjon ala ChatGPT oppstår. Slik tenking kan sikre virksomhetens fremtidig eksistens.