Språkmodeller kan snart ressonere. Bør vi juble?

Vi er ett skritt nærmere Generell Kunstig Intelligens (GKI). Ifølge Financial Times er OpenAI og Meta bare dager unna å slippe nye versjoner av sine store språkmodeller (LLM) som kan resonnere og planlegge.

Store Språkmodeller (LLM) som GPT-5 og Llama 3 får medieoppmerksomhet for deres gjennombrudd for resoneringsferdigheter. Dette er et vesentlig bidrag til utvikling, men betyr det at bekymringer rundt AI-skjevheter og etikk tilhører fortiden? La oss analysere.

OpenAI og Metas nylige gjennombrudd antyder at LLM nå kan håndtere "vanskelige problemer." Dette refererer til deres evne til å prosessere informasjon og komme til logiske konklusjoner, noe som etterligner menneskelig resonnement til en viss grad. Dette er en stor sak fordi dagens LLM utmerker seg på spesifikke oppgaver, men sliter med bredere forståelse og bruk av logikk.

Men det er en hake: selv-resonerende LLM arver skjevheter fra dataene de er trent på. Hvis dataene inneholder samfunnsmessige fordommer, vil AI reflektere disse skjevhetene i sine resonnementer. Forestill deg en LLM trent på hovedsakelig nyhetsartikler – den kan videreføre stereotypier hvis disse artiklene i seg selv er skjevhet.

Evnen til å resonnere kan til og med forsterke skjevhet. En skjev LLM kan være bedre til å veve tilsynelatende logiske argumenter basert på feilaktige antakelser. For eksempel kan en LLM trent på skjevhetshistoriske tekster "resonnere" at en viss rase er underlegen, selv om dataene selv er feil.

Så, resonerende LLM er ikke en universalløsning for skjevhet. Vi trenger robuste etiske rammeverk for å sikre at disse kraftfulle verktøyene brukes ansvarlig. Dette inkluderer: 

• Data Granskning: Nøye utvelgelse og vurdering av treningsdata for å minimere skjevhet. 

• Transparens: Forstå hvordan LLM kommer til sine konklusjoner og flagging av mulige skjevheter. 

• Menneskelig Tilsyn: Å holde mennesker i løkken for å sikre at AI-utdata er etiske og i tråd med menneskelige verdier.

Resonnerende LLM er et betydelig steg fremover, men problemer knyttet til skjevheter eller etiske bekymringer forblir uløst. Derfor må vi være forsiktige optimister, og utnytte disse fremskrittene på en ansvarlig måte for å sikre at AI tjener menneskene på en menneskevennlig måte.