• Håkon Kvale Stensland

Tar maskinene over?

Datamaskinen kan i dag forutsi været. Den kan styre en bil relativt trygt og den kan påvise kreft langt mer treffsikkert enn en legespesialist. Men den kan også forsterke og spre fordommer og desinformasjon svært effektivt. Og den kan foreslå løsninger blottet for etisk refleksjon, samt være et effektivt verktøy for kriminelle eller stater med onde hensikter.


Hvordan skal vi som enkeltpersoner forholde oss til maskinlæring og datamaskiner som både kan gi oss gleder og sorger?


Kunstig Intelligens (KI) er en kraftfull teknologi som gir oss mennesker svært mange muligheter. Teknologien er rundt oss i stort monn i dag, og vil med all sannsynlighet bre om seg i enda større grad enn i dag. Den vil gi økt verdiskapning, gi bedre velferdstjenester og gjøre slutt på en del monotont arbeid som både er krevende og kjedelig for mennesker å stå i. Rent konkret vil hver tredje jobb bli kraftig endret framover, i følge OECD. En slik omstilling åpne opp for nye jobbmuligheter, men for noen yrkesgrupper vil det bli krevende.



Økt bruk av KI vil også medføre andre utfordringer og begrensinger. Og ett stort forbehold er knyttet til informasjonen maskinen er matet med. KI kan aldri levere bedre resultat enn det dataene maskinen baserer sine beregninger på. Bruk av KI på en hensiktsmessig måte, betinger med andre ord data av god kvalitet.


På noen områder i samfunnet vårt kreves det dessuten et svært høyt presisjonsnivå. Og det er ikke alltid KI kan levere et nivå som ansees som akseptabelt. Beslutninger innen medisin og trafikkavvikling, produksjonsmidler som oljeplattformer eller kraftverk kreves det ofte nøyaktig prediksjon. Konsekvensene kan bli svært store hvis noe svikter i kontrollsystemene knyttet til disse områdene.


Spørsmålet er om toleransen knyttet til at maskiner gjør feil faktisk er mindre enn når mennesker gjør feil. Den menneskelige faktor er som kjent ofte årsak til ulykker. Men beregning gjort av en maskin som fører til dødsfall, vil nok mange oppleve som enda mer skremmende. Også når skadepotensialet reelt sett er mindre.



Etikk og KI er minst like viktig. Når maskinen gjør sine beregninger for å oppnå de mål den er programmert til, tar den ingen etiske hensyn. Riktig ille kan det gå om de som programmerer heller ikke tar menneskelige hensyn, men rett og slett har målsetninger som helliger ett hvert middel. Kina kan fort bli ledende i verden på autonome våpensystemer, kunstig intelligens og ansiktsgjenkjenning. Kombinasjonen er skremmende, særlig tatt i betraktning at Kina er et land hvor menneskerettigheter er et ikke-tema.


Kinesiske myndigheter har heller ingen skrupler knyttet til overvåkning av sivilsamfunnet og bruk av innsamlet data til å belønne eller straffe innbyggerne på måter mange vil finne urimelig. Overvåkning av små forseelser fra trafikken summeres opp og påvirker hvem som får tilgang til høyere utdanning for eksempel. Noe sånt ville vært uhørt i dagens Norge. Men hva når forsikringsselskap eller banker tar i bruk persondata for å prise sine produkter mer treffsikkert? Vil det oppleves som rettferdig om renta på lånet bestemmes av kjønn, bosted, og alder etc?


Skal vi unngå uheldige konsekvenser av denne teknologien trengs bedre lovgivning både i Norge og i Europa, mer åpenhet om bruk av data og klare etiske retningslinjer for bruk av KI. Dessuten trenger mange mer kompetanse til å forstå og greie å reflektere omkring denne utviklingen.


Vi i Simula Learning mener alle bør få muligheten til å lære om denne altomgripende teknologien. Den påvirker livene til oss alle, både privat og på jobb.

Derfor bør alle som ønsker det ha tilgang på etter- og videreutdanning uansett forkunnskaper.


På den måten kan hver og en av oss forberede oss på de endringen som kommer i arbeidslivet. Dessuten vil det gjøre oss i stand til å stille relevante spørsmål og henge med i diskusjoner. Det være seg på jobben eller som opplyst borger i et samfunn hvor data, algoritmer og maskinlæring vil få en stadig viktigere rolle. Ivaretakelsen av personvernet og behovet for å ta etiske hensyn vil trolig øke i takt med bruken av KI. Summen av dette krever at vi gir tilgang på kompetanse til flest mulig.


Håkon Kvale Stensland


Håkon er seniorforsker ved Simula Research Laboratory innen kunstig intelligens og heterogene prosessorarkitekturer. Han er også førsteamanuensis på Universitetet i Oslo, institutt for informatikk, hvor han foreleser både begynnerkurs og masterkurs i informatikk. Håkon har vært med i Simula Learning siden starten av og jobber med utvikling av kurs innen programmering, IKT-sikkerhet, kunstig intelligens og datateknologi.