Kunstig intelligens - ei stor utfordring.

Max Tegmark, amerikansk professor i fysikk og av svensk opphav, har skrevet ei bok om det han kaller den viktigste samtalen i vår tid. Boka heiter «Life 3.0» og har som undertittel «Life in the Age of Artificial Intelligence».

Life 3.0 er det teknologiske stadiet i utviklinga av liv. Det første stadiet (1.0)var biologisk; det vil si at utviklinga gikk automatisk, uten innslag av bevissthet. På et tidspunkt utvikla det seg mer avanserte livsformer, og vi kom inn i stadium 2.0 – det kulturelle. De høyeste livsformene på koden ble i stand til å gjøre valg og ta styring over utviklinga, men innafor de begrensningene som den menneskelige hjernen gir. I boka drøfter Tegmark om en i framtida vil komme forbi disse begrensningene; om en kan se for seg en intelligens som overgår kapasiteten til den menneskelige hjernen. Han drøfter muligheter og farer og kommer inn på viktige dilemmaer knytta til denne utviklinga. For å presisere: Det handler om kunstig, universell intelligens. Det finnes jo allerede kunstig intelligens med begrensa kapasitet – sjakkcomputere, for eksempel. Utfordringene er knytta til kunstig intelligens som forholder seg til alt den menneskelige hjernen forholder seg til, med en kapasitet som er større enn denne.

Tegmark definerer intelligens som «evnen til å nå komplekse mål», og han legger fram matematiske bevis og erfaringsbevis for at intelligens kan eksistere og utvikle seg på ulike fysiske underlag; altså ikke bare i den menneskelige hjerne. Han viser til et eldgammelt kinesisk strategispill som heter Go, der et konstruert program har lært seg å slå alle de beste menneskelige spillerne. De av oss som ikke har spesielt gode sjakkferdigheter, kan jo bare forsøke å hamle opp med en sjakkcomputer. Vi ler av løsninger som Google Translate kommer fram til, men det er en tjeneste som blir stadig bedre til å generere setninger på egenhånd, uten at det sitter mennesker og detaljstyrer.

Tegmark er en framstående fysiker, og han samarbeider tett med kolleger som også arbeider med problemstillinger knytta til kunstig, universell intelligens. Han er ikke i tvil om at slik intelligens vil overgå den menneskelige, uten at han har sterke meninger om hvor raskt dette vil komme. Intelligent liv oppsto som en forlengelse av ikke intelligent liv. I vårt arbeid med å forbedre livsvilkåra våre, har vi kommet langt i arbeidet med å automatisere og digitalisere. Neste skritt er maskiner som skaper nye og mer avanserte maskiner.

Hva innebærer dette for oss? Fra litteraturen og ikke minst filmen, kjenner vi ondskapsfulle roboter og gale vitenskapsmenn som vil ta over verden ved hjelp av avanserte innretninger. Hvordan kan vi sikre oss at en kunstig intelligens som er i stand til å forholde seg til alt, eller nesten alt, som hjernen vår forholder seg til, og som prosesserer mye raskere enn mennesket er i stand til, vil fungere på en etisk god måte? Hva slags framtid har mennesket, hvis de fleste praktiske funksjoner blir ivaretatt av kunstig intelligens. Kan en tenke seg at utviklinga av verden, lagt i hendene på kunstig intelligens, vil kunne overstyre den menneskelige viljen når denne går på tvers av det som bra for fellesskapet – først og fremst i spørsmål som gjelder klimaet. Vil en endelig oppnå likhet for loven, hvis det er kunstig intelligens som står for lovanvendelsen? Forfatteren viser til en undersøkelse som forteller at dommere opptrer vesentlig mildere rett etter frokost, enn like før lunsj.

Tegmark vier et kapittel til det virkelig lange perspektivet. Han skriver om energiproduksjon og viser hvor lite energi som faktisk skapes når masse omdannes. Når vi fordøyer ei sjokoladeplate, utnytter vi 0,00000001% av den kapasiteten som finnes i henhold til fysikkens lover. Tilsvarende: når en brenner kull, utnyttes 0,00000003% og når bensin forbrennes, utnyttes 0,00000005%. Klarer en å utnytte energikilder i verdensrommet er en oppe i en helt annen effektivitet. Forfatteren har tanker om hvordan dette kan foregå, men pr. i dag er det uoverstigelig avstand mellom det som kan være ønskelig og det som er mulig. Hvis disse mulighetene skal kunne realiseres, må en først utnytte kapasiteten som ligger i datamaskiner, til fulle. Også der er det mye å gå på, og hvis jeg forstår Tegmark rett, er vi avhengig av avansert kunstig intelligens for å kunne nå slike mål i ei fjern framtid.

Sjøl er jeg sivilisasjonspessimist. Menneskenes kortsiktige handlinger i flere århundrer, verst i vår sivilisasjon og i vår tid, fører til at kloden er i ferd med å kvitte seg med oss. Utviklinga av kunstig, altomfattende intelligens, kan kanskje vekke et håp, i og med de mulighetene som skapes for å finne avanserte, tekniske løsninger. Men det er mange dilemmaer som skal løses – ikke minst det velkjente som handler om hvem som skal ha kontroll over slike krefter, og hvordan en skal gardere seg mot at avansert kunstig intelligens blir en maktfaktor som kan konkurrere med, og vinne over, menneskene.

Dette siste høres litt overspent ut, når en ser det på papiret. Tegmark er ikke overspent; han behandler disse og tilsvarende problemstillinger med både alvor og humor. Jeg har aldri hatt veldig god forståelse av fysikk, og det er enkelte argumentasjonsrekker i denne boka jeg måtte ta lett på. Men boka er skrevet for lesere som ikke er fagfolk, og den inneholder mye mat for tanken, og det ligger i sakens natur at en må jobbe litt med å fordøye den. Jeg har sett boka omtalt både i Klassekampen og i Aftenposten, så det bør vel være mulig at den etter hvert kommer på norsk.