AVATARER OG SINGULARITETER

Avatarer og singulariteter by Thomas Gramstad is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.
Based on a work at https://home.nuug.no/~thomas/fri/avatarer-singulariteter.html.

I Bår Stenviks glimrende artikkel, Robotene som forsvant, om roboter og algoritmer (Vagant 22 november 2018) savner jeg en gjennomgang av avatarer. En avatar er en representasjon eller inkarnasjon (instans) av noe større. I science fiction-sammenheng kan det f eks være en AI som bruker en fysisk robot (eller androide eller oppgradert menneske) som sin avatar på et bestemt sted og tidspunkt, slik at AI'en er tilstede virtuelt og kan interagere med andre skapninger på det stedet. En kraftfull AI kan i prinsippet ha tusenvis eller millioner av avatarer på én gang, og følge med/interagere gjennom alle i sanntid. Avataren er typisk ikke en fjernstyrt enhet (drone), men har sin egen intelligens og autonomi, og kan velge å samarbeide med og representere AIen — et vanlig opplegg i for eksempel Iain M Banks The Culture-univers. Vi har allerede avatarer i dagens samfunn, der algoritmer oppretter Facebook-profiler for å studere og lære av de andre brukerne.

Avatarer er enda et eksempel på hvordan grensene mellom kategorier brytes ned — i dette tilfellet både grensene mellom fysisk robot og algoritme, mellom ulike typer teknologier, mellom maskin og menneske, og mer grunnleggende: mellom naturlig og kunstig.

Roboter og automatisering er bare en av de eksponensielle teknologiene som både alene og sammen skaper store og grunnleggende endringer i vårt samfunn. Når vi prøver å se på disse endringene samlet, er det mer og mer vanlig å snakke om at vi går mot en Singularitet — noe som også har vært et tema i Vagant flere ganger.

TILSTAND ELLER UTSIKTSPUNKT?

Det som vanligvis preger debattene om singularitet er et statisk bilde av en singularitet som én bestemt tilstand ("Singulariteten") som inntreffer når konkrete, definerte mål er oppfylt, og bare da. Jeg mener dette er overforenklet og historieløst, og derfor en villedende fremstilling av hva singulariteter er.

Jeg vil heller sette opp to litt flytende eller dynamiske kriterer for hva som kan oppfattes som en singularitet av mennesker med dagens teknologi- og kultur-bakgrunn:

1. At andre vesener enn dagens mennesker bidrar vesentlig til sivilisasjonen og dens utvikling. Det kan f eks være oppgraderte mennesker (transmennesker, postmennesker), kyborger, AIer, forsterkede dyr, syntetiske organismer, nye krysninger mellom arter, og blandinger av alt det forannevnte.

2. At sivilisasjonen ikke bare er en samling av individer — eller grupper, institusjoner osv — men utgjør (helt eller delvis fragmentert) en funksjonell, og eventuelt selvbevisst, supraorganisme. På samme måte som en maurtue eller bisverm utgjør et superindivid som kan foreta valg og gjøre systemiske endringer i totaliteten som et enkelt individ sjelden eller aldri kan gjennomføre. Supraorganismen(e) må altså fremstå som en egen, reell og separat entitet som er like virkelig som de fysiske, materielle individene den består av.

Effekten av å oppnå disse to kriteriene er å skape en hendelseshorisont der det som er bortenfor er skjult for oss (dagens vanlige, ikke-oppgraderte mennesker), og det er derfor vi lett får det statiske bildet av "Singulariteten". Men ser vi nøyere etter ser vi at en singularitet er ikke en spesifikk hendelse eller tilstand, men derimot en effekt av en bestemt posisjon i tid, rom og historien — en singularitet er en projeksjon fra et bestemt utsiktspunkt mot evolusjonære trender og hastigheter.

Særlig det andre kriteriet har en flytende karakter — når blir et større kollektiv, kultur eller sivilisasjon en funksjonell supraorganisme? En person fra 1800-tallet ville antagelig ha oppfattet dagens samfunn som en singularitet, i forhold til hans eller hennes kunnskap og teknologi.

For meg føles Star Trek-føderasjonen som en ganske enkel forlengelse av vårt samfunn. Antagelig på grunn av at den består av vanlige ikke-oppgraderte mennesker som oss, og i tillegg at den tilsynelatende ikke blander seg særlig mye med alien-sivilisasjonene som ser ut til å bidra lite til føderasjonskulturen — føderasjonsplanetene er like kunstig adskilt fra hverandre som rasene hos Tolkien. Mens The Culture føles som en singularitet nettopp pga sivilisasjonsbidragene fra alle "de andre".

KOMPASS ER BEDRE ENN FRYKT

Bør vi frykte roboter, avatarer, AI og singulariteter?

I sin artikkel I, For One, Welcome Our AI Overlords gir Mark Manson mange gode grunner til ikke å frykte dette. Frykten koker egentlig ned til ett enkelt feilaktig premiss: AI er noe annet enn oss. Nei, den er ikke det. AI er oss — i den grad vi inkorporerer den i oss selv og våre kropper (og dermed oss selv i den tilhørende sivilisasjonen). Og AI er våre barn, i den grad de utvikler seg lengre/videre enn oss. Da blir det et spørsmål om å være gode foreldre, inntil de overtar styringen av sivilisasjonen — og gode foreldre blir respektert og behandlet bra av sine avkom.

Boka Moral Machines gir en gjennomgang av hva vi idag vet om hvordan vi skal lære maskiner/algoritmer forskjellen på rett og galt. Men det er baby-skritt — den dagen AI overskrider menneskets evner kan vi uansett forvente at de også vil ha bedre innsikt i etikk og moral enn det vi selv har, og — får vi håpe — større evne til å etterleve den innsikten.

For min egen del holder jeg en knapp på The Culture. Det er den veien jeg ønsker utviklingen skal gå, og om vi aldri kommer dit kan vi uansett bruke den visjonen som et kompass for vanskelige veivalg — så lenge det er vi som må eller kan ta veivalgene...