Sök

Cyborg och transhumanism

Inom hälsosektorn utlovar AI väldigt mycket. Pecka Mellergård beskriver utvecklingen och de etiska utmaningarna för vår tid.

När jag tittar upp från tangentbordet ser jag en affisch som ställer frågan ”Gillar du när det går snabbt och enkelt?” Svaret är givet för de flesta, vare sig det gäller en SJ-app eller mer avancerad användning av Artificiell Intelligens (AI). Det starkaste säljargumentet för AI är att den ska göra det mänskliga livet enklare. Men kanske AI är ett perfekt exempel på att goda intentioner inte nödvändigtvis leder till rätt mål?

Själv arbetar jag inom hälsosektorn där AI utlovar väldigt mycket. Automatiserad tolkning av röntgenbilder och mikroskopiska vävnadsprover är en välkommen början. Men när entusiasterna börjar tala om att i effektivitetens namn låta superdatorer – som IBM:s Watson – sammanställa patientdata från all världens sjukhus börjar varningslamporna blinka. För trots allt som utlovas är det uppenbart att AI också ställer oss inför svåra utmaningar.

I början av 2018 släpptes en uppmärksammad internationell expertrapport som efterlyste större medvetenhet och engagemang från politik, näringsliv och civilsamhälle för att stävja de alltmer uppenbara möjligheterna till ”ondskefullt utnyttjande av AI”. I mediebevakningen ökar emellertid andelen artiklar med positiv inställning till AI, och de flesta i beslutande ställning tror att vi kan hantera riskerna. EU-kommissionen och dess så kallade High Level Expert Group har nyligt lagt fram förslag till etiska riktlinjer för en ”trovärdig och människocentrerad AI”. På papperet ser det riktigt bra ut, med betoning på mänsklig autonomi, transparens, ansvarighet, skyddande av privatliv, rättvisa med flera vackra och välmenande ord. 

Men vad innebär ett åberopade av sådana ”EU-värderingar” i praktiken, när man samtidigt starkt betonar vikten av att stärka EU:s konkurrenskraft på AI-området? Eller när AI blivit en allt viktigare del av militärforskning och vapenutveckling?

Utvecklingshastigheten är så snabb att den som ägnar för mycket uppmärksamhet åt etiska och demokratiska frågeställningar riskerar att hamna på efterkälken. Forskningen kring AI kan med fog beskrivas som ”den nya rymdkapplöpningen”, där stora belöningar väntar den som skaffar sig försprång. Dessutom görs de största investeringarna av privata finansiärer som Alibaba och Vision Fund, med mångdubbelt större insatser än de viktigaste länderna i Europa. Svårigheterna med etiken kring AI illustrerades nyligt när Google såg sig tvingat att lägga ner sin AI Ethics Board redan en vecka efter att den bildats.

När man med vänner och kollegor diskuterar riskerna med AI så är det några aspekter som ofta lyfts fram, inklusive ökad sårbarhet för olika samhällsfunktioner, massarbetslöshet och risken för okontrollerbar eskalering av våldsamma konflikter, när algoritmer får ökat inflytande över militära beslut.

Den största oron kring bordet brukar gälla olika aspekter av ”övervakningssamhället.” Med sitt ”social credit system” och allestädes närvarande övervakningskameror har Kina kommit längst. Men det handlar inte bara om diktatoriska stater: de algoritmbaserade personinriktade annonserna på Facebook eller Google antyder vad som väntar. Möjligheterna till ansiktsigenkänning öppnar nya möjligheter. De stora IT-företagen har börjat sälja mjukvara för ansiktsidentifiering i en mängd olika syften, inklusive effektiviserad lokal marknadsföring och identifiering av ”intressanta” individer i offentliga eller privata miljöer. Möjlighet att från ansiktsuttryck utläsa människors känslor i olika situationer, erbjuder ytterligare möjligheter.  Är vi på väg mot en framtid där, var än vi rör oss, det finns risk att vårt namn kommer upp på en skärm någonstans?

Men det finns ett mer radikalt problem med AI. Det har gått ett decennium sedan NOD – tidigare än de flesta – behandlade AI och transhumanism som ett hot mot Människan, så som vi hittills känner henne. Ämnet anknöt redan då till mitt eget yrke, men det är först helt nyligt det på allvar börjat aktualiseras bland neurokirurger, som exempelvis på den stora internationella kongress som hölls på Karolinska Institutet på försommaren. De föredrag som behandlade framtidens neurokirurgi i relation till AI speglade ett optimistiskt förhållningssätt, med grundinställningen att ”framtiden går inte att hejda”. En särskilt inbjuden talare beskrev entusiastiskt en framtid ”där vi är till hälften biologiska varelser och till hälften maskiner”. Detta är ingen ny tanke; begreppet ”cyborg” myntades redan år 1960, i en artikel om hur erövringen av rymden skulle underlättas genom självreglerande människa-maskin-system, och inom populärkulturen finns sedan länge otaliga exempel på flytande gränser mellan människa och maskin. Men det säger något om utvecklingen när ett föredrag om hur sjukvården snart kan komma att förena människa och maskin möts av entusiastiska applåder och utan någon kritisk fråga.

Den israeliske historikern Yuval Noah Hararis är den som för en bredare publik tydligast tecknat bilden av de radikala konsekvenser AI kan komma att få för mänskligheten. Hans miljonsäljande Sapiens – A Brief History of Humankind (2014) är översatt till 45 språk och av The Guardian listats bland decenniets ”tio bästa smarta böcker”. I två senare böcker utvecklar han de tankar om mänsklighetens framtid som avslutade Sapiens. Eftersom människan inte är bärare av någon mystisk ”själ”, och då hennes beteende ytterst kan reduceras till aktiviteter i ett  begränsat antal synapser, så kommer datorer successivt lära sig inte bara logiska resonemang utan även att hantera mänsklig beslutsförmåga och intuition. Han förväntar sig att den parallella utvecklingen av biosensorer, som kan känna av allsköns kroppsliga signaler, kommer att medföra att datorer kan tolka den enskilda individen bättre än henne själv. På så sätt kan den uppkopplade människan få det perfekta tipset på kvällsunderhållning, exakt det musiktips den behöver ha utifrån aktuellt sinnestillstånd, få hjälp att shoppa de kläder som är precis det man vill ha, etcetera.. Harari föreställer sig att datorerna så småningom kommer att förstå oss själva så bra att det är bäst att överlämna beslut om utbildning, yrkesval och kanske till och med partner till algoritmerna. De kommer helt enkelt att veta bäst! Och om de är rätt programmerade från början så kommer datorerna dessutom att fatta konsekventa och rätta etiska beslut - till skillnad från svaga människor, där även de bästa ibland visar sig svika sina höga ideal.

Harari ser framför sig en verklighet där våra föreställningar om autonoma individer ersätts av tillvarp bestående ett gigantiskt flöde av data, där de enskilda organismerna också är algoritmer. Människans uppgift blir att skapa ett allomfattande databearbetande system, för att sedan bli en integrerad del av detta. Harari ser inga möjligheter att stoppa utvecklingen. Han förutspår att den kommer att föra med sig att vårt sätt att se på demokrati, jämställdhet och rättvisa kommer att förändras i grunden: ”Historien började när människorna uppfann gudarna, och den kommer att sluta när människorna själva blir gudar”. Självklart är det bara en ytterst liten del av mänskligheten som kommer att rymmas på den nya Olympen.

Ska man ta Hararis dystopi på allvar? Helt klart är att liknande framtidsscenarier har slagit rot hos många, inklusive talare på den neurokirurgiska kongressen jag refererade till. Och det finns en ny sorts profeter - med inflytelserika tjänster på Google och andra IT-företag - som deklarerar att vi i rask takt närmar oss den tipping point som benäms Singulariteten. Deras oro gäller snarast att utvecklingen mot Homo Deus inte går tillräckligt snabbt för att mänskligheten ska kunna stå emot Maskinerna.

Redan i Sapiens konstaterade Harari att ”utan eviga själar och en skapargud blir det pinsamt svårt för liberaler att förklara vad som är så märkvärdigt med individuella sapiens.”  Vem kan säga emot?  Elon Musk har beskrivit AI som det största existentiella hot mänskligheten står inför. Kanske har han rätt. I sin postumt publicerade essäsamling Korta svar på stora frågor skrev Stephen Hawking att det skulle vara ”vårt största misstag någonsin” att avfärda tanken på intelligenta maskiner som ren science fiction, och tillägger att ”framtiden är en kapplöpning mellan våra teknologiers ökande styrka och vår vishet att rätt använda dem. Låt oss säkerställa att visheten segrar.”

Kristendom är ingen förutsättning för vishet. Men kanske att vi först nu – när den är  i grunden hotad – börjar förstå sambandet mellan det judeo-kristna arvet och den typ av humanism som vi så länge tagit för självklar?

En av Bibelns många märkliga berättelser är den om Babels torn, där människorna vill lösa ett hotande problem och samtidigt ”göra sig ett namn” genom att bygga en stad med ett torn som ska nå ända upp till himlen. Herren Gud ser problem med företaget, men konstaterar samtidigt att ”det här är bara början” och att ”nu är ingenting omöjligt för dem”. Berättelsen fångar något som följt mänskligheten genom historien: ambition, kreativitet och tro på tekniska lösningar kombinerat med en otillräcklig förmåga att förutse konsekvenserna av handlandet. Människan verkar vara bättre på att uppfinna nya saker än att använda dessa saker på ett klokt sätt.

Det finns flera självmordsliknande sätt att utplåna mänskligt liv på den här planeten. Kärnvapenkrig är ett, en ohejdad ökning av växthusgasutsläpp ett annat. Entusiasterna tror att AI kan vara lösningen även på de problemen. Själv ser jag snarare risken för att vi håller på att släppa fram ett otämjbart odjur och ytterligare en självmordsvariant.

Tyvärr vet jag inte hur en konstruktivt motbild mot AI-entusiasmen kan formuleras. Men låt mig påminna om det egentligen självklara: Framtiden är inte förutbestämd, det är fortfarande människor som formar den. Faktum är dessutom att vi klarar oss väldigt bra utan ”the Internet of everything”, utan självkörande bilar och utan algoritmer på sociala medier som bestämmer vilka annonser som ska visas. Och varför inte fundera på det T.S. Eliot skrev i en tid då modernitetens segertåg syntes ohotat:

”Var är Livet vi förlorade genom att leva?

Var finns visheten vi förlorade i vår kunskap?

Var finns kunskapen vi förlorade i informationsöverföringen?

/… /

Tar oss längre från Gud och närmare Stoftet ”

 

Pekka Mellergård

När jag tittar upp från tangentbordet ser jag en affisch som ställer frågan ”Gillar du när det går snabbt och enkelt?” Svaret är givet för de flesta, vare sig det gäller en SJ-app eller mer avancerad användning av Artificiell Intelligens (AI). Det starkaste säljargumentet för AI är att den ska göra det mänskliga livet enklare. Men kanske AI är ett perfekt exempel på att goda intentioner inte nödvändigtvis leder till rätt mål?

Själv arbetar jag inom hälsosektorn där AI utlovar väldigt mycket. Automatiserad tolkning av röntgenbilder och mikroskopiska vävnadsprover är en välkommen början. Men när entusiasterna börjar tala om att i effektivitetens namn låta superdatorer – som IBM:s Watson – sammanställa patientdata från all världens sjukhus börjar varningslamporna blinka. För trots allt som utlovas är det uppenbart att AI också ställer oss inför svåra utmaningar.

I början av 2018 släpptes en uppmärksammad internationell expertrapport som efterlyste större medvetenhet och engagemang från politik, näringsliv och civilsamhälle för att stävja de alltmer uppenbara möjligheterna till ”ondskefullt utnyttjande av AI”. I mediebevakningen ökar emellertid andelen artiklar med positiv inställning till AI, och de flesta i beslutande ställning tror att vi kan hantera riskerna. EU-kommissionen och dess så kallade High Level Expert Group har nyligt lagt fram förslag till etiska riktlinjer för en ”trovärdig och människocentrerad AI”. På papperet ser det riktigt bra ut, med betoning på mänsklig autonomi, transparens, ansvarighet, skyddande av privatliv, rättvisa med flera vackra och välmenande ord. 

Men vad innebär ett åberopade av sådana ”EU-värderingar” i praktiken, när man samtidigt starkt betonar vikten av att stärka EU:s konkurrenskraft på AI-området? Eller när AI blivit en allt viktigare del av militärforskning och vapenutveckling?

Utvecklingshastigheten är så snabb att den som ägnar för mycket uppmärksamhet åt etiska och demokratiska frågeställningar riskerar att hamna på efterkälken. Forskningen kring AI kan med fog beskrivas som ”den nya rymdkapplöpningen”, där stora belöningar väntar den som skaffar sig försprång. Dessutom görs de största investeringarna av privata finansiärer som Alibaba och Vision Fund, med mångdubbelt större insatser än de viktigaste länderna i Europa. Svårigheterna med etiken kring AI illustrerades nyligt när Google såg sig tvingat att lägga ner sin AI Ethics Board redan en vecka efter att den bildats.

När man med vänner och kollegor diskuterar riskerna med AI så är det några aspekter som ofta lyfts fram, inklusive ökad sårbarhet för olika samhällsfunktioner, massarbetslöshet och risken för okontrollerbar eskalering av våldsamma konflikter, när algoritmer får ökat inflytande över militära beslut.

Den största oron kring bordet brukar gälla olika aspekter av ”övervakningssamhället.” Med sitt ”social credit system” och allestädes närvarande övervakningskameror har Kina kommit längst. Men det handlar inte bara om diktatoriska stater: de algoritmbaserade personinriktade annonserna på Facebook eller Google antyder vad som väntar. Möjligheterna till ansiktsigenkänning öppnar nya möjligheter. De stora IT-företagen har börjat sälja mjukvara för ansiktsidentifiering i en mängd olika syften, inklusive effektiviserad lokal marknadsföring och identifiering av ”intressanta” individer i offentliga eller privata miljöer. Möjlighet att från ansiktsuttryck utläsa människors känslor i olika situationer, erbjuder ytterligare möjligheter.  Är vi på väg mot en framtid där, var än vi rör oss, det finns risk att vårt namn kommer upp på en skärm någonstans?

Men det finns ett mer radikalt problem med AI. Det har gått ett decennium sedan NOD – tidigare än de flesta – behandlade AI och transhumanism som ett hot mot Människan, så som vi hittills känner henne. Ämnet anknöt redan då till mitt eget yrke, men det är först helt nyligt det på allvar börjat aktualiseras bland neurokirurger, som exempelvis på den stora internationella kongress som hölls på Karolinska Institutet på försommaren. De föredrag som behandlade framtidens neurokirurgi i relation till AI speglade ett optimistiskt förhållningssätt, med grundinställningen att ”framtiden går inte att hejda”. En särskilt inbjuden talare beskrev entusiastiskt en framtid ”där vi är till hälften biologiska varelser och till hälften maskiner”. Detta är ingen ny tanke; begreppet ”cyborg” myntades redan år 1960, i en artikel om hur erövringen av rymden skulle underlättas genom självreglerande människa-maskin-system, och inom populärkulturen finns sedan länge otaliga exempel på flytande gränser mellan människa och maskin. Men det säger något om utvecklingen när ett föredrag om hur sjukvården snart kan komma att förena människa och maskin möts av entusiastiska applåder och utan någon kritisk fråga.

Den israeliske historikern Yuval Noah Hararis är den som för en bredare publik tydligast tecknat bilden av de radikala konsekvenser AI kan komma att få för mänskligheten. Hans miljonsäljande Sapiens – A Brief History of Humankind (2014) är översatt till 45 språk och av The Guardian listats bland decenniets ”tio bästa smarta böcker”. I två senare böcker utvecklar han de tankar om mänsklighetens framtid som avslutade Sapiens. Eftersom människan inte är bärare av någon mystisk ”själ”, och då hennes beteende ytterst kan reduceras till aktiviteter i ett  begränsat antal synapser, så kommer datorer successivt lära sig inte bara logiska resonemang utan även att hantera mänsklig beslutsförmåga och intuition. Han förväntar sig att den parallella utvecklingen av biosensorer, som kan känna av allsköns kroppsliga signaler, kommer att medföra att datorer kan tolka den enskilda individen bättre än henne själv. På så sätt kan den uppkopplade människan få det perfekta tipset på kvällsunderhållning, exakt det musiktips den behöver ha utifrån aktuellt sinnestillstånd, få hjälp att shoppa de kläder som är precis det man vill ha, etcetera.. Harari föreställer sig att datorerna så småningom kommer att förstå oss själva så bra att det är bäst att överlämna beslut om utbildning, yrkesval och kanske till och med partner till algoritmerna. De kommer helt enkelt att veta bäst! Och om de är rätt programmerade från början så kommer datorerna dessutom att fatta konsekventa och rätta etiska beslut - till skillnad från svaga människor, där även de bästa ibland visar sig svika sina höga ideal.

Harari ser framför sig en verklighet där våra föreställningar om autonoma individer ersätts av tillvarp bestående ett gigantiskt flöde av data, där de enskilda organismerna också är algoritmer. Människans uppgift blir att skapa ett allomfattande databearbetande system, för att sedan bli en integrerad del av detta. Harari ser inga möjligheter att stoppa utvecklingen. Han förutspår att den kommer att föra med sig att vårt sätt att se på demokrati, jämställdhet och rättvisa kommer att förändras i grunden: ”Historien började när människorna uppfann gudarna, och den kommer att sluta när människorna själva blir gudar”. Självklart är det bara en ytterst liten del av mänskligheten som kommer att rymmas på den nya Olympen.

Ska man ta Hararis dystopi på allvar? Helt klart är att liknande framtidsscenarier har slagit rot hos många, inklusive talare på den neurokirurgiska kongressen jag refererade till. Och det finns en ny sorts profeter - med inflytelserika tjänster på Google och andra IT-företag - som deklarerar att vi i rask takt närmar oss den tipping point som benäms Singulariteten. Deras oro gäller snarast att utvecklingen mot Homo Deus inte går tillräckligt snabbt för att mänskligheten ska kunna stå emot Maskinerna.

Redan i Sapiens konstaterade Harari att ”utan eviga själar och en skapargud blir det pinsamt svårt för liberaler att förklara vad som är så märkvärdigt med individuella sapiens.”  Vem kan säga emot?  Elon Musk har beskrivit AI som det största existentiella hot mänskligheten står inför. Kanske har han rätt. I sin postumt publicerade essäsamling Korta svar på stora frågor skrev Stephen Hawking att det skulle vara ”vårt största misstag någonsin” att avfärda tanken på intelligenta maskiner som ren science fiction, och tillägger att ”framtiden är en kapplöpning mellan våra teknologiers ökande styrka och vår vishet att rätt använda dem. Låt oss säkerställa att visheten segrar.”

Kristendom är ingen förutsättning för vishet. Men kanske att vi först nu – när den är  i grunden hotad – börjar förstå sambandet mellan det judeo-kristna arvet och den typ av humanism som vi så länge tagit för självklar?

En av Bibelns många märkliga berättelser är den om Babels torn, där människorna vill lösa ett hotande problem och samtidigt ”göra sig ett namn” genom att bygga en stad med ett torn som ska nå ända upp till himlen. Herren Gud ser problem med företaget, men konstaterar samtidigt att ”det här är bara början” och att ”nu är ingenting omöjligt för dem”. Berättelsen fångar något som följt mänskligheten genom historien: ambition, kreativitet och tro på tekniska lösningar kombinerat med en otillräcklig förmåga att förutse konsekvenserna av handlandet. Människan verkar vara bättre på att uppfinna nya saker än att använda dessa saker på ett klokt sätt.

Det finns flera självmordsliknande sätt att utplåna mänskligt liv på den här planeten. Kärnvapenkrig är ett, en ohejdad ökning av växthusgasutsläpp ett annat. Entusiasterna tror att AI kan vara lösningen även på de problemen. Själv ser jag snarare risken för att vi håller på att släppa fram ett otämjbart odjur och ytterligare en självmordsvariant.

Tyvärr vet jag inte hur en konstruktivt motbild mot AI-entusiasmen kan formuleras. Men låt mig påminna om det egentligen självklara: Framtiden är inte förutbestämd, det är fortfarande människor som formar den. Faktum är dessutom att vi klarar oss väldigt bra utan ”the Internet of everything”, utan självkörande bilar och utan algoritmer på sociala medier som bestämmer vilka annonser som ska visas. Och varför inte fundera på det T.S. Eliot skrev i en tid då modernitetens segertåg syntes ohotat:

”Var är Livet vi förlorade genom att leva?

Var finns visheten vi förlorade i vår kunskap?

Var finns kunskapen vi förlorade i informationsöverföringen?

/… /

Tar oss längre från Gud och närmare Stoftet ”

 

Pekka Mellergård