Vad händer när de intelligentaste varelserna på jorden inte längre är vi?
Det är en fråga som borde tas på största allvar, menar Olle Häggström, professor i matematisk statistik, och Claes Strannegård, forskare i tillämpad informationsteknologi.
Det handlar om AI, det handlar om singularitet, och lite om Darwin också.
AI, ARTIFICIELL INTELLIGENS, eller helt enkelt robotar, kan idag göra saker som för endast ett tiotal år sedan ansågs omöjliga. De är inte bara världsbäst i schack, de kan köra bil, svara i telefon och har till och med börjat hjälpa till i vården.
– Att maskiner tar över uppgifter som människan tidigare utfört är förstås ingenting nytt, påpekar Olle Häggström. Men förr har det mest handlat om att de ersatt hårt eller monotont arbete. Dagens AGI börjar också göra insteg på det intellektuella området.
Än så länge kan AI bara utföra väl avgränsade tekniska uppgifter i speciella miljöer, förklarar Claes Strannegård.
– Men i Japan, och också i Örebro, pågår forskning om hur robotar skulle kunna hjälpa gamla i vården. Det kanske låter opersonligt och tråkigt men är ändå bättre än att åldringar inte får någon hjälp alls. Också utbildningar skulle kunna rationaliseras: MOOC-kurserna, där tusentals studenter utbildar sig på nätet, är ett steg i den riktningen. Vi vill gärna tro att det är viktigt med personliga kontakter, men vem vet, det kanske det inte är.
Optimisterna ser den nya tekniken som vägen till ett framtida paradis där vi alla bekymmerslöst kan ägna oss åt kultur, friluftsliv och kärleksfulla relationer, medan robotarna gör jobbet.
Men det finns också de som har en mer pessimistisk syn på utvecklingen.
– Den dag allt fler jobb försvinner, kommer vi förstås att kunna ägna oss åt annat, men innebär det att vi blir särskilt lyckliga? undrar Olle Häggström. När vi grubblar över livets mening verkar just bristen på något att sträva mot vara ett stort problem. Att göra livet så lätt som möjligt är ett misstag, av samma skäl som det är fel att göra ett videospel så enkelt som det bara går. Men även om vi nu antar att vi faktiskt är på väg mot ett himmelrike, så kan vägen dit vara ganska svår. Hur fördelar vi frukterna av maskinernas arbete, kommer kanske vissa människor att slås ut? Ska vi återuppliva den gamla idén med medborgarlön, där alla har en minimilön oavsett vad de gör, och hur kommer samhället då att fungera?
SAMHÄLLSUTVECKLINGEN STYRS i hög utsträckning av marknadsmekanismer som vi bara delvis har kontroll över, påpekar Claes Strannegård.
– Om marknaden efterfrågar vissa varor och tjänster, och maskinerna kan erbjuda dessa på ett billigt och effektivt sätt, är det dessa produkter vi kommer att köpa. De som inte klarar konkurrensen slås ut. För tio år sedan talades det om ett tvåtredjedelssamhälle. Risken är att vi nu är på väg mot ett tiondelssamhälle.
Men vissa saker kanske vi ändå vill att människor gör?
– AI är redan överlägset när det gäller schack, men å andra sidan är det inte särskilt roligt att se på när datorer spelar, påpekar Olle Häggström. Den psykologiska nerven kräver människor och kanske kommer det att vara så även inom andra områden. Om AI lär sig skriva riktigt bra poesi kommer vi kanske ändå att föredra mänskliga poeter?
Ökad robotisering kan också få positiva effekter, betonar Claes Strannegård.
– I den fattiga delen av världen kanske ekonomin och levnadsvillkoren skulle kunna blir bättre och fler människor få sina behov tillgodosedda. I den rika delen av världen skulle AGI kunna fungera som ett beslutsstöd som hjälper oss samarbeta effektivare och hitta hållbara lösningar på problem som vi gått bet på i århundraden.
För att AGI ska kunna bli verklighet krävs bland annat att man löser två klassiska problem, förklarar Claes Strannegård.
– DET HANDLAR DELS OM det så kallade frameproblemet. Det innebär att vi måste ha en bra modell av världen för att kunna fatta bra beslut, exempelvis kunna avgöra exakt vilka bland tusentals fakta som är relevanta för en viss situation. Dels handlar det om the symbol grounding problem, det vill säga det faktum att symboler i sig är tomma men måste kopplas ihop med sakförhållanden i världen. Än så länge klarar AI inte detta, det krävs ett språng i utvecklingen som vi ännu inte sett.
– Groundingproblemet gäller förresten även människor, inflikar Olle Häggström. Hur kan något som pågår inne i våra huvuden representera något som sker där utanför? Vi människor verkar dock klara det.
Men de som tror att den stora faran med ökad robotisering är arbetslöshet och en ekonomi i gungning, tror kanske fel. Det kan hända att det stora problemet stavas singularitet.
– Det är ett begrepp som används inom matematik när något går mot oändligheten, förklarar Olle Häggström. När det gäller AI används begreppet för den mycket snabba utveckling som kan tänkas inträffa den dag vi skapat en robot som har högre intelligens än vi. Den högintelligenta roboten kommer bland annat att vara bättre på att bygga robotar än vi. Och de superintelligenta robotar, som de högintelligenta robotarna bygger, kommer i sin tur att vara ännu bättre robotkonstruktörer, som gör ännu bättre megaintelligenta robotar, och så vidare. Den dag vi tappar kontrollen kan det bli verkligt farligt.
Man kan förstås alltid dra ur sladden, påstås det ibland.
Men det är ett naivt argument, menar Olle Häggström.
– Det räcker med att superintelligensen får tillgång till internet för att den snabbt ska kunna skapa tusentals kopior av sig själv som går in i banker eller kärnvapensystem. Jag säger inte att AI kommer att vara emot mänskligheten, men det finns heller ingen anledning att tro att den automatiskt kommer att gulla med oss. Som författaren Eliezer Yudkowsky påpekar: Maskinerna hatar dig inte men älskar dig inte heller. Du består dock av atomer som maskinerna kan ha bättre användning för.
ALLTSÅ GÄLLER DET att bygga in grundvärderingar i roboten, som exempelvis att aldrig skada någon människa. Så även om en robot är skapad för att göra något harmlöst, som att tillverka gem, är det viktigt att programmera in vissa bivillkor, exempelvis att gemtillverkningen inte får leda till mord eller stöld. Risken är annars att vi plötsligt får en fabrik som omvandlar hela vår galax till en hög gem.
– Problemet är att det verkar vara väldigt svårt att formulera någorlunda adekvata etiska regler som man sedan kan programmera in i AGI-agenter, förklarar Claes Strannegård. Och även om vi människor tror att vi är rationella kanske vi inte alltid är det ändå. Företag verkar enligt principen att tjäna pengar till aktieägarna, militärindustrin behöver ständigt nya mål, risken att något ska gå riktigt fel ökar ju större diskrepansen blir mellan våra samhällens tillkortakommanden och teknikens höga komplexitet.
VI HAR DOCK LEVT med kärnvapen i 70 år och sedan andra världskriget är det ju faktiskt ingen som tryckt på knappen.
– Fast det där argumentet håller heller inte, påpekar Olle Häggström. Tänk bara på vad som hade kunnat hända den 26 september 1983. Det sovjetiska varningssystemet påstod då att en amerikansk missilattack var på väg. Flygofficeren Stanislav Petrov gjorde emellertid bedömningen att signalen antagligen var felaktig, och avstod från att vidarerapportera uppåt. Han avvärjde på så vis ett kärnvapenkrig, och vi är flera som anser att den 26 september borde firas som den internationella Petrovdagen. Men vi vet inte hur många gånger ett kärnvapenkrig varit nära, hittills kanske vi bara haft tur. Och det som skiljer AI från andra tekniska system är att de i framtiden kan ha egen intelligens och egna drivkrafter. Och hur kontrollerar vi dem då?
Ju fler robotar vi får desto svårare blir det dessutom att veta hur de interagerar med varandra, i robotekosystem.
– Darwins teori om att de tillräckligt välanpassade överlever behöver inte vara begränsad till biologiska system utan skulle även kunna gälla exempelvis en population av AI-agenter, påpekar Claes Strannegård.
Så hur ser ni på den närmaste framtiden?
– Framtiden är en produkt av mänskliga beslut, påpekar Olle Häggström. Jag är ingen pessimist men bekymrad, utvecklingen kan sticka iväg både åt ett gott och mycket obehagligt håll.
– Vi befinner oss väl i ett farligt skede i mänsklighetens historia just nu, med tanke på miljöförstöring, massförstörelsevapen och politisk instabilitet, menar Claes Strannegård. Men jag anser trots allt att AI ger visst hopp, och vill gärna tro att den kommer att användas på ett bra sätt för att lösa mänsklighetens problem.
När ni nu sitter här och diskuterar ger ni båda intryck av att vara tänkande människor. Men någon av er skulle ju kunna vara en robot …
– Om jag skulle kunna titta in i Claes huvud och, istället för en geggig geléklump, finna en massa ic-kretsar, så antar jag att min syn på honom skulle påverkas, förklarar Olle Häggström. Men egentligen kan man fråga sig varför en sådan upptäckt skulle störa oss mer än insikten att vårt medvetande är produkten av en gelémassa i huvudet?
Text: Eva Lundgren
Foto: Johan Wingborg
Denna text är utskriven från följande webbsida:
https://www.medarbetarportalen.gu.se/aktuellt/gu-journalen/arkiv/2014/nummer-6-14/nar-robotarna-tar-over/?skipSSOCheck=true
Utskriftsdatum:
2024-03-29