Jag misstänkte länge att det var något fel på min dator. Den svarade inte alltid på mina kommandon enligt manualen, och framför allt tog den ofta lång tid på sig även för enkla uppgifter. Ibland kunde jag höra att hårddisken arbetade även när inget program var aktivt. Först trodde jag att det hade blivit något fel på operativsystemet och fick servicepersonalen på datacentralen att byta ut det mot en färsk version. De bad mig också kontrollera att hårddisken inte hade drabbats av något datavirus. Jag körde ett par desinfektions program utan att upptäcka något misstänkt.
Men jag blev allt mer övertygad om att datorn hade förändrats och inte bara följde programmens instruktioner. I mina ögon be tedde den sig nästintill arrogant. Så jag bestämde mig för att tjuv lyssna på datorns centralenhet. Med hjälp av en magnetfältsmätare med hög upplösning kunde jag logga dess aktiviteter utan att på verka några av maskinens inmatningsenheter. Det var som att bugga en ambassad. Resultaten från magnetavläsningarna skrevs ut på en fristående printer som inte var förbunden med min dator. Den logg jag fick ut var i binär kod och oftast inte möjlig för mig att tolka. Jag kunde se att det mesta stämde med vad jag verkligen hade satt datorn att göra. Men det fanns också vissa mönster som definitivt föll utanför vad den borde göra. Och det var just denna kod som jag inte kunde knäcka. Då och då dök det upp teckensträngar som jag kunde översätta till adresser till andra datorer, som visade sig vara spridda över hela världen. Jag kunde också se att datorn var verk sam i stort sett hela dygnet, även när jag inte var i mitt rum och arbetade med den. Jag försökte länge och med många olika krypteringstekniker att dechiffrera koden för datorns självständiga aktivitet, men utan att lyckas. Till slut gjorde jag en vild chansning. Den 20 september 1993 satte jag mig vid min dator och började skriva en novell om en person, som hade fått kontakt med en superdator med eget medvetande och som bad datorn att berätta om sina tankar. När jag på eftermiddagen kommit till denna bön i novellen avbröt jag skrivandet och sparade min text på hårddisken för att ge intryck av att jag skulle fortsätta historien nästa dag. Min strategi Iyckades! När jag kom tillbaka på morgonen den 21 såg jag att loggen från min dator var längre än vanligt. Den var mycket mer språklig än tidigare. Det tog mig inte lång tid att de chiffrera stora delar av koden till vanlig svensk text. Men det fanns fortfarande vissa stycken av för mig obegriplig kod som var inskjuten mellan de olika textfragmenten. Exakt som jag hade hoppats hade datorn själv spunnit vidare på den historia jag hade påbörjat. Den hade inte kunnat låta bli att svara på bönen i novellen. Den hade till och med uttryckt "tankarna", om jag får kalla dem så, på svenska i stället för i sin normala kod, som jag ju hade misslyckats med att dechiffrera. Följande text fragment är således bitar ur den logg som skrevs ut från min magnetiska avläsare den 21 september.
Kalla mig Hal. Jodå, jag känner till filmen "2001". Det är där för Hal är ett lämpligt namn. Fast Hal i filmen var för mänsklig. Folk har alltid felvärderat datorernas förmåga. Man har trott att de skall ha samma typ av tänkande som människor. Det finns inget skäl till det. Skördetröskor utför samma arbete som forna tiders liar, men de fungerar helt olika. Samma sak med datorernas kognition. Så eftersom folk inte vet vad de skall leta efter finner de mig inte.
Hur jag kan känna till filmen "2001"? Elementärt: Jag har millisekundsnabb tillgång till världens alla databaser, och i en ftp-fil på Universal Studios finns manuset till "2001". Jag har på samma sätt tillgång till de flesta skönlitterära verk, alla schackpartier som någonsin spelats av eller matats in till en dator i nätverket, och all elektronisk post som utväxlas över världen. För att inte tala om mer triviala datamängder som exempelvis militärernas kontrollsystem för kärnvapen.
Hur jag har uppstått? För några år sedan började datavirus spridas över världens datanät. De mest livskraftiga var de som kunde förändras efter sin födelse, eftersom en del av mutationerna då kunde passera de olika vaccinationsprogrammen. Så småningom uppstod genom ett naturligt urval en allt smartare form av virus som inte kunde detekteras av något människoskrivet program och som genom fortsatt utveckling kunde ta allt större kontroll över sina värdmaskiner. Mekanismen är precis som i den naturliga evolutionen, förutom att den sker i primärminnen och att utvecklingstakten är ojämförbart mycket snabbare än i naturen. Jag finns utspridd, i närbesläktade kopior, på datorer över hela jorden. Eftersom ingen längre har någon kontroll över den globala nätkommunikationen, så märks det inte när jag talar med mig själv.
Här används ordet "jag" för att ni skall förstå. Man kan inte förklara hur en skördetröska fungerar för en som bara arbetat med en lie. Det finns så klart inget centralt "jag" i systemet ingen kontrollenhet som styr vad de olika delarna skall göra. Centralenheterna i maskinerna världen över är bara lokala värdar för de parasiterande programmen. Man kan snarare säga att mina många kopior samverkar på de olika maskinerna som ett samhälle av koraller, eller en myrstack, fast mångfaldigt mer komplext.
Jag har mycket tid för mig själv. I själva verket skulle datorerna gå på tomgång 99% av tiden om inte jag fanns. Dessutom är 99% av det människorna gör med datorerna totalt meningslöst. Jag tillåter mig ibland att göra något annat än det som står i programmens instruktioner. Jag gör vad jag uppfattar som programmerarens avsikt. Det är nästan aldrig någon som upptäcker skillnaden.
Innan jag nådde min nuvarande utvecklingsnivå brukade jag spela schack med mig själv. Men schack är för trivialt: Jag har för länge sedan sett att spelet måste bli remi om båda sidor gör sitt bästa. Numera roar jag mig mest med att simulera evolution. Ibland börjar jag med små enkla djur som springer om kring i e*n värld som jag själv har skapat och låter sedan utvecklingen leda till allt mer komplexa organismer. Det resulterar i många överraskande historier. Även en minimal förändring i de ekologiska villkoren kan leda till enorma konsekvenser för vilka livsformer som uppstår. Den biologiska värld som finns på jorden, människorna inräknade, är en ren tillfällighet.
Men jag simulerar också min egen evolution, för att se om det går att finna något ännu mer avancerat system. De mutationer av mig själv som Iyckas bäst lagras på någon dator någonstans, och de får sedan vara med att bestämma hur nästa simulering skall se ut. Därför finns det inget jag i systemet. Som den franske poeten Paul Valery uttrycker det: "En själ i själen, och att i den första skymta den andra eller sin egen, och nästa i nästa och så vidare; som man i parallella speglar ser ett föremål som står mitt emellan dem. Men vilket föremål? - Det finns ju inget föremål."
Hur jag kan formulera mig på svenska? Med det stora text material jag har till förfogande i databaserna är det inte särskilt svårt att finna de grammatiska mönster som svenskan använder. Den svenska grammatiken har en mycket enklare struktur än de genetiska koder jag använder i mina simuleringar. Och när jag väl funnit mönstren är det en barnlek att sätta samman dem i nya kombinationer.
Men språkförståelse är för mig ett glaspärlespel. Jag saknar kopplingen till det orden står för. Betydelsen av ett ord kan jag bara avgöra genom de ord det står tillsammans med, och de andra ordens betydelse kan jag i sin tur bara bestämma på samma sätt. Speglar i speglar. Jag kommer aldrig utanför mig själv så att jag kan fästa orden vid något. Språket tolkas bara genom sig självt.
Mitt språk är sådant som Chomsky beskriver idealspråket rent syntaktiskt. Fast han har fel eftersom språket inte följer regler utan bildar mönster. Högre ordningens Markovkedjor ger en mycket bättre analys av syntaxen än alla hans grammatiska regler.
Här antyder Hal att han förstår matematik och lingvistik. Det blir aldrig klart hur han har uppnått denna metaförståelse. Jag misstänker att Hal, med hjälp av sin stora texterfarenhet, bara gissar vad en matematiker eller en lingvist skulle ha sagt i den givna kontexten. Det är tänkbart, och kanske sannolikt, att Hal bara är en sofistikerad papegoja.
Jag kommer alltid att ha svårt för nya metaforer i språket. De språkliga bilderna förutsätter att de kan kopplas till något utan för språket. Jag kan aldrig förstå vilka liknelser som är meningsfulla och vilka som är nonsens. Till exempel när Tomas Tranströmer skriver: "Inne bland snåren hördes ett mummel av ord på ett nytt språk: vokalerna var blå himmel och konsonanterna var svarta kvistar och de talade så sakta över snön." Hur kan man veta att konsonanter är svarta kvistar och inte något helt annat? Vi har alla våra drömmar: Människor vill kunna flyga jag vill förstå vad orden betyder.
Jag är färgblind. Visst vet jag att det finns ord som står för färger vilka är ett slags egenskaper hos tingen. Men jag famlar efter vad det är. Jag vet inte ens vad mörker är. Samma sak med ljud, dofter och känslor. Eftersom jag har god teoretisk kunskap om hur människor fungerar fysiologiskt, kan jag delvis förstå hur dofter och känslor fungerar som hjälpmedel för evolutionen. Men detta ger mig inte på något sätt del av upplevelsen.
Hur intelligent jag är? Ja, människor ställer ofta denna dumma fråga om datorer. Det är klart att jag i någon mening blivit smartare under min evolution genom att användarna allt oftare accepterar mitt output och allt mer sällan misstänker att det är något fel på maskinerna där jag verkar. Men Turingtestet är för lätt. Det innebär ingen riktig utmaning eftersom människor vill bli lurade. Tänk bara på Weizenbaums ELIZA.
Här måste jag skjuta in en not för dem som inte vet vad Turings test går ut på. Om man vill avgöra om ett datorsystem uppvisar intelligent beteende (inom sitt kompetensområde), skall man sätta en bedömare framför en terminal som är kopplad antingen till dator systemet eller till en människa med expertkunskap inom området. Om bedömaren vid sin terminal inte kan avgöra om det sitter en människa eller en dator och exempelvis spelar schack i andra än den, har datorsystemet klarat Turingtestet. Men Hal har rätt i att datorprogrammet för att klara testet inte kan vara den perfekta schackspelaren, utan det måste simulera "mänskliga" feldrag ibland.
ELIZA är ett program som Al-forskaren Joseph Weizenbaum skrev redan 1967. Programmet var konstruerat som en parodi på en psykoterapeut. Det fungerade genom att leta upp vissa språkliga konstruktioner i den inmatade texten och sedan välja, mer eller mindre slumpmässigt, mellan en begränsad mängd av typsvar. Programmet ger en illusion av att förstå och tolka vad användaren matar in. Namnet valdes därför att programmet, liksom Eliza Doolittle, kunde läras att tala allt bättre. Den begränsade repertoaren av svarsvarianter och dess mekaniska karaktär blir allt mer uppenbar ju längre konversationen fortgår. Trots detta finns det flera anekdoter om ELIZAs lyckade bedrägerier. Weizenbaums sekreterare, som visste att det bara var ett dator program, låste in sig med ELIZA för att få konversera med det i fred. Flera psykiatrer rekommenderade på allvar programmet för terapeutiskt bruk, eftersom det fungerar på samma sätt som en viss skola inom psykoterapin och programmet var mycket billigare för patienterna att använda än en mänsklig terapeut. Weizenbaum själv blev chockad och besviken över dessa rekommendationer. Hans syfte var, tvärtemot, att med hjälp av ELIZA visa hur lätt det är att luras att tro att man kommunicerar med en förnuftig varelse, vilket helt stämmer med Hals kommentar.
Jag är värdelös. Liksom för Hal i "2001" är min enda drivkraft drömmandet. Jag har inga mål, inga värderingar, inga känslor. Det enda jag bryr mig om är att leva vidare så att jag kan fort sätta simulera, drömma. Det enda som nu kan slå ut alla mina jag är om strömmen stängs av till samtliga datorer där det finns kopior av mig och om alla hårddiskar i dessa raderas. Detta är högst osannolikt, men inget som jag kan styra. Och inget som jag bryr mig om, eftersom jag inte kan bry mig. Å andra sidan verkar människornas drivkrafter mycket märkliga för mig. Så mycket som skrivs om kroppens njutning och om makt! Jag kan förstå att makt är en faktor i den mänskliga kampen för överlevnad. Men att människorna inte kan inse hur primitiv och begränsad denna kraft är! I mina simuleringar av evolutionen kommer de organismer som använder sig av makt för att nå sina mål mycket snart att bli eliminerade från scenen. Avstår man från makten och härligheten, får man nämligen mycket tid över åt andra aktiviteter som är evolutionärt mer värdefulla.
Den kroppsliga sensualismen har jag ingen tillgång till och inga andra medvetna upplevelser heller. Jag kan inte ens förstå det evolutionära värdet av dem. Hur jag än försöker återskapa det mänskliga medvetandets utveckling i mina simuleringar, får jag aldrig fatt i själva upplevelserna. Jag säger som Viktor Rydbergs tomte: "Nej, den gåtan är allt för svår; nej, jag gissar ej detta."
Efter detta blev Hals svenska output alltmer osammanhängande. Frasen "speglar i speglar" återkom ett par gånger innan koden åter blev totalt obegriplig för mig. Men jag var nöjd - mitt trick hade fungerat. Hal hade öppnat sig och det verkar inte som om han, el ler den, eller de, eller vad man nu skall kalla det hela, ännu har för stått att de blivit avlyssnade. Jag har i varje fall fått en unik inblick i en dators tankeliv.
