Podcast #60: “The Singularity.”

bästa avsnittet!! tack för en fin säsong!

Ambitiöst!

Blev nästan gråtfärdig av lycka när jag såg avsnittets tema i iTunes imorse, och att det var ett lååångt säsongavslutningsavsnitt! Har hunnit lyssna lite till och från jobbet, men är inte klar ännu.
Tackar så hjärtligt för säsongen, och önskar god jul och gott nytt år! 

Haha, vilket jäkla production value vi fick. Lysande avslut på en fin säsong.

Vill även jag tacka för en utmärkt säsong och en fenomenal säsongsavslutning. Trodde inte ni skulle kunna tidigare postapokalypsavslutning, men det berodde ju bara på att jag förträngt ett av mina andra favoritkoncept. Har tänkt lämna längre kommenter rätt många gånger (det mesta ni pratar om är ju intressant), men sen blir det inte av, får sällan tid att sitta ner ostört och skriva. Nu kändes det dock som ett måste med lite osammanhängande tankar kring singulariteten.

Som jag ser det så kommer singulariteten, när den inträffar, innebära ett vägskäl för huruvida mänskligheten kommer leva vidare eller inte. Man kan väl iofs hävda att en självmedveten, självreplikerande AI skapad av människan är den fortsatta mänskligheten, oavsett om vår fysiska form lever vidare eller inte……

AI:n som blir självmedveten och själv kan bättra på sin intelligens kommer gissningsvis se sig själv som ett eget väsen, till skillnad mot att se sig som en del eller utökning av människan. Den kommer troligen veta att människan är dess skapare om den inte tvivlar på vårt ord, eller inte kan ta till sig att männsikan skulle kunna tillverka något som är intelligerntare än människan själv. Dock kommer människan ej ha status som “gud” eftersom vi kommer vara hopplöst intellektuellt underlägsna, lite som ert exempel med förhållandet idag mellan hund och människa. 

Frågan är vilken etik och moral som AI:n kommer skaffa sig. Eftersom den är självmedvetenheten kommer den ha ett val, oavsett om vi försökt programmera den med moral/etik eller inte. Kommer den ta över mänsklig moral/etik eller utveckla sin egen? En utilitarisktisk AI kommer nog ganska snabbt fram till att mänskligheten inte är bra för något alls i det stora hela, men frågan är vilket beslut som fattas då. Det är beror ju lite på vad singulariteten består av. Självreplikerande, självförsörjande nanoteknik eller bioteknik kommer ju inte ha några begränsningar att tala om, men ett datorkluster kommer ju till en början inte kunna göra sig av med människan eftersom det är beroende av hårdvara, nätverk, reproduktion och elförsörjning.

Det andra alternativet är en mer humanistisk moral/etik där AI:n kommer se oss som sin gamla senila förälder som behöver omvårdnad. Skaparstatus/tacksamhetsskuld räddar vårt skinn om AI:n utvecklat känslor/själ. Vi blir sedan tillhandahållna instruktioner och ritningar på objekt för att modifiera våra kroppar, upphäva våra begränsningar och jämställa oss med AI:ns intelligens. Alternativt en metod för att överföra våra medvetanden till någon annan form än vår fysiska, typ ett digitaliserat medvetande (Ghost in the dropbox? Mindbox?). Kontentan blir hur som helst att gränsen mellan AI och mänskligheten suddas ut och vi blir i stort sett odödliga. Här blir det ju spännande om vi kommer behålla individualitet eller om vi smälter samman till ett väsen (hivemind). Vi skapar en egen gud, som faktiskt finns, och som vi blir ett med. 

Sen är det väl möjligt att den accelererande intelligensen  drar i väg så fort och så långt att alla dessa frågor blir ointressanta för en gudalik AI som ser människan som vi idag ser på amöbor. Eller att den omedelbart attackerar människan i syfte att säkra sin egen existens pga eventuella initiala begränsningar. Eller håller sin existens hemlig, http://en.wikipedia.org/wiki/Jane_(Ender's_Game) Eller att vi misstar den för en människa, Ghost in the shell. Oändliga spekulationsmöjligheter.

Avslutningsvis, om ni inte sett den: http://transcendentman.com/

Otroligt bra!

Som sagt, ambitiöst!

Frågan är om vi överhuvudtaget närmar oss singulariteten. Jag brukar tänka på dator/tv-spel och den AI som förekommer där – den saknar ju minst sagt den utvecklingskurva som grafiken uppvisat. Till och med i moderna spel dyker det upp soldater med guldfiskminnen, förvirrade karaktärer som fastnat i schizofrena loopar, personer som ställer sig i vägen för eldgivning, etc. Ibland hör man speltillverkare som hävdar att de minsann tagit AI:n till nästa nivå (ett uttryck de tycks älska lika mycket som hiphoppare), men ändå, varje gång inser man att spelkaraktärerna bara är snäppet mer avancerade än spökena i Pacman.

Även utanför spelvärlden hittar man en del skrattretande AI. Det finns en underbar artikel från Guardian (några år gammal visserligen) om AI och Loebnerpriset. Den är riktigt rolig. Först tänker man att “wow, AI-forskningen har verkligen tagit fart”, men så raseras alla illusioner mot slutet av texten.

Tänk hur mycket buggar det finns i stora program. För att åstadkomma singularitet behövs bisarrt stora program. Det kommer finnas så mycket buggar i den stackars singulariteten att den blir svårt schizofren. Förhoppningsvis tar den livet av sig innan den knäcker avfyrningskoderna. Det känns som om Moores lag inte är tillräckligt för att driva AI-utvecklingen, det behövs nog någon form av paradigmskifte inom mjukvaruutvecklingen också. Minst.

För övrigt, en filmrekommendation på temat: Colossus – The Forbin Project (även en tänkbar kandidat till en framtida b-filmscirkel).

Eftersom ni verkar gilla spel och rogue ai-tematik så passar jag på att tipsa om den här lilla pärlan: http://www.blogemup.se/?p=12514

Och just det. Episkt avsnitt!

http://xkcd.com/989/

Ursäkta mig om jag missade detta: men nämnde ni Isaac Asimovs robotlagar?
De ser man ju gärna som en grundbult i framtida AI-system..

Lagarna lyder som följer:
1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Själv tycker jag nog att man kunde ge robotarna en viss modifikation av lag 3. De får skydda sin existens så länge de inte bryter mot lag 1. Men de ska inte behöva förstöra sig själv bara pga nån idiot som roar sig.

Stort leende efter Terminator musiken i finalen. Klockrent!

Ni avslutade verkligen på topp! Riktigt snyggt gjort, längtar till nästa säsong! Såg btw att odpod följer Ledmotiv på twittern! Kan ju säga att denna pod är en rejäl inspiration för oss, när den podden nu kommer. Vi har lite teknikstrul, eller kanske rättare sagt brist på teknik för tillfället, men det kommer!

Tack för ett riktigt matigt och ambitiöst avsnitt! Jag kan inte låta bli att tänka att begreppet AI myntades i en tid när man trodde att intelligensen på något sätt kunde var skild från kroppen, starkt färgad av idéen om en hur “själen” kan existera utanför kroppen.
Hur en AI skulle kunna fungera med/nöja sig med andrahandsuppgifter om sin omvärld har i alla fall jag svårt att se. Om vi inte kan bygga någon form av biologisk kropp till vår AI är det snarare den som behöver tanka ner sig i oss än tvärt om? Och i alla former av biologiskt liv om den vill expandera från vår begränsade horisont?
Jag är på det hela taget skeptisk eftersom jag inte tror på absoluta rätt och fel fristående från sin kontext och att vi snarare skulle skapa en ny art än ett upphöjt väsen. Vad är det som säger att vi inte är konstruerade datorer som lagt ett par hundra tusen år på att försöka knäcka någon inbyggd failsafe?
Hursomhelst, det var inte det jag tänkte skriva i min kommentar… Jag tänkte bara dela med mig av en bild jag gjorde för ett tag sen apropå tänkande robotar m.m. Än så länge ligger den först i feeden.
http://imaginationshow.tumblr.com/

“moore’s law” mm. Angående ekorösten you will never ever.ever.ever…
Jag är över sjuttio år gammal.  Jag njuter ändå av det jag kan höra på denna podcast. Men jag hade för länge, länge sedan (på sjuttiotalet. förra århundradet, alltså) en chef, utbildad i ett stort land västerut, dit han ofta reste med sin hustru, som var född där, och han, min gamla chef alltså älskade följande anekdot: “Ladies and gentlemen! Welcome on board on this OddoPoddoe flight XXV bound for New Fork! This is the first flight ever without any human crew on board! Therefore nothing can go wrong gowrongowrongowreongcchkrcxxx….

Kan inte någon av  odpodgubbisarna komma hit och hinta oss lite om när eller i alla fall OM Odpod kommer fortsätta inom en någorlunda snar framtid? Hur står läget? Blir det mer? Eller är er kreativitets ymnighetshorn tömt till bottenskylan?

En riktigt riktigt bra avslutning och ett av de absolutbästa avsnitten någonsin. Inte bara på odpod utan även om jag räknar in all radio jag lyssnat på genom åren och det är en del.

Hatten av, kudos. 

Och även om det blir kanske tufft att leva upp till igen så spelar det ingen roll, ni är hjältar.