Superintelligens
Vad händer när artificiell intelligens överträffar mänsklig intelligens? Maskiner kan tänka, lära sig och lösa komplexa problem snabbare och mer exakt än vad vi kan. Detta är den värld som Nick Bostrom utforskar i sin bok, Superintelligens. Framstegen inom artificiell intelligens för oss närmare skapandet av superintelligenta varelser.
Stora teknikföretag som Microsoft, Google och Facebook tävlar alla om att skapa en superkraftig AI. De satsar mycket resurser på forskning och utveckling för att få det att hända. Men här är haken: utan rätt säkerhetsåtgärder och regler kan saker och ting gå överstyr. Därför är det viktigt att gå in och se till att AI håller sig under kontroll.
Föreställ dig en värld där maskiner inte bara är billigare utan också mycket bättre på att utföra jobb än människor. I den världen kan maskinerna ta över det mänskliga arbetet och människor undrar: "Vad händer nu?". Därför är det viktigt att komma på kreativa lösningar för att se till att alla får det bra.
Är vi på väg att skapa något som överstiger våra vildaste drömmar eller våra värsta mardrömmar? Superintelligens är begreppet artificiell intelligens som överträffar människans kognitiva förmågor i alla avseenden. Det finns tre möjliga vägar för att uppnå superintelligens:
• Förbättra mänsklig kognition,
• Skapa AI med människoliknande intelligens
•Utveckling av ett system för kollektiv underrättelseverksamhet
Vilken väg vi väljer kommer att avgöra vilka konsekvenser och risker vi står inför som samhälle. Om vi gör framsteg på en väg, t.ex. biologisk eller organisatorisk intelligens, kommer det ändå att påskynda utvecklingen av maskinell intelligens. Är vi redo för de utmaningar som följer av att skapa så kraftfulla enheter?
Vi utforskar olika vägar för att nå superintelligens. AI-vägen verkar vara den mest lovande. Emulering av hela hjärnan och biologiska kognitiva förbättringar kan också leda oss dit. Biologiska förbättringar är genomförbara och kan resultera i svaga former av superintelligens jämfört med maskinell intelligens, men nätverk och organisatoriska framsteg kan öka den kollektiva intelligensen.
Det finns tre former av superintelligens
Vad exakt menar boken med "superintelligens"? Det finns tre olika former av superintelligens: snabbhet, kollektivitet och kvalitet. De är likvärdiga i en praktiskt relevant mening.
Specialiserade system för informationsbehandling gör redan underverk. Men vad händer om vi hade maskinintellekt med tillräcklig allmän intelligens för att ersätta människor på alla områden? Snacka om en förändring av spelet!
Hastighet Superintelligens
Nick Bostrom definierar snabb superintelligens som "ett system som kan göra allt som ett mänskligt intellekt kan göra, men mycket snabbare".
Om en emulering skulle fungera 10 000 gånger snabbare än vad som är typiskt för en biologisk hjärna skulle den kunna slutföra en doktorsavhandling på en eftermiddag. För att undvika långa latenstider kan snabba hjärnor föredra att kommunicera med varandra mer effektivt genom att vara nära varandra. De kanske lever i den virtuella verkligheten och handlar i informationsekonomin.
"Ljusets hastighet blir en allt viktigare begränsning när hjärnorna blir snabbare, eftersom snabbare hjärnor har större alternativkostnader när de använder sin tid till att resa eller kommunicera över långa avstånd." - Nick Bostrom
Ljuset är mycket snabbare än ett jetplan. En digital varelse med en miljon gånger högre mental hastighet skulle ta samma subjektiva tid på sig att resa runt i världen som en människa idag. Att ringa ett långdistanssamtal skulle kännas lika långvarigt som att åka dit "personligen".
Agenter med höga mentala hastigheter kan välja att bo nära varandra. På så sätt kan de kommunicera mer effektivt. Medlemmar i ett arbetslag kan till exempel bo i datorer som finns i samma byggnad för att undvika irriterande förseningar.
Kollektiv superintelligens
Bostrom beskriver kollektiv superintelligens som: "Ett system som består av ett stort antal mindre intellekt så att systemets totala prestanda inom många mycket allmänna områden vida överstiger den som alla nuvarande kognitiva system har."
Kollektiv superintelligens är mer komplex än snabb superintelligens, men det är något som vi redan känner till. Kollektiv intelligens är ett system som består av olika personer eller komponenter. De arbetar tillsammans för att lösa intellektuella problem. Det är som superhjältar som samarbetar för att knäcka svåra utmaningar.
Vi har sett kollektiv intelligens i praktiken genom arbetsgrupper och intresseorganisationer. Den är bra på att ta itu med problem som kan delas upp i mindre bitar. För att nå kollektiv superintelligens skulle vi behöva betydande förbättringar. Det måste gå längre än befintlig kollektiv intelligens och kognitiva system på olika områden.
Kollektiv superintelligens är ingen garanti för ett bättre och klokare samhälle. En mycket samordnad, kunnig arbetsstyrka kan fortfarande göra fel i vissa viktiga frågor och drabbas av en kollaps.
Kollektiv superintelligens kan ha många olika former. När vi integrerar den kollektiva intelligensen kan den bli ett "enhetligt intellekt". Bostrom definierar det som ett "enda stort sinne" i motsats till "en samling löst samverkande mindre mänskliga sinnen".
Superintelligens för kvalitet
Enligt Bostrom är superintelligens av hög kvalitet "ett system som är minst lika snabbt som ett mänskligt sinne och som är mycket kvalitativt smartare".
Det är viktigt att förstå intelligensens kvalitet för att kunna tänka på möjligheterna och begränsningarna hos olika intelligenta system. Ta zebrafiskar som exempel. Dess intelligens är lämplig för dess miljö, men den har svårt att planera på lång sikt. Dessa begränsningar ligger i kvaliteten, inte i hastigheten, eller i den kollektiva intelligensen bland icke-mänskliga djursinnen.
Människors hjärnor är sannolikt sämre än vissa stora djurs hjärnor när det gäller rå beräkningskraft. Normala vuxna människor har en rad anmärkningsvärda kognitiva talanger. De är inte bara en funktion av att man har en allmän neuronal processorkraft eller intelligens. Det finns outnyttjade kognitiva förmågor som ingen människa har. Det för oss till "idén om möjliga men icke realiserade kognitiva talanger". Om ett intelligent system skulle få tillgång till dessa förmågor skulle det kunna få en betydande fördel.
