Ce se va întâmpla dacă mașinile îi depășesc pe oameni în inteligență? Ne vor ajuta sau ne vor distruge rasa umană? Putem ignora astăzi problema dezvoltării inteligenței artificiale și să ne simțim complet în siguranță?
În cartea sa, Nick Bostrom încearcă să înțeleagă problema cu care se confruntă omenirea în legătură cu perspectiva apariției superinteligenței și să analizeze răspunsul acesteia.
Caracteristicile cărții
Data scrierii: 2014
Nume: . Etape. Amenințări. Strategii
Volum: 760 pagini, 69 ilustrații
ISBN: 978-5-00057-810-0
Traducător: Serghei Filin
Deținătorul drepturilor de autor: Mann, Ivanov și Ferber
Prefață la cartea „Inteligenta artificială”
Autorul consideră că amenințarea de moarte este asociată cu posibilitatea de a crea inteligență artificială care depășește mintea umană. O catastrofă ar putea izbucni atât la sfârșitul secolului XXI, cât și în următoarele decenii. Întreaga istorie a omenirii arată: atunci când are loc o ciocnire între un reprezentant al speciei noastre, Homo sapiens, și oricine altcineva care locuiește pe planeta noastră, cel care este mai inteligent câștigă. Până acum, am fost cei mai deștepți, dar nu avem nicio garanție că acest lucru va dura pentru totdeauna.
Nick Bostrom scrie că, dacă algoritmii de computer inteligente învață să facă în mod independent algoritmi și mai inteligenți, iar aceștia, la rândul lor, chiar mai inteligenți, va exista o creștere explozivă a inteligenței artificiale, în comparație cu care oamenii vor arăta aproximativ ca furnicile lângă oameni acum, în sens intelectual, desigur. O specie nouă, deși artificială, dar suprainteligentă va apărea în lume. Nu contează ce „vine în minte”, o încercare de a-i face pe toți oamenii fericiți sau o decizie de a opri poluarea antropică a oceanelor lumii în cel mai eficient mod, adică prin distrugerea umanității, oamenii tot nu vor putea rezista la asta. Nicio șansă de confruntare în spiritul filmului Terminator, fără schimburi de focuri cu cyborgi de fier. Ne așteaptă șah-mat - ca într-un duel între computerul de șah „Deep Blue” și un elev de clasa întâi.
În ultimii o sută sau două de ani, realizările științei au trezit în unii speranță pentru rezolvarea tuturor problemelor omenirii, în timp ce în alții au provocat și continuă să provoace frică nestăpânită. În același timp, trebuie spus că ambele puncte de vedere par destul de justificate. Datorită științei, bolile teribile au fost învinse, omenirea de astăzi este capabilă să hrănească un număr fără precedent de oameni, iar dintr-un punct de pe glob poți ajunge la opus în mai puțin de o zi. Cu toate acestea, prin grația aceleiași științe, oamenii, folosind cele mai recente tehnologii militare, se distrug reciproc cu o viteză și o eficiență monstruoasă.
Observăm o tendință similară - când dezvoltarea rapidă a tehnologiei nu numai că duce la formarea de noi oportunități, ci creează și amenințări fără precedent - în domeniul securității informației. Întreaga noastră industrie a apărut și există doar pentru că crearea și distribuția în masă a unor lucruri atât de minunate precum computerele și Internetul a creat probleme care ar fi fost de neimaginat în era pre-computer. Ca urmare a apariției tehnologiei informației, a avut loc o revoluție în comunicațiile umane. A fost folosit și de diferite tipuri de criminali cibernetici. Și abia acum omenirea începe treptat să-și dea seama de noi riscuri: tot mai multe obiecte ale lumii fizice sunt controlate folosind computere și software, adesea imperfecte, pline de găuri și vulnerabile; Cu tot mai multe dintre aceste obiecte conectate la Internet, amenințările din lumea cibernetică devin rapid securitate fizică și potențiale probleme de viață și de moarte.
Acesta este ceea ce face cartea lui Nick Bostrom atât de interesantă. Primul pas pentru prevenirea scenariilor de coșmar (pentru o singură rețea de calculatoare sau pentru întreaga umanitate) este să înțelegem care ar putea fi acestea. Bostrom face o mulțime de rezerve că crearea de inteligență artificială comparabilă sau superioară minții umane - inteligența artificială capabilă să distrugă umanitatea - este doar un scenariu probabil care s-ar putea să nu se concretizeze. Desigur, există multe opțiuni, iar dezvoltarea tehnologiei informatice poate să nu distrugă umanitatea, dar ne va oferi răspunsul la „întrebarea principală a vieții, a Universului și a tot” (poate că va fi într-adevăr numărul 42, ca în romanul „Ghidul autostopitului către galaxie”) . Există speranță, dar pericolul este foarte grav, ne avertizează Bostrom. În opinia mea, dacă există posibilitatea unei astfel de amenințări existențiale la adresa umanității, atunci trebuie tratată în consecință și, pentru a o preveni și a se proteja de ea, ar trebui depuse eforturi comune la scară globală.
Introducere
Există o anumită substanță în interiorul craniului nostru, datorită căreia putem, de exemplu, să citim. Această substanță - creierul uman - este înzestrată cu capacități care sunt absente la alte mamifere. De fapt, oamenii își datorează poziția dominantă pe planetă tocmai acestor trăsături caracteristice. Unele animale se disting prin mușchi puternici și colți ascuțiți, dar nicio creatură vie, cu excepția oamenilor, nu este înzestrată cu o minte atât de perfectă. Datorită nivelului nostru intelectual superior, am putut crea instrumente precum limbajul, tehnologia și organizarea socială complexă. De-a lungul timpului, avantajul nostru s-a consolidat și extins, pe măsură ce fiecare nouă generație, bazându-se pe realizările predecesorilor săi, a avansat.
Dacă se dezvoltă vreodată inteligența artificială care depășește nivelul general de dezvoltare al minții umane, atunci în lume va apărea inteligența super-puternică. Și atunci soarta speciei noastre va depinde direct de acțiunile acestor sisteme tehnice inteligente - la fel cum soarta gorilelor de astăzi este în mare măsură determinată nu de primate înseși, ci de intențiile umane.
Cu toate acestea, omenirea are un avantaj incontestabil, deoarece creează sisteme tehnice inteligente. În principiu, cine vă oprește să inventați o astfel de superinteligență care va lua sub protecția sa valorile umane universale? Desigur, avem motive foarte bune să ne protejăm. În termeni practici, va trebui să facem față celei mai dificile chestiuni de control - cum să controlăm planurile și acțiunile superinteligentei. În plus, oamenii vor putea folosi o singură șansă. De îndată ce apare inteligența artificială (IA) neprietenoasă, aceasta va începe imediat să interfereze cu eforturile noastre de a scăpa de ea sau cel puțin de a-și ajusta setările. Și atunci soarta umanității va fi pecetluită.
În cartea mea, încerc să înțeleg problema cu care se confruntă oamenii cu perspectiva superinteligenței și să analizez răspunsul lor. Ne așteaptă poate cea mai serioasă și înfricoșătoare agendă pe care umanitatea a primit-o vreodată. Și indiferent dacă câștigăm sau pierdem, este posibil ca această provocare să fie ultima noastră. Nu prezint aici niciun argument în favoarea unei versiuni sau alteia: suntem în pragul unei mari descoperiri în crearea inteligenței artificiale? Este posibil să prezicem cu o anumită acuratețe când va avea loc un anumit eveniment revoluționar. Cel mai probabil - în acest secol. Este puțin probabil ca cineva să numească un termen mai precis.
Inteligenţă artificială. Etape. Amenințări. Strategii - Nick Bostrom (descărcare)
(fragment introductiv al cărții)
Ce se va întâmpla dacă mașinile îi depășesc pe oameni în inteligență? Ne vor ajuta sau ne vor distruge rasa umană? Putem ignora astăzi problema dezvoltării inteligenței artificiale și să ne simțim complet în siguranță? În cartea sa, Nick Bostrom încearcă să înțeleagă problema cu care se confruntă omenirea în legătură cu perspectiva apariției superinteligenței și să analizeze răspunsul acesteia. Publicat pentru prima dată în limba rusă.
* * *
Fragmentul introductiv dat al cărții Inteligenţă artificială. Etape. Amenințări. Strategii (Nick Bostrom, 2014) oferit de partenerul nostru de carte - compania litri.
Capitolul doi
Calea către Supraminte
Astăzi, dacă luăm nivelul de dezvoltare intelectuală generală, mașinile sunt absolut inferioare oamenilor. Dar într-o zi – conform presupunerii noastre – inteligența mașinii va depăși inteligența omului. Care va fi drumul nostru de acum spre cel care ne așteaptă? Acest capitol descrie mai multe opțiuni tehnologice posibile. Vom acoperi mai întâi subiecte precum inteligența artificială, emularea completă a creierului, îmbunătățirea cognitivă umană, interfața creier-mașină, rețelele și organizațiile. Apoi vom evalua aspectele enumerate din punct de vedere al probabilității, dacă acestea pot servi drept trepte în ascensiunea către supraminte. Cu mai multe opțiuni de rută, șansa de a ajunge vreodată la destinație crește în mod clar.
Să definim mai întâi conceptul de superinteligență. Acest orice inteligență care depășește semnificativ capacitățile cognitive umane în practic orice domeniu(87) . În capitolul următor vom discuta mai detaliat ce este superinteligența, o vom descompune în componentele sale și vom diferenția toate încarnările ei posibile. Dar acum să ne limităm la o astfel de descriere generală și superficială. Rețineți că în această descriere nu a existat loc nici pentru implementarea supraminții în viață, nici pentru qualia ei, adică dacă va fi înzestrată cu experiențe subiective și experiența conștiinței. Dar într-un anumit sens, mai ales etic, întrebarea este foarte importantă. Totuși, acum, lăsând deoparte metafizica intelectuală (88), vom acorda atenție două aspecte: condițiile prealabile pentru apariția supraminții și consecințele acestui fenomen.
Conform definiției noastre, programul de șah Deep Fritz nu este super-inteligent, deoarece este „puternic” doar într-o zonă foarte îngustă - jocul de șah. Cu toate acestea, este foarte important ca superinteligența să aibă propriile sale specializări în materie. Așadar, de fiecare dată când vorbim despre un comportament supraintelectual limitat de aria subiectului, voi stipula separat domeniul său specific de activitate. De exemplu, inteligența artificială care depășește semnificativ abilitățile mentale ale omului în domeniile programare și proiectare va fi numită superinteligență inginerească. Dar pentru a desemna sisteme, în general depăşind nivelul general al inteligenţei umane – dacă nu se specifică altfel – termenul rămâne superinteligență.
Cum vom ajunge la momentul în care apariția lui este posibilă? Ce cale vom alege? Să ne uităm la câteva opțiuni posibile.
Inteligenţă artificială
Stimate cititor, nu trebuie să vă așteptați de la acest capitol la o elaborare conceptuală a întrebării cum să creați inteligența artificială universală sau puternică. Pur și simplu nu există niciun proiect care să-l programeze. Dar chiar dacă aș fi fericitul proprietar al unui astfel de plan, cu siguranță nu l-aș face public în cartea mea. (Dacă motivele pentru aceasta nu sunt încă evidente, sper că în capitolele următoare voi putea să-mi clarific propria poziție.)
Cu toate acestea, astăzi este posibil să recunoaștem unele dintre caracteristicile esențiale inerente unui astfel de sistem inteligent. În mod clar, capacitatea de învățare ca o caracteristică inerentă a nucleului unui sistem ar trebui să fie integrată în sistem în momentul proiectării, mai degrabă decât să fie adăugată ulterior ca o extensie. Același lucru este valabil și pentru capacitatea de a lucra eficient cu informații incerte și probabilistice. Cel mai probabil, modulele de bază ale inteligenței artificiale moderne ar trebui să includă un mijloc de extragere a informațiilor utile din datele de la senzorii externi și interni și de a transforma conceptele rezultate în reprezentări combinatorii flexibile pentru utilizare ulterioară în procesele de gândire bazate pe logică și intuiție.
Primele sisteme de inteligență artificială clasică nu aveau ca scop în primul rând învățarea, lucrul în condiții de incertitudine și formarea conceptelor - probabil datorită faptului că la acea vreme metodele corespunzătoare de analiză nu erau suficient de dezvoltate. Acest lucru nu înseamnă că toate ideile de bază AI sunt fundamental inovatoare. De exemplu, ideea de a folosi învățarea ca mijloc de dezvoltare a unui sistem simplu și de a-l aduce la nivel uman a fost exprimată de Alan Turing în 1950 în articolul „Computing and Intelligence”, unde și-a subliniat „copilul-mașină” concept:
De ce noi, în loc să încercăm să creăm un program care imită mintea unui adult, nu încercăm să creăm un program care imită mintea unui copil? La urma urmei, dacă mintea unui copil primește o educație adecvată, ea devine mintea unui adult (89).
Turing a prevăzut că crearea unei „mașini copil” ar necesita un proces iterativ:
Este puțin probabil să reușim să obținem o „mașină pentru copii” bună la prima încercare. Este necesar să se efectueze un experiment de pregătire a uneia dintre aceste mașini și să se afle cum poate fi predat. Apoi efectuați același experiment cu o altă mașină și determinați care dintre cele două mașini este mai bună. Există o legătură evidentă între acest proces și evoluția în natură...
Cu toate acestea, se poate spera că acest proces va decurge mai repede decât evoluția. Supraviețuirea celui mai în formă este o modalitate prea lentă de a măsura avantajul. Experimentatorul, folosind puterea inteligenței, poate accelera procesul de evaluare. La fel de important, nu se limitează la utilizarea doar a mutațiilor aleatorii. Dacă experimentatorul poate urmări cauza unei anumite deficiențe, probabil că este capabil să inventeze genul de mutație care va duce la îmbunătățirea necesară (90).
Știm că procesele evolutive oarbe pot duce la inteligență generală la nivel uman - s-a întâmplat cel puțin o dată. Prevăzând procesele evolutive – adică programarea genetică, unde algoritmii sunt proiectați și controlați de un programator uman inteligent – ar trebui să obținem rezultate similare cu o eficiență mult mai mare. Pe această poziție se bazează mulți oameni de știință, inclusiv filosoful David Chalmers și cercetătorul Hans Moravec (91), care susțin că ICHU nu este doar posibil din punct de vedere teoretic, ci și fezabil practic în secolul XXI. În opinia lor, în materie de creare a inteligenței, de evaluare a capacităților relative de evoluție și ingineria umană, vom constata că aceasta din urmă este semnificativ superioară evoluției în multe domenii și, cel mai probabil, o va depăși în curând și în celelalte. Astfel, dacă procesele evolutive au produs cândva inteligență naturală, rezultă că proiectarea și dezvoltarea umană ne pot conduce în curând către inteligența artificială. De exemplu, Moravec a scris în 1976:
Existența mai multor exemple de inteligență care apar sub acest tip de constrângeri ar trebui să ne dea încredere că vom reuși să obținem același lucru foarte curând. Situația este similară cu istoria creării mașinilor care pot zbura, deși sunt mai grele decât aerul: păsările, liliecii și insectele au demonstrat clar această abilitate cu mult înainte ca mașinile zburătoare făcute de om (92).
Cu toate acestea, ar trebui să fim atenți la concluziile bazate pe un astfel de lanț de raționament. Desigur, nu există nicio îndoială că zborul ființelor vii non-umane care sunt mai grele decât aerul a devenit posibil ca urmare a evoluției mult mai devreme decât au reușit oamenii în acest lucru - deși au reușit cu ajutorul mecanismelor. Alte exemple care susțin acest lucru includ: sisteme sonar; sisteme de navigație magnetometrică; mijloace chimice de război; senzori foto și alte dispozitive cu caracteristici de eficiență mecanică și cinetică. Totuşi, cu acelaşi succes vom enumera domeniile în care eficienţa eforturilor umane este încă foarte departe de eficacitatea proceselor evolutive: morfogeneza; mecanisme de auto-vindecare; protectie imunitara. Astfel, argumentul lui Moravec încă nu „ne dă încredere” că AIUC va fi creat „foarte curând”. În cel mai bun caz, limita superioară a complexității creării inteligenței este evoluția vieții inteligente pe Pământ. Dar acest nivel este încă de neatins pentru capacitățile tehnologice actuale ale umanității.
Un alt argument în favoarea dezvoltării inteligenței artificiale după modelul procesului evolutiv este capacitatea de a rula algoritmi genetici pe procesoare destul de puternice și, în final, de a obține rezultate comparabile cu cele obținute în timpul evoluției biologice. Astfel, această versiune a argumentului propune îmbunătățirea AI printr-o anumită metodă.
Cât de adevărat este să spunem că destul de curând vom avea la dispoziție suficiente resurse de calcul pentru a reproduce procesele evolutive corespunzătoare care au dat naștere inteligenței umane? Răspunsul depinde de următoarele condiții: în primul rând, dacă se vor realiza progrese semnificative în tehnologia computerelor în următoarele decenii; în al doilea rând, ce fel de putere de calcul va fi necesară pentru ca mecanismele de lansare a algoritmilor genetici să fie similare cu selecția naturală care a dus la apariția oamenilor. Trebuie spus că concluziile la care ajungem de-a lungul lanțului raționamentului nostru sunt extrem de incerte; dar, în ciuda acestui fapt descurajator, încă pare oportun să încercăm să facem cel puțin o evaluare aproximativă a acestei versiuni (vezi Caseta 3). În absența altor posibilități, chiar și calculele tentative vor atrage atenția asupra unor cantități necunoscute interesante.
Ideea este că puterea de calcul necesară doar pentru a reproduce procesele evolutive necesare care au dus la apariția inteligenței umane este practic de neatins și va rămâne așa pentru mult timp, chiar dacă Legea lui Moore continuă să funcționeze încă un secol (vezi Figura 3 de mai jos). ). Cu toate acestea, există o soluție foarte rezonabilă: vom avea un impact uriaș asupra eficienței atunci când, în loc de repetarea simplă a proceselor evolutive naturale, vom dezvolta un mecanism de căutare axat pe crearea inteligenței, folosind o varietate de avantaje evidente față de selecția naturală. Desigur, acum este foarte dificil de cuantificat câștigurile de eficiență rezultate. Nici măcar nu știm despre ce ordine de mărime vorbim – cinci sau douăzeci și cinci. Prin urmare, dacă argumentul evolutiv nu este dezvoltat corespunzător, nu ne vom putea îndeplini așteptările și nu vom ști niciodată cât de dificil este drumul către inteligența artificială la nivel uman și cât timp trebuie să așteptăm apariția ei.
Caseta 3. Evaluarea eforturilor de replicare a procesului evolutiv
Nu toate realizările antropogenezei legate de mintea umană sunt de valoare pentru specialiștii moderni care lucrează la problema dezvoltării evolutive a inteligenței artificiale. Doar o mică parte din ceea ce este produs ca rezultat al selecției naturale pe Pământ este folosită. De exemplu, problemele pe care oamenii nu le pot ignora sunt rezultatul unor eforturi evolutive minore. În special, din moment ce ne putem alimenta computerele cu energie electrică, nu trebuie să reinventăm moleculele economiei energetice celulare pentru a crea mașini inteligente - și evoluția moleculară a mașinilor metabolice ar fi putut necesita o parte semnificativă din cheltuielile totale ale puterea de selecţie naturală de care dispunem.evoluţia de-a lungul istoriei Pământului (93).
Există un concept conform căruia cheia creării AI este structura sistemului nervos, care a apărut cu mai puțin de un miliard de ani în urmă (94). Dacă acceptăm această propoziție, numărul de „experimente” necesare evoluției se va reduce semnificativ. Astăzi există aproximativ (4–6) × 1030 de procariote în lume, dar doar 1019 insecte și mai puțin de 1010 reprezentanți ai rasei umane (apropo, populația în ajunul revoluției neolitice a fost cu ordine de mărime mai mică) ( 95). De acord, aceste cifre nu sunt atât de înfricoșătoare.
Cu toate acestea, algoritmii evolutivi necesită nu numai o varietate de opțiuni, ci și o evaluare a aptitudinii fiecărei opțiuni - de obicei cea mai scumpă componentă în ceea ce privește resursele de calcul. În cazul evoluției inteligenței artificiale, evaluarea fitnessului necesită probabil modelarea dezvoltării neuronale, precum și a învățării și a cunoașterii. Prin urmare, este mai bine să nu ne uităm la numărul total de organisme cu sisteme nervoase complexe, ci să estimăm numărul de neuroni din organismele biologice pe care ar putea fi nevoiți să îi modelăm pentru a calcula funcția obiectivă a evoluției. O estimare aproximativă poate fi făcută analizând insectele care domină biomasa supraterană (numai furnicile reprezintă 15-20%) (96). Volumul creierului insectei depinde de mulți factori. Cu cât insecta este mai mare și mai socială (adică duce un stil de viață social), cu atât creierul ei este mai mare; de exemplu, o albină are puțin mai puțin de 106 neuroni, o muscă de fructe are 105 neuroni și o furnică cu cei 250 de mii de neuroni ai săi se află între ei (97). Creierul majorității insectelor mai mici conține doar câteva mii de neuroni. Îmi propun, cu extremă precauție, să ne oprim la valoarea medie (105) și să echivalăm toate insectele (dintre care sunt 1019 în lume) cu Drosophila, atunci numărul total al neuronilor acestora va fi 1024. Să mai adăugăm un ordin de mărime. din cauza crustaceelor, păsărilor, reptilelor, mamiferelor etc etc. - și obținem 1025. (Compară asta cu faptul că înainte de apariția agriculturii erau mai puțin de 107 oameni pe planetă și fiecare avea aproximativ 1011 neuroni - că adică, suma totală a tuturor neuronilor a fost mai mică de 1018, deși creierul uman conținea – și conține – mult mai multe sinapse.)
Costul de calcul al modelării unui singur neuron depinde de nivelul necesar de detaliu al modelului. Un model de neuron în timp real extrem de simplu necesită aproximativ 1000 de operații în virgulă mobilă pe secundă (FLOPS). Un model Hodgkin-Huxley realist din punct de vedere electric și fiziologic necesită 1.200.000 FLOPS. Un model neuron multicomponent mai complex ar adăuga două până la trei ordine de mărime, iar un model de nivel superior care funcționează pe sisteme de neuroni necesită două până la trei ordine de mărime mai puține operațiuni per neuron decât modelele simple (98). Dacă ar fi să simulăm 1025 de neuroni pe parcursul unui miliard de ani de evoluție (mai mult decât durata de viață a sistemelor nervoase așa cum există) și am lăsa computerele să lucreze la această sarcină timp de un an, cerințele lor de putere de calcul ar scădea în intervalul 1031-1044. FLOPS . Pentru comparație, cel mai puternic computer din lume, chinezul Tianhe-2 (din septembrie 2013), este capabil să livreze doar 3,39 × 1016 FLOPS. În ultimele decenii, computerele convenționale și-au crescut performanța cu un ordin de mărime la fiecare 6,7 ani. Chiar dacă puterea de calcul continuă să crească conform Legii lui Moore timp de un secol, aceasta nu va fi suficientă pentru a reduce decalajul existent. Utilizarea unor sisteme de calcul mai specializate sau creșterea timpului de calcul poate reduce cerințele de putere cu doar câteva ordine de mărime.
Este posibil ca eliminarea acestui tip de ineficiență să economisească mai multe ordine de mărime ale puterii necesare de 1031-1044 FLOPS calculate anterior. Din păcate, este greu de spus exact cât. Este dificil de dat chiar și o estimare aproximativă - se poate doar ghici dacă va fi cinci ordine de mărime, zece sau douăzeci și cinci (101).
Orez. 3. Performanța computerelor super-puternice.Într-un sens literal, ceea ce se numește „Legea lui Moore” este observația că numărul de tranzistori plasați pe un cip de circuit integrat se dublează aproximativ la fiecare doi ani. Cu toate acestea, legea este adesea generalizată pentru a presupune că și alți indicatori ai performanței computerului cresc exponențial. Graficul nostru arată evoluția vitezei de vârf a celor mai puternice computere din lume în timp (pe o scară verticală logaritmică). În ultimii ani, viteza calculului secvenţial a încetat să crească, dar datorită răspândirii calculului paralel, numărul total de operaţii continuă să crească în acelaşi ritm (102).
Există o altă complicație asociată cu factorii evolutivi propuși ca argument final. Problema este că nu suntem capabili să calculăm - chiar și foarte aproximativ - o limită superioară a greutății de a obține inteligență prin mijloace evolutive. Da, viața inteligentă a apărut cândva pe Pământ, dar acest fapt nu înseamnă că procesele evolutive cu un grad ridicat de probabilitate duc la apariția inteligenței. O astfel de concluzie ar fi fundamental eronată, deoarece nu ține cont de așa-numitul efect de selecție observațională, care implică faptul că toți observatorii se află pe planeta de unde a apărut viața inteligentă, indiferent de cât de probabil sau improbabil ar fi un astfel de eveniment pe vreunul. altă planetă. Să presupunem că pentru apariția vieții inteligente, pe lângă erorile sistematice ale selecției naturale, o cantitate uriașă de coincidențe norocoase- atât de mare încât viața inteligentă a apărut doar pe una dintre cele 1030 de planete pe care există gene replicatoare simple. În acest caz, cercetătorii care rulează algoritmi genetici în încercarea de a replica ceea ce a creat evoluția ar putea descoperi că este nevoie de aproximativ 1.030 de iterații înainte de a găsi o combinație care îndeplinește toate elementele corect. Acest lucru pare destul de consistent cu observația noastră că viața a început și a evoluat aici pe Pământ. Această barieră epistemologică poate fi ocolită parțial prin mișcări logice atente și oarecum greoaie - prin analizarea cazurilor de evoluție convergentă a caracteristicilor legate de inteligență și luarea în considerare a efectului observației în selecție. Dacă oamenii de știință nu își dau osteneala să efectueze o astfel de analiză, atunci în viitor niciunul dintre ei nu va trebui să estimeze valoarea maximă și să afle cât de mult este limita superioară estimată a puterii de calcul necesare pentru a reproduce evoluția inteligenței (vezi Caseta 3) poate fi sub ordinul treizeci (sau o altă valoare la fel de mare (103) .
Să trecem la următoarea opțiune pentru atingerea obiectivului nostru: argumentul în favoarea fezabilității evoluției inteligenței artificiale este activitatea creierului uman, care este denumit modelul de bază pentru IA. Diferitele versiuni ale acestei abordări diferă doar în gradul de reproducere - cât de exact se propune imitarea funcțiilor creierului biologic. La o extremă, care este un fel de „joc de imitație”, avem conceptul emulare completă a creierului, adică o simulare la scară largă a creierului (vom reveni la asta puțin mai târziu). La cealaltă extremă se află tehnologiile în care funcționalitatea creierului este doar un punct de plecare, dar dezvoltarea modelării la nivel scăzut nu este planificată. În cele din urmă, ne vom apropia de înțelegerea ideii generale a activității creierului, facilitată de progresele în neuroștiință și psihologia cognitivă, precum și de îmbunătățiri continue ale instrumentelor și hardware-ului. Noile cunoștințe vor deveni, fără îndoială, un ghid în continuarea lucrărilor cu AI. Cunoaștem deja un exemplu de IA care a apărut ca urmare a modelării funcționării creierului - acestea sunt rețele neuronale. O altă idee preluată din neuroștiință și transferată în învățarea automată este organizarea ierarhică a percepției. Studiul învățării prin întărire a fost condus (cel puțin parțial) de rolul important pe care acest subiect îl joacă în teoriile psihologice care descriu comportamentul și cogniția animalelor, precum și tehnicile de învățare prin întărire (de exemplu, algoritmul TD). Astăzi, învățarea prin consolidare este utilizată pe scară largă în sistemele AI (104). Cu siguranță vor exista mai multe astfel de exemple în viitor. Deoarece mecanismele de bază ale funcției creierului sunt foarte limitate - foarte puține de fapt - toate aceste mecanisme vor fi descoperite mai devreme sau mai târziu prin progresele continue în neuroștiință. Cu toate acestea, este posibil ca o abordare hibridă să ajungă la linia de sosire chiar mai devreme, combinând modele dezvoltate, pe de o parte, bazate pe activitatea creierului uman, iar pe de altă parte, bazate exclusiv pe tehnologii de inteligență artificială. Nu este deloc necesar ca sistemul rezultat să semene cu creierul în orice, chiar dacă unele principii ale activității sale vor fi folosite în crearea lui.
Activitatea creierului uman ca model de bază reprezintă un argument puternic în favoarea fezabilității creării și dezvoltării în continuare a inteligenței artificiale. Cu toate acestea, nici măcar cel mai puternic argument nu ne va aduce mai aproape de înțelegerea datelor viitoare, deoarece este dificil de prezis când va avea loc cutare sau cutare descoperire în neurobiologie. Tot ce putem spune este că, cu cât privim mai adânc în viitor, cu atât este mai mare probabilitatea ca secretele funcționării creierului să fie dezvăluite suficient de complet pentru a implementa sisteme de inteligență artificială.
Cercetătorii care lucrează în domeniul inteligenței artificiale au opinii diferite cu privire la cât de promițătoare este abordarea neuromorfă în comparație cu tehnologiile bazate pe abordări complet compoziționale. Zborul păsărilor a demonstrat posibilitatea fizică a mecanismelor de zbor mai grele decât aerul, ceea ce a dus în cele din urmă la construcția de mașini zburătoare. Cu toate acestea, nici primele avioane care au zburat nu au bătut din aripi. Pe ce cale va urma dezvoltarea inteligenței artificiale? Întrebarea rămâne deschisă: dacă conform principiului legii aerodinamicii, care ține mecanismele grele de fier în aer - adică, învățând din natura vie, dar nu imitând-o direct; Se bazează pe principiul proiectării unui motor cu ardere internă - adică copierea directă a acțiunilor forțelor naturale.
Conceptul lui Turing de a dezvolta un program care primește b O Majoritatea cunoștințelor prin învățare, și nu ca urmare a specificării datelor inițiale, sunt aplicabile și pentru crearea inteligenței artificiale - atât abordărilor neuromorfe, cât și compoziționale.
O variație a conceptului lui Turing de „mașină copil” a fost ideea unui embrion AI (105). Cu toate acestea, dacă „mașina copil”, așa cum a imaginat-o Turing, ar fi trebuit să aibă o arhitectură relativ fixă și să își dezvolte potențialul prin acumulare conţinut, IA embrionară va fi un sistem mai complex, auto-îmbunătățindu-se pe al său arhitectură. În primele etape ale existenței sale, un IA embrionar se dezvoltă în principal prin colectarea de informații, acționând prin încercare și eroare cu ajutorul unui programator. „Cresc”, trebuie să învețe singur da-i seamaîn principiile muncii sale pentru a putea proiecta noi algoritmi și structuri computaționale care să-i sporească eficiența cognitivă. Înțelegerea necesară este posibilă numai în cazurile în care embrionul IA a atins fie în multe domenii un nivel general destul de ridicat de dezvoltare intelectuală, fie în anumite domenii - să zicem, cibernetica și matematica - a depășit un anumit prag intelectual.
Acest lucru ne aduce la un alt concept important numit „auto-îmbunătățire recursiv”. O IA embrionară de succes trebuie să fie capabilă de auto-dezvoltare constantă: prima versiune creează o versiune îmbunătățită a ei însăși, care este mult mai inteligentă decât originalul; o versiune îmbunătățită, la rândul său, funcționează pe o versiune și mai îmbunătățită și așa mai departe (106) . În anumite condiții, procesul de auto-îmbunătățire recursiv poate continua destul de mult timp și poate duce în cele din urmă la dezvoltarea explozivă a inteligenței artificiale. Aceasta se referă la un eveniment în care, într-o perioadă scurtă de timp, inteligența generală a unui sistem crește de la un nivel relativ modest (poate chiar sub uman în multe privințe, altele decât programarea și cercetarea AI) la un nivel suprainteligent, radical superior față de nivelurile umane. În al patrulea capitol vom reveni la această perspectivă, care este foarte importantă în semnificația ei, și vom analiza mai detaliat dinamica evoluțiilor.
Vă rugăm să rețineți că acest model de dezvoltare include posibilitatea de surprize. Încercările de a crea inteligență artificială universală pot duce, pe de o parte, la un eșec complet, dar, pe de altă parte, pot duce la ultimul element critic lipsă - după care embrionul AI va deveni capabil de auto-îmbunătățire recursivă durabilă.
Înainte de a încheia această secțiune a capitolului, aș dori să subliniez încă un lucru: nu este deloc necesar ca inteligența artificială să fie asemănată cu mintea umană. Recunosc pe deplin că AI va deveni complet „extraterestră” - cel mai probabil, acest lucru se va întâmpla. Arhitectura cognitivă a IA poate fi de așteptat să fie dramatic diferită de cea a oamenilor; de exemplu, în stadiile incipiente, arhitectura cognitivă va avea puncte forte și puncte slabe foarte diferite (deși, așa cum vom vedea mai târziu, AI va putea depăși deficiențele inițiale). În plus, sistemele AI orientate spre obiective nu au nimic în comun cu sistemele orientate către obiective ale umanității. Nu există niciun motiv să spunem că IA medie va începe să fie ghidată de sentimentele umane, cum ar fi dragostea, ura, mândria - o adaptare atât de complexă va necesita o muncă uriașă costisitoare, în plus, apariția unei astfel de posibilități în AI ar trebui să fi tratat cu mare atenție. Aceasta este atât o mare provocare, cât și o mare oportunitate. Vom reveni la motivația AI în capitolele ulterioare, dar această idee este atât de esențială pentru carte, încât merită să o țineți cont pe tot parcursul.
Emularea deplină a creierului uman
Într-un proces de simulare a creierului la scară completă, pe care îl numim „emulație completă a creierului” sau „încărcare a minții”, inteligența artificială este creată prin scanarea și replicarea cu precizie a structurii computaționale a unui creier biologic. Astfel, trebuie să ne inspirăm în întregime din natură - un caz extrem de plagiat de-a dreptul. Pentru ca emularea completă a creierului să aibă succes, trebuie urmați o serie de pași specifici.
Primul stagiu. Se face o scanare destul de detaliată a creierului uman. Acest lucru poate implica fixarea creierului unei persoane decedate folosind vitrificarea sau vitrificarea (care face ca țesutul să devină la fel de dur ca sticla). Secțiunile subțiri sunt apoi tăiate din țesut folosind o mașină și trecute printr-o altă mașină pentru a fi scanate, eventual folosind microscoape electronice. În această etapă, materialul este colorat cu coloranți speciali pentru a dezvălui proprietățile sale structurale și chimice. În același timp, multe dispozitive de scanare funcționează în paralel, procesând simultan diverse secțiuni de țesut.
Faza a doua. Datele brute de la scanere sunt introduse într-un computer pentru procesarea automată a imaginilor pentru a reconstrui rețeaua neuronală tridimensională responsabilă de cunoașterea în creierul biologic. Pentru a reduce numărul de imagini de înaltă rezoluție care trebuie stocate în tampon, această etapă poate fi efectuată simultan cu prima. Harta rezultată este combinată cu o bibliotecă de modele neurocomputaționale bazate pe neuroni de diferite tipuri sau pe diferite elemente neuronale (de exemplu, sinapsele pot diferi). Unele rezultate ale scanării și procesării imaginilor folosind tehnologia modernă sunt prezentate în Fig. 4.
Sfârșitul fragmentului introductiv.
Nick Bostrom
Nick Bostrom
Superinteligență
Căi, Pericole, Strategii
Editori științifici M. S. Burtsev, E. D. Kazimirova, A. B. Lavrentiev
Publicat cu permisiunea Agenției Alexander Korzhenevski
Suportul juridic pentru editura este oferit de firma de avocatura Vegas-Lex.
Această carte a fost publicată inițial în limba engleză în 2014. Această traducere este publicată prin acord cu Oxford University Press. Editorul este singurul responsabil pentru această traducere din lucrarea originală, iar Oxford University Press nu își asumă nicio responsabilitate pentru erori, omisiuni sau inexactități sau ambiguități din această traducere sau pentru orice pierderi cauzate de încrederea în aceasta.
© Nick Bostrom, 2014
© Traducere în rusă, publicare în rusă, design. Mann, Ivanov și Ferber LLC, 2016
* * *Această carte completează bine
Avinash Dixit și Barry Nalbuff
Stephen Strogatz
Cuvântul înainte al partenerului
... Am un prieten,” a spus Edik. „El susține că omul este o verigă intermediară de care are nevoie natura pentru a crea coroana creației: un pahar de coniac cu o felie de lămâie.
Arkadi și Boris Strugatsky. Luni incepe sambata
Autorul consideră că amenințarea de moarte este asociată cu posibilitatea de a crea inteligență artificială care depășește mintea umană. O catastrofă ar putea izbucni atât la sfârșitul secolului XXI, cât și în următoarele decenii. Întreaga istorie a omenirii arată: atunci când are loc o ciocnire între un reprezentant al speciei noastre, Homo sapiens, și oricine altcineva care locuiește pe planeta noastră, cel care este mai inteligent câștigă. Până acum, am fost cei mai deștepți, dar nu avem nicio garanție că acest lucru va dura pentru totdeauna.
Nick Bostrom scrie că, dacă algoritmii de computer inteligente învață să facă în mod independent algoritmi și mai inteligenți, iar aceștia, la rândul lor, chiar mai inteligenți, va exista o creștere explozivă a inteligenței artificiale, în comparație cu care oamenii vor arăta aproximativ ca furnicile lângă oameni acum, în sens intelectual, desigur. O specie nouă, deși artificială, dar suprainteligentă va apărea în lume. Nu contează ce îi vine în minte, o încercare de a face pe toți oamenii fericiți sau o decizie de a opri poluarea antropică a oceanelor lumii în cel mai eficient mod, adică prin distrugerea umanității, oamenii tot nu vor putea rezista. acest. Nicio șansă de confruntare în spiritul filmului Terminator, fără schimburi de focuri cu cyborgi de fier. Ne așteaptă șah-mat - ca într-un duel între computerul de șah „Deep Blue” și un elev de clasa întâi.
În ultimii o sută sau două de ani, realizările științei au trezit în unii speranță pentru rezolvarea tuturor problemelor omenirii, în timp ce în alții au provocat și continuă să provoace frică nestăpânită. În același timp, trebuie spus că ambele puncte de vedere par destul de justificate. Datorită științei, bolile teribile au fost învinse, omenirea de astăzi este capabilă să hrănească un număr fără precedent de oameni, iar dintr-un punct de pe glob poți ajunge la opus în mai puțin de o zi. Cu toate acestea, prin grația aceleiași științe, oamenii, folosind cele mai recente tehnologii militare, se distrug reciproc cu o viteză și o eficiență monstruoasă.
O tendință similară - când dezvoltarea rapidă a tehnologiei nu numai că duce la formarea de noi oportunități, dar creează și amenințări fără precedent - observăm în domeniul securității informației. Întreaga noastră industrie a apărut și există doar pentru că crearea și distribuția în masă a unor lucruri atât de minunate precum computerele și Internetul a creat probleme care ar fi fost de neimaginat în era pre-computer. Ca urmare a apariției tehnologiei informației, a avut loc o revoluție în comunicațiile umane. A fost folosit și de diferite tipuri de criminali cibernetici. Și abia acum omenirea începe treptat să-și dea seama de noi riscuri: tot mai multe obiecte ale lumii fizice sunt controlate folosind computere și software, adesea imperfecte, pline de găuri și vulnerabile; Pe măsură ce tot mai multe dintre aceste obiecte sunt conectate la Internet, amenințările din lumea cibernetică devin rapid securitate fizică și potențiale probleme de viață și de moarte.
Acesta este ceea ce face cartea lui Nick Bostrom atât de interesantă. Primul pas pentru prevenirea scenariilor de coșmar (pentru o singură rețea de calculatoare sau pentru întreaga umanitate) este să înțelegem care ar putea fi acestea. Bostrom face o mulțime de rezerve că crearea de inteligență artificială comparabilă sau superioară minții umane - inteligența artificială care poate distruge umanitatea - este doar un scenariu probabil care s-ar putea să nu se concretizeze. Desigur, există multe opțiuni, iar dezvoltarea tehnologiei informatice poate să nu distrugă umanitatea, dar ne va oferi răspunsul la „întrebarea principală a vieții, a Universului și a tot” (poate că va fi într-adevăr numărul 42, ca în romanul „Ghidul autostopitului către galaxie”) . Există speranță, dar pericolul este foarte grav, ne avertizează Bostrom. În opinia mea, dacă există posibilitatea unei astfel de amenințări existențiale la adresa umanității, atunci trebuie tratată în consecință și, pentru a o preveni și a se proteja de ea, ar trebui depuse eforturi comune la scară globală.
Aș dori să închei introducerea mea cu un citat din cartea lui Mikhail Weller „Man in the System”:
Când science fiction, adică gândirea umană încadrată în imagini și intrigi, repetă ceva mult timp și în detaliu - ei bine, nu există fum fără foc. Filmele banale de acțiune de la Hollywood despre războaiele dintre oameni și civilizația roboților conțin un sâmbure amar de adevăr sub coaja vizionărilor comerciale.
Când un program transferabil de instincte este construit în roboți, iar satisfacția acestor instincte va fi încorporată ca o nevoie necondiționată și de bază, iar aceasta va merge la nivelul de auto-reproducere - atunci, băieți, încetați să luptați cu fumatul și alcoolul, pentru că va fi timpul să bem și să fumăm înaintea Hanei pentru noi toți.
Evgeniy Kaspersky, director general al Kaspersky Lab
Povestea neterminată a vrăbiilor
Într-o zi, în mijlocul cuiburilor, vrăbiile, obosite de multe zile de muncă grea, s-au așezat să se odihnească la apus și vorbesc despre asta și cutare.
„Suntem atât de mici, atât de slabi.” Imaginează-ți cât de ușoară ar fi viața dacă am avea ca asistent o bufniță! – ciripi visător o vrăbiuță. - Ar putea să ne facă cuiburi...
- Da! – a fost de acord altul. – Și, de asemenea, aveți grijă de bătrânii și puii noștri...
„Și instruiește-ne și protejează-ne de pisica vecinului”, a adăugat un al treilea.
Apoi Pastus, vrabia cea mai mare, a sugerat:
– Lăsați cercetașii să zboare în direcții diferite în căutarea bufniței căzute din cuib. Cu toate acestea, un ou de bufniță, o cioară și chiar un pui de nevăstuică vor fi potrivite. Această descoperire se va dovedi a fi cel mai mare succes pentru turma noastră! La fel ca atunci când am descoperit o sursă nesfârșită de cereale în curtea noastră.
Vrăbiile, serios încântate, ciripeau cât puteau de tare.
Și doar Skronfinkle cu un singur ochi, o vrabie caustică cu un temperament dificil, părea să se îndoiască de oportunitatea acestei întreprinderi.
„Am ales o cale dezastruoasă”, a spus el cu convingere. – Nu ar trebui să studiezi cu seriozitate problemele îmblânzării și domesticirii bufnițelor înainte de a permite o creatură atât de periculoasă în mediul tău?
„Mi se pare”, i-a obiectat Pastus, „arta de a îmblânzi bufnițele nu este o sarcină ușoară”. Găsirea unui ou de bufniță este al naibii de greu. Deci, să începem cu căutarea. Odată ce reușim să creștem o bufniță, atunci ne vom gândi la problemele educației.
- Un plan vicios! Scronfinkle ciripit nervos.
Dar nimeni nu l-a mai ascultat. În direcția lui Pastus, stolul de vrăbii s-a ridicat în aer și a pornit.
Doar vrăbiile au rămas pe loc, hotărând să-și dea seama cum să îmblânzească bufnițele. Destul de repede și-au dat seama că Pastus avea dreptate: sarcina s-a dovedit a fi incredibil de dificilă, mai ales în absența bufniței pe care să o exerseze. Cu toate acestea, păsările au continuat să studieze problema, deoarece se temeau că turma se va întoarce cu oul bufniței înainte de a putea descoperi secretul modului de control al comportamentului bufniței.
Introducere
Există o anumită substanță în interiorul craniului nostru, datorită...
8 General
Recenzie de către getAbstract
Potrivit futuristului de la Oxford Nick Bostrom, inteligența artificială poate deveni un instrument pentru a ne asigura securitatea, prosperitatea economică și dezvoltarea intelectuală, dar este posibil ca omenirea să nu poată realiza întregul potențial al acestui instrument. Critica pas cu pas a lui Bostrom asupra capcanelor inerente ale percepției umane asupra inteligenței artificiale lasă unul cu sentimentul că oamenii nu au nici resursele, nici imaginația pentru a înțelege tranziția de la o lume dominată de oameni la o lume amenințată sau deja înrobită de o entitate. posedând supraminte. Bostrom descrie cu măiestrie cum ar putea apărea o astfel de superinteligență, cum ar evolua într-un „singleton” atotputernic și amenințarea pe care o ar reprezenta. De exemplu, ce s-ar întâmpla, întreabă el, dacă această inteligență artificială s-ar dezvolta până în punctul în care să formeze un guvern mondial care nu a fost ghidat de principiile etice tradiționale? Informativa, bogata in referiri la diverse surse, cartea incurajeaza cititorul sa se gandeasca la multe necunoscute. Raționamentul autorului se bazează pe o analiză a unei game întregi de posibile scenarii viitoare. Acest studiu aprofundat este destinat în primul rând cititorilor cu un interes deosebit pentru subiect. getAbstractîl recomandă politicienilor, futuriștilor, studenților, investitorilor, filozofilor și oricui se gândește la înaltă tehnologie.
Din rezumatul cărții veți afla:
- Cum evoluează tehnologia cunoscută sub numele de „inteligență artificială”;
- Ce sugerează oamenii de știință pentru a utiliza și controla AI;
- De ce omenirea nu este pregătită să se ocupe de AI.
Despre autor
Nick Bostrom– Profesor la Universitatea Oxford, director fondator al Institutului pentru Viitorul Umanității.
Perspective pentru apariția superinteligenței
În vara anului 1956, un grup de oameni de știință s-a adunat la Dartmouth College pentru a studia perspectivele dezvoltării umane. Ei erau interesați în primul rând de dacă mașinile ar putea reproduce funcțiile inteligenței umane. Cercetările pe această temă au continuat cu succes diferite. În anii 1980, programele bazate pe reguli sau „sisteme experte” au început să se dezvolte și a început să pară că tehnologiile care ar putea fi folosite pentru a crea inteligență artificială erau pe cale să înflorească. Apoi progresul s-a blocat și finanțarea s-a epuizat. Eforturile AI au primit un nou impuls în anii 1990 odată cu apariția „algoritmilor genetici” și a „rețelelor neuronale”.
O măsură a puterii AI este cât de bine joacă computerele special concepute jocuri precum șah, bridge, Scrabble, Go și trivia. În aproximativ 10 ani, un computer cu algoritmi avansați va putea să-l învingă pe campionul mondial Go. Pe lângă jocuri, tehnologii similare sunt folosite în aparate auditive, dispozitive de recunoaștere facială și vocală, navigație, diagnosticare, planificare, logistică, precum și pentru a crea roboți industriali a căror funcționalitate...
Pagina curentă: 1 (cartea are 40 de pagini în total) [pasaj de lectură disponibil: 8 pagini]
Această carte completează bine
Teoria jocului
Avinash Dixit și Barry Nalbuff
creier
Ken Jennings
placere x
Stephen Strogatz
Superinteligență
Căi, Pericole, Strategii
Nick Bostrom
Inteligenţă artificială
Etape. Amenințări. Strategii
„Mann, Ivanov și Ferber”
informație
de la editura
Editori științifici M. S. Burtsev, E. D. Kazimirova, A. B. Lavrentiev
Publicat cu permisiunea Agenției Alexander Korzhenevski
Publicat pentru prima dată în limba rusă
Bostrom, Nick
Inteligenţă artificială. Etape. Amenințări. Strategii / Nick Bostrom; BANDĂ din engleza S. Filina. – M.: Mann, Ivanov și Ferber, 2016.
ISBN 978-5-00057-810-0
Ce se va întâmpla dacă mașinile îi depășesc pe oameni în inteligență? Ne vor ajuta sau ne vor distruge rasa umană? Putem ignora astăzi problema dezvoltării inteligenței artificiale și să ne simțim complet în siguranță?
În cartea sa, Nick Bostrom încearcă să înțeleagă problema cu care se confruntă omenirea în legătură cu perspectiva apariției superinteligenței și să analizeze răspunsul acesteia.
Toate drepturile rezervate.
Nicio parte a acestei cărți nu poate fi reprodusă sub nicio formă fără permisiunea scrisă a deținătorilor drepturilor de autor.
Suportul juridic pentru editura este oferit de firma de avocatura Vegas-Lex.
Această carte a fost publicată inițial în limba engleză în 2014. Această traducere este publicată prin acord cu Oxford University Press. Editorul este singurul responsabil pentru această traducere din lucrarea originală, iar Oxford University Press nu își asumă nicio responsabilitate pentru erori, omisiuni sau inexactități sau ambiguități din această traducere sau pentru orice pierderi cauzate de încrederea în aceasta.
© Nick Bostrom, 2014
© Traducere în rusă, publicare în rusă, design. Mann, Ivanov și Ferber LLC, 2016
Cuvântul înainte al partenerului
... Am un prieten,” a spus Edik. „El susține că omul este o verigă intermediară de care are nevoie natura pentru a crea coroana creației: un pahar de coniac cu o felie de lămâie.
Arkadi și Boris Strugatsky. Luni incepe sambata
Autorul consideră că amenințarea de moarte este asociată cu posibilitatea de a crea inteligență artificială care depășește mintea umană. O catastrofă ar putea izbucni atât la sfârșitul secolului XXI, cât și în următoarele decenii. Întreaga istorie a omenirii arată: atunci când are loc o ciocnire între un reprezentant al speciei noastre, Homo sapiens, și oricine altcineva care locuiește pe planeta noastră, cel care este mai inteligent câștigă. Până acum, am fost cei mai deștepți, dar nu avem nicio garanție că acest lucru va dura pentru totdeauna.
Nick Bostrom scrie că, dacă algoritmii de computer inteligente învață să facă în mod independent algoritmi și mai inteligenți, iar aceștia, la rândul lor, chiar mai inteligenți, va exista o creștere explozivă a inteligenței artificiale, în comparație cu care oamenii vor arăta aproximativ ca furnicile lângă oameni acum, în sens intelectual, desigur. O specie nouă, deși artificială, dar suprainteligentă va apărea în lume. Nu contează ce îi vine în minte, o încercare de a face pe toți oamenii fericiți sau o decizie de a opri poluarea antropică a oceanelor lumii în cel mai eficient mod, adică prin distrugerea umanității, oamenii tot nu vor putea rezista. acest. Nicio șansă de confruntare în spiritul filmului Terminator, fără schimburi de focuri cu cyborgi de fier. Ne așteaptă șah-mat - ca într-un duel între computerul de șah „Deep Blue” și un elev de clasa întâi.
În ultimii o sută sau două de ani, realizările științei au trezit în unii speranță pentru rezolvarea tuturor problemelor omenirii, în timp ce în alții au provocat și continuă să provoace frică nestăpânită. În același timp, trebuie spus că ambele puncte de vedere par destul de justificate. Datorită științei, bolile teribile au fost învinse, omenirea de astăzi este capabilă să hrănească un număr fără precedent de oameni, iar dintr-un punct de pe glob poți ajunge la opus în mai puțin de o zi. Cu toate acestea, prin grația aceleiași științe, oamenii, folosind cele mai recente tehnologii militare, se distrug reciproc cu o viteză și o eficiență monstruoasă.
O tendință similară - când dezvoltarea rapidă a tehnologiei nu numai că duce la formarea de noi oportunități, dar creează și amenințări fără precedent - observăm în domeniul securității informației. Întreaga noastră industrie a apărut și există doar pentru că crearea și distribuția în masă a unor lucruri atât de minunate precum computerele și Internetul a creat probleme care ar fi fost de neimaginat în era pre-computer. Ca urmare a apariției tehnologiei informației, a avut loc o revoluție în comunicațiile umane. A fost folosit și de diferite tipuri de criminali cibernetici. Și abia acum omenirea începe treptat să-și dea seama de noi riscuri: tot mai multe obiecte ale lumii fizice sunt controlate folosind computere și software, adesea imperfecte, pline de găuri și vulnerabile; Pe măsură ce tot mai multe dintre aceste obiecte sunt conectate la Internet, amenințările din lumea cibernetică devin rapid securitate fizică și potențiale probleme de viață și de moarte.
Acesta este ceea ce face cartea lui Nick Bostrom atât de interesantă. Primul pas pentru prevenirea scenariilor de coșmar (pentru o singură rețea de calculatoare sau pentru întreaga umanitate) este să înțelegem care ar putea fi acestea. Bostrom face o mulțime de rezerve că crearea de inteligență artificială comparabilă sau superioară minții umane - inteligența artificială care poate distruge umanitatea - este doar un scenariu probabil care s-ar putea să nu se concretizeze. Desigur, există multe opțiuni, iar dezvoltarea tehnologiei informatice poate să nu distrugă umanitatea, dar ne va oferi răspunsul la „întrebarea principală a vieții, a Universului și a tot” (poate că va fi într-adevăr numărul 42, ca în romanul „Ghidul autostopitului către galaxie”) . Există speranță, dar pericolul este foarte grav, ne avertizează Bostrom. În opinia mea, dacă există posibilitatea unei astfel de amenințări existențiale la adresa umanității, atunci trebuie tratată în consecință și, pentru a o preveni și a se proteja de ea, ar trebui depuse eforturi comune la scară globală.
Aș dori să închei introducerea mea cu un citat din cartea lui Mikhail Weller „Man in the System”:
Când science fiction, adică gândirea umană încadrată în imagini și intrigi, repetă ceva mult timp și în detaliu - ei bine, nu există fum fără foc. Filmele banale de acțiune de la Hollywood despre războaiele dintre oameni și civilizația roboților conțin un sâmbure amar de adevăr sub coaja vizionărilor comerciale.
Când un program transferabil de instincte este construit în roboți, iar satisfacția acestor instincte va fi încorporată ca o nevoie necondiționată și de bază, iar aceasta va merge la nivelul de auto-reproducere - atunci, băieți, încetați să luptați cu fumatul și alcoolul, pentru că va fi timpul să bem și să fumăm înaintea Hanei pentru noi toți.
Evgeniy Kaspersky,
Director general al Kaspersky Lab
Povestea neterminată a vrăbiilor
Într-o zi, în mijlocul cuiburilor, vrăbiile, obosite de multe zile de muncă grea, s-au așezat să se odihnească la apus și vorbesc despre asta și cutare.
„Suntem atât de mici, atât de slabi.” Imaginează-ți cât de ușoară ar fi viața dacă am avea ca asistent o bufniță! – ciripi visător o vrăbiuță. - Ar putea să ne facă cuiburi...
- Da! – a fost de acord altul. – Și, de asemenea, aveți grijă de bătrânii și puii noștri...
„Și instruiește-ne și protejează-ne de pisica vecinului”, a adăugat un al treilea.
Apoi Pastus, vrabia cea mai mare, a sugerat:
– Lăsați cercetașii să zboare în direcții diferite în căutarea bufniței căzute din cuib. Cu toate acestea, un ou de bufniță, o cioară și chiar un pui de nevăstuică vor fi potrivite. Această descoperire se va dovedi a fi cel mai mare succes pentru turma noastră! La fel ca atunci când am descoperit o sursă nesfârșită de cereale în curtea noastră.
Vrăbiile, serios încântate, ciripeau cât puteau de tare.
Și doar Skronfinkle cu un singur ochi, o vrabie caustică cu un temperament dificil, părea să se îndoiască de oportunitatea acestei întreprinderi.
„Am ales o cale dezastruoasă”, a spus el cu convingere. – Nu ar trebui să studiezi cu seriozitate problemele îmblânzării și domesticirii bufnițelor înainte de a permite o creatură atât de periculoasă în mediul tău?
„Mi se pare”, i-a obiectat Pastus, „arta de a îmblânzi bufnițele nu este o sarcină ușoară”. Găsirea unui ou de bufniță este al naibii de greu. Deci, să începem cu căutarea. Odată ce reușim să creștem o bufniță, atunci ne vom gândi la problemele educației.
- Un plan vicios! Scronfinkle ciripit nervos.
Dar nimeni nu l-a mai ascultat. În direcția lui Pastus, stolul de vrăbii s-a ridicat în aer și a pornit.
Doar vrăbiile au rămas pe loc, hotărând să-și dea seama cum să îmblânzească bufnițele. Destul de repede și-au dat seama că Pastus avea dreptate: sarcina s-a dovedit a fi incredibil de dificilă, mai ales în absența bufniței pe care să o exerseze. Cu toate acestea, păsările au continuat să studieze problema, deoarece se temeau că turma se va întoarce cu oul bufniței înainte de a putea descoperi secretul modului de control al comportamentului bufniței.
Introducere
Există o anumită substanță în interiorul craniului nostru, datorită căreia putem, de exemplu, să citim. Această substanță - creierul uman - este înzestrată cu capacități care sunt absente la alte mamifere. De fapt, oamenii își datorează poziția dominantă pe planetă tocmai acestor trăsături caracteristice. Unele animale se disting prin mușchi puternici și colți ascuțiți, dar nicio creatură vie, cu excepția oamenilor, nu este înzestrată cu o minte atât de perfectă. Datorită nivelului nostru intelectual superior, am putut crea instrumente precum limbajul, tehnologia și organizarea socială complexă. De-a lungul timpului, avantajul nostru s-a consolidat și extins, pe măsură ce fiecare nouă generație, bazându-se pe realizările predecesorilor săi, a avansat.
Dacă se dezvoltă vreodată inteligența artificială care depășește nivelul general de dezvoltare al minții umane, atunci în lume va apărea inteligența super-puternică. Și atunci soarta speciei noastre va depinde direct de acțiunile acestor sisteme tehnice inteligente - la fel cum soarta gorilelor de astăzi este în mare măsură determinată nu de primate înseși, ci de intențiile umane.
Cu toate acestea, omenirea are un avantaj incontestabil, deoarece creează sisteme tehnice inteligente. În principiu, cine vă oprește să inventați o astfel de superinteligență care va lua sub protecția sa valorile umane universale? Desigur, avem motive foarte bune să ne protejăm. În termeni practici, va trebui să facem față celei mai dificile chestiuni de control - cum să controlăm planurile și acțiunile superinteligentei. În plus, oamenii vor putea folosi o singură șansă. De îndată ce apare inteligența artificială (IA) neprietenoasă, aceasta va începe imediat să interfereze cu eforturile noastre de a scăpa de ea sau cel puțin de a-și ajusta setările. Și atunci soarta umanității va fi pecetluită.
În cartea mea, încerc să înțeleg problema cu care se confruntă oamenii cu perspectiva superinteligenței și să analizez răspunsul lor. Ne așteaptă poate cea mai serioasă și înfricoșătoare agendă pe care umanitatea a primit-o vreodată. Și indiferent dacă câștigăm sau pierdem, este posibil ca această provocare să fie ultima noastră. Nu prezint aici niciun argument în favoarea unei versiuni sau alteia: suntem în pragul unei mari descoperiri în crearea inteligenței artificiale? Este posibil să prezicem cu o anumită acuratețe când va avea loc un anumit eveniment revoluționar. Cel mai probabil - în acest secol. Este puțin probabil ca cineva să numească un termen mai precis.
În primele două capitole, voi analiza diferite domenii științifice și voi aborda ușor un subiect precum ritmul dezvoltării economice. Cu toate acestea, cartea este dedicată în principal ceea ce se va întâmpla după apariția superinteligenței. Vom discuta următoarele aspecte: dinamica dezvoltării explozive a inteligenței artificiale; formele și potențialul acestuia; alegeri strategice cu care va fi înzestrat și în urma cărora va primi un avantaj decisiv. După aceea, vom analiza problema controlului și vom încerca să rezolvăm cea mai importantă problemă: este posibil să simulăm astfel de condiții inițiale care ne vor permite să ne menținem propria superioritate și, în cele din urmă, să supraviețuim. În ultimele capitole ne vom îndepărta de detalii și vom analiza problema mai larg pentru a surprinde situația generală care a apărut ca urmare a studiului nostru. Vă voi aduce în atenție câteva recomandări cu privire la ceea ce ar trebui făcut astăzi pentru a evita o catastrofă care amenință existența umanității în viitor.
Scrierea acestei cărți nu a fost ușor. Sper ca drumul pe care l-am parcurs să fie de folos altor cercetători. Vor atinge noi repere fără obstacole inutile și, plini de forță, se vor putea implica rapid într-o muncă care îi va face pe oameni pe deplin conștienți de complexitatea problemei cu care se confruntă. (Dacă, până la urmă, drumul de studiu pare viitorilor analiști a fi oarecum șerpuit și plin de gropi pe alocuri, sper că vor aprecia cât de impracticabil a fost peisajul inainte de.)
În ciuda dificultăților asociate cu lucrul la carte, am încercat să prezint materialul într-un limbaj accesibil; Totuși, acum văd că nu m-am descurcat prea bine cu asta. Bineînțeles, în timp ce scriam, m-am adresat mental unui potențial cititor și din anumite motive m-am imaginat mereu în acest rol, doar ceva mai tânăr decât cel actual - se dovedește că făceam o carte care ar putea trezi interesul în primul rând pentru mine. , dar nu împovărat de experiențele trăite.de ani de zile. Poate că acesta este ceea ce va determina numărul mic de cititori în viitor. Cu toate acestea, cred că conținutul cărții va fi accesibil multor persoane. Trebuie doar să faci niște eforturi mentale, să nu mai respingi ideile noi și să rezisti tentației de a înlocui tot ceea ce este de neînțeles cu stereotipuri convenabile pe care cu toții le putem scoate cu ușurință din rezervele noastre culturale. Cititorii care nu au cunoștințe speciale nu ar trebui să cedeze calculelor matematice ocazionale și termenilor nefamiliari, deoarece contextul permite întotdeauna înțelegerea ideii principale. (Cititorii care doresc, pe de altă parte, să afle mai multe detalii vor găsi mult interes în note1.)
Probabil, o mare parte din carte este prezentată incorect2. S-ar putea să fi trecut cu vederea câteva considerații importante, care vor avea ca rezultat unele, sau poate toate, concluziile mele să fie greșite. Pentru a nu rata cea mai mică nuanță și pentru a indica gradul de incertitudine cu care avem de-a face, a trebuit să apelez la markeri specifici - așa că textul meu este supraîncărcat cu bloburi verbale atât de urâte precum „poate”, „ar putea”, „poate”. ”, „pare a fi” , „probabil”, „cu un grad mare de probabilitate”, „aproape sigur”. Cu toate acestea, de fiecare dată folosesc cuvinte introductive extrem de atent și foarte atent. Cu toate acestea, pentru a indica limitările generale ale ipotezelor epistemologice, un astfel de dispozitiv stilistic nu este în mod clar suficient; autorul trebuie să dezvolte o abordare sistematică a rațiunii în condiții de incertitudine și să indice direct posibilitatea erorii. Aceasta nu este în niciun caz o chestiune de falsă modestie. Recunosc sincer că cartea mea poate conține concepții greșite grave și concluzii incorecte, dar în același timp sunt convins că punctele de vedere alternative prezentate în literatură sunt și mai rele. Mai mult, acest lucru este valabil și pentru „ipoteza nulă” general acceptată, conform căreia astăzi putem, cu o justificare absolută, să ignorăm problema apariției superinteligenței și să ne simțim complet în siguranță.
Capitolul întâi
Realizările trecute și oportunitățile de astăzi
Să începem prin a ne întoarce la trecutul îndepărtat. În termeni generali, istoria este o succesiune de modele de creștere diferite, procesul fiind accelerat progresiv. Acest tipar ne dă dreptul să presupunem că următoarea – chiar mai rapidă – perioadă de creștere este posibilă. Cu toate acestea, este puțin probabil să acordăm prea multă importanță unei astfel de considerații, deoarece subiectul cărții noastre nu este „accelerarea tehnologică”, nici „creșterea exponențială” sau chiar acele fenomene care sunt de obicei prezentate sub conceptul de „singularitate”. ”. În continuare, vom discuta despre istoria problemei: cum s-a dezvoltat cercetarea privind inteligența artificială. Apoi să trecem la situația actuală: ce se întâmplă astăzi în acest domeniu. În cele din urmă, să ne uităm la unele dintre cele mai recente estimări ale experților și să vorbim despre incapacitatea noastră de a prezice momentul evoluțiilor ulterioare.
Modele de creștere și istoria umană
Cu doar câteva milioane de ani în urmă, strămoșii umani încă mai trăiau în coroanele copacilor africani, sărind din ramură în ramură. Aspect Homo sapiens, sau Homo sapiens, separat de strămoșii noștri comuni cu maimuțe mari, din punct de vedere geologic și chiar evolutiv, s-a întâmplat foarte bine. Oamenii antici și-au asumat o poziție verticală, iar degetele mari de pe mâini au început să stea vizibil departe de restul. Cu toate acestea, cel mai important lucru este că au existat modificări relativ minore în volumul creierului și în organizarea sistemului nervos, care au dus în cele din urmă la un salt uriaș în dezvoltarea mentală umană. Drept urmare, oamenii au dezvoltat capacitatea de a gândi abstract. Au început nu numai să exprime în mod coerent gânduri complexe, ci și să creeze o cultură a informației, adică să acumuleze informații și cunoștințe și să le transmită din generație în generație. Trebuie spus că omul a învățat să facă asta mult mai bine decât orice alte ființe vii de pe planetă.
Umanitatea antică, folosind abilitățile dobândite, a dezvoltat metode de producție din ce în ce mai raționale, datorită cărora a reușit să migreze mult dincolo de jungle și savane. Imediat după apariția agriculturii, mărimea și densitatea populației au început să crească rapid. Mai mulți oameni înseamnă mai multe idei, iar densitatea mare a contribuit nu numai la răspândirea rapidă a noilor tendințe, ci și la apariția diferiților specialiști, ceea ce a însemnat că în rândul oamenilor s-a înregistrat o îmbunătățire constantă a competențelor profesionale. Acești factori au crescut rata de dezvoltare economică, a făcut posibilă creșterea productivității și dezvoltarea capacităților tehnice. Ulterior, același progres semnificativ care a dus la Revoluția Industrială a provocat un al doilea salt istoric în accelerarea ritmului de creștere.
Această dinamică a ratei de creștere a avut consecințe importante. De exemplu, în zorii omenirii, când Pământul era locuit de strămoșii oamenilor moderni, sau de hominici, dezvoltarea economică a fost prea lentă și a fost nevoie de aproximativ un milion de ani pentru a crește capacitatea de producție înainte ca populația planetei să-și permită să crească cu un milion de oameni și cei care sunt în pragul supraviețuirii. Și după revoluția neolitică, prin anul 5000 î.Hr. î.Hr., când omenirea a trecut de la o societate de vânători-culegători la un model economic agricol, rata de creștere a crescut atât de mult încât a fost nevoie de două sute de ani pentru aceeași creștere a populației. Astăzi, după Revoluția Industrială, economia mondială crește cu aproximativ aceeași cantitate la fiecare oră și jumătate1.
Rata actuală de creștere - chiar dacă este blocată pentru o perioadă relativ lungă de timp - va duce la rezultate impresionante. Să presupunem că economia mondială continuă să crească în ritmul mediu caracteristic ultimilor cincizeci de ani, populația planetei va deveni în continuare mai bogată în viitor decât în prezent: până în 2050 – de 4,8 ori și până în 2100 – de 34 de ori2.
Cu toate acestea, perspectivele unei creșteri exponențiale durabile palid în comparație cu ceea ce s-ar putea întâmpla atunci când lumea va experimenta următoarea ei schimbare seismică, cu un ritm de magnitudine și impact comparabil cu revoluțiile neolitice și industriale. Economistul Robin Hanson estimează, pe baza datelor istorice privind activitatea economică și populația, că timpul de dublare a economiilor societăților de vânători-culegători din Pleistocen a fost de 224 de mii de ani, societățile agricole - 909 ani, societățile industriale - 6,3 ani3. (În conformitate cu paradigma lui Hanson, modelul economic modern, care are o structură mixtă agro-industrială, nu se dezvoltă încă cu o rată dublă la fiecare 6,3 ani.) Dacă un astfel de salt s-ar fi produs deja în dezvoltarea mondială, comparabil în semnificația sa revoluționară față de cele două precedente, atunci economia ar atinge un nou nivel și își va dubla rata de creștere aproximativ la fiecare două săptămâni.
Din punctul de vedere de astăzi, astfel de rate de dezvoltare par fantastice. Dar, de asemenea, martorii epocilor trecute nu și-ar fi putut imagina că rata de creștere a economiei mondiale s-ar dubla vreodată de mai multe ori în timpul vieții unei generații. Ceea ce pentru ei era complet de neconceput este perceput de noi ca fiind o normă.
Ideea abordării momentului singularității tehnologice a devenit extrem de populară după apariția lucrării de pionierat a lui Vernon Vinge, Ray Kurzweil și alți cercetători4. Cu toate acestea, conceptul de „singularitate”, care este folosit într-o varietate de sensuri, a căpătat deja un sens stabil în spiritul utopismului tehnologic și chiar a dobândit o aură de ceva terifiant și în același timp destul de maiestuos5. Deoarece majoritatea definițiilor cuvântului singularitate nu sunt relevante pentru subiectul cărții noastre, vom obține o mai mare claritate dacă scăpăm de ea în favoarea unor termeni mai precisi.
Ideea care ne interesează legată de conceptul de singularitate este potențialul dezvoltarea explozivă a inteligenței, mai ales în perspectiva creării superinteligenței artificiale. Posibil prezentat în Fig. Curbele de creștere 1 îi vor convinge pe unii dintre voi că suntem în pragul unui nou salt intens în ritmul dezvoltării – un salt comparabil cu revoluțiile neolitice și industriale. Cel mai probabil, este dificil pentru cei care au încredere în diagrame să-și imagineze chiar un scenariu în care timpul de dublare a economiei globale este redus la săptămâni fără participarea unei minți super-puternice, de multe ori mai rapidă decât mintea noastră biologică obișnuită în viteza și eficiența muncii sale. Cu toate acestea, nu este necesar să exersăm trasarea curbelor de creștere și extrapolarea ratelor istorice de dezvoltare economică pentru a începe să adoptăm o abordare responsabilă a apariției revoluționare a inteligenței artificiale. Această problemă este atât de gravă încât nu necesită un astfel de argument. După cum vom vedea, există motive mult mai convingătoare pentru a fi precaut.
Orez. 1. Dinamica PIB-ului mondial pe o lungă perioadă istorică. La scară liniară, istoria economiei mondiale este înfățișată ca o linie, mai întâi aproape că se îmbină cu axa orizontală și apoi se repezi brusc vertical în sus. A. Chiar și extinzând limitele de timp la zece mii de ani în trecut, vedem că linia face o smucitură în sus dintr-un anumit punct la aproape nouăzeci de grade. B. Linia se desprinde vizibil de axa orizontală doar la nivelul aproximativ din ultima sută de ani. (Diferența dintre curbele de pe diagrame este explicată de un set diferit de date, prin urmare indicatorii sunt oarecum diferiți unul de celălalt6.)
Așteptări mari
De la inventarea primelor calculatoare electronice în anii 1940, oamenii nu au încetat să prezică apariția unui computer al cărui nivel de inteligență va fi comparabil cu cel al unui om. Aceasta înseamnă un sistem tehnic rezonabil, dotat cu bun simț, cu capacitatea de a învăța și de a gândi, capabil să planifice și să prelucreze cuprinzător informațiile colectate dintr-o varietate de surse - reale și teoretice. La acea vreme, mulți se așteptau ca astfel de mașini să devină realitate în decurs de douăzeci de ani7. De atunci, termenele s-au mutat cu ritmul de un an pe an, adică astăzi futurologii, convinși de probabilitatea creării inteligenței artificiale, continuă să creadă că „mașinile inteligente” vor apărea în câteva decenii8.
Perioada de douăzeci de ani este iubită de toți predictorii schimbărilor fundamentale. Pe de o parte, nu este prea lung - și, prin urmare, subiectul discuției atrage o atenție largă; pe de altă parte, nu este atât de rapid, ceea ce face posibil să visezi la o serie întreagă de descoperiri științifice importante - totuși, ideile despre ele la momentul prognozării sunt foarte vagi, dar implementarea lor este practic fără îndoială. Să comparăm acest lucru cu perioadele mai scurte de prognoză stabilite pentru diverse tehnologii care sunt destinate să aibă un impact semnificativ asupra lumii: de la cinci la zece ani - la momentul prognozării, majoritatea soluțiilor tehnice sunt deja parțial aplicate; cincisprezece ani - la momentul prognozării, aceste tehnologii există deja sub formă de versiuni de laborator. În plus, termenul de douăzeci de ani este adesea aproape de durata medie a carierei profesionale rămase a prognozatorului, ceea ce reduce riscul reputațional asociat cu predicția sa îndrăzneață.
Cu toate acestea, din cauza așteptărilor excesiv de umflate și neîmplinite din anii trecuți, nu trebuie să tragem imediat concluzia că crearea inteligenței artificiale este imposibilă în principiu și că nimeni nu o va dezvolta vreodată9. Principalul motiv pentru care progresul a fost mai lent decât se aștepta se datorează problemelor tehnice întâlnite în dezvoltarea mașinilor inteligente. Pionierii nu au prevăzut toate dificultățile cu care s-au confruntat. Mai mult, întrebările: cât de serioase sunt aceste obstacole și cât de departe suntem de a le depăși rămân încă deschise. Uneori, problemele care inițial par extrem de complexe au o soluție surprinzător de simplă (deși mai des, poate, este adevărat opusul).
Vom explora căile care ar putea duce la inteligența artificială asemănătoare omului în capitolul următor. Dar acum aș dori să vă atrag atenția asupra unui aspect important. Sunt multe opriri care ne așteaptă între punctul nostru de plecare actual și viitorul când apare inteligența artificială, dar acest moment nu este în niciun caz destinația finală. Destul de aproape de ea, următoarea oprire va fi stația „Supermind” - implementarea inteligenței artificiale de un astfel de nivel care nu este doar egal cu mintea umană, dar o depășește semnificativ. După ultima oprire, trenul nostru va accelera în așa măsură încât în stația „Chelovek” nu numai că va putea opri, ci chiar va încetini. Cel mai probabil, va fluiera pe lângă. Matematicianul britanic Irving John Goode, care a lucrat ca spărgător de coduri în echipa lui Alan Turing în timpul celui de-al Doilea Război Mondial, a fost probabil primul care a prezentat detaliile critice ale acestui scenariu. În lucrarea sa din 1965, des citată despre primele mașini superinteligente, el a scris:
Să definim o mașină superinteligentă ca fiind o mașină care depășește cu mult capacitățile intelectuale ale oricărei persoane inteligente. Întrucât crearea unor astfel de mașini este rezultatul activității mentale umane, o mașinărie înzestrată cu superinteligență va fi capabilă să dezvolte mașini și mai avansate; ca urmare, va exista, fără îndoială, o astfel de „explozie intelectuală” încât mintea umană va fi aruncată mult înapoi. Astfel, prima mașină superinteligentă va fi ultima realizare a minții umane – totuși, numai dacă nu arată suficientă conformare și ea însăși nu ne explică cum să o ținem sub control10.
Dezvoltarea explozivă a inteligenței artificiale poate atrage unul dintre principalele riscuri existențiale – în zilele noastre această stare de fapt este percepută ca banală; În consecință, perspectivele unei astfel de creșteri trebuie evaluate cu cea mai mare seriozitate, chiar dacă se știa (ceea ce nu este cazul) că probabilitatea amenințării este relativ scăzută. Cu toate acestea, pionierii în domeniul inteligenței artificiale, în ciuda tuturor convingerii lor în inevitabila apariție a inteligenței artificiale nu inferioare inteligenței umane, au negat în cea mai mare parte posibilitatea apariției unei superinteligențe superioare minții umane. Se pare că imaginația lor - încercând să înțeleagă posibilitatea ultimă a viitoarelor mașini comparabile în abilitățile lor de gândire cu cele ale oamenilor - pur și simplu s-a secat și au ratat cu ușurință concluzia inevitabilă: următorul pas va fi nașterea mașinilor superinteligente.
Cei mai mulți dintre pionieri nu au susținut preocuparea emergentă în societate, considerând că este un nonsens că proiectele lor comportau un anumit risc pentru umanitate11. Niciunul dintre ei, în cuvânt sau în faptă - nici un singur studiu serios pe această temă - nu a încercat să înțeleagă nici preocupările de securitate sau îndoielile etice asociate cu crearea inteligenței artificiale și potențiala dominație a computerelor; Acest fapt este surprinzător chiar și pe fondul unor standarde nu foarte înalte de evaluare a noilor tehnologii caracteristice acelei epoci12. Nu putem decât să sperăm că, până când viziunea lor îndrăzneață se va realiza în sfârșit, nu numai că vom fi atins expertiza științifică și tehnologică demnă de a contracara dezvoltarea explozivă a inteligenței artificiale, ci și să ne ridicăm la cel mai înalt nivel de profesionalism, care nu va rănit deloc dacă omenirea vrea să supraviețuiască apariției mașinilor superinteligente în lumea sa.
Dar înainte de a ne îndrepta privirea către viitor, ar fi util să ne amintim pe scurt istoria creării inteligenței mașinilor.
Calea speranței și a disperării
