në shtëpi
Ushqimi
Lexoni në internet "Inteligjenca artificiale. Strategjitë". Inteligjence artificiale. Fazat. Kërcënimet. Strategjitë - Nick Bostrom

Lexoni në internet "Inteligjenca artificiale. Strategjitë". Inteligjence artificiale. Fazat. Kërcënimet. Strategjitë - Nick Bostrom

02.07.2023

Në librin e tij, Nick Bostrom përpiqet të kuptojë problemin me të cilin përballet njerëzimi në lidhje me perspektivën e shfaqjes së një superinteligjence dhe të analizojë përgjigjen e saj.

karakteristikat e librit

Data e shkrimit: 2014
Emri:. Fazat. Kërcënimet. Strategjitë

Vëllimi: 760 faqe, 69 ilustrime
ISBN: 978-5-00057-810-0
Përkthyes: Sergey Filin
Mbajtësi i të drejtës së autorit: Mann, Ivanov dhe Ferber

Parathënie e librit "Inteligjenca artificiale"

Autori beson se kërcënimi vdekjeprurës lidhet me mundësinë e krijimit të inteligjencës artificiale që tejkalon mendjen e njeriut. Një katastrofë mund të shpërthejë si në fund të shekullit të 21-të ashtu edhe në dekadat e ardhshme. E gjithë historia e njerëzimit tregon: kur ka një përplasje midis një përfaqësuesi të llojit tonë, një personi të arsyeshëm dhe çdo banori tjetër të planetit tonë, fiton ai që është më i zgjuar. Deri më tani, ne ishim më të zgjuarit, por nuk kemi garanci se kjo do të zgjasë përgjithmonë.

Nick Bostrom shkruan se nëse algoritmet e kompjuterëve inteligjentë mësojnë të bëjnë vetë algoritme edhe më të zgjuara, dhe ata, nga ana tjetër, edhe më të zgjuar, do të ketë një rritje shpërthyese të inteligjencës artificiale, në krahasim me të cilën njerëzit do të duken diçka si milingona pranë njerëzve. tani, në aspektin intelektual, natyrisht. Një specie e re, megjithëse artificiale, por superinteligjente do të shfaqet në botë. Nuk ka rëndësi se çfarë "i vjen në mendje", një përpjekje për t'i bërë të gjithë njerëzit të lumtur apo një vendim për të ndaluar ndotjen antropogjene të oqeaneve të botës në mënyrën më efektive, domethënë duke shkatërruar njerëzimin, njerëzit ende nuk do të jenë. në gjendje t'i rezistojë. Nuk ka shanse për një konfrontim të stilit të filmit Terminator, asnjë përplasje me armë me kiborgë të hekurt. mat na pret - si në një duel midis një kompjuteri shahu të Deep Blue dhe një nxënësi të klasës së parë.

Gjatë njëqind apo dy viteve të fundit, arritjet e shkencës kanë ngjallur shpresë tek disa prej tyre për zgjidhjen e të gjitha problemeve të njerëzimit, ndërsa në disa të tjera kanë shkaktuar dhe vazhdojnë të shkaktojnë frikë të shfrenuar. Në të njëjtën kohë, duhet thënë se të dyja pikëpamjet duken mjaft të justifikuara. Falë shkencës, sëmundjet e tmerrshme janë mposhtur, njerëzimi sot është në gjendje të ushqejë një numër të paparë njerëzish dhe nga një pikë e globit mund të arrini në të kundërtën në më pak se një ditë. Megjithatë, me hirin e së njëjtës shkencë, njerëzit, duke përdorur teknologjinë më të fundit ushtarake, shkatërrojnë njëri-tjetrin me shpejtësi dhe efikasitet monstruoz.

Një prirje e ngjashme - kur zhvillimi i shpejtë i teknologjisë jo vetëm që çon në formimin e mundësive të reja, por gjithashtu krijon kërcënime të paprecedentë - vërejmë në fushën e sigurisë së informacionit. E gjithë industria jonë u ngrit dhe ekziston vetëm sepse krijimi dhe shpërndarja masive e gjërave të tilla të mrekullueshme si kompjuterët dhe interneti krijoi probleme që do të kishin qenë të paimagjinueshme në epokën para kompjuterit. Si rezultat i ardhjes së teknologjisë së informacionit, ka pasur një revolucion në komunikimet njerëzore. Përfshirë atë është përdorur nga lloje të ndryshme të kriminelëve kibernetikë. Dhe vetëm tani njerëzimi po fillon gradualisht të kuptojë rreziqe të reja: gjithnjë e më shumë objekte të botës fizike kontrollohen nga kompjuterë dhe softuer, shpesh të papërsosur, plot vrima dhe të pambrojtura; një numër në rritje i objekteve të tilla janë të lidhura me internetin dhe kërcënimet për botën kibernetike po bëhen me shpejtësi siguria fizike dhe potencialisht çështje të jetës dhe vdekjes.

Kjo është arsyeja pse libri i Nick Bostrom duket kaq interesant. Hapi i parë për të parandaluar skenarët makth (për një rrjet të vetëm kompjuterik ose për të gjithë njerëzimin) është të kuptojmë se nga çfarë mund të përbëhen. Bostrom bën shumë rezerva se krijimi i një inteligjence artificiale të krahasueshme ose superiore me mendjen njerëzore - një inteligjencë artificiale e aftë për të shkatërruar njerëzimin - është vetëm një skenar i mundshëm që mund të mos materializohet. Sigurisht, ka shumë opsione dhe zhvillimi i teknologjisë kompjuterike mund të mos shkatërrojë njerëzimin, por do të na japë përgjigjen për "pyetjen kryesore të jetës, universit dhe gjithçka tjetër" (ndoshta do të jetë vërtet numri 42, si në romanin "Udhëzuesi i autostopit në galaktikë") . Ka shpresë, por rreziku është shumë serioz, na paralajmëron Bostrom. Sipas mendimit tim, nëse ekziston mundësia e një kërcënimi të tillë ekzistencial për njerëzimin, atëherë ai duhet trajtuar në përputhje me rrethanat, dhe për ta parandaluar dhe mbrojtur nga ai, duhet të bëhen përpjekje të përbashkëta në shkallë globale.

Prezantimi

Brenda kafkës sonë është një substancë e caktuar, falë së cilës ne, për shembull, mund të lexojmë. Kjo substancë - truri i njeriut - është i pajisur me aftësi që mungojnë te gjitarët e tjerë. Në fakt, njerëzit ia detyrojnë pozicionin e tyre dominues në planet pikërisht këtyre tipareve karakteristike. Disa kafshë dallohen nga muskujt më të fuqishëm dhe këpurdhët më të mprehtë, por asnjë qenie e vetme e gjallë, përveç njeriut, nuk është e talentuar me një mendje kaq të përsosur. Në sajë të një niveli më të lartë intelektual, ne kemi qenë në gjendje të krijojmë mjete të tilla si gjuha, teknologjia dhe organizimi kompleks shoqëror. Me kalimin e kohës, avantazhi ynë vetëm u forcua dhe u zgjerua, pasi çdo brez i ri, duke u mbështetur në arritjet e paraardhësve të tij, eci përpara.

Nëse ndonjëherë zhvillohet një inteligjencë artificiale që tejkalon nivelin e përgjithshëm të zhvillimit të mendjes njerëzore, atëherë në botë do të shfaqet një inteligjencë super e fuqishme. Dhe atëherë fati i specieve tona do të varet drejtpërdrejt nga veprimet e këtyre sistemeve teknike inteligjente - ashtu si fati aktual i gorillave përcaktohet kryesisht jo nga vetë primatët, por nga qëllimet njerëzore.

Sidoqoftë, njerëzimi me të vërtetë ka një avantazh të pamohueshëm, pasi krijon sisteme teknike inteligjente. Në parim, kush na pengon të dalim me një superinteligjencë të tillë që do të marrë nën mbrojtjen e saj vlerat universale njerëzore? Sigurisht, ne kemi arsye shumë të mira për të mbrojtur veten. Në aspektin praktik, do të na duhet të merremi me çështjen më të vështirë të kontrollit - si të kontrollojmë planet dhe veprimet e supermendjes. Dhe njerëzit do të jenë në gjendje të përdorin një shans të vetëm. Sapo lind një inteligjencë artificiale (AI) jo miqësore, ajo menjëherë fillon të ndërhyjë në përpjekjet tona për ta hequr qafe atë ose të paktën për të korrigjuar cilësimet e saj. Dhe atëherë fati i njerëzimit do të vuloset.

Në librin tim, përpiqem të kuptoj problemin me të cilin përballen njerëzit në lidhje me perspektivën e një superinteligjence dhe të analizoj përgjigjen e tyre. Ndoshta na pret axhenda më serioze dhe më e frikshme që ka marrë ndonjëherë njerëzimi. Dhe pavarësisht nëse fitojmë apo humbim, ka mundësi që kjo sfidë të jetë e fundit. Unë nuk jap këtu asnjë argument në favor të një versioni apo tjetrit: a jemi në prag të një përparimi të madh në krijimin e inteligjencës artificiale; a është e mundur të parashikohet me saktësi të caktuar se kur do të ndodhë një ngjarje e caktuar revolucionare. Me shumë mundësi në këtë shekull. Nuk ka gjasa që dikush të emërojë një datë më specifike.

Inteligjence artificiale. Fazat. Kërcënimet. Strategjia - Nick Bostrom (shkarko)

(fragmenti hyrës i librit)

Çfarë do të ndodhë nëse makinat i kalojnë njerëzit në inteligjencë? A do të na ndihmojnë apo do të shkatërrojnë racën njerëzore? A mund të injorojmë sot problemin e zhvillimit të inteligjencës artificiale dhe të ndihemi plotësisht të sigurt? Në librin e tij, Nick Bostrom përpiqet të kuptojë problemin me të cilin përballet njerëzimi në lidhje me perspektivën e shfaqjes së një superinteligjence dhe të analizojë përgjigjen e saj. Botuar në Rusisht për herë të parë.

* * *

Fragmenti i mëposhtëm nga libri Inteligjence artificiale. Fazat. Kërcënimet. Strategjitë (Nick Bostrom, 2014) ofruar nga partneri ynë i librit - kompania LitRes.

Kapitulli i dytë

Rruga drejt superinteligjencës

Sot, nëse marrim nivelin e zhvillimit të përgjithshëm intelektual, makinat janë absolutisht inferiore ndaj njerëzve. Por një ditë - supozojmë - mendja e makinës do ta kalojë mendjen e njeriut. Cila do të jetë rruga jonë që tani drejt asaj që na pret? Ky kapitull përshkruan disa opsione të mundshme teknologjike. Së pari, ne do të mbulojmë tema të tilla si inteligjenca artificiale, emulimi i plotë i trurit, përmirësimi njohës i njeriut, ndërfaqja tru-kompjuter, rrjetet dhe organizatat. Më pas do të vlerësojmë aspektet e listuara nga pikëpamja e probabilitetit, nëse ato mund të shërbejnë si hapa ngjitjeje drejt superinteligjencës. Me shtigje të shumta, mundësia për të arritur ndonjëherë në destinacion rritet qartë.

Le të përcaktojmë së pari konceptin e superinteligjencës. Kjo çdo inteligjencë që tejkalon ndjeshëm aftësitë njohëse të një personi në pothuajse çdo fushë(87) . Në kapitullin tjetër, ne do të diskutojmë më në detaje se çfarë është superinteligjenca, do ta zbërthejmë atë në përbërësit e saj dhe do të diferencojmë të gjitha mishërimet e saj të mundshme. Por tani le të kufizohemi në një karakterizim kaq të përgjithshëm dhe sipërfaqësor. Vini re se në këtë përshkrim nuk kishte vend as për zbatimin e supermendjes në jetë, as për cilësitë e saj, domethënë nëse ajo do të jetë e pajisur me përvoja subjektive dhe përvojën e vetëdijes. Por në njëfarë kuptimi, veçanërisht etik, pyetja është shumë e rëndësishme. Megjithatë, tani, duke lënë mënjanë metafizikën intelektuale (88), do t'i kushtojmë vëmendje dy pyetjeve: parakushteve për shfaqjen e supermendjes dhe pasojave të këtij fenomeni.

Sipas përkufizimit tonë, programi i shahut Deep Fritz nuk është superinteligjent, pasi është "i fortë" vetëm në një zonë shumë të ngushtë - zonë për të luajtur shah. Sidoqoftë, është shumë e rëndësishme që superinteligjenca të ketë specializimet e veta lëndore. Prandaj, sa herë që bëhet fjalë për një ose një tjetër sjellje super-intelektuale të kufizuar nga fusha lëndore, do të përcaktoj veçmas fushën e saj specifike të veprimtarisë. Për shembull, inteligjenca artificiale, e cila tejkalon ndjeshëm aftësitë mendore të njeriut në fushat e programimit dhe dizajnit, do të quhet superinteligjencë inxhinierike. Por për t'iu referuar sistemeve, përgjithësisht tejkalimi i nivelit të përgjithshëm të inteligjencës njerëzore - përveç nëse tregohet ndryshe - termi mbetet mbimend.

Si do të arrijmë në kohën kur do të jetë e mundur të shfaqet? Cilën rrugë do të zgjedhim? Le të shohim disa opsione të mundshme.

Inteligjence artificiale

I nderuar lexues, mos prisni që ky kapitull të konceptojë pyetjen se si të krijoni një inteligjencë artificiale universale ose të fortë. Projekti për programimin e tij thjesht nuk ekziston. Por edhe sikur të isha pronari i lumtur i një plani të tillë, sigurisht që nuk do ta botoja në librin tim. (Nëse arsyet për këtë nuk janë ende të qarta, shpresoj që në kapitujt në vijim të jem në gjendje të sqaroj pozicionin tim pa mëdyshje.)

Sidoqoftë, tashmë sot është e mundur të njihen disa karakteristika të detyrueshme të qenësishme në një sistem kaq inteligjent. Është mjaft e qartë se aftësia për të mësuar si një pronë integrale e bërthamës së sistemit duhet të përfshihet në dizajn, dhe jo të shtohet si një konsideratë e vonuar më vonë në formën e një zgjatjeje. E njëjta gjë vlen edhe për aftësinë për të trajtuar në mënyrë efektive informacionin e pasigurt dhe probabilist. Me shumë mundësi, ndër modulet kryesore të AI moderne duhet të jenë mjetet e nxjerrjes së informacionit të dobishëm nga të dhënat nga sensorët e jashtëm dhe të brendshëm dhe konvertimi i koncepteve që rezultojnë në përfaqësime kombinuese fleksibël për përdorim të mëtejshëm në proceset e të menduarit bazuar në logjikë dhe intuitë.

Sistemet e para të inteligjencës artificiale klasike nuk synonin kryesisht mësimin, punën në kushte pasigurie dhe formimin e koncepteve, ndoshta për shkak të faktit se në atë kohë metodat përkatëse të analizës nuk ishin zhvilluar mjaftueshëm. Kjo nuk do të thotë se të gjitha idetë themelore të AI janë thelbësisht inovative. Për shembull, ideja e përdorimit të të mësuarit si një mjet për zhvillimin e një sistemi të thjeshtë dhe sjelljen e tij në nivelin njerëzor u shpreh nga Alan Turing në vitin 1950 në artikullin "Shkenca Kompjuterike dhe Inteligjenca", ku ai përvijoi konceptin e tij të "fëmijës". makinë":

Pse nuk përpiqemi të krijojmë një program që imiton mendjen e një të rrituri, në vend që të përpiqemi të krijojmë një program që imiton mendjen e një fëmije? Në fund të fundit, nëse mendja e një fëmije merr një edukim të përshtatshëm, ajo bëhet mendja e një të rrituri (89) .

Turing parashikoi që krijimi i një "makine për fëmijë" do të kërkonte një proces përsëritës:

Nuk ka gjasa që ne të arrijmë të marrim një "makinë për fëmijë" të mirë që në provën e parë. Është e nevojshme të kryhet një eksperiment për mësimin e ndonjë prej makinave të këtij lloji dhe të zbulohet se si i jepet vetes të mësuarit. Më pas kryeni të njëjtin eksperiment me një makinë tjetër dhe përcaktoni se cila nga dy makinat është më e mirë. Ekziston një lidhje e qartë midis këtij procesi dhe evolucionit në natyrën e gjallë...

Megjithatë, mund të shpresohet se ky proces do të vazhdojë më shpejt se evolucioni. Mbijetesa e më të fortit është një mënyrë shumë e ngadaltë për të vlerësuar përfitimet. Eksperimentuesi, duke zbatuar fuqinë e intelektit, mund të përshpejtojë procesin e vlerësimit. Po aq e rëndësishme, nuk kufizohet vetëm në përdorimin e mutacioneve të rastësishme. Nëse eksperimentuesi mund të gjurmojë shkakun e ndonjë mangësie, ai ka të ngjarë të jetë në gjendje të shpikë llojin e mutacionit që do të çojë në përmirësimin e nevojshëm (90).

Ne e dimë se proceset e verbëra evolucionare mund të çojnë në shfaqjen e inteligjencës së përgjithshme të nivelit njerëzor - të paktën një herë që kjo të ketë ndodhur tashmë. Për shkak të parashikimit të proceseve evolucionare - domethënë programimit gjenetik, kur algoritmet zhvillohen dhe kontrollohen nga një programues inteligjent njerëzor - ne duhet të marrim rezultate të ngjashme me efikasitet shumë më të madh. Është në këtë supozim që shumë shkencëtarë mbështeten, duke përfshirë filozofin David Chalmers dhe studiuesin Hans Moravec (91), të cilët argumentojnë se IICHI nuk është vetëm teorikisht i mundur, por edhe praktikisht i realizueshëm tashmë në shekullin e 21-të. Sipas tyre, në çështjen e krijimit të inteligjencës, duke vlerësuar mundësitë relative të evolucionit dhe inxhinierisë njerëzore, do të zbulojmë se ky i fundit në shumë fusha e tejkalon shumë evolucionin dhe, me shumë mundësi, së shpejti do ta kalojë atë në pjesën tjetër. Kështu, nëse inteligjenca natyrore doli ndonjëherë si rezultat i proceseve evolucionare, atëherë rrjedh se dizajnet njerëzore në fushën e projektimit dhe zhvillimit së shpejti mund të na çojnë drejt inteligjencës artificiale. Për shembull, Moravec shkroi në vitin 1976:

Ekzistenca e disa shembujve të inteligjencës që janë shfaqur nën këto lloj kufizimesh duhet të na japë besimin se do të jemi në gjendje të arrijmë të njëjtën gjë shumë shpejt. Situata është analoge me historinë e krijimit të makinave që mund të fluturojnë, megjithëse janë më të rënda se ajri: zogjtë, lakuriqët e natës dhe insektet e demonstruan qartë këtë aftësi shumë kohë përpara se njeriu të bënte makina fluturuese (92).

Megjithatë, duhet pasur më shumë kujdes me përfundimet e bazuara në një zinxhir të tillë arsyetimi. Natyrisht, nuk ka dyshim se fluturimi i qenieve të gjalla jo-njerëzore, të cilat janë më të rënda se ajri, u bë i mundur si rezultat i evolucionit shumë më herët sesa njerëzit arritën në këtë - megjithatë, ata ia dolën mbanë me ndihmën e mekanizmave. Në mbështetje të kësaj, mund të kujtohen shembuj të tjerë: sistemet sonar; sistemet e navigimit magnetometrik; mjete kimike të luftës; fotosensorë dhe pajisje të tjera me karakteristika të performancës mekanike dhe kinetike. Megjithatë, me të njëjtin sukses, ne do të rendisim fushat në të cilat efektiviteti i përpjekjeve njerëzore është ende shumë larg efektivitetit të proceseve evolucionare: morfogjeneza; mekanizmat e vetë-shërimit; mbrojtjen imune. Kështu, argumenti i Moravecit nuk "na jep besim" se IIHR do të krijohet "shumë shpejt". Në rastin më të mirë, evolucioni i jetës inteligjente në Tokë mund të shërbejë si një kufi i sipërm për vështirësinë e krijimit të inteligjencës. Por ky nivel është ende përtej mundësive të aftësive aktuale teknologjike të njerëzimit.

Një argument tjetër në favor të zhvillimit të inteligjencës artificiale sipas modelit të procesit evolucionar është aftësia për të ekzekutuar algoritme gjenetike në përpunues mjaft të fuqishëm dhe, si rezultat, për të arritur rezultate në përpjesëtim me ato të marra në rrjedhën e evolucionit biologjik. Kështu, ky version i argumentit propozon përmirësimin e AI përmes një metode të caktuar.

Sa i vërtetë është pohimi se shumë shpejt do të kemi në dispozicion burime të mjaftueshme kompjuterike për të riprodhuar proceset përkatëse evolucionare, si rezultat i të cilave u formua intelekti njerëzor? Përgjigja varet nga kushtet e mëposhtme: së pari, nëse do të ketë përparim të rëndësishëm në teknologjinë kompjuterike gjatë dekadave të ardhshme; së dyti, çfarë fuqie llogaritëse do të kërkohet në mënyrë që mekanizmat për lëshimin e algoritmeve gjenetike të jenë të ngjashme me përzgjedhjen natyrore që çoi në shfaqjen e njeriut. Duhet thënë se përfundimet në të cilat arrijmë përgjatë zinxhirit të arsyetimit tonë janë jashtëzakonisht të pasigurta; por, përkundër këtij fakti dekurajues, ende duket e përshtatshme të përpiqemi të japim të paktën një vlerësim të përafërt të këtij versioni (shih kutinë 3). Në mungesë të mundësive të tjera, edhe llogaritjet e përafërta do të tërheqin vëmendjen për disa sasi të panjohura kurioze.

Përfundimi është se fuqia llogaritëse e kërkuar vetëm për të riprodhuar proceset e nevojshme evolucionare që çuan në shfaqjen e inteligjencës njerëzore është praktikisht e paarritshme dhe do të mbetet e tillë për një kohë të gjatë, edhe nëse ligji i Moore është i vlefshëm për një shekull tjetër (shih Figurën 3 më poshtë ). Megjithatë, ekziston një rrugëdalje krejtësisht e pranueshme: ne do të kemi një ndikim shumë të madh në efikasitet kur, në vend të një përsëritjeje të drejtpërdrejtë të proceseve natyrore evolucionare, ne zhvillojmë një motor kërkimi të fokusuar në krijimin e inteligjencës, duke përdorur një sërë avantazhesh të dukshme mbi përzgjedhja natyrore. Natyrisht, tani është shumë e vështirë të përcaktohet sasia e përfitimit që rezulton në efikasitet. Ne as nuk e dimë se për çfarë renditjesh të madhësisë po flasim - pesë apo njëzet e pesë. Prandaj, nëse argumenti i modelit evolucionar nuk zhvillohet siç duhet, ne nuk do të jemi në gjendje të përmbushim pritshmëritë tona dhe nuk do ta dimë kurrë se sa të vështira janë rrugët drejt inteligjencës artificiale të nivelit njerëzor dhe sa kohë duhet të presim për shfaqjen e saj.

Kutia 3. Vlerësimi i Përpjekjeve të Replikimit Evolucionar

Jo të gjitha arritjet e antropogjenezës që lidhen me mendjen njerëzore janë me vlerë për specialistët modernë që punojnë në problemin e zhvillimit evolucionar të inteligjencës artificiale. Vetëm një pjesë e vogël e asaj që ndodhi si rezultat i seleksionimit natyror në Tokë shkon në veprim. Për shembull, problemet që njerëzit nuk mund t'i shpërfillin janë rezultat vetëm i përpjekjeve të vogla evolucionare. Në veçanti, duke qenë se ne mund të fuqizojmë kompjuterët tanë me energji elektrike, nuk kemi nevojë të rishpikim molekulat e sistemit të ekonomisë qelizore të energjisë për të krijuar makina inteligjente - dhe evolucioni molekular i mekanizmit metabolik mund të ketë kërkuar një pjesë të konsiderueshme të konsumit total. të fuqisë së seleksionimit natyror, i cili ishte në dispozicion të evolucionit gjatë gjithë historisë së Tokës(93) .

Ekziston një koncept që çelësi i krijimit të AI është struktura e sistemit nervor, i cili u shfaq më pak se një miliard vjet më parë (94). Nëse e pranojmë këtë pozicion, numri i "eksperimenteve" të nevojshme për evolucionin do të reduktohet shumë. Sot, ka afërsisht (4-6) × 1030 prokariote në botë, por vetëm 1019 insekte dhe më pak se 1010 përfaqësues të racës njerëzore (nga rruga, popullsia në prag të revolucionit neolitik ishte urdhra me përmasa më të vogla) (95) . Dakord, këto shifra nuk janë aq të frikshme.

Megjithatë, algoritmet evolucionare kërkojnë jo vetëm një shumëllojshmëri opsionesh, por edhe një vlerësim të përshtatshmërisë së secilit prej opsioneve - zakonisht komponenti më i shtrenjtë për sa i përket burimeve llogaritëse. Në rastin e evolucionit të inteligjencës artificiale, për të vlerësuar fitnesin, duket se kërkohet modelimi i zhvillimit nervor, si dhe i aftësive të të mësuarit dhe njohjes. Prandaj, është më mirë të mos shikojmë numrin e përgjithshëm të organizmave me një sistem nervor kompleks, por të vlerësojmë numrin e neuroneve në organizmat biologjikë që mund të na duhet të modelojmë për të llogaritur funksionin objektiv të evolucionit. Një vlerësim i përafërt mund të bëhet duke parë insektet, të cilat dominojnë biomasën tokësore (vetëm milingonat përbëjnë 15-20%) (96) . Vëllimi i trurit të insekteve varet nga shumë faktorë. Sa më i madh dhe më social (d.m.th., udhëheq një jetë shoqërore) një insekt, aq më i madh është truri i tij; për shembull, një bletë ka pak më pak se 106 neurone, një mizë frutash ka 105 neurone, një milingonë me 250,000 neuronet e saj është midis tyre (97). Truri i shumicës së insekteve më të vogla përmban vetëm disa mijëra neurone. Unë propozoj me kujdes ekstrem të ndalemi në vlerën mesatare (105) dhe të barazojmë të gjithë insektet (nga të cilat janë 1019 gjithsej në botë) me Drosophila, atëherë numri i përgjithshëm i neuroneve të tyre do të jetë 1024. Le të shtojmë një renditje tjetër të madhësisë për shkak të krustaceve, zogjve, zvarranikëve, gjitarëve, etj. - dhe merrni 1025. (Krahasojeni këtë me faktin se para ardhjes së bujqësisë kishte më pak se 107 njerëz në planet, dhe secili kishte rreth 1011 neurone - domethënë në në total, shuma e të gjithë neuroneve ishte më pak se 1018, megjithëse truri i njeriut përmbante - dhe përmban - shumë më tepër sinapse.)

Kostoja llogaritëse e modelimit të një neuroni varet nga shkalla e kërkuar e detajeve të modelit. Një model neuroni jashtëzakonisht i thjeshtë në kohë reale kërkon afërsisht 1000 operacione me pikë lundruese për sekondë (FLOPS). Një model realist elektrik dhe fiziologjik Hodgkin-Huxley kërkon 1,200,000 FLOPS. Një model shumëkomponentësh më kompleks i një neuroni do të shtonte dy deri në tre renditje të madhësisë dhe një model i nivelit më të lartë që vepron në sistemet e neuroneve do të kërkonte dy deri në tre renditje të madhësisë më pak operacione për neuron sesa modelet e thjeshta (98). Nëse na duhet të simulojmë 1025 neurone mbi një miliard vjet evolucion (kjo është më shumë se jetëgjatësia e sistemeve nervore në formën e tyre aktuale) dhe i lëmë kompjuterët të punojnë në këtë detyrë për një vit, atëherë kërkesat e tyre për fuqinë llogaritëse bien në intervalin 1031 -1044 FLOPS . Për krahasim, kompjuteri më i fuqishëm në botë, kinezi Tianhe-2 (që nga shtatori 2013) është i aftë për vetëm 3,39 × 1016 FLOPS. Në dekadat e fundit, kompjuterët konvencionale kanë rritur performancën e tyre me një renditje të madhësisë rreth një herë në 6.7 vjet. Edhe nëse fuqia kompjuterike rritet sipas ligjit të Moore për një shekull të tërë, nuk do të jetë e mjaftueshme për të kapërcyer hendekun ekzistues. Përdorimi i sistemeve kompjuterike më të specializuara ose rritja e kohës së llogaritjes mund të zvogëlojë kërkesat për energji me vetëm disa rend të madhësisë.
Ka të ngjarë që eliminimi i këtij lloji joefikasiteti do të kursejë disa rend të madhësisë së fuqisë së kërkuar në 1031-1044 FLOPS, të llogaritur më herët. Fatkeqësisht, është e vështirë të thuhet saktësisht se sa. Është e vështirë të jepet edhe një vlerësim i përafërt - mund të merret me mend nëse do të jetë pesë rend të madhësisë, dhjetë apo njëzet e pesë (101) .

Oriz. 3. Performanca e kompjuterëve të rëndë. Në kuptimin më të vërtetë, ai që quhet "ligji i Moore" është vëzhgimi se numri i transistorëve të vendosur në një çip të qarkut të integruar dyfishohet afërsisht çdo dy vjet. Megjithatë, ligji shpesh përgjithësohet, duke pasur parasysh se edhe tregues të tjerë të performancës së kompjuterit po rriten në mënyrë eksponenciale. Grafiku ynë tregon shpejtësinë maksimale të kompjuterëve më të fuqishëm në botë me kalimin e kohës (në një shkallë vertikale logaritmike). Vitet e fundit, shpejtësia e llogaritjes sekuenciale ka ndaluar së rrituri, por për shkak të përhapjes së llogaritjeve paralele, numri i përgjithshëm i operacioneve vazhdon të rritet me të njëjtin ritëm (102).

Ekziston një ndërlikim tjetër që lidhet me faktorët evolucionar të paraqitur si argumenti i fundit. Problemi është se ne nuk jemi në gjendje të llogarisim - madje shumë përafërsisht - një kufi të sipërm në vështirësinë e marrjes së inteligjencës në një mënyrë evolucionare. Po, jeta inteligjente u shfaq dikur në Tokë, por nga ky fakt nuk rezulton se proceset e evolucionit me një shkallë të lartë probabiliteti çojnë në shfaqjen e inteligjencës. Një përfundim i tillë do të ishte thelbësisht i gabuar, pasi nuk merr parasysh të ashtuquajturin efekt përzgjedhës vëzhgues, që nënkupton se të gjithë vëzhguesit janë në planetin ku ka origjinën jeta inteligjente, pavarësisht se sa e mundshme apo e pamundur të jetë një ngjarje e tillë në ndonjë tjetër. planeti. Supozoni se për shfaqjen e jetës inteligjente, përveç gabimeve sistematike të seleksionimit natyror, një sasi e madhe e ndeshje me fat- aq e madhe saqë jeta inteligjente u shfaq vetëm në një nga 1030 planetët ku ekzistojnë gjene të thjeshta replikator. Në një rast të tillë, studiuesit që drejtojnë algoritme gjenetike në një përpjekje për të përsëritur atë që ka krijuar evolucioni mund të përfundojnë me rreth 1030 përsëritje përpara se të gjejnë një kombinim në të cilin të gjithë elementët mblidhen saktë. Kjo duket të jetë mjaft në përputhje me vëzhgimin tonë se jeta filloi dhe u zhvillua këtu në Tokë. Kjo pengesë epistemologjike mund të anashkalohet pjesërisht me lëvizje logjike të kujdesshme dhe disi të rënda - duke analizuar rastet e evolucionit konvergjent të karakteristikave që lidhen me inteligjencën dhe duke marrë parasysh efektin e vëzhgimit në përzgjedhje. Nëse shkencëtarët nuk e marrin mundimin për të kryer një analizë të tillë, atëherë në të ardhmen, asnjëri prej tyre nuk do të duhet të vlerësojë vlerën maksimale dhe të kuptojë se sa kufiri i sipërm i vlerësuar në fuqinë e kërkuar llogaritëse për të riprodhuar evolucionin e inteligjencës (shih Kutia 3) mund të bjerë nën rendin e tridhjetë (ose ndonjë vlerë tjetër po aq të madhe) (103) .

Le të kalojmë në opsionin tjetër për të arritur qëllimin tonë: argumenti në favor të fizibilitetit të evolucionit të inteligjencës artificiale është aktiviteti i trurit të njeriut, i cili përmendet si modeli bazë për AI. Versione të ndryshme të kësaj qasjeje ndryshojnë vetëm në shkallën e riprodhimit - sa saktë propozohet të imitohen funksionet e trurit biologjik. Në një pol, që është një lloj "lojë imitimi", kemi konceptin emulim i plotë i trurit, domethënë një simulim në shkallë të plotë të trurit (ne do t'i kthehemi kësaj pak më vonë). Në ekstremin tjetër, ekzistojnë teknologji, sipas të cilave funksionaliteti i trurit është vetëm një pikënisje, por zhvillimi i modelimit të nivelit të ulët nuk është planifikuar. Në fund të fundit, ne do t'i afrohemi të kuptuarit të idesë së përgjithshme të trurit, e cila lehtësohet nga përparimet në neuroshkencën dhe psikologjinë konjitive, si dhe nga përmirësimi i vazhdueshëm i mjeteve dhe pajisjeve. Njohuritë e reja do të bëhen padyshim një udhëzues në punën e mëtejshme me AI. Ne tashmë e dimë një shembull të AI që është shfaqur si rezultat i modelimit të punës së trurit - këto janë rrjete nervore. Një tjetër ide e marrë nga neuroshkenca dhe e transferuar në mësimin e makinerive është organizimi hierarkik i perceptimit. Studimi i të mësuarit përforcues është nxitur (të paktën pjesërisht) nga roli i rëndësishëm që luan kjo temë në teoritë psikologjike që përshkruajnë sjelljen dhe të menduarit e kafshëve, si dhe teknikat e të mësuarit përforcues (për shembull, algoritmi TD). Sot, të mësuarit përforcues përdoret gjerësisht në sistemet e AI (104). Me siguri do të ketë më shumë shembuj të tillë në të ardhmen. Meqenëse grupi i mekanizmave bazë të funksionimit të trurit është shumë i kufizuar - në fakt, ka shumë pak prej tyre - të gjithë këta mekanizma herët a vonë do të zbulohen falë përparimeve të vazhdueshme në neuroshkencë. Megjithatë, është e mundur që një qasje hibride të marrë fund edhe më herët, duke kombinuar modele të zhvilluara, nga njëra anë, në bazë të aktivitetit të trurit të njeriut, nga ana tjetër, ekskluzivisht në bazë të teknologjive të inteligjencës artificiale. . Nuk është aspak e nevojshme që sistemi që rezulton duhet t'i ngjajë trurit në gjithçka, edhe nëse disa parime të veprimtarisë së tij përdoren në krijimin e tij.

Aktiviteti i trurit të njeriut si model bazë është një argument i fortë në favor të fizibilitetit të krijimit dhe zhvillimit të mëtejshëm të inteligjencës artificiale. Sidoqoftë, asnjë argument as më i fuqishëm nuk do të na afrojë të kuptojmë datat e ardhshme, pasi është e vështirë të parashikohet se kur do të ndodhë ky apo ai zbulim në neuroshkencë. Mund të themi vetëm një gjë: sa më thellë të shikojmë në të ardhmen, aq më shumë ka të ngjarë që sekretet e funksionimit të trurit të zbulohen plotësisht për të mishëruar sistemet e inteligjencës artificiale.

Studiuesit që punojnë në fushën e inteligjencës artificiale kanë këndvështrime të ndryshme se sa premtuese është qasja neuromorfike në krahasim me teknologjitë e bazuara në qasje plotësisht kompozicionale. Fluturimi i zogjve demonstroi mundësinë fizike të shfaqjes së mekanizmave fluturues më të rëndë se ajri, gjë që përfundimisht çoi në ndërtimin e avionëve. Megjithatë, edhe aeroplanët e parë që u ngritën në ajër nuk i përplasën krahët. Në cilën rrugë do të shkojë zhvillimi i inteligjencës artificiale? Pyetja mbetet e hapur: nëse sipas parimit të ligjit të aerodinamikës, i cili mban në ajër mekanizmat e rëndë të hekurit, pra mësimin nga kafshët e egra, por jo duke e imituar drejtpërdrejt atë; sipas parimit nëse pajisja e një motori me djegie të brendshme - domethënë kopjimi i drejtpërdrejtë i veprimeve të forcave natyrore.

Koncepti i Turingut për zhvillimin e një programi që merr b O Pjesa më e madhe e njohurive nëpërmjet të mësuarit, në vend që të jetë rezultat i specifikimit të të dhënave fillestare, është gjithashtu i zbatueshëm për krijimin e inteligjencës artificiale - si për qasjet neuromorfike ashtu edhe ato kompozicionale.

Një variant i konceptit të "makinerisë së bebeve" të Turing ishte ideja e një mikrob AI (105). Megjithatë, nëse "makina e fëmijëve", siç e imagjinonte Turing, supozohej të kishte një arkitekturë relativisht fikse dhe të zhvillonte potencialin e saj duke akumuluar përmbajtjen, mikrobi i AI do të jetë një sistem më kompleks, duke u vetëpërmirësuar të tijin arkitekturës. Në fazat e hershme të ekzistencës, AI embrionale zhvillohet kryesisht përmes mbledhjes së informacionit, duke vepruar me provë dhe gabim, me ndihmën e një programuesi. “Duke u rritur”, ai duhet të mësojë vetë kuptojnë në parimet e punës së tij, në mënyrë që të jetë në gjendje të projektojë algoritme të reja dhe struktura llogaritëse që rrisin efikasitetin e tij njohës. Kuptimi i kërkuar është i mundur vetëm në ato raste kur mikrobi i AI ose në shumë fusha ka arritur një nivel mjaft të lartë të përgjithshëm të zhvillimit intelektual, ose në fusha të caktuara lëndore - le të themi, kibernetika dhe matematika - ka kapërcyer një prag të caktuar intelektual.

Kjo na sjell në një koncept tjetër të rëndësishëm të quajtur "vetë-përmirësimi rekurziv". Një embrion i suksesshëm i AI duhet të jetë i aftë për vetë-zhvillim të vazhdueshëm: versioni i parë krijon një version të përmirësuar të vetvetes që është shumë më i zgjuar se origjinali; versioni i përmirësuar, nga ana tjetër, funksionon në një version edhe më të mirë, e kështu me radhë (106) . Në kushte të caktuara, procesi i vetë-përmirësimit rekurziv mund të vazhdojë për një kohë mjaft të gjatë dhe përfundimisht të çojë në zhvillimin shpërthyes të inteligjencës artificiale. Kjo i referohet një ngjarjeje gjatë së cilës, në një periudhë të shkurtër kohore, inteligjenca e përgjithshme e sistemit rritet nga një nivel relativisht modest (ndoshta në shumë aspekte, me përjashtim të programimit dhe kërkimit të AI, madje edhe nën njeriun) në superinteligjent, rrënjësisht superior ndaj niveli njerëzor. Në kapitullin e katërt do t'i kthehemi kësaj perspektive, e cila është shumë e rëndësishme për nga rëndësia e saj, dhe do të analizojmë më në detaje dinamikën e zhvillimit të ngjarjeve.

Ju lutemi vini re se ky model zhvillimi nënkupton mundësinë e surprizave. Përpjekjet për të krijuar një inteligjencë artificiale universale, nga njëra anë, mund të përfundojnë me dështim të plotë, dhe nga ana tjetër, të çojnë në elementin e fundit kritik që mungon, pas të cilit embrioni i AI do të bëhet i aftë për vetë-përmirësim të qëndrueshëm rekurziv.

Para se të përfundoj këtë pjesë të kapitullit, do të doja të theksoja edhe një gjë: nuk është aspak e nevojshme që inteligjenca artificiale të krahasohet me mendjen e njeriut. Unë e pranoj plotësisht që AI do të bëhet plotësisht "i huaj" - ka shumë të ngjarë, kjo do të ndodhë. Mund të pritet që arkitektura kognitive e AI do të jetë shumë e ndryshme nga sistemi njohës i njeriut; për shembull, në fazat e hershme, arkitektura njohëse do të ketë pika të forta dhe të dobëta shumë të ndryshme (edhe pse, siç do të shohim, AI do të jetë në gjendje të kapërcejë mangësitë fillestare). Mbi të gjitha, sistemet e qëllimshme të AI mund të mos kenë asnjë lidhje me sistemin e qëllimshëm të njerëzimit. Nuk ka asnjë arsye për të besuar se AI i nivelit të mesëm do të fillojë të udhëhiqet nga ndjenjat njerëzore, si dashuria, urrejtja, krenaria - një përshtatje e tillë komplekse do të kërkojë një sasi të madhe pune të shtrenjtë, për më tepër, shfaqja e një mundësie të tillë për AI duhet trajtuar me shumë kujdes. Ky është edhe një problem i madh edhe një mundësi e madhe. Ne do t'i kthehemi motivimit të AI në kapitujt e mëvonshëm, por kjo ide është aq e rëndësishme për librin sa ia vlen të mbahet parasysh në çdo kohë.

Emulim i plotë i trurit të njeriut

Në një proces simulimi të trurit në shkallë të plotë, të cilin ne e quajmë "emulim i plotë i trurit" ose "ngarkim i mendjes", inteligjenca artificiale krijohet duke skanuar dhe riprodhuar me saktësi strukturën llogaritëse të një truri biologjik. Kështu, njeriu duhet të marrë frymëzim tërësisht nga natyra - një rast ekstrem i plagjiaturës së drejtpërdrejtë. Që emulimi i plotë i trurit të jetë i suksesshëm, duhet të ndiqen një sërë hapash specifikë.

Faza e parë. Po bëhet një skanim mjaft i detajuar i trurit të njeriut. Kjo mund të përfshijë fiksimin e trurit të një personi të vdekur me anë të vitrifikimit, ose vitrifikimit (duke rezultuar që indet bëhen të forta si xhami). Seksione të holla bëhen më pas nga indi me një makinë dhe kalohen përmes një makinerie tjetër për skanim, ndoshta duke përdorur mikroskop elektron. Në këtë fazë, materiali lyhet me ngjyra të veçanta për të zbuluar vetitë e tij strukturore dhe kimike. Në të njëjtën kohë, shumë pajisje skanimi funksionojnë paralelisht, duke përpunuar njëkohësisht seksione të ndryshme të indeve.

Faza e dytë. Të dhënat e papërpunuara nga skanerët ngarkohen në një kompjuter automatik të përpunimit të imazhit për të rindërtuar rrjetin nervor 3D përgjegjës për njohjen në trurin biologjik. Për të zvogëluar numrin e imazheve me rezolucion të lartë që duhet të ruhen në tampon, ky hap mund të kryhet njëkohësisht me të parën. Harta që rezulton kombinohet me një bibliotekë modelesh neurokompjuterike në neurone të llojeve të ndryshme ose në elementë të ndryshëm neuronalë (për shembull, sinapset mund të ndryshojnë). Disa rezultate të skanimit dhe përpunimit të imazhit duke përdorur teknologjinë moderne janë paraqitur në fig. 4.

Fundi i segmentit hyrës.

Nick Bostrom

Nick Bostrom

Superinteligjencë

Shtigjet, Rreziqet, Strategjitë

Redaktorë shkencorë M. S. Burtsev, E. D. Kazimirova, A. B. Lavrentiev

Publikuar me leje nga Agjencia Alexander Korzhenevski

Mbështetja ligjore e shtëpisë botuese ofrohet nga studio ligjore "Vegas-Lex"

Ky libër u botua fillimisht në anglisht në vitin 2014. Ky përkthim është botuar me marrëveshje me Oxford University Press. Botuesi është i vetmi përgjegjës për këtë përkthim nga vepra origjinale dhe Oxford University Press nuk do të ketë asnjë përgjegjësi për ndonjë gabim, lëshim ose pasaktësi ose paqartësi në një përkthim të tillë ose për çdo humbje të shkaktuar nga mbështetja në të.

* * *

Ky libër është plotësuar mirë

Avinash Dixit dhe Barry Nalbuff

Stephen Strogatz

Parathënie e partnerit

... Unë kam një shok, - tha Edik. - Ai pretendon se njeriu është një hallkë e ndërmjetme e nevojshme që natyra të krijojë kurorën e krijimit: një gotë konjak me një fetë limoni.

Arkady dhe Boris Strugatsky. E hëna fillon të shtunën

Nick Bostrom shkruan se nëse algoritmet e kompjuterëve inteligjentë mësojnë të bëjnë vetë algoritme edhe më të zgjuara, dhe ata, nga ana tjetër, edhe më të zgjuar, do të ketë një rritje shpërthyese të inteligjencës artificiale, në krahasim me të cilën njerëzit do të duken diçka si milingona pranë njerëzve. tani, në aspektin intelektual, natyrisht. Një specie e re, megjithëse artificiale, por superinteligjente do të shfaqet në botë. Nuk ka rëndësi se çfarë "i vjen në mendje", një përpjekje për t'i bërë të gjithë njerëzit të lumtur apo një vendim për të ndaluar ndotjen antropogjene të oqeaneve të botës në mënyrën më efektive, domethënë duke shkatërruar njerëzimin, njerëzit ende nuk do të jenë. në gjendje t'i rezistojë. Nuk ka shanse për një konfrontim të stilit të filmit Terminator, asnjë përplasje me armë me kiborgë të hekurt. mat dhe mat na presin - si në një duel midis një kompjuteri shahu të Deep Blue dhe një nxënësi të klasës së parë.

Një prirje e ngjashme - kur zhvillimi i shpejtë i teknologjisë jo vetëm që çon në formimin e mundësive të reja, por krijon edhe kërcënime të paprecedentë - shohim në fushën e sigurisë së informacionit. E gjithë industria jonë u ngrit dhe ekziston vetëm sepse krijimi dhe shpërndarja masive e gjërave të tilla të mrekullueshme si kompjuterët dhe interneti krijoi probleme që do të kishin qenë të paimagjinueshme në epokën para kompjuterit. Si rezultat i ardhjes së teknologjisë së informacionit, ka pasur një revolucion në komunikimet njerëzore. Përfshirë atë është përdorur nga lloje të ndryshme të kriminelëve kibernetikë. Dhe vetëm tani njerëzimi po fillon gradualisht të kuptojë rreziqe të reja: gjithnjë e më shumë objekte të botës fizike kontrollohen nga kompjuterë dhe softuer, shpesh të papërsosur, plot vrima dhe të pambrojtura; një numër në rritje i objekteve të tilla janë të lidhura me internetin dhe kërcënimet ndaj botës kibernetike po bëhen me shpejtësi çështje të sigurisë fizike dhe potencialisht çështje të jetës dhe vdekjes.

Do të doja ta mbyllja hyrjen time me një citim nga libri i Mikhail Weller "Njeriu në sistem":

Kur fantazia, domethënë mendimi njerëzor i përshtatur në imazhe dhe komplote, përsërit diçka për një kohë të gjatë dhe në detaje - mirë, nuk ka tym pa zjarr. Filmat aksion banal të Hollivudit për luftërat e njerëzve me qytetërimin e robotëve mbajnë një kokërr të hidhur të së vërtetës nën lëkurën e një pamjeje komerciale.

Kur programi i transmetuar i instinkteve të ndërtohet në robotë, dhe kënaqësia e këtyre instinkteve do të ndërtohet si një nevojë e pakushtëzuar dhe themelore, dhe kjo do të shkojë në nivelin e vetë-riprodhimit - atëherë djema, ndaloni të luftoni duhanin dhe alkoolin, sepse do të jetë koha e duhur për të pirë dhe duhan para Khanit për të gjithë ne.

Evgeny Kaspersky, CEO i Kaspersky Lab

Historia e papërfunduar e harabela

Një ditë, në mes të foleve, harabela, të lodhur nga shumë ditë punë të mundimshme, u ulën për të pushuar në perëndim të diellit dhe cicërijnë për këtë dhe atë.

Ne jemi kaq të vegjël, aq të dobët. Imagjinoni sa më lehtë do të ishte të jetonim nëse do të mbanim një buf si ndihmës! një harabeli cicëroj me ëndërr. "Ajo mund të bëjë fole për ne ..."

– Aha! ra dakord një tjetër. “Dhe kujdesuni për pleqtë dhe zogjtë tanë…”

"Dhe na udhëzo dhe na mbro nga macja e fqinjit," shtoi një i tretë.

Pastaj Pastus, harabeli më i madh, sugjeroi:

- Lërini skautët të fluturojnë në drejtime të ndryshme në kërkim të një bufi që ka rënë nga foleja. Megjithatë, një vezë bufi, një sorrë, madje edhe një këlysh nuselale do të bëjnë. Ky zbulim do të rezultojë të jetë suksesi më i madh për tufën tonë! Si ai që gjetëm në oborrin e shtëpisë me një furnizim të pafund drithi.

Harabela, të ngazëllyer me zell, cicërijnë se kishte urinë.

Dhe vetëm Skronfinkle me një sy, një harabel kaustik me prirje të rëndë, dukej se dyshonte në përshtatshmërinë e kësaj ndërmarrjeje.

"Ne kemi zgjedhur një rrugë katastrofike," tha ai me bindje. "A nuk duhet të merrni parasysh seriozisht çështjet e zbutjes dhe zbutjes së bufave përpara se të lejoni një krijesë kaq të rrezikshme në mjedisin tuaj?"

"Më duket," i tha Pastus, "arti i zbutjes së bufave nuk është një detyrë e lehtë. Gjetja e një veze bufi është e vështirë. Pra, le të fillojmë me kërkimin. Nëse arrijmë të nxjerrim një bufkë, atëherë do të mendojmë për problemet e arsimit.

- Plani i lig! Skronfinkle cicëriu me nervozizëm.

Por askush nuk e dëgjoi. Në drejtim të Pastusit, një tufë harabela u ngrit në ajër dhe u nis.

Vetëm harabela mbetën në vend, duke vendosur të kuptonin se si të zbutnin bufat. Shumë shpejt ata e kuptuan se Pastus kishte të drejtë: detyra ishte tepër e vështirë, veçanërisht në mungesë të vetë bufit, mbi të cilin mund të praktikohej. Megjithatë, zogjtë vazhduan të studionin me zell problemin, sepse kishin frikë se tufa do të kthehej me një vezë bufi përpara se të zbulonin sekretin se si të kontrollonin sjelljen e bufit.

Prezantimi

Brenda kafkës sonë ka një substancë të caktuar, falë ...

8 Gjeneral

merrni një rishikim abstrakt

Sipas futuristit të Oksfordit, Nick Bostrom, inteligjenca artificiale mund të bëhet një mjet për ne për të garantuar sigurinë, prosperitetin ekonomik dhe zhvillimin intelektual, por njerëzimi mund të mos jetë në gjendje të realizojë potencialin e plotë të këtij mjeti. Bostrom kritikon të metat e natyrshme në perceptimin njerëzor të AI hap pas hapi dhe ndjehet sikur njerëzit nuk kanë burime ose imagjinatë për të kuptuar kalimin nga një botë e dominuar nga njerëzit në një botë që është e kërcënuar ose tashmë e skllavëruar nga disa entitet që ka supermendje. Bostrom përshkruan me mjeshtëri se si mund të lindte një superinteligjencë e tillë, si do të evoluonte në një "singleton" të gjithëfuqishëm dhe çfarë kërcënimi do të përbënte. Për shembull, çfarë do të ndodhë, pyet ai, nëse kjo AI zhvillohet në atë masë sa të formojë një qeveri të një bote që nuk udhëhiqet nga parimet etike tradicionale? Informativ, plot referenca në burime të ndryshme, libri nxit lexuesin të mendojë për shumë të panjohura. Arsyetimi i autorit bazohet në analizën e një sërë skenarësh të mundshëm për të ardhmen. Ky studim i thelluar është krijuar kryesisht për lexuesit me një interes të veçantë për këtë temë. merr Abstrakt ua rekomandon politikanëve, futuristëve, studentëve, investitorëve, filozofëve dhe kujtdo që mendon për teknologjitë e larta.

Nga përmbledhja e librit do të mësoni:

Si po evoluon teknologjia e njohur si “inteligjencë artificiale”;
Çfarë propozojnë shkencëtarët për të përdorur dhe kontrolluar AI;
Pse njerëzimi nuk është gati të merret me AI?

Rreth Autorit

Nick Bostrom Profesor në Universitetin e Oksfordit, Drejtor Themelues i Institutit të Ardhmërisë së Njerëzimit.

Perspektivat për shfaqjen e superinteligjencës

Në verën e vitit 1956, një grup shkencëtarësh u mblodhën në Kolegjin Dartmouth për të studiuar perspektivat e zhvillimit njerëzor. Ata ishin kryesisht të interesuar nëse makinat mund të përsërisnin funksionet e inteligjencës njerëzore. Hulumtimi mbi këtë temë ka vazhduar me shkallë të ndryshme suksesi. Vitet 1980 panë zhvillimin e programeve të bazuara në rregulla, ose "sistemet e ekspertëve", dhe dukej se teknologjitë që mund të përdoreshin për të ndërtuar inteligjencën artificiale ishin gati të lulëzojnë. Më pas progresi ngeci dhe financimi u tha. Përpjekjet e AI morën një nxitje në vitet 1990 me ardhjen e "algoritmeve gjenetike" dhe "rrjeteve nervore".

Një masë e fuqisë së AI është se sa mirë kompjuterët e projektuar posaçërisht luajnë lojëra si shah, bridge, polimath, go dhe kuiz. Në rreth 10 vjet, një kompjuter me algoritme të përmirësuara do të jetë në gjendje të mposht kampionin e botës në Go. Përveç lojërave, teknologji të ngjashme përdoren në aparatet e dëgjimit, pajisjet e njohjes së fytyrës dhe të folurit, në navigim, diagnostikim, planifikim, logjistikë, si dhe në krijimin e robotëve industrialë, funksionaliteti i të cilëve...

Faqja aktuale: 1 (gjithsej libri ka 40 faqe) [fragment leximi i aksesueshëm: 8 faqe]

Ky libër është plotësuar mirë

Teoria e lojës

Avinash Dixit dhe Barry Nalbuff

Brainiac

Ken Jennings

kënaqësi nga x

Stephen Strogatz

Superinteligjencë

Shtigjet, Rreziqet, Strategjitë

Nick Bostrom

Inteligjence artificiale

Fazat. Kërcënimet. Strategjitë

"Mann, Ivanov dhe Ferber"

Informacion

nga botuesi

Redaktorë shkencorë M. S. Burtsev, E. D. Kazimirova, A. B. Lavrentiev

Publikuar me leje nga Agjencia Alexander Korzhenevski

Botuar në Rusisht për herë të parë

Bostrom, Nick

Inteligjence artificiale. Fazat. Kërcënimet. Strategjia / Nick Bostrom; per. nga anglishtja. S. Filin. - M.: Mann, Ivanov dhe Ferber, 2016.

ISBN 978-5-00057-810-0

Të gjitha të drejtat e rezervuara.

Asnjë pjesë e këtij libri nuk mund të riprodhohet në asnjë formë pa lejen me shkrim të mbajtësve të së drejtës së autorit.

Mbështetja ligjore e shtëpisë botuese ofrohet nga studio ligjore "Vegas-Lex"

Parathënie e partnerit

... Unë kam një shok, - tha Edik. - Ai pretendon se njeriu është një hallkë e ndërmjetme e nevojshme që natyra të krijojë kurorën e krijimit: një gotë konjak me një fetë limoni.

Arkady dhe Boris Strugatsky. E hëna fillon të shtunën

Nick Bostrom shkruan se nëse algoritmet e kompjuterëve inteligjentë mësojnë të bëjnë vetë algoritme edhe më të zgjuara, dhe ata, nga ana tjetër, edhe më të zgjuar, do të ketë një rritje shpërthyese të inteligjencës artificiale, në krahasim me të cilën njerëzit do të duken diçka si milingona pranë njerëzve. tani, në aspektin intelektual, natyrisht. Një specie e re, megjithëse artificiale, por superinteligjente do të shfaqet në botë. Nuk ka rëndësi se çfarë "i vjen në mendje", një përpjekje për t'i bërë të gjithë njerëzit të lumtur apo një vendim për të ndaluar ndotjen antropogjene të oqeaneve të botës në mënyrën më efektive, domethënë duke shkatërruar njerëzimin, njerëzit ende nuk do të jenë. në gjendje t'i rezistojë. Nuk ka shanse për një konfrontim të stilit të filmit Terminator, asnjë përplasje me armë me kiborgë të hekurt. mat dhe mat na presin - si në një duel midis një kompjuteri shahu të Deep Blue dhe një nxënësi të klasës së parë.

Do të doja ta mbyllja hyrjen time me një citim nga libri i Mikhail Weller "Njeriu në sistem":

Eugene Kaspersky,

Drejtori i Përgjithshëm i Kaspersky Lab

Historia e papërfunduar e harabela

Një ditë, në mes të foleve, harabela, të lodhur nga shumë ditë punë të mundimshme, u ulën për të pushuar në perëndim të diellit dhe cicërijnë për këtë dhe atë.

– Aha! ra dakord një tjetër. “Dhe kujdesuni për pleqtë dhe zogjtë tanë…”

"Dhe na udhëzo dhe na mbro nga macja e fqinjit," shtoi një i tretë.

Pastaj Pastus, harabeli më i madh, sugjeroi:

Harabela, të ngazëllyer me zell, cicërijnë se kishte urinë.

Dhe vetëm Skronfinkle me një sy, një harabel kaustik me prirje të rëndë, dukej se dyshonte në përshtatshmërinë e kësaj ndërmarrjeje.

- Plani i lig! Skronfinkle cicëriu me nervozizëm.

Por askush nuk e dëgjoi. Në drejtim të Pastusit, një tufë harabela u ngrit në ajër dhe u nis.

Prezantimi

Në dy kapitujt e parë do të shikoj fusha të ndryshme shkencore dhe do të prek shkurtimisht një temë të tillë si ritmi i zhvillimit ekonomik. Megjithatë, fokusi kryesor i librit është ajo që do të ndodhë pas shfaqjes së superinteligjencës. Duhet të diskutojmë çështjet e mëposhtme: dinamikën e zhvillimit shpërthyes të inteligjencës artificiale; format dhe potencialin e tij; opsionet strategjike me të cilat ai do të jetë i pajisur dhe, si rezultat i të cilave ai do të marrë një avantazh vendimtar. Pas kësaj, ne do të analizojmë problemin e kontrollit dhe do të përpiqemi të zgjidhim problemin më të rëndësishëm: a është e mundur të modelojmë kushte të tilla fillestare që do të na lejojnë të ruajmë epërsinë tonë dhe në fund të mbijetojmë. Në kapitujt e fundit do të largohemi nga të dhënat dhe do ta shikojmë problemin më gjerësisht për të mbuluar të gjithë situatën që është krijuar si rezultat i studimit tonë. Do të sjell në vëmendjen tuaj disa rekomandime se çfarë duhet bërë sot për të shmangur një katastrofë që kërcënon ekzistencën e njerëzimit në të ardhmen.

Shkrimi i këtij libri nuk ishte i lehtë. Shpresoj se rruga që kam përshkuar do të jetë e dobishme për studiues të tjerë. Ata do të arrijnë kufij të rinj pa pengesa të panevojshme dhe, plot energji, do të mund të përfshihen shpejt në punë, falë të cilave njerëzit janë plotësisht të vetëdijshëm për kompleksitetin e problemit me të cilin përballen. (Megjithatë, nëse rruga e studimit për analistët e ardhshëm u duket disi gjarpëruese dhe vende-vende me gropa, shpresoj se ata do të vlerësojnë se sa i pakalueshëm ishte peizazhi përpara.)

Me gjithë vështirësitë që lidhen me punën për librin, u përpoqa ta paraqes materialin në një gjuhë të arritshme; Sidoqoftë, tani shoh që nuk e kam përballuar fare këtë. Natyrisht, ndërsa po shkruaja, iu drejtova mendërisht një lexuesi të mundshëm dhe për disa arsye gjithmonë e imagjinoja veten në këtë rol, vetëm disi më i ri se ai aktual - rezulton se po bëja një libër që mund të ngjallte interes kryesisht për veten time, por jo i rënduar nga e kaluara prej vitesh. Ndoshta kjo do të përcaktojë numrin e vogël të lexuesve në të ardhmen. Megjithatë, për mendimin tim, përmbajtja e librit do të jetë e aksesueshme për shumë njerëz. Thjesht duhet të bëjmë pak përpjekje mendore, të ndalojmë së refuzuari idetë e reja dhe t'i rezistojmë tundimit për të zëvendësuar gjithçka të pakuptueshme me stereotipe të përshtatshme që të gjithë ne i nxjerrim lehtësisht nga rezervat tona kulturore. Lexuesit që nuk kanë njohuri të veçanta nuk duhet të dorëzohen në llogaritjet matematikore dhe termat e panjohur që ndodhin në vende, pasi konteksti gjithmonë ju lejon të kuptoni idenë kryesore. (Lexuesit që dëshirojnë, nga ana tjetër, të mësojnë më shumë detaje, do të kenë shumë interes në shënimet.)

Ka të ngjarë që pjesa më e madhe e librit të jetë deklaruar gabimisht2. Ndoshta kam anashkaluar disa konsiderata të rëndësishme, si rezultat i të cilave disa nga përfundimet e mia - dhe ndoshta të gjitha - do të jenë të gabuara. Për të mos humbur nuancën më të vogël dhe për të treguar shkallën e pasigurisë me të cilën kemi të bëjmë, m'u desh t'i drejtohesha shënuesve specifikë - kështu që teksti im është i mbingarkuar me pika të tilla të shëmtuara verbale si "ndoshta", "mund", "ndoshta" , "si" , "ndoshta", "shumë e mundshme", "pothuajse me siguri". Sidoqoftë, sa herë që i drejtohem ndihmës së fjalëve hyrëse me shumë kujdes dhe me shumë kujdes. Megjithatë, për të treguar kufizimet e përgjithshme të supozimeve epistemologjike, një mjet i tillë stilistik nuk mjafton qartë; autori duhet të zhvillojë një qasje sistematike ndaj arsyes në kushtet e pasigurisë dhe të tregojë drejtpërdrejt mundësinë e gabimit. Kjo nuk është në asnjë mënyrë modesti e rreme. E pranoj sinqerisht se në librin tim mund të ketë keqkuptime serioze dhe përfundime të pasakta, por në të njëjtën kohë jam i bindur se këndvështrimet alternative të paraqitura në literaturë janë edhe më të këqija. Për më tepër, kjo vlen edhe për "hipotezën zero" të pranuar përgjithësisht, sipas së cilës sot, me arsye absolute, mund të injorojmë problemin e shfaqjes së një superinteligjence dhe të ndihemi plotësisht të sigurt.

Kapitulli i parë

Arritjet e së kaluarës dhe mundësitë e sotme

Le të fillojmë me një thirrje për të kaluarën e largët. Në terma të përgjithshëm, historia është një varg i modeleve të ndryshme të rritjes dhe procesi po përshpejtohet në mënyrë progresive. Ky model na jep të drejtën të supozojmë se periudha e ardhshme - edhe më e shpejtë - e rritjes është e mundur. Sidoqoftë, nuk ia vlen t'i kushtohet shumë rëndësi një konsiderate të tillë, pasi tema e librit tonë nuk është "përshpejtimi teknologjik", jo "rritja eksponenciale", apo edhe ato dukuri që zakonisht paraqiten nën konceptin e "singularitetit". Më pas, ne do të diskutojmë sfondin: si ka evoluar kërkimi i inteligjencës artificiale. Më pas do të kalojmë në situatën aktuale: çfarë po ndodh sot në këtë zonë. Së fundi, le të hedhim një vështrim në disa nga vlerësimet më të fundit të ekspertëve dhe të flasim për paaftësinë tonë për të parashikuar kohën e zhvillimeve të mëtejshme.

Modelet e rritjes dhe historia njerëzore

Vetëm disa milionë vjet më parë, paraardhësit e njerëzve ende jetonin në kurorat e pemëve afrikane, duke kërcyer nga dega në degë. Pamja e jashtme Homo sapiens, ose Homo sapiens, i ndarë nga paraardhësit tanë të përbashkët me majmunët antropoidë, nga pikëpamja gjeologjike dhe madje evolucionare, ndodhi shumë mirë. Njerëzit e lashtë morën një pozicion vertikal, dhe gishtat e mëdhenj të duarve të tyre filluan të qëndrojnë dukshëm larg nga pjesa tjetër. Megjithatë, më e rëndësishmja, kishte ndryshime relativisht të vogla në vëllimin e trurit dhe organizimin e sistemit nervor, të cilat përfundimisht çuan në një kërcim gjigant në zhvillimin mendor të njeriut. Si rezultat, njerëzit kanë aftësinë për të menduar në mënyrë abstrakte. Ata filluan jo vetëm të shprehin në mënyrë koherente mendime komplekse, por edhe të krijojnë një kulturë informacioni, domethënë të grumbullojnë informacione dhe njohuri dhe t'i përcjellin ato brez pas brezi. Duhet thënë se njeriu ka mësuar ta bëjë këtë shumë më mirë se çdo gjallesë tjetër në planet.

Njerëzimi i lashtë, duke përdorur aftësitë që shfaqeshin në të, zhvilloi gjithnjë e më shumë metoda racionale të prodhimit, falë të cilave ai ishte në gjendje të migronte shumë përtej xhunglave dhe savaneve. Menjëherë pas ardhjes së bujqësisë, numri i popullsisë dhe dendësia e saj filluan të rriteshin me shpejtësi. Më shumë njerëz - më shumë ide, dhe dendësia e lartë kontribuan jo vetëm në përhapjen e shpejtë të tendencave të reja, por edhe në shfaqjen e specialistëve të ndryshëm, që do të thoshte se midis njerëzve kishte një përmirësim të vazhdueshëm të aftësive profesionale. Këta faktorë janë rritur ritmin e zhvillimit ekonomik, bëri të mundur rritjen e produktivitetit dhe formimin e kapaciteteve teknike. Më pas, progresi i një rëndësie të njëjtë, që çoi në revolucionin industrial, shkaktoi një kërcim të dytë historik në përshpejtimin e ritmit të rritjes.

Kjo normë dinamike e rritjes pati implikime të rëndësishme. Për shembull, në agimin e njerëzimit, kur Toka ishte e banuar nga paraardhësit e njerëzve modernë, ose hominidët, zhvillimi ekonomik ishte shumë i ngadalshëm dhe u deshën rreth një milion vjet për rritjen e kapacitetit prodhues, në mënyrë që popullsia e planeti i lejoi vetes të rritet me një milion njerëz, dhe të ekzistojë në prag të mbijetesës. Dhe pas revolucionit neolitik, deri në 5000 para Krishtit. Para Krishtit, kur njerëzimi kaloi nga një shoqëri gjuetar-mbledhës në një model ekonomik bujqësor, ritmi i rritjes u rrit aq shumë sa dyqind vjet ishin të mjaftueshme për të njëjtën rritje të popullsisë. Sot, që nga Revolucioni Industrial, ekonomia globale është rritur me të njëjtën sasi çdo orë e gjysmë.

Shkalla e tanishme e rritjes - edhe nëse fshihet për një kohë relativisht të gjatë - do të çojë në rezultate mbresëlënëse. Supozoni se ekonomia botërore vazhdon të rritet me një ritëm mesatar karakteristik të pesëdhjetë viteve të fundit, megjithatë, popullsia e planetit në të ardhmen do të bëhet më e pasur se sot: deri në vitin 2050 - 4.8 herë, dhe deri në vitin 2100 - 34 herë2.

Megjithatë, perspektivat për rritje të qëndrueshme eksponenciale zbehen në krahasim me atë që mund të ndodhë kur bota t'i nënshtrohet ndryshimit të kërcimit të ardhshëm me një ritëm të krahasueshëm për nga madhësia dhe ndikimi me Revolucionet Neolitike dhe Industriale. Bazuar në të dhënat historike mbi aktivitetin ekonomik dhe popullsinë, ekonomisti Robin Hanson vlerësoi se shoqëria e gjuetisë dhe grumbullimit të Pleistocenit kishte një kohë dyfishimi prej 224,000 vjetësh, një shoqëri agrare 909 vjet dhe një shoqëri industriale 6,3 vjet. (Sipas paradigmës së Hanson, modeli modern ekonomik, i cili ka një strukturë të përzier agro-industriale, nuk po zhvillohet ende me një ritëm të dyfishuar çdo 6.3 vjet.) Nëse një kërcim i tillë do të kishte ndodhur tashmë në zhvillimin botëror, i krahasueshëm në rëndësinë e tij revolucionare. ndaj dy të mëparshmeve, atëherë ekonomia do të kishte arritur një nivel të ri dhe do të dyfishonte ritmin e rritjes afërsisht çdo dy javë.

Nga këndvështrimi i sotëm, ritme të tilla zhvillimi duken fantastike. Por edhe dëshmitarët e epokave të kaluara vështirë se mund ta imagjinonin se ritmi i rritjes së ekonomisë botërore një ditë do të dyfishohej disa herë gjatë rrjedhës së një brezi të vetëm. Ajo që dukej krejtësisht e paimagjinueshme për ta, ne e perceptojmë si normë.

Ideja e afrimit të momentit të singularitetit teknologjik është bërë jashtëzakonisht popullore pas shfaqjes së punës pioniere të Vernon Vinge, Ray Kurzweil dhe studiues të tjerë4. Megjithatë, koncepti i "singularitetit", i cili përdoret në kuptime të ndryshme, tashmë ka marrë një kuptim të qëndrueshëm në frymën e utopizmit teknologjik dhe madje ka marrë një atmosferë të diçkaje të frikshme dhe në të njëjtën kohë mjaft madhështore5. Meqenëse shumica e përkufizimeve të fjalës singulariteti nuk janë të lidhura me temën e librit tonë, do të arrijmë qartësi më të madhe nëse e heqim qafe atë në favor të termave më të saktë.

Ideja e interesit për ne, e lidhur me nocionin e singularitetit, është potenciali zhvillimi shpërthyes i inteligjencës, veçanërisht në perspektivën e krijimit të një superinteligjence artificiale. Mundësisht e paraqitur në Fig. 1 kurbat e rritjes do të bindin disa prej jush se jemi në prag të një hapi të ri intensiv në ritmin e zhvillimit - një kërcim i krahasueshëm me revolucionet neolitike dhe industriale. Me shumë mundësi, është madje e vështirë për njerëzit që u besojnë grafikëve të imagjinojnë një skenar në të cilin koha për dyfishimin e ekonomisë botërore reduktohet në javë pa pjesëmarrjen e një mendjeje super të fuqishme, e cila është shumë herë më e shpejtë dhe më efikase se zakonisht. mendje biologjike. Megjithatë, nuk është e nevojshme të ushtrohemi në vizatimin e kurbave të rritjes dhe ekstrapolimin e ritmeve historike të zhvillimit ekonomik, në mënyrë që të fillojmë të marrim përgjegjësinë për shfaqjen revolucionare të inteligjencës artificiale. Ky problem është aq serioz sa nuk ka nevojë për ndonjë argument të këtij lloji. Siç do të shohim, ka arsye shumë më bindëse për të qenë të kujdesshëm.

Oriz. 1. Dinamika e PBB-së botërore gjatë një periudhe të gjatë historike. Në një shkallë lineare, historia e ekonomisë botërore shfaqet si një vijë, në fillim pothuajse duke u bashkuar me boshtin horizontal, dhe më pas duke u nxituar ashpër vertikalisht lart. A. Edhe duke i zgjeruar kufijtë kohorë në dhjetë mijë vjet në të kaluarën, ne shohim se vija bën një hov lart nga një pikë e caktuar pothuajse nëntëdhjetë gradë. B. Linja shkëputet dukshëm nga boshti horizontal vetëm në nivelin e afërsisht të njëqind viteve të fundit. (Dallimi në kthesat në diagrame është për shkak të një grupi të ndryshëm të dhënash, kështu që treguesit janë disi të ndryshëm nga njëri-tjetri6.)

Pritshmeri te larta

Që nga shpikja e kompjuterëve të parë elektronikë në vitet 1940, njerëzit nuk kanë reshtur së parashikuari shfaqjen e një kompjuteri, niveli i inteligjencës së të cilit do të jetë i krahasueshëm me atë të njeriut. Kjo i referohet një sistemi teknik të arsyeshëm të pajisur me sens të shëndoshë, që ka aftësinë për të mësuar dhe menduar, i aftë për të planifikuar dhe përpunuar informacione në një mënyrë gjithëpërfshirëse, të mbledhura nga një sërë burimesh - reale dhe teorike. Në ato ditë, shumë prisnin që makina të tilla të bëheshin realitet në njëzet e shtatë vjet. Që atëherë, afati kohor është zhvendosur me një ritëm prej një viti në vit, domethënë, sot futurologët, të bindur për gjasat e krijimit të inteligjencës artificiale, vazhdojnë të besojnë se "makinat inteligjente" do të shfaqen pas disa dekadash8.

Afati njëzet vjeçar është i dashur nga të gjithë parashikuesit e ndryshimeve thelbësore. Nga njëra anë, nuk është shumë e gjatë - dhe për këtë arsye tema e diskutimit tërheq vëmendjen e gjerë; nga ana tjetër, nuk është aq i shpejtë, gjë që bën të mundur ëndërrimin për një numër zbulimesh të rëndësishme shkencore - megjithatë, idetë rreth tyre në kohën e parashikimit janë shumë të paqarta, por zbatimi i tyre është praktikisht i padyshimtë. Krahasoni këtë me periudhat më të shkurtra të parashikimit të përcaktuara për teknologji të ndryshme që janë të destinuara të kenë një ndikim të rëndësishëm në botë: nga pesë deri në dhjetë vjet - në kohën e parashikimit, shumica e zgjidhjeve teknike tashmë janë aplikuar pjesërisht; pesëmbëdhjetë vjet - në kohën e parashikimit, këto teknologji tashmë ekzistojnë në formën e versioneve laboratorike. Për më tepër, njëzet vjet janë shpesh afër mesatares së mbetur të jetës profesionale të parashikuesit, gjë që redukton rrezikun e reputacionit që lidhet me parashikimin e tij të guximshëm.

Megjithatë, për shkak të pritshmërive të mbivlerësuara dhe të paplotësuara të viteve të kaluara, nuk duhet të arrihet menjëherë në përfundimin se krijimi i inteligjencës artificiale është i pamundur në parim dhe se askush nuk do ta zhvillojë kurrë atë9. Arsyeja kryesore pse progresi ka qenë më i ngadalshëm se sa pritej ka të bëjë me problemet teknike që u shfaqën në zhvillimin e makinerive inteligjente. Pionierët nuk i parashikuan të gjitha vështirësitë me të cilat duhej të përballeshin. Për më tepër, pyetjet: nëse shkalla e seriozitetit të këtyre pengesave është e madhe dhe sa larg jemi nga tejkalimi i tyre - mbeten ende të hapura. Ndonjëherë problemet që fillimisht duken jashtëzakonisht të vështira kanë një zgjidhje çuditërisht të thjeshtë (edhe pse më shpesh, ndoshta, e kundërta është e vërtetë).

Ne do të shohim rrugët që mund të çojnë në inteligjencën artificiale që rivalizon atë të njerëzve në kapitullin tjetër. Por tani do të doja të tërhiqja vëmendjen tuaj në një aspekt të rëndësishëm. Do të ketë shumë ndalesa midis pikës aktuale të fillimit dhe së ardhmes kur të shfaqet inteligjenca artificiale, por ky moment nuk është aspak destinacioni përfundimtar. Shumë afër, ndalesa e radhës do të jetë stacioni Overmind, një zbatim i inteligjencës artificiale të një niveli që jo vetëm barazohet me mendjen e njeriut, por e tejkalon shumë atë. Pas ndalesës së fundit, treni ynë do të përshpejtohet në atë masë sa që në stacionin "Chelovek" nuk do të jetë në gjendje jo vetëm të ndalojë, por edhe të ngadalësojë shpejtësinë. Me shumë mundësi, ai do të bilbil kalojë. Matematikani britanik Irving John Goode, i cili ka punuar si kriptograf për ekipin e Alan Turing gjatë Luftës së Dytë Botërore, ka shumë të ngjarë të jetë i pari që ka paraqitur detajet vendimtare të këtij skenari. Në letrën e tij të cituar shpesh të vitit 1965 mbi makinat e para superinteligjente, ai shkroi:

Le të përkufizojmë një makinë superinteligjente si një makinë që është shumë përtej kapacitetit intelektual të cilitdo prej qenieve njerëzore më të zgjuara. Meqenëse krijimi i makinave të tilla është rezultat i aktivitetit mendor njerëzor, një makinë e pajisur me superinteligjencë do të jetë në gjendje të zhvillojë makina edhe më të përsosura; si rezultat, padyshim që do të ketë një "shpërthim intelektual" të tillë që mendja e njeriut do të hidhet shumë prapa. Kështu, makina e parë superinteligjente do të jetë arritja e fundit e mendjes njerëzore - megjithatë, vetëm nëse ajo nuk tregon përputhje të mjaftueshme dhe nuk na shpjegon vetë se si ta mbajmë nën kontroll.

Zhvillimi shpërthyes i inteligjencës artificiale mund të sjellë një nga rreziqet kryesore ekzistenciale - këto ditë kjo gjendje e punëve perceptohet si e parëndësishme; prandaj, perspektivat për një rritje të tillë duhet të merren me seriozitetin më të madh, edhe nëse dihej (por jo e vërtetë) se probabiliteti i kërcënimit është relativisht i ulët. Sidoqoftë, pionierët në fushën e inteligjencës artificiale, pavarësisht besimit të tyre në shfaqjen e afërt të inteligjencës artificiale që nuk është inferiore ndaj njeriut, në pjesën më të madhe mohuan mundësinë e shfaqjes së një superinteligjence që tejkalon mendjen njerëzore. Duket se imagjinata e tyre - në një përpjekje për të kuptuar mundësinë përfundimtare të makinerive të ardhshme të krahasueshme në aftësitë e tyre të të menduarit me njerëzit - thjesht u tha, dhe ata humbën lehtësisht përfundimin e pashmangshëm: lindja e makinave superinteligjente do të jetë hapi tjetër.

Shumica e pionierëve nuk e mbështetën ankthin e shfaqur në shoqëri, duke e konsideruar absurditet të plotë që projektet e tyre mbartin një rrezik të caktuar për njerëzimin11. Asnjë prej tyre, me fjalë apo me vepër - asnjë studim i vetëm serioz mbi këtë temë - nuk u përpoq të kuptonte as shqetësimet e sigurisë, as dyshimet etike që lidhen me krijimin e inteligjencës artificiale dhe dominimin e mundshëm të kompjuterëve; Ky fakt është befasues edhe në sfondin e standardeve jo shumë të larta për vlerësimin e teknologjive të reja karakteristike të asaj epoke12. Mbetet vetëm të shpresojmë se në kohën kur vizioni i tyre i guximshëm të realizohet përfundimisht, ne jo vetëm që do të jemi në gjendje të arrijmë një përvojë të denjë shkencore dhe teknike për të neutralizuar zhvillimin shpërthyes të inteligjencës artificiale, por edhe të ngrihemi në nivelin më të lartë të profesionalizmit, i cili nuk do të dëmtojë aspak nëse njerëzimi dëshiron t'i mbijetojë ardhjes së makinave superinteligjente në botën e tyre.

Por, përpara se t'i kthejmë sytë nga e ardhmja, do të ishte e dobishme të kujtojmë shkurtimisht historinë e krijimit të inteligjencës së makinerisë.

Rruga e Shpresës dhe e Dëshpërimit

Artikuj të ngjashëm

2023-07-02 00:25:08

Sergej Shabanov - Inteligjenca Emocionale

Intelekti emocional. Praktika ruse Sergey Shabanov, Alena Aleshina (Nuk ka vlerësime ende) Titulli: Inteligjenca emocionale. Praktika ruseRreth librit "Inteligjenca Emocionale. Praktika ruse” Sergey Shabanov, Alena Aleshina Shumë...
Arsimi
2023-07-02 00:25:08

Lexoni në internet "Inteligjencën Artificiale"

Çfarë do të ndodhë nëse makinat i kalojnë njerëzit në inteligjencë? A do të na ndihmojnë apo do të shkatërrojnë racën njerëzore? A mund të injorojmë sot problemin e zhvillimit të inteligjencës artificiale dhe të ndihemi plotësisht të sigurt? Në librin e tij...
Ushqimi
2023-07-02 00:25:08

Mark Goulston dëgjoj drejtpërdrejt përmes jush

Titulli rusisht : Të dëgjoj - Një teknikë efektive e negociatave Titulli origjinal : Thjesht dëgjo: Zbulo sekretin për t'ia dalë mbanë absolutisht çdokujtMbulesa: Mark Goulston është një psikiatër, gazetar dhe konsulent biznesi. Autori...
Flora dhe Fauna

Kategoritë

Pamjet video

Një klasë master e detajuar që do t'i ndihmojë skulptorët e rinj të formojnë me lehtësi një qukapik nga plastelina
Hobi

Popullore

I ri