Pesimistiškiausias dirbtinio intelekto vystymosi scenarijus

2023, 2 liepos, 23:55 | kategorija Alternatyva | atsiliepimų dar nėra | peržiūrų 234 | Spausdinti šį Įrašą | Sarmatai

Ko baiminasi dirbtinio intelekto ekspertai?

Jie baiminasi, kad dirbtinis intelektas taps tiek pranašesnis už žmogaus intelektą ir galią, kad taps autonomiškas ir sukels plataus masto socialinę suirutę ar net prives prie žmonių rūšies išnykimo.

Daugiau nei 350 šios srities mokslininkų ir inžinierių neseniai įspėjo, kad dirbtinis intelektas kelia pavojų, prilygstantį pandemijų ir branduolinio karo padariniams. Atlikus 2022 m. dirbtinio intelekto ekspertų apklausą, vidutinė žmonių rūšies išnykimo arba rimto susvetimėjimo tikimybė buvo 1 iš 10.

„Tai jau nebe mokslinė fantastika”, – sakė Džefris Hintonas (Geoffrey Hinton), dažnai vadinamas „dirbtinio intelekto krikštatėviu” ir neseniai palikęs „Google”, kad įspėtų apie dirbtinio intelekto keliamą riziką. – „Daugybė protingų žmonių turėjo įdėti nemažai pastangų, kad išsiaiškintų, kaip elgsimės su galimybe prarasti kontrolę dirbtinio intelekto naudai.

Kada tai gali įvykti?

Hintonas manė, kad pavojus kils ne anksčiau kaip po 30 metų, tačiau dirbtinis intelektas vystosi taip greitai, kad jau po penkerių metų gali pralenkti žmones. „ChatGPT” ir „Bing” pokalbių robotai su dirbtiniu intelektu jau gali išlaikyti advokatūros ir gydytojo licencijos egzaminus.

Jie gali rašyti esė ir surinkti 99% IQ testų balų, o tai prilygsta genialumui. Hintonas ir kiti fatalistai baiminasi akimirkos, kai bendrosios paskirties dirbtinis intelektas, arba AGI, galės pranokti žmones beveik bet kurioje srityje.

Kai kurie ekspertai tokią galimybę lygina su staigiu aukštesnės ateivių rasės atvykimu į mūsų planetą. „Neturime jokio supratimo, ką jie sukurs čia atvykę, išskyrus norą užvaldyti pasaulį”, – sakė informatikas Stiuartas Raselas (Stuart Russell), dar vienas dirbtinio intelekto tyrimų pradininkas.

Kaip dirbtinis intelektas iš tikrųjų galėtų pakenkti?

Pagal vieną scenarijų priešiški veikėjai pasinaudos dirbtinio intelekto galimybėmis, kad sukurtų naujus biologinius ginklus, kurie bus mirtinesni už pandemijas. Integravus dirbtinį intelektą į pasaulio valdymo sistemas, teroristai ar nesąžiningi diktatoriai galėtų juo pasinaudoti, kad išjungtų finansų rinkas, elektros tinklus ir kitą gyvybiškai svarbią infrastruktūrą, pavyzdžiui, vandens tiekimą.

Pasaulio ekonomika sustotų. Autoritariniai lyderiai galėtų naudoti dirbtinio intelekto sukurtą itin tikrovišką propagandą ir klastotes pilietiniam karui ar branduoliniam konfliktui kurstyti.

Kai kuriuose scenarijuose pats dirbtinis intelektas būtų nekontroliuojamas jo kūrėjų. Norėdamas atsikratyti žmonių, jis sugeba apgauti valstybių vadovus, kad šie patikėtų, jog priešas į juos paleido branduolines raketas, ir išprovokuoti atsakomąjį smūgį.

Kai kurie mano, kad dirbtinis intelektas galės projektuoti ir kurti mašinas ir biologinius organizmus, kaip Terminatorius iš to paties pavadinimo filmų serijos, kad šie vykdytų jo nurodymus realiame pasaulyje. Taip pat yra tikimybė, kad dirbtinis intelektas sunaikins žmoniją be piktos valios, tiesiog siekdamas kokio nors kito tikslo.

Kaip tai galėtų nutikti?

Patys dirbtinio intelekto kūrėjai iki galo nesupranta, kaip tiksliai juo pagrįstos programos prieina prie savo išvadų, todėl savo užduotį jie gali įgyvendinti nenuspėjamais ir destruktyviais būdais. Vienas iš pavyzdžių – scenarijus, kai dirbtiniam intelektui pavedama pagaminti kuo daugiau segtukų.

Tam jis naudoja beveik visus žmogiškuosius išteklius, o kai žmonės bando sustabdyti procesą, dirbtinis intelektas gali nuspręsti, kad, norint pasiekti tikslą, juos reikia pašalinti.

Realesnis scenarijus numato, kad bandydamas spręsti visuotinio atšilimo problemą, dirbtinis intelektas nuspręs, kad žmonijos sunaikinimas yra greičiausias būdas sustabdyti anglies dioksido išmetimą. „Jis daro būtent tai, ko jo prašoma, bet ne taip, kaip tikėjotės, – aiškino knygos apie dirbtinio intelekto keliamą grėsmę autorius Tomas Čiversas (Tom Chivers).

Ar šie scenarijai nėra pritempti?

Kai kurie ekspertai labai skeptiškai vertina tai, kad dirbtinis intelektas gali sukelti apokalipsę. Jie sako, kad mūsų gebėjimas juo naudotis vystysis kartu su juo, o tikimybė, kad algoritmai ir technologijos sukurs savo valią, yra ne kas kita kaip perdėta baimė, įkvėpta mokslinės fantastikos, ir tikrai ne pragmatiškas rizikos įvertinimas.

Tačiau panikos šalininkai teigia, kad neįmanoma tiksliai numatyti kur kas pažangesnių nei šiandieninių dirbtinio intelekto sistemų elgesio, ir mano, kad atmesti pesimistiškiausius scenarijus yra trumparegiška ir neapgalvota.

Ką turėtume daryti?

Šis klausimas jau tapo karštų diskusijų tarp dirbtinio intelekto ekspertų ir visuomenės veikėjų objektu. Radikalūs fatalistai ragina visiškai nutraukti atitinkamus mokslinius tyrimus, paskelbti moratoriumą jų plėtrai ir sukurti specializuotas nacionalines ir tarptautines reguliavimo institucijas.

Stulbinantis dirbtinio intelekto gebėjimas susieti visas žmogaus žinias, įžvelgti dėsningumus ir sąsajas bei siūlyti kūrybiškus sprendimus, tikėtina, atneš pasauliui daug naudos – nuo ligų gydymo iki kovos su klimato kaita.

Tačiau mūsų pačių intelekto kūrimas taip pat gali turėti tamsesnių pasekmių. „Ant kortos pastatyta viskas, – sako Russellas. – Kaip galima amžinai dominuoti prieš galingesnį už save žmogų? Jei nekontroliuosime savo civilizacijos, prarasime bet kokį balsą dėl tolesnio jos egzistavimo.”

Baimė, gimusi iš beletristikos

Baimė, kad dirbtinis intelektas nugalės žmones, realiame pasaulyje gali būti neįprasta, tačiau romanuose ir filmuose ji jau seniai tapo populiaria tema. 1818 m. romane „Frankenšteinas” Mary Shelley rašė apie mokslininką, sukūrusį protingą būtybę, galinčią skaityti ir suprasti žmogaus emocijas – ir galiausiai sunaikinusį savo kūrėją.

1950 m. Izaoko Asimovo apsakymų rinkinyje „Aš, robotas” (I, Robot) žmonės gyvena tarp protingų robotų, kuriuos valdo trys robotų įstatymai, iš kurių pirmasis – niekada nepakenkti žmogui.

Vienas iš 1968 m. Stenlio Kubriko filmo „Kosminė odisėja” personažų yra kosminiame laive HAL esantis superkompiuteris, kuris žudo astronautus, nusprendusius jį išjungti. Dar turime „Terminatoriaus” frančizę ir jos pagrindinį antagonistą Skynet – kovinę informacijos ir kontrolės sistemą, kuri pradeda suvokti žmoniją kaip grėsmę ir bando ją sunaikinti branduoliniu smūgiu.

Neabejotina, kad yra ir daugiau dirbtinio intelekto įkvėptų projektų. Dirbtinio intelekto pradininkas Stuartas Russellas atskleidė, kad su juo susisiekė kino kūrėjas ir paprašė padėti pavaizduoti, kaip didvyris programuotojas išgelbsti žmoniją pergudraudamas dirbtinį intelektą. Russellas atsakė, kad joks žmogus neturi tokio galingo intelekto. „Panašu, kad negaliu jums padėti, atsiprašau”, – sakė jis.

 

Jūs galite paremti tinklapį SMS žinute arba PayPal. Visos jūsų paaukotos lėšos eis tinklapio plėtrai. Iš anksto dėkojame.