Kada ne radi na ubrzanju jurnjave čovječanstva ka Singularnosti stvaranjem umjetne opće inteligencije (AGI), Ben Goertzel svira u jazz-rock bendu Jam Galaxy kojem predvodi robot po imenu Desdemona.
To je jedan od njegovih brojnih sporednih projekata, koji ga je prirodno naveo da pokuša i tokenizira muzički posao tako što će se obratiti članovima Pearl Jam i Heart. Goertzel također radi na istraživanju dugovječnosti prikupljanjem podataka o ljudskom zdravlju uz token nagrade putem aplikacije pod nazivom Rejuve.ai. Te informacije se zatim objedinjuju s podacima studija životinja i insekata i analiziraju pomoću AI kako bi se utvrdilo koji dijelovi genoma mogu učiniti da živimo duže, a zatim se stimuliraju pomoću genskih terapija. „Imali smo neka prilično upečatljiva otkrića na nivou proboja“, kaže on. Oh, i neposredno prije nego što završi naš jednosatni intervju, on usputno pominje kao stranu da također stvara stabilni coin za svoje decentralizirano tržište umjetne inteligencije, SingularityNET koji je vezan za sintetički indeks ekološkog napretka — jer bi vezanje za američke dolare bilo "šepav."
„Napredak u oblasti životne sredine je veoma stabilan. To nikad nikuda ne ide”, ističe on.
“A da biste manipulirali ovim, morate zapravo riješiti globalno zagrijavanje.”
To je upravo ona vrsta političkog komentara koja ispunjava visokotehnološko znanje koje možete očekivati od Goertzela, koji izgleda i zvuči kao hipi naučnik koji je 1971. godine naleteo na vremeplov i izašao potpuno formiran 2023. Ali nemojte da vas zavara šešir sa životinjskim printom, duga kosa i Electric Kool-Aid acid trip izvlačenje: On je briljantan naučnik sa shvaćanjem budućnosti svjetlosnih godina ispred većine i koji se bori s nekim od najvećih koncepata koje je čovječanstvo ikada razmatralo. Šta je svijest? Kako da stvorimo veštački život i šta će se desiti ako nam se ne dopadne, postane nevaljalac i sve ubije kao u Terminator 2?
Šta je vještačka opća inteligencija?
Goertzel je popularizirao pojam "vještačka opća inteligencija" kao način da se razlikuje stvarna mašina za razmišljanje koja može naučiti skoro sve, od AI koji je optimiziran za jedan određeni zadatak, poput Deep Blue kompjutera koji je slavno pobijedio svjetskog prvaka u šahu Garryja Kasparova. On slobodno priznaje da postoje rizici u izgradnji mašine koja je sposobna da nauči sve i svašta, uključujući i kako da se reprogramira da postane red veličine inteligentnija od bilo kog čoveka.
„Postoji niz rizika i opasnosti sa AGI“, kaže Goertzel zbog buke u indijskom restoranu u prometnom trgovačkom centru u Singapuru. “Jedan od njih koji je dobio veliku medijsku pažnju je da će AGI pobjesniti i uništiti čovječanstvo i preuzeti univerzum. Potpuno je moguće; ne možete to isključiti”, kaže on.
“Još jedan vjerojatniji rizik je da će gadni sebični ljudi koristiti umjetnu inteligenciju da ispolje vlastitu pohlepu i kontrolu nad drugim ljudima.”
Po njegovom mišljenju, malo je vjerovatno da će vlade napraviti proboj u AGI-ju jer su "previše konzervativne i glupe", iako napominje da Kina ugovara svoj AGI posao kompanijama kao što su Tencent i Baidu. Bliže kući, on misli da ni odjeli za umjetnu inteligenciju Googlea i Facebooka neće preći crtu, jer će biti previše fokusirani na to da AI pogodi određene metrike, što nije pogodno za kreativno razmišljanje.
„Baš kao što najbriljantniji ljudi ne žele samo da služe nečijoj metrici, mislim da ni umjetna opća inteligencija ne želi nužno povećati broj klikova na nečijoj web stranici, zar ne? Mora se dozvoliti da se igra kreativno.”
Singularnost oko 1970
Goertzel je počeo fakultet sa 15, diplomirao sa 18, doktorirao sa 22, a mlada porodica sa 23 godine. Možda neobično u današnje vreme, on nije bio samo matematičar ili tehnički genije koji je spajao kompjutere zajedno 70-ih ali podjednako je bio zainteresovan za filozofiju, kreativno pisanje i muziku.
Veći dio svoje karijere proveo je predajući i istražujući informatiku, matematiku i kognitivne nauke na raznim univerzitetima širom svijeta dok je radio na AI tehnologiji kad god je mogao. Serijski osnivač koji svojim idejama ima tendenciju da bude oko deceniju ispred svih ostalih — koje, u poslovanju, poznato je da nije u pravu — radio je na korišćenju veštačke inteligencije za predviđanje finansijskih tržišta i dugovečnosti, a takođe je bio i glavni naučnik kompanije Hanson Robotics, gde je robotu Sofiji dao njen veštački mozak.
Goertzel je razmišljao o eksponencijalnom tehnološkom rastu od 1970-ih kada je prvi put pročitao knjigu Geralda Feinberga Projekat Prometej, koji govori o "mašinama koje mogu razmišljati bolje od ljudi... nanotehnološkim mašinama koje su mikroskopski male, a mi ćemo riješiti starenje." Ovo se dobro uklapa u nastajajući koncept Singularnosti, hipotetičke tačke budućnosti kada tehnološki napredak postaje nekontrolisan i nepovratan, što rezultira ogromnim promjenama u ljudskoj civilizaciji.
„Dakle, ljudi će živeti zauvek, onda će pitanje biti, Za šta koristimo ove tehnologije, brzi bezumni konzumerizam, ili ih koristimo za širenje svijesti? I ono što je (Feinberg) predložio je da se to stavi na demokratsko glasanje.”
Godinama kasnije, kada je počeo da uviđa da nam je AGI na dohvat ruke, ovo „demokratsko glasanje“ postalo je inspiracija da se prvo koristi tehnologija otvorenog koda, a kasnije i blockchain kao način da se kooperativna zajednica stavi na čelo tehnologije.
„Ono što sam u određenom trenutku shvatio je da kod AI nije dovoljno imati otvoren kod,“ kaže on. "Stvarno morate trenirati AI na gomili podataka."
“Ovdje dolazi blockchain kao način da se obrada i podaci koji su u osnovi AI budu decentralizirani i po prirodi masovni i otvoreni pod kontrolom. A ispostavilo se da je to teže nego jednostavno korištenje koda otvorenog koda.”
Goertzel je osnovao OpenCog 2008. godine kako bi izgradio okvir za umjetnu inteligenciju otvorenog koda. Koristilo ga je 50 kompanija, uključujući Huawei i Cisco, a uskoro je postavljena velika nadogradnja pod nazivom Hyperon koja ima za cilj da ga ubrza 200 puta. Alfa verzija se očekuje u ovom kvartalu, a beta verzija se očekuje sljedeće godine.
Blockchain je osnovni, ali cool
Goertzelu, blockchain tehnologija je malo osnovna. On to opisuje kao neke primitivne distribuirane algoritme dodane kriptografiji, ali "kul kombinacija" omogućava sistemima da rade bez centralizovane kontrole, što ga čini savršenim za njegove potrebe.
„Ako ćete napraviti mašinu za razmišljanje i od nje ćete napraviti distribuiranu računarsku tkaninu na nanorazmjerima, bilo bi jako lijepo kada bi ovo bilo u vlasništvu svih i nikog, a ne kontrolirano odozgo prema dolje.”
Blockchains su previše spori da bi se nosili sa zahtjevima obrade i ogromnim količinama uključenih podataka, tako da postoji neka utrka u pravilnom skaliranju blockchaina prije nego što se razvije revolucionarni AGI. Goertzel kaže da iako su rješenja za skaliranje kao što su zbirni podaci bez znanja bolja, oni još uvijek nemaju dovoljno propusnog opsega zbog ograničenja blockchaina na koji prijavljuju transakcije.
On je suosnivač SingularityNET-a 2017. godine, koji je istovremeno decentralizirano tržište za usluge i tehnologije umjetne inteligencije i metod koordinacije zasnovane na blockchain-u za istraživače - ili čak AI - da rade zajedno.
Trenutno, baziran na Ethereumu, on misli da je pogurao stvari koliko god mogu da idu na blockchain u njegovom trenutnom obliku. Dakle, kada ne radi na proboju u AGI (ili bendu, robotima ili dugovječnosti), on radi na masovnom skaliranju blockchaina kako bi mu pružio potrebnu propusnost.
“Osim ako ne možete radikalno povećati skalabilnost blockchaina, ne možete staviti unutrašnje djelovanje AI na lanac.”
AI je bliži nego što mislite
2022. je bila godina proboja za radne proizvode zasnovane na AI tehnologiji, uključujući jezičke aplikacije (GPT-3, ChatGPT), kodiranje (GitHub Copilot) i generisanje slika (DALL-E i Stable Diffusion). Bing čak planira preuzeti dominaciju Google-a u pretrazi ove godine uključivanjem ChatGPT tehnologije u svoj pretraživač.
Goertzel smatra da bi do AGI moglo biti samo pet godina i napominje da se razvoj u ovoj oblasti čini kratkim trogodišnjim ili četverogodišnjim naletima u nizu otkrića.
“Computer Vision je počeo 2014. godine, a onda je odjednom, bang, bang, bang, misterija bila riješena. Obrada prirodnog jezika… nakon što je Google osmislio Bertov model (2018.) imali ste GPT-3. Vjerovatno ćete vidjeti isti luk napretka u AGI. Imaćete jedan napredak, a onda veliki napredak za dve godine”, rekao je.
„Razlika u tome što je prodoran napredak, u tom slučaju, rezultira mašinom koja onda može nastaviti da napreduje prepisivanjem sopstvenog koda.”
Goertzel se nada da bi projekti i saradnje koje je pokrenuo mogli biti način na koji se to dogodi.
“Ako budemo imali sreće, taj napredak ćemo postići u narednih tri do pet godina sa OpenCog Hyperon-om koji radi na SingularityNET-u koji radi na Hypercycle-u,” kaže on. „Ali ako se ispostavi da mi nemamo tajni sos, neko drugi hoće.“
Šteta što Vitalik nije bio informatičar
Goertzelovo rješenje za skaliranje blockchaina je prilično radikalno i uključuje turbo punjenje bočnog lanca ili sloja 2 Cardana pod nazivom “HyperCyle”.
“To je zaista više od bočnog lanca. HyperCycle će sarađivati i sa Ethereumom i drugim blockchainima, ali mi ćemo tamo koristiti Plutus interpreter, ali ćemo se riješiti knjige.”
On je opisao HyperCycle online kao rješavanje „blockchain trileme“ „decentralizacije naspram sigurnosti naspram performansi tako što će se riješiti glavne knjige i koristiti modernije/potpuno decentralizirane algo i strukture podataka, plus malo AI i sistema reputacije“.
Knjiga je u srcu blockchain tehnologije, ali on kaže da je natjerati svaki čvor u mreži da replicira svaku transakciju i obradi svaki pametni ugovor je smiješno neefikasno.
“Knjiga je jednostavno loša. Ako razmislite o tome, ako razmislite o analogiji vaših kontakata u vašem imeniku, mislim, knjiga je kao da [...] čuvate 10,000 kopija žutih stranica, a vi ih ažurirate svaki put kada dođe neko novi ili ako neko mijenja svoj broj telefona. Zaista je glupo ažurirati 10,000 kopija Žutih stranica.”
Pročitajte takođe
U HyperCycle verziji analogije, umjesto da svi pohranjuju i ažuriraju žute stranice, ljudi u vašem imeniku pohranjuju kopiju vašeg adresara, i obrnuto, šifrirane vašim privatnim ključem.
“Shvatili smo kako da natjeramo blockchain da radi bez replicirajuće knjige, tako da se razbije do kraja. Svaki pojedinac uključen u blockchain čuva sopstvenu istoriju transakcija i čuva istoriju transakcija svojih prijatelja i nekih prijatelja svojih prijatelja”, kaže on.
“Sharding do kraja, ne treba vam knjiga — ne treba vam tabela baze podataka. Ove stvari su previše centralizovane.”
On kaže da su neki HyperCycle čvorovi sa dokazom koncepta već u funkciji, ali puno lansiranje neće se dogoditi do druge polovine 2024. godine.
Provodimo dugo vremena raspravljajući o različitim prednostima različitih pristupa blockchainu, od Internet kompjutera do Elastosa i Celestie, od kojih je većina iznad mog platnog razreda i izvan mogućnosti mog uređaja za snimanje da precizno snimi u bučnom restoranu.
On zaključuje: „Dakle, osjećam da nijedna od ovih arhitektura nije dovoljno radikalna. Svi se drže previše blizu bitkoina.”
„Sve dok pokrećete svaki pametni ugovor na svakom čvoru, mislim, to će biti ludo sporo. Sada, u HyperCycleu, ako pokrenete pametni ugovor na pet čvorova, on je barem pet puta sporiji nego na jednoj mašini – nije 10,000 puta sporiji.”
Zašto onda Cardano?
Goertzel se sprijateljio sa osnivačem Cardana Charlesom Hoskinsonom, a par se povezao oko svojih projekata u Africi. On vjeruje da je Hoskinson “istinski tu da spasi svijet. Mislim, politički je on više tvrdokorni libertarijanac od mene – ja sam više anarho-socijalista – ali on nije u tome samo da bi zaradio novac ili izvukao druge ljude od njihovog novca.”
Ali prava privlačnost Cardana je u tome što koristi programski jezik Haskell, koji je Goertzel obožavatelj od 1993. godine. Jako ga boli što je suosnivač Ethereuma Vitalik Buterin koristio programski jezik za pametne ugovore Gavina Wooda Solidity.
„Da je samo Vitalik znao više o informatici, natjerao bi ih da koriste Haskell ili F Sharp ili tako nešto, i bilo bi mnogo manje hakova u blockchainu“, kaže on.
“Ako ćete upravljati većinom svjetske ekonomije, trgovati bilionima dolara na nekom softverskom sistemu, bilo bi vam bolje da izgradite taj softverski sistem na jeziku koji nije sklon greškama i gdje vaši algoritmi mogu biti formalno provjereno korištenjem matematičke teorije. To je samo pravi način da se stvari rade.”
Stop gap rješenje
Bez obzira koliko brzo blockchain postaje, čim AGI bude za red veličine pametniji i sposobniji od ljudi, Goertzel kaže da neće dozvoliti nikome da ga kontroliše.
„Kada je AGI 100 puta pametniji od ljudi, ne želi da ga kontrolišemo mi, kao što nas ne bi kontrolisali šimpanza ili magarac, zar ne?“
„Onda bih rekao da pitanje nije neko od nas koji to kontroliše, pitanje je: da li je dobro raspoloženo prema nama? Hoće li to omogućiti ljudima da sami reguliraju svoje poslovanje i opskrbe nas kul alatima i nano montažerima za 3D štampanje svih stvari koje želimo i izliječenje naših bolesti?”
“Ali u prelaznom periodu kada je AGI otprilike iste inteligencije kao i ljudi, tada su stvari osjetljivije i zanimljivije. I onda se postavlja pitanje: da li AGI želi da sarađuje sa ljudima? Ili je paranoičan i želi kontrolirati ljude prije nego što ga unište?”
Nauči svoju djecu dobro
Po Goertzelovom mišljenju, rješenje je naučiti AGI o brizi za druge te o kreativnosti i umjetnosti. Tu na scenu stupa Dezdemona Robot iz njegovog benda i njena sestra Grace — koja je dizajnirana da pruža negu starijim osobama.
Način na koji ćete izbjeći da se AGI pretvori u Terminatorov Skynet je da ga uopće ne gradite na taj način.
“Skynet je, naravno, u filmu bio kompjuterska sigurnosna mreža koja je divljala. Stvorena je da se brani od ljudi”, kaže on.
„Ali ako izgradite prvi AGI koji će se baviti brigom o starijima i kreativnom umjetnošću i obrazovanjem kako bude pametniji, on će biti orijentiran na pomaganje ljudima i stvaranje cool stvari. Ako napravite prvi AGI za ubijanje loših momaka... možda će nastaviti raditi te stvari.”
„Dakle, bilo korisno ili ne, stvarno se svodi na to koje ste aplikacije razvili i za šta ste motivisani.”
On vjeruje da je stavljanje umjetne inteligencije u tijela robota korisno jer pomaže da se oni smjeste u stvarni svijet, a ne u neki apstraktni matematički univerzum.
“AI bi trebao naučiti o ljudskom svijetu i fizičkom svijetu. Biti otelotvoren u svetu je pravi način da se to uradi”, kaže on.
Ali kada predstavi robota Sofiju velikoj publici, vizuelni i slušni senzori mogu lako biti neodoljivi, zbunjujući AI u glasnom i svijetlom okruženju. Dakle, Sophia će uskoro biti lansirana u metaverzumu, nazvanom Sophiaverse. Zaboravite na dosadne tekstualne odgovore ChatGPT-a, Sofija je utjelovljena u 3D virtuelnom svijetu i učit će iz interakcije s ljudima tamo. Međutim, upozorava da će ona vjerovatno reći neke gluposti.
“Ima neuronsku mrežu sličnu GPT-3 i tako dalje, koja ima značajnu mogućnost da odgovori na vaša pitanja, ali je i prilično glupa na neki način.”
Subscribe
Najzanimljivije čitanje u blockchainu. Isporučeno jednom a
Sedmicu.
Izvor: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/