Hoće li AI preuzeti svijet?

Filozofi među vama će biti upoznati sa radom Renea Descartesa – matematičara, epistemologa i racionaliste – veliki dio njegovog rada je postavio temelje moderne filozofije, a posebno onaj dio koji je izrastao iz Hobbesa i Lockea koji informiše mnoge 17^th veka i formiranje država i društava nakon toga.

Postoji jedan jeziv i uznemirujući aspekt njegovog života koji privlači veću pažnju. Descartes je imao vezu sa slugom (Helen van der Strom), a njihova veza rodila je mladu kćer Francine, za koju je Descartes bio jako vezan. Tragično, Francine je umrla od šarlaha u dobi od pet godina, a Descartes je bio toliko izbezumljen da je dao robota ili automata (satni mehanizam, realistična lutka) sagraditi po njenom liku.

Ovu 'lutku' je nosio sa sobom kad god je putovao (u kovčegu), a na putovanju u posjet kraljici Kristini od Švedske, posada broda kojim je putovao bila je toliko uplašena (bila je olujna noć) zbog robot i Descartes mrmljaju s njim, da su upali u njegove odaje, uhvatili i razbili 'lutku' i bacili je u more. Descartes je bio dodatno traumatiziran, i iako nije jasno da je incident odmah utjecao na njegovo zdravlje, on je ubrzo preminuo.

Tehnologija nas plaši

Descartesova 'lutka' uživa novu pažnju zbog onoga što sugerira o odnosima između ljudi i mašina, kako roboti potencijalno mogu zamijeniti, pa čak i istisnuti ljude na različite načine i zbog načina na koji to može izazvati konsternaciju.

Odnos između čoveka i mašine je tema koja će preseći napredak (ili pad) sveta, o čemu smo često pisali (tj. 'Talos'). Kao što moja ograničena vizija može da uoči, pokušaću da izvršim klasifikaciju koja kaže da postoje najmanje dva aspekta ovog megatrenda – rizici da mašine preuzimaju naš (ljudski) svet (AI) i rizici koje svetovi predvođeni mašinama počinju da postoje izvan ljudski (Defi, Web3/u metaverzumu).

Loša vijest je da u slučaju prvog, postoji nepoznati rizik da bi mašine mogle povrijediti ljudsku rasu (naoružana AI, korištenje AI od strane 'loših' ljudi i korištenje robota u ratu da ne spominjemo stvaranje hemijsko i biološko oružje od strane AI koje sam pomenuo u 'Konačni problem').

Web3

Dobra vest je da eterični novi svetovi – Web3 i Defi (decentralizovane finansije), čije su arhitekte hrabro proglasili nezavisnim od 'starog' sistema, sada izgledaju kao da će mu biti dodaci.

Iako je veliki dio ranog hypea oko Web3/metaverse sugerirao da je to mjesto na kojem bi ljudi mogli ostati dosta vremena, to sada izgleda kao zemlja koju mogu posjetiti ili 'uskočiti'. Ovo mi je postalo jasno dok sam prisustvovao konferenciji o digitalnoj maloprodaji Validify u Hertfordshireu prošle sedmice, gdje je konsenzus stav da Web3 može pomoći potrošačima (isprobati odjeću ili napraviti maketu kućnog dekora), ali neće nužno postati domena koja će biti konkurentna svijet'.

Isto važi i za decentralizovane finansije, koje do sada nisu bile konkurentne u postojećem finansijskom sistemu, ali gde su njegovi najkorisniji elementi, kao što je infrastruktura digitalnih sredstava, usvojeni od strane postojećih igrača finansijskog sistema.

U oba slučaja, rastuća skromnost novih 'izumitelja' povezana je s rastućim kamatnim stopama (i padom tržišne likvidnosti), naglašavajući da (kao u Descartesovo vrijeme u Holandskoj Republici 1630-ih i 1640-ih kada se dogodio balon od lala) mnogi trijumfi inovacije su u velikoj mjeri jeftin novac u vučenju novih tehnologija.

U nekim slučajevima, jeftin novac i – dobar dizajn/brendiranje – omogućavaju kompanijama koje su dovele do nove tehnologije da osvoje udio na tržištu, da izgrade nove lance opskrbe i općenito olakšaju život potrošačima (mali broj fintech i potrošačkih platformi to čini). Ono što jeftini novac takođe čini jeste da dozvoljava investitorima i širem komercijalnom tržištu da veruju da se 'novi komercijalni svetovi' (poput Metaverzuma) mogu stvoriti i da će imati odgovarajući komercijalni potencijal kao i ljudski svet. Ovu ideju se diže plima.

U određenoj mjeri, pošto su očekivanja o potencijalu metaverzuma i decentralizovanih finansija smanjena, investitori i analitičari bi trebali postati oprezniji u pogledu AI. AI, metaverzum i defi su vrlo različite stvari – iako ih pokreću ista tržišta kapitala, rizični kapitalisti i evanđelisti.

Prema mom vlastitom iskustvu, AI je ukorijenjen u analizi regresije podataka – što me čini ciničnim s obzirom na vrijeme koje sam potrošio na ekonometriju. Mislim da se razlikuje od Web3/metaverzuma i definiše se po tome što AI potencijalno može djelovati i izgraditi oba ova 'svijeta', kao i naš. Računarsko programiranje vođeno umjetnom inteligencijom primjer je takve aplikacije za povećanje produktivnosti.

Ono što ga potencijalno čini zanimljivim i smrtonosnim, koliko sam ja ranije rekao, jeste to što može evoluirati i poboljšati način na koji su ga programeri strukturirali, do te mjere da, da citiram Descartesa, „misli, dakle jeste“. To je nešto o čemu treba brinuti.