Generativni AI ChatGPT naspram onih beskonačnih majmuna koji kucaju, nijedno takmičenje kaže etika AI i zakon o AI

Ti razulareni majmuni.

Postoji prilično poznat misaoni eksperiment za koji ste možda čuli da uključuje majmune. Sasvim intrigantna izmišljotina često se koristi od strane onih koji žele posebno naglasiti.

Evo kako ide radnja.

Zamislite da majmun kuca na pisaćoj mašini. Ako majmun nastavi kucati beskonačno vrijeme, i pod pretpostavkom da majmun tipka ključeve čisto nasumično, velika je vjerojatnost da će cjelokupna Shakespeareova djela neizbježno biti otkucana.

Suština je naizgled u tome da je samo slučajnim slučajem ponekad moguće dobiti razumljiv odgovor. Svi smo skloni da se složimo da su Šekspirova dela ogromna izložba razumljivog pisanja i rasuđivanja. Dakle, bilo šta ili bilo koji način da se proizvedu Shakespeareove cijenjene riječi bi izgledalo zapanjujuće impresivno, iako bismo, u isto vrijeme, bili oštro iznevjereni da to nije bila inteligencija sama po sebi, već puka slučajna sreća.

Neki danas pokušavaju da uporede ovu metaforu punu majmuna sa najnovijom u oblasti veštačke inteligencije (AI).

Vjerovatno znate da je najtopliji oblik AI ovih dana Generativna AI, što je ilustrovano putem široko i veoma popularne AI aplikacije poznate kao ChatGPT koju je napravio OpenAI. Uskoro ću objasniti više o generativnoj AI i ChatGPT-u. Za sada, samo znajte da je ovo AI aplikacija za pretvaranje teksta u tekst ili tekst u esej koja može proizvesti esej za vas na osnovu unesenog upita po vašem izboru.

Tvrđena veza koja se odnosi na legendarnog majmuna kucanja je da navodno impresivni eseji koje je proizvela generativna umjetna inteligencija koji izgledaju potpuno tečno nisu ništa više zapanjujući od postignuća primata koji kuca. Ako prihvatite premisu da majmun koji nasumično kuca može generirati Shakespeareova djela, i ako ste voljni priznati da su ChatGPT i druga generativna AI prividno isti, morate zaključiti da generativna AI uopće nije posebno vrijedna pažnje. To je samo slučajnost koja nas zavarava.

Pa, ovo može izgledati kao uvjerljiv slučaj, ali moramo ga raspakirati. Pažljivo raspakivanje će pokazati da je poređenje između njih dvoje pogrešno i očigledno pogrešno.

Prestani da praviš poređenje. Za one koji insistiraju na daljem poređenju, molimo vas da to barem učinite na razborit i neograničen način.

Oni koji jednostavno bacaju poređenje čine medvjeđu uslugu generativnoj AI. I još važnija briga je da ovo dovodi u zabludu širu javnost i društvo u cjelini. Pretpostavljam da bismo mogli dodati i da oni rade medvjeđu uslugu i marljivim majmunima, ili možda potkopavaju vrijednost teoreme o beskonačnom tipovanju majmuna. Budite pošteni. Budi ljubazan. Budite iskreni.

Prije nego što se udubimo u ovo, postoji jedna šala koja koristi pojam majmuna koji kuca. Možda ti se sviđa.

Cinični dio humora često se vodi do lične prepiske tokom početnog procvata interneta. Tada je Internet prerastao iz mračnog ozbiljnog onlajn carstva i prešao na teritoriju nesporazuma da bude bučan, bučan i neposlušan, jer je broj ljudi koji koriste Internet rastao vidljivo.

Šaljiva anegdota kaže da ako bi majmuni koji kucaju na pisaćim mašinama na kraju proizveli ili da tako kažemo reproducirali cjelokupno Shakespeareovo djelo, sada imamo dokaz da zahvaljujući pojavi interneta to mora definitivno ne biti istina

Da li se smejete?

Neki ovo tumače kao burno smiješnu primjedbu.

Šala je omalovažavanje kako se internet sa svim svojim zapjenjenim i bljuvanjem objava nikako ne penje na nivo proizvodnje Shakespearea. To je oštro rezna opaska koja naglašava da internet vjerovatno nije uzdigao diskurs, već je ocrnio diskurs. Mnogi su pretpostavili da će internet biti blagodat za inteligentnu interakciju, omogućavajući diskusije koje izazivaju razmišljanje širom svijeta. Čini se da nismo nužno svjedočili ovome na tolikoj osnovi koliko smo se nadali.

Naravno, bili bismo neozbiljni kada bismo šalu shvatili kao istinsku preteču onoga što je internet napravio. Postoji mnogo sjajnih otkrića i značajnih vrijednosti povezanih s internetom. Šala je uljepšavanje ili preuveličavanje. Bez obzira na to, dobro je shvaćeno da moramo paziti na podmukle sadržaje, dok istovremeno težimo ka pronalaženju i podizanju društveno inspirativnih djela putem interneta. Za moje izvještavanje o tome kako AI može pomoći, a ipak u a dvostruka upotreba moda potkopava društveni diskurs putem štetnih objava na internetu, pogledajte moju raspravu na link ovdje.

U današnjoj kolumni ću se pozabaviti značajnim razlikama između generativne AI i klasične priče o majmunima koji kucaju. Objasniću gde poređenje nije dovoljno. Nesumnjivo ćete na kraju saznati više o teoremi o kucanju majmuna, zajedno s konkretnijim razumijevanjem kako generativna AI funkcionira. Povremeno ću se osvrnuti na ChatGPT jer je to gorila od 600 funti generativne AI (namjera igre riječi), iako imajte na umu da postoji mnogo drugih generativnih AI aplikacija i one su općenito zasnovane na istim općim principima.

U međuvremenu, možda se pitate šta je zapravo generativna AI.

Hajde da prvo pokrijemo osnove generativne veštačke inteligencije, a zatim možemo da pogledamo pobliže poređenja teorema o kucanju majmuna.

U sve ovo dolazi niz razmatranja etike AI i prava.

Imajte na umu da postoje stalni napori da se etički principi AI unesu u razvoj i primjenu AI aplikacija. Sve veći kontingent zabrinutih i nekadašnjih etičara AI pokušava osigurati da napori na osmišljavanju i usvajanju AI uzimaju u obzir pogled na rad AI za dobro i odvraćanje AI za loše. Isto tako, postoje predloženi novi zakoni o umjetnoj inteligenciji koji se razmjenjuju kao potencijalna rješenja kako bi nastojanja umjetne inteligencije spriječila da pobesne o ljudskim pravima i slično. Za moje kontinuirano i opsežno pokrivanje etike AI i prava AI, pogledajte link ovdje i link ovdje, Da nabrojimo samo neke.

Razvoj i objavljivanje etičkih pravila AI se nastavljaju kako bi se, nadamo se, spriječilo da društvo upadne u bezbroj zamki koje izazivaju AI. Za moje izvještavanje o etičkim principima UN AI koje je osmislilo i podržalo skoro 200 zemalja kroz napore UNESCO-a, vidi link ovdje. Na sličan način, istražuju se novi zakoni o AI kako bi se pokušala održati AI na ravnoj kobilici. Jedan od najnovijih snimaka sastoji se od skupa predloženih AI Povelja o pravima koju je američka Bijela kuća nedavno objavila da identifikuje ljudska prava u doba AI, vidi link ovdje. Potrebno je selo da se AI i AI programeri održe na pravom putu i odvrate namjerne ili slučajne lažne napore koji bi mogli potkopati društvo.

U ovu diskusiju ću preplitati razmatranja vezana za etiku umjetne inteligencije i pravo na umjetnu inteligenciju.

Osnove generativne AI

Najpoznatiji primjer generativne AI predstavlja AI aplikacija pod nazivom ChatGPT. ChatGPT je ušao u javnu svijest još u novembru kada ga je objavila AI istraživačka firma OpenAI. Otkako je ChatGPT pokupio velike naslove i zapanjujuće premašio svojih petnaest minuta slave.

Pretpostavljam da ste vjerovatno čuli za ChatGPT ili možda čak znate nekoga ko ga je koristio.

ChatGPT se smatra generativnom AI aplikacijom jer uzima kao unos neki tekst od korisnika, a zatim generiše ili proizvodi rezultat koji se sastoji od eseja. AI je generator teksta u tekst, iako ja opisujem AI kao generator teksta u esej jer to lakše pojašnjava za šta se obično koristi. Možete koristiti generativnu umjetnu inteligenciju za sastavljanje dugih kompozicija ili je možete natjerati da ponudi prilično kratke sadržajne komentare. Sve je po vašoj želji.

Sve što trebate učiniti je unijeti upit i AI aplikacija će za vas generirati esej koji pokušava odgovoriti na vaš upit. Sastavljeni tekst će izgledati kao da je esej pisan ljudskom rukom i umom. Ako unesete prompt koji kaže „Pričaj mi o Abrahamu Linkolnu“, generativna AI će vam dati esej o Linkolnu. Postoje i drugi načini generativne AI, kao što su tekst u umjetnost i tekst u video. Ovdje ću se fokusirati na varijaciju teksta u tekst.

Vaša prva pomisao bi mogla biti da ova generativna sposobnost ne izgleda tako velika stvar u smislu izrade eseja. Možete lako pretražiti internet na internetu i lako pronaći tone i tone eseja o predsjedniku Linkolnu. Potres u slučaju generativne AI je da je generirani esej relativno jedinstven i daje originalnu kompoziciju, a ne kopiju. Ako biste pokušali pronaći esej koji je proizvela umjetna inteligencija negdje na internetu, malo je vjerovatno da ćete ga otkriti.

Generativna AI je unaprijed obučena i koristi složenu matematičku i računsku formulaciju koja je postavljena ispitivanjem obrazaca u pisanim riječima i pričama širom weba. Kao rezultat ispitivanja hiljada i miliona pisanih pasusa, AI može izbaciti nove eseje i priče koje su mešavina onoga što je pronađeno. Dodavanjem različitih probabilističkih funkcionalnosti, rezultirajući tekst je prilično jedinstven u poređenju sa onim što je korišteno u setu za obuku.

Postoje brojne zabrinutosti oko generativne AI.

Jedna ključna mana je da eseji koje proizvodi generativna AI aplikacija mogu imati ugrađene različite neistine, uključujući očigledno neistinite činjenice, činjenice koje su pogrešno prikazane i prividne činjenice koje su u potpunosti izmišljene. Ti izmišljeni aspekti se često nazivaju oblikom AI halucinacije, fraza koju ne volim, ali na žalost izgleda da ionako postaje popularna (za moje detaljno objašnjenje zašto je ovo loša i neprikladna terminologija, pogledajte moje izvješće na link ovdje).

Još jedna zabrinutost je da ljudi mogu lako preuzeti zasluge za generativni esej koji je proizvela umjetna inteligencija, uprkos tome što sami nisu sastavili esej. Možda ste čuli da su nastavnici i škole prilično zabrinuti zbog pojave generativnih AI aplikacija. Učenici potencijalno mogu koristiti generativnu umjetnu inteligenciju za pisanje zadatih eseja. Ako učenik tvrdi da je esej napisan svojom rukom, male su šanse da će nastavnik moći razaznati da li ga je umjesto toga krivotvorila generativna AI. Za moju analizu ovog zbunjujućeg aspekta učenika i nastavnika, pogledajte moje izvješće na link ovdje i link ovdje.

Na društvenim mrežama pojavile su se neke lude prevelike tvrdnje o tome Generativna AI tvrdeći da je ova najnovija verzija AI u stvari razumna AI (ne, nisu u pravu!). Oni iz oblasti etike veštačke inteligencije i prava veštačke inteligencije posebno su zabrinuti zbog ovog rastućeg trenda rasprostranjenih potraživanja. Mogli biste pristojno reći da neki ljudi precjenjuju ono što današnja umjetna inteligencija zapravo može učiniti. Pretpostavljaju da AI ima sposobnosti koje mi još nismo uspjeli postići. To je nesretno. Što je još gore, mogu dozvoliti sebi i drugima da dođu u strašne situacije zbog pretpostavke da će AI biti razuman ili sličan čovjeku u mogućnosti da preduzme akciju.

Nemojte antropomorfizirati AI.

Na taj način ćete biti uhvaćeni u ljepljivu i krutu zamku oslanjanja na očekivanje da AI radi stvari koje nije u stanju da izvede. Uz to, najnovija generativna AI je relativno impresivna za ono što može učiniti. Ipak, budite svjesni da postoje značajna ograničenja koja biste trebali stalno imati na umu kada koristite bilo koju generativnu AI aplikaciju.

Za sada jedno poslednje upozorenje.

Šta god da vidite ili pročitate u generativnom odgovoru AI čini da bude preneto kao čisto činjenično (datumi, mesta, ljudi, itd.), budite skeptični i budite spremni da još jednom proverite šta vidite.

Da, datumi se mogu izmisliti, mjesta se mogu izmišljati, a elementi za koje obično očekujemo da će biti bez zamjerke su sve predmet sumnji. Ne vjerujte onome što pročitate i budite skeptični kada ispitujete bilo kakve generativne eseje ili rezultate AI. Ako vam generativna AI aplikacija kaže da je Abraham Lincoln leteo po zemlji u svom privatnom avionu, nesumnjivo biste znali da je to malargija. Nažalost, neki ljudi možda ne shvataju da mlaznjaci nisu postojali u njegovo vreme, ili možda znaju, ali ne primećuju da esej iznosi ovu drsku i nečuveno lažnu tvrdnju.

Jaka doza zdravog skepticizma i uporni način razmišljanja u nevjerici bit će vaša najbolja prednost kada koristite generativnu umjetnu inteligenciju.

Spremni smo da pređemo u sledeću fazu ovog rasvetljavanja.

Šta se dešava sa tim majmunima koji kucaju

Sada kada imate privid šta je generativna AI, možemo istražiti poređenje sa majmunima koji kucaju. U određenom smislu, ja ću korak po korak postepeno rastavljati teoremu o kucanju majmuna. To radim da bih osvetlio osnove. Zatim možemo koristiti otkrivene elemente da napravimo poređenje sa generativnom umjetnom inteligencijom.

Teorema ili hipoteza o kucanju majmuna sadrži osnovni skup elemenata:

• a) Ko ili šta. Identificirano stvorenje ili glumac koji kuca
• b) Broj i dugovečnost. Koliko ih ima i njihov status dugovječnosti
• c) Izlazni simboli. Proizvodnja slova i poznatih simbola putem rudimentarnog uređaja
• d) Vrijeme. Dužina trajanja zadatka
• e) Inteligencija. Kakvu pamet unose u obavljanje zadatka
• f) Ciljani izlaz. Ciljani rezultat onoga što želimo da proizvedu

Hajde da prvo ispitamo majmune koji kucaju.

Možda se sećate da sam na početku ove diskusije spomenuo da treba da zamislimo da majmun kuca na pisaćoj mašini. Ja sam se osvrnuo na osnovne koncepte kao da samo jedan majmun to radi. Možemo prilagoditi taj aspekt.

Evo načina na koje se situacija često prikazuje:

• Jedan usamljeni majmun svakodnevnog smrtničkog postojanja
• Hiljadu takvih majmuna
• Milion takvih majmuna
• Beskonačan broj takvih majmuna
• Usamljeni majmun koji je besmrtan
• Neki broj besmrtnih majmuna
• Itd

Primijetite da umjesto da imamo samo jednog majmuna, mogli bismo preoblikovati misaoni eksperiment i imati mnoštvo majmuna koji rade vjerovatno istovremeno. Nadalje, drugi podesivi aspekt je da li su majmuni smrtni ili besmrtni. Uskoro ću detaljnije proučiti ovo.

Takođe moramo uključiti faktor vremena kao ključni sastojak.

Obično je faktor vremena jedno od ova dva razmatranja:

• Konačan vremenski period
• Beskonačno vreme

Još jedan pomalo neizrečeni element u osnovi je da se u ovom slučaju koriste majmuni jer ih smatramo relativno bezumnim. Ne znaju ni čitati ni pisati. Oni nisu u stanju da ispolje inteligenciju na isti način na koji mi povezujemo inteligenciju sa ljudskim kapacitetima.

Ovo je pomalo uvredljivo kada malo razmislite. Mislim da se svi s razlogom možemo složiti da su majmuni nevjerovatno pametni, barem za ono što mogu postići unutar svojih granica razmišljanja. Usudio bih se reći da majmunima pripisujemo veću sposobnost razmišljanja nego mnogim drugim životinjama. Postoji mnogo studioznih istraživačkih eksperimenata koji su urađeni kako bi pokazali koliko majmuni mogu biti mentalno oštri.

U svakom slučaju, za potrebe metafore, pretpostavka je da majmuni nisu u stanju razmišljati u mjeri u kojoj bi mogli sami zamisliti Šekspirova djela. Dok klasični film Planeta majmuna pokušao da nas upozori da bi ovo mogla biti pogrešna pretpostavka, mi u svakom slučaju idemo s tim u današnjem svijetu.

Ako majmune zamijenimo mravima, metafora se donekle rasprši. Ne shvatamo da mravi mogu kucati na pisaćim mašinama. Mogli bismo pokušati zamijeniti korištenje pasa ili mačaka budući da su gotovo mogli kucati na pisaćoj mašini, ali na kraju, korištenje majmuna je najbolje jer oni mogu kucati na način koji podsjeća na tipkanje ljudi. Imaju odgovarajuće udove i strukturu tijela za obavljanje zadatka. Oni se također mentalno smatraju sposobnima za kucanje, iako pretpostavljamo da ne znaju šta kucaju.

Sa strane, bilo je mnogo istraživačkih eksperimenata koji su uključivali majmune i njihovo prepoznavanje simbola. U ove različite studije uključene su postavke u kojima su majmuni kucali na pisaćim mašinama ili sličnim uređajima. Ako se radi na odgovarajući način, ovo može imati smisla u potrazi za korisnim uvidima o inteligenciji i nastanku inteligentnih ponašanja.

Nažalost, istraživanje koje uključuje kucanje na pisaćim mašinama ponekad nije urađeno na posebno ozbiljan način. Ponekad, korišteni pristup nije bio ništa drugo do slabašan namig-namigivanje poznatoj ili zloglasnoj teoremi o kucanju majmuna, prije nego na bona fide temeljna istraživanja. Takve ludorije ne smatram zabavnim ili prikladnim. Smatralo se da su majmuni fizički dobili pisaće mašine i ohrabrivali ih da kucaju na osnovu svog hira ili ponekad zbog poslastica kao što je hrana. Osim ako se ovo ne radi na bona fide robustan eksperimentalni način, to nije ništa drugo do fasada.

Lagani zaokret koji je ugodniji sastoji se od postavljanja kompjuterskih simulacija koje bi trebalo da izvedu ono što bi majmuni mogli učiniti u ovim okolnostima. Računar se koristi za simulaciju ovih aspekata. Nema stvarnih majmuna. Neki su čak otišli toliko daleko da su napravili malo tzv nauka o građanima tako što će simulaciju podijeliti svakome ko želi dozvoliti korištenje svog laptopa ili kompjutera za ove napore. Nemojte nasjedati na lažne prevare koje podmuklo tvrde da to rade za nauku, dok je stvarnost da pokušavaju da zaraze vaš računar kompjuterskim virusom. Budite oprezni.

Da se vratim na stvar.

Jedan aspekt koji je takođe važan za ovu okolnost je da se pisaće mašine koriste u ovoj hipotetici kucanja majmuna.

Zašto pisaće mašine?

Jer tako možemo dobiti proizvodnju slova, koja se onda mogu oblikovati u riječi, koje se onda mogu oblikovati u priče. Isti ili sličan pojam proizvodnje puno slova ne zahtijeva nužno da ih otkucamo. Zaista, postoje varijante ove metafore koje sežu do Aristotelove dane i ergo tada nije bilo pisaćih mašina.

Mogli bismo promijeniti metaforu i pozvati se na moderne tastature i kompjutere. Mogli bismo reći da majmuni lupaju po laptopu ili možda čak i po pametnom telefonu. Ljepota pozivanja na pisaće mašine je u tome što pisaće mašine povezujemo sa nekompjuterizovanim i stoga ne pomažu u samom procesu kucanja. Ovo je ključno za umešanost.

Na kraju, obično nam se predstavlja aspekt da se Šekspirova dela produciraju. Lako bismo mogli zamijeniti Shakespearea za bilo kojeg drugog poznatog autora. Može biti da želimo da znamo da li majmuni mogu da proizvedu čitava dela Čarlsa Dikensa, Džejn Ostin, Ernesta Hemingveja i tako dalje. Nije posebno važno. Suština je da pisanje mora biti nešto što svi znamo i što priznajemo da je izvanredno pisanje.

Možemo lako zamijeniti bilo koje pisanje koje želimo postaviti kao cilj.

Pogodnost pozivanja na Shakespearea je u tome što su njegova djela shvaćena kao na vrhuncu ili vrhuncu ljudskog pisanja. Umjesto toga, mogli bismo pronaći esej koji je napisao učenik prvog razreda i koristiti ga kao metu. Vjerovali ili ne, ista pravila i dalje vrijede. Ljudima vjerovatno ne bi bilo inspirativno da su majmuni bili u stanju da reproduciraju pisanje djeteta. Da bi stvari bile zanimljive, pisanje mora biti najvišeg kalibra.

Varijanta ciljanog rezultata bila bi upućivanje na specifično Shakespeareovo djelo, a ne na cijelo njegovo djelo. Kao što ćete uskoro vidjeti, nema velike razlike u suštini stvari. Pretpostavljam da to mnogi ljudi spominju Hamlet kao dio teoreme o kucanju majmuna, možda zato što je ovo njegova najduža igra, koja iznosi prijavljene 29,551 riječi (sastoje se od otprilike 130,000 slova).

Bilo koja njegova drama bi bila dovoljna.

Čitava izmišljotina zavisi od različitih zakona vjerovatnoće. Možda ste naučili o nijansama vjerovatnoća na onim iscrpljujućim časovima statistike i matematike koje ste pohađali u školi.

Upotrijebimo riječ “Hamlet” da vidimo šta je potrebno da se nasumično proizvede tih šest slova u tom specifičnom nizu Hamleta.

Najlakši način da se to aritmetički izračuna sastoji se od pretpostavke da imamo lako zaokružen broj dostupnih ključeva na pisaćoj mašini. Pretpostavimo da imamo pisaću mašinu koja ima 50 različitih i podjednako upotrebljivih tastera. Svaki ključ predstavlja određeni simbol kao što su simboli uobičajene engleske abecede. Pretpostavimo da su ključevi raspoređeni nasumičnim redoslijedom i da nismo namjestili situaciju tako što smo stavili Hamletove odvojene ključeve u određeni raspored da bismo podstakli kucanje tih specifičnih ključeva više nego bilo koje druge tipke.

Svaki taster se pritisne potpuno nezavisno od toga koji taster je bio pritisnut pre njega. Stoga, od 50 tastera, šanse da se bilo koji taster pritisne se smatraju 1 od 50 šanse. Isto vrijedi za sve tipke i za cijeli napor kucanja. Izračun za jedan taster koji se pritisne je šansa 1 od 50, ili to je 1/50.

Šanse da se otkuca slovo “H” su 1/50, a šanse da se upiše slovo “a” su 1/50, a šanse da se upiše slovo “m” su 1/50, i tako dalje.

Ovo je:

• Vjerovatnoća da se “H” otkuca je 1/50.
• Vjerovatnoća da se “a” otkuca je 1/50.
• Vjerovatnoća da se “m” otkuca je 1/50.
• Vjerovatnoća da se “l” otkuca je 1/50.
• Vjerovatnoća da se “e” otkuca je 1/50.
• Vjerovatnoća da se “t” otkuca je 1/50.

Standardno pravilo ili zakon vjerovatnoće kaže da ako su dva ili više događaja potpuno statistički neovisni jedan od drugog, možemo izračunati šanse da se oba dogode jednostavnim množenjem njihovih vjerovatnoća jedni s drugima. To možemo učiniti u vezi sa ovih šest slova.

Imamo ovu računicu: “H” (1/50) x “a” (1/50) x “m” (1/50) x “l” (1/50) x “e” (1/50) x “t” (1/50)

To jest: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

Minuskularni broj dolazi do 1 / 15,625,000,000.

Šanse da ukucate riječ "Hamlet" od šest slova su otprilike jedan prema 15 milijardi, pod uslovom da je sve ostalo jednako.

To su zastrašujuće šanse. A ovo je samo za kucanje određene riječi od šest slova. Pokušajte primijeniti ovu istu računicu na 29,551 riječ cijele Hamletove drame. Ako odlučite ovo izračunati, shvatite i da razmake između riječi treba uzeti u obzir.

Što je duži ciljni rezultat, to su veće šanse da ne budemo u stanju da generišemo te precizne skupove slova i reči. Šanse su sve manje i manje. Šanse su toliko male da bismo skoro bacili peškir i rekli da se čini kao da se to „nikada“ neće dogoditi (budite oprezni kada koristite reč „nikad“ jer je to strašna rasprava).

Uzmimo za primjer smrtnog majmuna.

Prema različitim renomiranim internetskim indikacijama, uobičajeni životni vijek majmuna u divljini je oko 40 godina. Ako želite raspravljati o tom životnom vijeku, možemo samo koristiti broj 100 i nastaviti s prilično malo vjerovatnom gornjom granicom. Majmun koji je kucao na pisaćoj mašini bez prestanka recimo sto godina, ne uključujući vrijeme za odmor, vrijeme za jelo i slično, i pod pretpostavkom da je to sve što je majmun radio od trenutka rođenja do posljednjeg daha, ipak je pobijedio ne pomaže da se izjednače šanse za pisanje Hamlet sve rečeno (majmun bi, ako bi kucao taster svake sekunde neprekidno tokom 100 godina, pritisnuo oko 3,155,673,600 tastera).

Možemo razumno reći da je izuzetno malo vjerovatno da bi smrtni majmun na kraju slučajno kucao igru Hamlet.

Možete povećati broj smrtnih majmuna, ali to malo pomaže u smanjenju ogromnih izgleda protiv kucanja Hamleta. Neki tvrde da postoji hiljadu majmuna. Drugi pristup kaže da postoji milion majmuna. Pod pretpostavkom da su svi doživjeli 100 godina i svaki je na svojoj pisaćoj mašini ukucao po jedan nasumični ključ neprekidnim tempom od jednog ključa u sekundi, to još uvijek ne predstavlja statistički značajan trag u kucanju igre Hamlet.

Razmislite o svemu ovome.

Pomalo bezobrazno, gdje biste tačno smjestili milion majmuna za ovaj zadatak? Zamislite i da pisaće mašine moraju da traju sto godina neprekidne upotrebe (možete li pronaći milion ispravnih pisaćih mašina koje niko ne želi i nije voljan da donira ovom nekadašnjem projektu?). Čini se da bi trenutno trebalo da imate dosta rezervnih pisaćih mašina. I tako dalje. Logistika je zapanjujuća.

Sve ovo tada izgleda sumorno da se smrtni majmuni vjerovatno neće razmnožavati Hamlet.

Ali pretpostavimo da ih učinimo besmrtnima. Da, dajemo im neki magični napitak koji im omogućava da žive zauvek. Čak nam i ne treba više od jednog besmrtnog majmuna. Samo jedan će biti dovoljan. Moglo bi učiniti metaforu uzbudljivijom tvrdnjom da imamo hiljadu ili milion besmrtnih majmuna.

Ako imamo jednog majmuna koji može živjeti vječno, mogli bismo sugerirati da je to beskonačan majmun. Može beskonačno vrijeme udarati po tipkama pisaće mašine. Taj majmun će samo nastaviti ići. Shodno tome, iako su šanse za kucanje igrati Hamlet bili izuzetno mali, aspekt koji će majmun neprestano pokušavati sugeriše da će u nekom trenutku predstava Hamlet će skoro sigurno biti otkucana.

Pravilo je da se slijed događaja koji ima nenulte šanse da se dogodi, iako izuzetno male šanse, razumno bismo se složili da će se skoro dogoditi ako imamo beskonačno vrijeme za igru, sve ostalo jednako. Oni u oblastima matematike i statistike skloni su opisivanju istog razmatranja upotrebom nizova ili čak binarnih brojeva od 0 i 1. Ako imate konačan skup simbola, a postoji beskonačan niz njih, pri čemu svaki simbol ima Ujednačeno nasumično odabran, postoji konačan niz za koji biste gotovo sigurno mogli predvidjeti da će se pojaviti.

U svemu tome postoji velika kvaka.

Živimo u svijetu konačnih. Čini se da niko od nas nema beskonačno vreme na raspolaganju. Za one od vas koji kažu da jeste, svaka čast. Moj šešir ti pada.

Ako nametnete konačni svijet majmunima koji kucaju, naći ćete se da udarate o prilično čvrst zid. Analize teoreme o majmunu kucanju prilično će pokazati da je vjerovatnoća postizanja igre Hamlet je dovoljno blizu nuli u konačnom vremenu da za bilo koju razumnu operativnu osnovu jednostavno nije vjerovatno da će se to dogoditi. Uobičajeni prikaz je da ako ste upotrijebili onoliko majmuna koliko ima atoma u poznatom svemiru, a oni su nastavili kucati mnogo ziliona puta vremenskog raspona svemira, još uvijek gledate u nepojmljivo male i malene nedokučive šanse da vidite igrati Hamlet.

Teorema o kucanju majmuna je prilično šašava i često je rangirana kao među sedam najboljih misaonih eksperimenata našeg vremena. Slobodno možete dodatno ispitati teoremu jer postoji mnogo analiza dostupnih na internetu. To je živopisan i prijatan način da se shvati vjerovatnoća i statistike. Umjesto da se bavite isključivo suhim brojevima, možete zamisliti te zabavne ljuljačke majmune i sve one staromodne pisaće mašine koje se škljocaju.

Sada smo spremni da unesemo generativnu AI u zagonetku majmuna i pisaćih mašina.

Generativnu umjetnu inteligenciju iznerviraju majmuni koji kucaju

Pretpostavka koju ćemo pomno ispitati je sporna tvrdnja da se generativna AI kao što je ChatGPT ne razlikuje od majmuna koji kucaju. Kaže se da ako ChatGPT ili bilo koja generativna AI može proizvesti Hamlet ili sličnih poznatih djela, ovo je potpuno nasumičan rezultat koji je vjerovatno nastao na isti način na koji bi majmuni mogli stići da otkucaju ovu dugo cijenjenu i duboko cijenjenu šekspirovsku dramu.

Izvinite, to je pogrešno razmišljanje o ovoj teškoj temi.

Da vidimo zašto.

Prvo, pogledajmo i proširimo od čega se sastoji generativna AI.

Podsjetimo da sam ranije naveo da je generativna AI softver koji podrazumijeva korištenje algoritama za obuku podataka o tekstu koji postoji na Internetu i putem drugih srodnih izvora. Ogroman niz uparivanja obrazaca ima matematički i računski identificirane obrasce među milionima i milionima narativa i eseja koje smo mi ljudi sastavili.

Te riječi nemaju poseban značaj za sebe. Zamislite ih kao objekte. Unutar kompjutera, oni su predstavljeni kao brojevi koje označavamo kao tokeni. Koriste se kao zgodno sredstvo za povezivanje drugih riječi ili tokena jedni s drugima, čineći to u dubinskoj i zamršenoj statističkoj strukturi nalik webu.

Neki u oblasti veštačke inteligencije su zabrinuti da ovo nije ništa drugo do ono što se naziva a stohastički papagaj.

Vidite, umjesto da pokušavate povezati neki privid "značenja" s riječima, umjesto toga ovo je samo opsežno indeksiranje riječi koje se čine da se koriste oko ili pored drugih riječi. Nasuprot tome, pretpostavljamo da ljudi mogu "razumjeti" prirodu i značenje riječi.

Razmotrite svoj svakodnevni pristup prisutnosti korespondencije od riječi do riječi. Slično kao kada koristite uobičajenu funkciju automatskog dovršavanja u svom softveru za obradu teksta, računar matematički izračunava da određenu riječ obično prati neka druga određena riječ, nakon koje slijedi druga određena riječ, i tako dalje. Stoga često možete početi da pišete rečenicu i paket za obradu teksta će vam pokazati koje će biti dodatne riječi rečenice.

To je nagađanje jer statistički, ovo bi mogle biti uobičajene riječi rečenice, ali možda imate nešto drugo na umu da kažete, tako da predviđanje nije od onoga što ste htjeli napisati. Vjerovatno postoji dovoljno drugih primjera rečenica koje koriste one riječi za koje je algoritam u stanju da procijeni da ćete vjerovatno htjeti završiti rečenicu predviđenim riječima. Ovo nije gvozdeno. Takođe, ne postoji nikakvo "značenje" povezano sa ovom računskom pretpostavkom.

Neki istraživači AI tvrde da se za postizanje prave AI često izmišlja kao Opća umjetna inteligencija (AGI), moraćemo na neki način da kodifikujemo u kompjutere još uvek otkriveni ili izmišljeni oblik „razumevanja“ (pogledajte moju kolumnu za brojne objave o AGI-ju i potrazi za AGI). Oni se brinu da je manija oko generativne AI samo ćorsokak. Nastavićemo da pokušavamo da unapredimo generativnu veštačku inteligenciju povećavajući veličinu računarskih mreža i bacajući sve više i više snage računarske obrade na ovu materiju. Sve to neće biti od koristi kada je u pitanju dolazak u AGI, tvrde oni.

Dodatna zabrinutost je da nas možda ova potraga za navodnim ćorsokakom odvlači od ispravnog ili ispravnog pravca akcije. Potrošit ćemo ogromnu energiju i trud ka pogrešnom krajnjem stanju. Naravno, generativna AI bi mogla biti zapanjujuća u trikovama mimikrije, ali može biti da ovo ima male ili nikakve veze sa AGI. Mogli bismo se zavarati da gubimo dragocjeni fokus. Možda ćemo odgoditi ili možda čak i ne uspjeti doći do AGI-a zbog ove privlačne smetnje.

U svakom slučaju, za potrebe kucanja majmuna, vratimo se na sveukupne frke.

Moramo uzeti u obzir ove značajne faktore:

• 1) Osjecaj naspram neosjecajnog
• 2) Razmišljanje naspram ne "razmišljanja"
• 3) Ograničeni procesi razmišljanja naspram algoritama zasnovanih na kompjuteru i uparivanja obrazaca
• 4) Neobučeni ili nesposobni za obuku u odnosu na obučeni računski podaci

Hajde da se pozabavimo svakim od ovih faktora.

Sentient versus Not Sentient

Vjerujem da možemo priznati da su majmuni živa bića. Bez obzira na to koliko pametni ili im nedostaje pameti, možda biste željeli tvrditi da jesu; oni su nesumnjivo razumni. To je činjenica. Niko ne može razumno tvrditi drugačije.

Današnja umjetna inteligencija nije razumna. Tačka, tačka.

Nadalje, tvrdim da nismo ni blizu AI osjećaja. Drugi se, naravno, ne slažu. Ali svako ko je razuman složio bi se da današnja AI nije razumna. Za moju analizu strašno pogrešnog označavanja osjećaja umjetne inteligencije od strane tog Googleovog inženjera prošle godine, pogledajte moju raspravu na link ovdje.

Dakle, jedna ključna razlika između onih majmuna koji nestrpljivo kucaju i današnje generativne AI je u tome što su majmuni živa bića, dok AI nije. Povrh ovoga, često je klizav teren da počnete da poredite današnju veštačku inteligenciju sa bilo čim razumnim. Postoji tendencija antropomorfizacije AI. Odlučno pozivam da pokušamo spriječiti ovu laku mentalnu zamku da nas zadesi, izbjegavamo bilo kakva poređenja između AI i živih bića osim ako nismo iznad svih i jasno eksplicitno identificiramo i razgraničimo tu razliku.

Malo njih, ako ih ima, pravi to razgraničenje kada uporedi majmune koji kucaju i generativnu AI. Pretpostavljaju da ćete ili već shvatiti da ta razlika postoji, ili ih nije briga što postoji razlika, ili nisu razmišljali o tome itd.

Razmišljanje naspram ne "razmišljanja"

Tvrdio bih da majmuni mogu da misle. Oni su bića koja misle. Možemo lako raspravljati o tome koliko razmišljanja mogu učiniti. Gotovo sigurno se morate složiti da majmuni mogu razmišljati.

Današnja AI svih vrsta, uključujući generativnu umjetnu inteligenciju, ne dostiže ono što smatram ljudskim kapacitetom mišljenje.

Ponovit ću svoj upravo spomenuti refren vezan za osjećaj. Pogrešno je i tvrdim da je pogrešno govoriti da današnji AI može razmišljati. Nažalost, ljudi to rade stalno, uključujući istraživače AI i programere AI. Vjerujem da je ovo još jednom nesretno i nepromišljeno antropomorfiziranje. Dajete privid kapaciteta ili sposobnosti AI koje nema i koje će dezinformisati društvo u celini o ovom pitanju. Prestani da radiš ovo.

Generativna AI je složena struktura matematičkih i računskih svojstava nalik webu. To je vrijedno divljenja. To je šašavo šta se time postiže. Ne vjerujem da bilo kakvo razumno tumačenje “razmišljanja” kako ga mi zamišljamo, u svoj njegovoj slavi, ne priliči ovoj AI.

Ograničeni procesi razmišljanja naspram kompjuterskih algoritama i usklađivanja uzoraka

Majmuni su ograničeni u svojim procesima razmišljanja.

Možda će vam biti zanimljivo da u naučnoj literaturi postoje mnoga poređenja mozgova majmuna i ljudi. Na primjer, razmislite o ovoj istraživačkoj studiji: „Ljudski mozak je otprilike tri puta veći od mozga našeg najbližeg živog rođaka, čimpanze. Štoviše, dio mozga koji se zove cerebralna kora – koji igra ključnu ulogu u pamćenju, pažnji, svijesti i misli – sadrži dvostruko više stanica kod ljudi nego ista regija kod čimpanza. Mreže moždanih ćelija u moždanoj kori također se ponašaju različito kod ove dvije vrste” (u članku objavljenom u eLife, septembar 2016, pod nazivom “Razlike i sličnosti između neuralnih progenitora čovjeka i čimpanze tokom razvoja moždane kore”).

Svi shvaćamo da majmuni nisu jednaki ljudskom razmišljanju. Ta čudesna stvorenja mogu biti simpatična i iznenađujuće mnogo razmišljati, bez sumnje. Jednostavno se ne uzdižu do nivoa ljudskog razmišljanja. Zažalit ću što sam ovo rekao kada majmuni preuzmu čovječanstvo.

Već sam maloprije rekao da današnja umjetna inteligencija ne razmišlja. Naglasio sam da ono što AI radi ne treba označavati kao „razmišljanje“ jer to čini zabludu i zbunjujuće.

Evo gdje generativna AI zaista nadmašuje majmune, u smislu korištenja kompjuterske obrade zasnovane na algoritmima koje je osmislio čovjek i zasnovanih na spisima koje je napravio čovjek. Postoji mala ili nikakva šansa da bi majmun koji razmišlja mogao apsorbirati i uskladiti se s velikom upotrebom pisanih simbola do kojih su ljudi došli. Majmuni nemaju takvu sposobnost razmišljanja.

Oklevam da predložim takvo poređenje, s obzirom na moje druge izražene nedoumice. Ali, ja jasno iznosim koje su pretpostavke i kako pravilno i na odgovarajući način sprovesti ovu analizu.

Neobučen ili nesposoban za obuku u odnosu na računski obučen za podatke

Slično ovome što sam upravo rekao, nećete moći obučiti majmuna koji razmišlja o velikoj upotrebi pisanih simbola čovječanstva. To možete učiniti na izuzetno ograničenoj osnovi, a studije su pokazale da majmuni naizgled mogu razmišljati o pisanim simbolima. To je daleko manje od mogućnosti pamćenja i ponavljanja opsežnih obrazaca riječi, rečenica i cijelih narativa.

Generativna AI je kompjuterski zasnovana statistička mimikrija koja se može obučiti pomoću računarskih podataka. Ako nastavimo unositi više podataka kao što su dodatni tekstovi koje prikupimo ili pronađemo, pretpostavka i nada su da će pronađeni obrasci postajati sve dublji i dublji. Osim toga, korištenje bržih i bržih kompjuterskih čipova i obrada također će povećati ovo podudaranje uzoraka i kapacitet odgovora.

Pogled na dno

Kad bi generativna AI proizvela predstavu Hamlet, šta bi to značilo?

Prvo, moramo razmotriti da li je priča ili igra unesena u generativnu AI u vrijeme treninga podataka. Ako je tako, nema ničeg posebno uočljivog ili značajnog u vezi sa generativnom umjetnom inteligencijom koja je kasnije izgovarala iste riječi koje je prethodno skenirala.

Istraživač umjetne inteligencije mogao bi biti pomalo zaprepašten jer je podudaranje obrazaca vjerovatno pretjeralo, pošto je u suštini zapamtio riječi. U oblasti mašinskog učenja to obično nazivamo overfitting na podatke koji su korišteni tokom treninga. Tipično, ne želite da se točne riječi oblikuju, želite da se formira generalizirani obrazac.

U svojim kolumnama sam raspravljao o zabrinutosti da bismo s vremena na vrijeme mogli vidjeti narušavanje privatnosti i otkrivanje povjerljivih podataka u slučajevima kada je generativna AI izvršila precizno uparivanje, a ne generalizirano podudaranje dostavljenih podataka, pogledajte moje izvješće na link ovdje.

Drugo, pretpostavimo da je predstava Hamlet nije uneta u generativnu AI. Sledeće razmatranje bi onda bilo da li je neko od Šekspirovih dela skenirano tokom obuke podataka.

Ako je tako, zamislivo je da predstava Hamlet mogu biti proizvedeni na osnovu obrazaca povezanih sa Shakespeareovim drugim djelima, posebno ako postoje druge reference ili spominjanja Hamlet drugdje u skupu za obuku podataka. Sve to moglo bi se potencijalno iskoristiti uparivanjem uzoraka za formiranje stila Hamlet. Doduše, moći generirati Hamlet od riječi do riječi bio bi širok domet, značajno otvarajući oči i iznenađujući rezultat.

Treće, ako je generativna AI proizvela sve Hamlet i nikada ranije nisam bio hranjen ničim o Shakespeareu, pa, to bi bilo zapanjujuće. Međutim, to ne bi nužno bilo isto što i čisto slučajna priroda kljucanja ključeva na pisaćoj mašini. Moramo shvatiti da su Shakespeareove riječi riječi, dakle, one su dio totaliteta formulacija koje se nalaze u ogromnom nizu tekstualnih priča i narativa koji se unose u generativnu umjetnu inteligenciju. Poboljšavate izglede počevši od kamena temeljca riječi i asocijacija među riječima. Ipak, male su šanse da se ovako nešto dogodi.

zaključak

Kada je riječ o stvaranju riječi i eseja, generativna AI postaje gangbusters jer je zasnovana na ljudskim riječima i esejima (naravno, moramo se direktno pozabaviti greškama, lažima i AI halucinacijama). AI ne "razumije" riječi koje se emituju. Tamo ga nema.

Ne morate čekati beskonačno vrijeme da biste vidjeli tečne eseje i potpuno čitljive rezultate. Događaju se svakodnevno i pritiskom na dugme. Oni nisu pomešani, barem ne većinu vremena, zbog toga što su napravljeni na osnovu onoga što su ljudi napisali. Uparivanje šablona bi trebalo dodatno da bude fino podešeno i na kraju dovoljno dobro da smanji većinu neobičnih formulacija, pogledajte moje objašnjenje kako ovo može da funkcioniše, prikazano na link ovdje. Ovo podešavanje će se stalno usavršavati i svi ćemo biti sve više zaneseni onim što generativna AI proizvodi.

Riječi se ne biraju čisto slučajno. Riječi nisu čisto nasumično napisane. Postoje neki probabilistički aspekti, kao što je kada se generira izlazni esej o tome koje riječi odabrati. Ali ovo je još uvijek zasnovano na ljudskim spisima i stoga vjerojatno nije čisto nasumično. Zasnovan je na slučajnom izboru između nekoliko ili određenog broja opcija formulacije koje bi inače sve statistički mogle biti izvodljive kao sljedeća odabrana riječ ili skup riječi.

Gdje se majmuni uklapaju u ovo?

Ti majmuni koji kucaju sigurno su privlačni kao osnova za poređenje sa generativnom umjetnom inteligencijom. Majmuni proizvode Hamlet naspram generativne AI proizvodnje Hamlet. To je zadivljujuće takmičenje. Mogli biste reći da uopće nije uključeno takmičenje. Umjetna inteligencija koju je osmislila ljudska vrsta i koja je zasnovana na ljudskim spisima ima nepravednu prednost u tom pogledu.

Govoreći o kucanju majmuna, u epizodi The Simpsons, g. Burns odlučuje unajmiti majmune da kucaju na pisaćim mašinama kao dio uredskog skupa za kucanje. On je vrsta razularenog šefa koji bi radosno gravitirao prema korištenju majmuna u svom potrebnom kancelarijskom poslu umjesto korištenja ljudi kada bi to mogao.

Obožavatelji emisije možda se sjećaju šta se dogodilo.

Gospodin Burns zgrabi jednu od otkucanih stranica i sa žarkim iščekivanjem čita šta je majmun otkucao. Čita stranicu naglas i kaže: „Bila su to najbolja vremena, bila je to blurst vremena“ (tj. postoji jedna riječ koja je zbrkana, „zamagljivanje“ ili nešto slično). Postaje potpuno bijesan i potpuno razočaran tim "glupim majmunima" u pogledu onoga što mogu proizvesti.

Znamo da ako je majmun otkucao taj dio “Priče o dva grada” Charlesa Dickena, trebali bismo biti ekstatični i skakati od radosti. Nije tako za gospodina Burnsa.

Kao završni komentar za ovu raspravu, možda bi se trebali pozvati na punu rečenicu koju je Charles Dickens napisao: „Bila su to najbolja vremena, bila su to najgora vremena, bilo je to doba mudrosti, bilo je doba gluposti, bilo je to doba. bila je epoha vjerovanja, bila je to epoha nevjerice, bila je to doba svjetlosti, bila je doba tame, bila je to proljeće nade, bila je to zima očaja.”

Nismo sasvim sigurni kuda idemo sa AI. Neki kažu da će to biti najbolja stvar od narezanog kruha. Drugi upozoravaju da će umjetna inteligencija koju pravimo biti egzistencijalni rizik za opstanak čovječanstva. To su zaista ili najbolja vremena ili najgora vremena.

Nemojte se iznenaditi kada vidite generativnu umjetnu inteligenciju koja daje upravo te riječi. Budite iznenađeni ako slučajno vidite majmune u zoološkom vrtu koji možda kucaju na pisaćim mašinama i uspijevaju ukucati iste pronicljive riječi.

Javite mi ako vidite da se to dogodilo.

Spreman sam da čekam dugo da se ovo dogodi, ali verovatno ne beskonačno.