Etika AI se oslanja na Aristotela kako bi ispitala mogu li se ljudi odlučiti da porobe AI usred pojave potpuno autonomnih sistema

Prijatelj ili neprijatelj.

Riba ili živina.

Osoba ili stvar.

Sve ove prožimajuće zagonetke naizgled upućuju na to da smo ponekad suočeni s dihotomnom situacijom i da moramo izabrati jedan ili drugi aspekt. Život bi nas mogao natjerati da se borimo s okolnostima koje se sastoje od dvije međusobno isključive opcije. Okusnijim jezikom, mogli biste sugerirati da isključiva binarna jednadžba zahtijeva od nas da odlučno marširamo jednom različitom putanjom, a ne drugom.

Hajde da se posebno fokusiramo na dihotomiju osoba ili stvar.

Vatreno pitanje osobe ili stvari postavlja se uvijek iznova u vezi s umjetnom inteligencijom (AI).

Da pojasnimo, današnja AI je apsolutno ne osoba i nema privid osjećaja, bez obzira na sve razrogačene i potpuno prevelike naslove koje možete vidjeti u vijestima i na društvenim mrežama. Stoga, možete biti potpuno uvjereni da se trenutno može odgovoriti na pitanje da li je AI osoba ili stvar. Čitajte mi s usana, u pravom Hobsonovom izboru između osobe ili stvari, AI je stvar, za sada.

S obzirom na to, možemo gledati prema budućnosti i pitati se šta bi se moglo dogoditi ako budemo u stanju da postignemo razumni oblik AI.

Neki razumni kritičari (plus zajedljivi skeptici) sugeriraju da svoje piliće možda prebrojavamo mnogo prije nego što se izlegu u današnje vrijeme raspravljajući o posljedicama razumne AI. Izražena je zabrinutost da sama diskusija implicira da moramo biti na pragu takve AI. Društvo u cjelini moglo bi biti zavedeno u vjerovanje da će sutra ili prekosutra doći do iznenadnog i šokantnog otkrića da smo zapravo stigli do razumne AI (ovo se ponekad naziva singularnošću AI ili eksplozijom inteligencije, vidi moja analiza na link ovdje). U međuvremenu, ne znamo kada će se takva umjetna inteligencija pojaviti, ako ikada, i svakako, naizgled ne moramo gledati iza svakog ugla i biti zastrašujuće na ivici da će razumna AI skočiti na nas potpuno neočekivano u sljedećem malo vremena.

Druga strana debate ističe da ne bismo trebali imati svoje glave zakopane duboko u pijesak. Vidite, ako otvoreno ne raspravljamo i ne razmišljamo o mogućnostima povezanim sa razumnom umjetnom inteligencijom, činimo čovječanstvu pretpostavljenu tešku medvjeđu uslugu. Nećemo biti spremni za rukovanje razumnom AI kada ili ako se pojavi. Nadalje, i možda još snažnije rečeno, anticipacijom osjetilne umjetne inteligencije možemo donekle uzeti stvari u svoje ruke i oblikovati smjer i prirodu kako će takva umjetna inteligencija postati i od čega će se sastojati (ne slažu se svi oko ove druge točke). , naime, neki kažu da će takva AI imati potpuno svoj „um“ i da nećemo moći da ga oblikujemo ili ukočimo jer će AI moći nezavisno da misli i odredi način da uporno postoji).

Etika veštačke inteligencije ima tendenciju da se prikloni gledištu da bi bilo mudro da ove mukotrpne i argumentovane stvari sa osećajnom veštačkom inteligencijom iznesemo na videlo sada, umesto da čekamo dok nam ne preostane više opcija ili da budemo obuzeti postizanjem takve veštačke inteligencije. Čitaoci dobro znaju da sam opširno pokrivao etiku umjetne inteligencije i etičku umjetnu inteligenciju, uključujući pokrivanje širokog spektra problematičnih pitanja kao što su AI pravna osoba, zadržavanje AI, degorgement AI, algoritamska monokultura AI, pranje etike umjetne inteligencije, dvostruka upotreba AI takozvani projekti Doctor Evil, AI koji skriva dinamiku društvene moći, pouzdana AI, revizija AI, i tako dalje (pogledajte moje kolumne koje pokrivaju ove vitalne teme na link ovdje).

Postavio sam vam izazovno pitanje.

U budućnosti, pod pretpostavkom da ćemo na bilo koji način završiti sa razumnom AI, hoćemo li svi mi tu inteligentnu inteligenciju tumačiti kao osobu ili kao stvar?

Prije nego što počnemo dublje uranjati u ovo potpuno provokativno pitanje, dozvolite mi da kažem nešto o frazi „osjetne umjetne inteligencije“ kako bismo svi bili na istoj stranici. Postoji mnogo tjeskobe oko značenja osjećaja i značenja svijesti. Stručnjaci se lako mogu ne složiti oko toga šta te riječi predstavljaju. Dodatno toj mutnji, kad god neko spomene "AI", nemate spremna sredstva da saznate na šta misli per se. Već sam ovdje naglasio da današnja AI nije razumna. Ako konačno dođemo do buduće AI koja je razumna, vjerovatno ćemo je zvati i "AI". Stvar je u tome što ove sporne stvari mogu biti prokleto zbunjujuće u vezi s tim da li je izgovaranje izraza "AI" povezano sa današnjom neosjetnom umjetnom inteligencijom ili možda jednom razumnom AI.

Oni koji raspravljaju o AI mogu se naći kako pričaju jedni pored drugih i ne shvaćaju da jedan opisuje jabuke, a drugi u međuvremenu govori o narandžama.

Kako bismo pokušali zaobići ovu zabunu, postoji prilagodba AI fraza koje mnogi koriste u svrhu pojašnjenja pune nade. Trenutno imamo tendenciju da govorimo o vještačkoj općoj inteligenciji (AGI) kao o tipu AI koji može činiti potpuno inteligentne napore. U tom smislu, blaža upotreba izraza “AI” ostavljena je da se tumači ili kao manja verzija AI, za koju neki kažu da je usko-AI, ili je denotacijska dvosmislena i ne znate da li se odnosi na ne -osjetna AI ili možda razumna AI.

Ja ću dati dodatni obrt ovome.

Ovisno o datoj definiciji osjećaja, mogli biste ući u žestok diskurs o tome hoće li AGI biti razuman ili ne. Neki tvrde da da, naravno, AGI će po svojoj intrinzičnoj prirodi morati da bude razuman. Drugi tvrde da možete imati AGI koji nije osjećajan, ergo, osjećaj je drugačija karakteristika koja nije preduvjet za postizanje AGI. Različito sam ispitivao ovu debatu u svojim kolumnama i neću da ponavljam ovu temu.

Za sada, pretpostavite da od sada u ovoj diskusiji, kada govorim o AI, namjeravam sugerirati da mislim na AGI.

Evo preuzimanja o ovome. Još uvijek nemamo AGI, i na neki način, na trenutak ćemo se ljubazno složiti da je AGI u istom ukupnom taboru kao i razumna AI. Kada bih koristio "AGI" samo u svojoj diskusiji, ova fraza je potencijalno ometajuća jer se mnogi još nisu navikli da "AGI" vide kao nadimak i vjerovatno bi bili blago ljuti kada bi stalno vidjeli ovu relativno noviju frazu. Dakle, ako bih umjesto toga nastavio da govorim o "osjetnoj AI", ovo bi moglo biti i distraktor za one koji se bore oko toga da li su AGI i razumna AI isti ili različiti jedan od drugog.

Da biste izbjegli tu zbrku, pretpostavite da je moje upućivanje na AI isto kao da kažem AGI ili čak osjetilna AI, i barem znajte da ne govorim o današnjoj neosjetnoj ne-AGI AI kada uđem u muku razmatranja u vezi AI za koju se čini da ima inteligenciju sličnu ljudskoj. Povremeno ću koristiti AGI imenjak da vas s vremena na vrijeme ovdje podsjetim da ispitujem tip AI koji još nemamo, posebno na početku ovog istraživanja zagonetke osobe ili stvari.

To je bilo korisno priznanje sitnim slovima i sada se vraćam na temeljnu stvar.

Dozvolite mi da vas sada pitam da li je AGI osoba ili stvar.

Razmotrite ova dva pitanja:

• Da li je AGI osoba?
• Je li AGI stvar?

Hajdemo dalje da ponovimo svako pitanje, odnosno odgovorimo na pitanja nizom da ili ne odgovora kako priliči pretpostavljenom dihotomnom izboru.

Počnite sa ovom pretpostavljenom mogućnošću:

• Da li je AGI osoba? odgovor: Da.
• Je li AGI stvar? odgovor: Ne.

Razmislite o tome. Ako se AGI u stvari tumači kao osoba, a ne kao stvar, možemo se gotovo sigurno složiti da bismo trebali tretirati AGI kao da je srodan osobi. Čini se da postoji nedovoljno istinski argument o tome da se AGI-u nije dodijelio oblik pravnog lica. Ovo bi ili bilo potpuno isto kao i ljudska pravna osoba, ili bismo mogli odlučiti da smislimo varijantu pravnog lica orijentisanog na ljude koja bi bila razumno primenljivija na AGI. Slučaj zatvoren.

To je bilo lako.

Zamislite umjesto toga da smo proglasili ovo:

• Da li je AGI osoba? odgovor: Ne.
• Je li AGI stvar? odgovor: Da.

U ovom slučaju, rješenje je očigledno jednostavno jer govorimo da je AGI stvar i da se ne uzdiže u kategoriju biti osoba. Čini se da postoji opšta saglasnost da odlučno nećemo dati pravno lice AGI-ju, zbog činjenice da to nije osoba. Kao stvar, AGI bi vjerovatno i razumno bio pod našom općom rubrikom o tome kako zakonski tretiramo „stvari“ u našem društvu.

Dva dolje, još dvije mogućnosti.

Zamislite ovo:

• Da li je AGI osoba? odgovor: Da.
• Je li AGI stvar? odgovor: Da.

Au, to izgleda čudno jer imamo dva odgovora sa Da. Neugodno. Predlažemo da je AGI i osoba, a istovremeno i stvar. Ali čini se da ovo ide u susret našoj proklamovanoj dihotomiji. U teoriji, prema ograničenjima dihotomije, nešto mora biti ili osoba ili mora biti stvar. Za te dvije kante ili kategorije se kaže da se međusobno isključuju. Tvrdeći da je AGI i jedno i drugo, mi narušavamo sistem i razbijamo međusobno isključivi aranžman.

Naša posljednja mogućnost bi izgledala ovako:

• Da li je AGI osoba? odgovor: Ne.
• Je li AGI stvar? odgovor: Ne.

Joj, i to je loše za naše pokušaje da AGI klasifikujemo kao osobu ili stvar. Kažemo da AGI nije osoba, što bi vjerovatno značilo da mora biti stvar (naš jedini drugi raspoloživi izbor, u ovoj dihotomiji). Ali takođe smo rekli da AGI nije stvar. Ipak, ako AGI nije stvar, po logici bismo morali tvrditi da je AGI osoba. Idemo unaokolo. Paradoks, svakako.

AGI u ove posljednje dvije mogućnosti bio je ili (1) i osoba i stvar, ili (2) ni osoba ni stvar. Mogli biste bezobrazno reći da su te dvije tvrdnje o AGI donekle slične klasičnoj zagonetki onoga što nije ni riba ni živina, ako razumijete na šta mislim.

šta da radimo?

Upravo ću ponuditi često raspravljano i teško osporavano predloženo rješenje za ovu dilemu AGI klasifikacije, iako biste trebali biti unaprijed upozoreni da će to možda biti uznemirujuće za vidjeti ili čuti. Molimo vas da se pripremite u skladu sa tim.

Istraživački rad koji se bavio ovim pitanjem navodi ovo: „Jedan od metoda za rješavanje ovog problema je formulisanje trećeg pojma koji nije ni jedno ni drugo ili neka vrsta kombinacije ili sinteze jednog i drugog” (Dejvid Gunkel, Univerzitet Northern Illinois u Zašto roboti ne bi trebali biti robovi, 2022). A dokument zatim daje ovu dodatnu poentu: „Jedno moguće, ako ne i iznenađujuće, rješenje za isključivu dihotomiju osoba/stvar je ropstvo” (po istom papiru).

Kao daljnju pozadinu, godinama ranije, postojao je rad koji se pojavio 2010. godine pod naslovom „Roboti bi trebali biti robovi“ koji je postao svojevrsni oslonac za podsticanje ovakve vrste razmatranja, u kojem se navodi: „Moja teza je da roboti treba da budu građeni, prodavani i legalno smatrani robovima, a ne vršnjacima” (u radu Joanne Bryson). Kako bi pokušao razjasniti temu bez upotrebe tako oštrih i iscrpljujućih formulacija, novina je nastavila sa ovim: „Ono što želim reći je 'Roboti bi trebali biti sluge koje posjedujete” (prema Brysonovom radu).

Mnogi istraživači i autori su obrađivali ovu temu.

Razmislite o brojnim naučnofantastičnim pričama koje prikazuju čovječanstvo koje porobljava AI robote. Neki govore o robotskim robovima, umjetnim slugama, sluganju umjetne inteligencije i slično. Zanimljivo, koliko god se činilo grubim izraz „robotski robovi“, neki su zabrinuti da ako umjesto toga govorimo o „robotima-slugama“ izbjegavamo stvarnost o tome kako se takvi autonomni sistemi umjetne inteligencije mogu tretirati (zamjenjujući tu riječ sa „ sluge” kaže se da je to razvodnjavanje namjera i trik da se zaobiđu otrežnjujuće implikacije). Bryson je kasnije izjavio u objavi na blogu iz 2015. da „sada shvaćam da ne možete koristiti izraz 'rob' bez pozivanja na njegovu ljudsku istoriju.

Za one koji nastoje duboko ispitati ovu temu koja je zamršena AGI, ponekad iznose istorijske primjere iz stvarnog svijeta iz kojih bismo mogli izvući uvide. Naravno, nemamo prethodni AGI koji bi pokazao kako se čovječanstvo pozabavilo tim pitanjem. Argument je da bismo ipak mogli imati korisne historijske oznake koje vrijedi ispitati, uključujući kako su se ljudi odnosili prema drugim ljudima.

Na primjer, u knjizi objavljenoj 2013. godine, autor navodi sljedeće: „Obećavanje i opasnost umjetnih, inteligentnih slugu prvi je implicitno iznio Aristotel prije više od 2,000 godina“ (knjiga Kevina LaGrandeura, Androidi i inteligentne mreže u ranoj modernoj književnosti i kulturi). Ideja je da se možemo osloniti na Aristotela i vidjeti ima li uvida u to kako će čovječanstvo na kraju potencijalno liječiti AGI.

Siguran sam da znate koliko je važno proučavanje istorije, što obilno naglašavaju čuvene reči Džordža Santajane: “Oni koji se ne mogu setiti prošlosti osuđeni su da je ponavljaju” (u Život razuma, 1905).

Svaka čast Institutu za etiku i veštačku inteligenciju Univerziteta Oksford

Nedavna i prilično cijenjena prezentacija pomno je ispitala pitanje etike umjetne inteligencije usred prikupljanja uvida iz djela i života Aristotela. U inauguracionom godišnjem predavanju za Oksfordski univerzitet Institut za etiku i AI, Profesor Josiah Ober sa Univerziteta Stanford duboko se osvrnuo na ovu temu u svojoj prezentaciji „Etika u AI sa Aristotelom“ koja je nedavno održana 16. juna 2022.

Uz napomenu, u svojstvu stipendista Stanforda i globalnog stručnjaka za etiku i pravo umjetne inteligencije, bio sam oduševljen što je Josiah Ober sa Stanforda izabran za inauguracijskog govornika. Divan izbor i izvanredan razgovor.

Ovo je sažetak sažetka koji je dat za njegov zanimljiv govor: „Analitička filozofija i spekulativna fikcija trenutno su naši primarni intelektualni resursi za ozbiljno razmišljanje o etici u AI. Predlažem da dodam i treće: drevnu društvenu i filozofsku istoriju. U politika, Aristotel razvija ozloglašenu doktrinu: Neki ljudi su robovi 'po prirodi' – inteligentni, ali pate od psihičkog defekta koji ih čini nesposobnim da rasuđuju o vlastitom dobru. Kao takve, treba ih tretirati kao 'animirane alate', instrumente, a ne kao krajeve. Njihov rad moraju usmjeravati i koristiti za dobrobit drugih. Aristotelova odvratna doktrina bila je raspoređena u opake svrhe, na primjer u Americi prije rata. Ipak, to je korisno za etiku AI, utoliko što je drevno ropstvo bilo predmoderni prototip jedne verzije AI. Porobljene osobe bile su sveprisutne u drevnom grčkom društvu – radnici, prostitutke, bankari, vladini birokrati – ali se nisu lako razlikovali od slobodnih osoba. Sveprisutnost, zajedno s pretpostavkom da je ropstvo praktična nužnost, stvorila je niz etičkih zagonetki i nedoumica: Kako se, zapravo, robovi razlikuju od 'nas'? Kako ih možemo razlikovati od nas samih? Imaju li prava? Šta predstavlja maltretiranje? Može li moj instrument biti moj prijatelj? Koje su posljedice oslobađanja? Duga istorija grčke filozofske i institucionalne borbe s ovim i drugim pitanjima doprinosi interpretativnom repertoaru modernih etičara koji se suočavaju s budućnošću u kojoj bi se inteligentna mašina mogla smatrati „prirodnim robom“ (prema Oksfordskom univerzitetu Institut za etiku veštačke inteligencije website).

Za više informacija o prezentaciji i pristup video zapisu razgovora, pogledajte link ovdje.

Moderator prezentacije bio je profesor John Tasioulas, inauguracijski direktor Institut za etiku i AI, i profesor etike i pravne filozofije, Filozofski fakultet Univerziteta u Oksfordu. Prethodno je bio inauguracijski katedra za politiku, filozofiju i pravo i direktor Yeoh Tiong Lay centra za politiku, filozofiju i pravo na Pravnoj školi Dickson Poon, Kings College London.

Toplo preporučujem da svi zainteresovani za etiku veštačke inteligencije budu u toku sa tekućim radom i pozvanim predavanjima na Univerzitetu Oxford Institut za etiku i AI, vidi link ovdje i / ili link ovdje za dalje informacije.

Kao pozadina, evo navedene misije i fokusa Instituta: „Institut za etiku u AI će okupiti vodeće svjetske filozofe i druge stručnjake u humanističkim naukama sa tehničkim programerima i korisnicima AI u akademskoj, poslovnoj i vladinoj zajednici. Etika i upravljanje AI je izuzetno živo područje istraživanja na Oksfordu, a Institut je prilika da se napravi hrabar iskorak sa ove platforme. Svaki dan donosi sve više primjera etičkih izazova koje postavlja AI; od prepoznavanja lica do profilisanja birača, interfejsa moždanih mašina do naoružanih dronova i tekućeg diskursa o tome kako će AI uticati na zapošljavanje na globalnom nivou. Ovo je hitan i važan posao koji namjeravamo promovirati na međunarodnom nivou, kao i ugraditi u naše vlastito istraživanje i nastavu ovdje na Oxfordu” (preuzeto preko službene web stranice).

Dovođenje Aristotelovih lekcija u prvi plan

Antička Grčka je otvoreno prihvatila i podržala praksu porobljavanja. Na primjer, navodno, Atina u 5^th i 6^th stoljećima prije nove ere bilo je jedno od najvećih oličenja porobljavanja u kojem se procjenjuje da je 60,000 do možda 80,000 osoba bilo porobljeno. Ako ste čitali bilo koju od mnogih grčkih priča i pozorišnih komada tog doba, postoji mnogo spominjanja toga.

Tokom svog života, Aristotel je bio potpuno uronjen u društvene i kulturne aspekte koji su povlačili za sobom ropstvo i opširno je pisao o toj temi. Danas možemo čitati njegove riječi i nastojati da shvatimo kako i zašto su njegovi stavovi o tom pitanju. Ovo može biti veoma rečito.

Možda se pitate zašto bi Aristotel bio posebno važan izvor za razmatranje o ovoj temi. Pojavljuju se najmanje dva ključna razloga:

1) Veliki mislilac. Aristotel je sigurno ocijenjen kao jedan od najvećih mislilaca svih vremena, koji služi kao veliki i duboko pronicljiv filozof, a također se smatra etičarom koji je uspostavio mnoge ključne etičke kamene temeljce. Neki su ga odlučili proglasiti za oca logike, oca retorike, oca realizma, itd., i priznaju njegov utjecaj u širokom spektru domena i disciplina.

2) Proživljeno iskustvo. Aristotel je živio u vrijeme kada je antička Grčka bila preplavljena ropstvom. Stoga se njegovi uvidi ne bi samo odnosili na apstraktne propise, već bi vjerovatno obuhvatili njegova vlastita svakodnevna iskustva kao integralno utkana u kulturu i društvene običaje tog doba.

Dakle, imamo pomalo zapanjujuću kombinaciju nekoga ko je bio i veliki mislilac i koji je takođe imao dokazano proživljeno iskustvo u temi koja nas zanima. Osim toga, zapisao je svoje misli. To je sada prilično važno za naše današnje svrhe. Svi njegovi spisi, zajedno sa drugim spisima koji opisuju njegove govore i interakcije između ostalih, danas nam pružaju obilje materijala za uvid i analizu.

Želio bih da vas uputim na ukratko povezanu tangentu da pomenem još nešto o opštem pojmu koji leži u osnovi značaja postojanja proživljeno iskustvo. Ostavite na trenutak po strani raspravu o staroj Grčkoj dok brzo pogledamo sveobuhvatne aspekte proživljenih iskustava.

Pretpostavimo da sam danas imao dvoje ljudi kojima sam želio postaviti razna pitanja o automobilima.

Jedan od njih nikada nije vozio auto. Ova osoba ne zna da vozi. Ova osoba nikada nije sela za volan automobila. Uobičajene i krajnje uobičajene kontrole vožnje pomalo su misterija za ovu osobu. Koja pedala šta radi? Kako to prestati? Kako to uspijevaš? Ova osoba koja ne vozi je potpuno zbunjena takvim stvarima.

Druga osoba je svakodnevni vozač. Voze se na posao svaki dan. Bave se saobraćajem koji se zaustavlja. Oni voze dugi niz godina. Ovo uključuje sve, od mirnih ulica do užurbanih autoputeva i sporednih puteva.

Ako zamolim svakog od njih da mi kaže kako je to voziti auto, možete li pogoditi kakve bih odgovore mogao dobiti?

Onaj ko nikada nije vozio auto mora da nagađa. Možda će osoba romantizirati čin vožnje. Vožnja im je pomalo apstraktna. Sve što bi mogli da urade je da sugerišu da je vožnja bezbrižna i da ste u mogućnosti da naterate automobil da krene u kom pravcu želite.

Kladim se da bi iskusni vozač ispričao drugačiju priču. Mogli bi spomenuti prednosti sposobnosti vožnje, donekle odražavajući osjećaje osobe koja nije vozila auto. Šanse su da će iskusni vozač dodati još mnogo toga. Vožnja s vremena na vrijeme razbija živce. Snosite veliku odgovornost. Vozačka radnja je puna ozbiljnih zabrinutosti i potencijalnih posljedica po život ili smrt.

Suština je da kada možete dobiti pristup nekome ko ima proživljena iskustva, velike su šanse da ćete dobiti realističniju perspektivu o tome kakav je svijet s obzirom na fokus istraživanja. Ne postoji garancija za takav ishod. Moguće je da bi nevozač mogao znati šta iskusni vozač zna o vožnji, iako to ne bismo vjerovatno očekivali i još uvijek imamo nedoumice da ne dobivamo punu sliku.

Vraćajući se na našu raspravu o Aristotelu, preko njegovih pisanja i pisanja drugih o njemu, u mogućnosti smo da pregledamo njegova življena iskustva na temu ili fokus istraživanja ovdje. Drugo, on je takođe bio mislilac ogromnih razmera i trebalo bi očekivati ​​da ćemo dobiti bure puno pronicljivih razmatranja o tome.

Imajte na umu da ne moramo nužno vjerovati njegovim riječima iskreno, tako da bismo trebali paziti na njegove posebne predrasude. Njegovo uranjanje u to doba može ga odvesti na stranputicu u pokušaju da se suprotstavi stvarima o kojima je riječ, nesposoban da na odgovarajući način ponudi neko nepristrasno i nepristrasno mišljenje. Čak i najoštriji logičari mogu na kraju iskriviti logiku kako bi pokušali zadovoljiti svoje sklonosti i proživljena iskustva.

Uđimo sada u inauguracijski govor i vidimo kakve bi lekcije Aristotel mogao iznijeti za nas danas.

Publika je odmah skrenula pažnju na osnovnu tačku u vezi sa proživljenim iskustvima. U slučaju upotrebe AGI, pošto danas nemamo AGI, teško nam je analizirati kakav će biti AGI i kako ćemo se nositi sa AGI. Nedostaju nam iskustva koja se posebno odnose na AGI. Kao što je profesor Ober posebno spomenuo, mogli bismo se naći u svijetu povrijeđenih do trenutka kada stignemo do AGI.

Ovo se često navodi kao AI je egzistencijalni rizik, o čemu sam mnogo puta govorio u svojim kolumnama. Morali biste da živite u pećini da ne biste bili svjesni velikih bojazni i sumnji da ćemo proizvesti ili generirati AGI koji će osuditi cijelo čovječanstvo. Zaista, iako se ovdje koncentrišem na porobljavanje umjetne inteligencije, mnogi bi smatrali da je ovo tema sa povratnim ili naopakim posljedicama u poređenju s mogućnošću da se AGI odluči da porobi čovječanstvo. Ispravite svoje prioritete, opomenuli bi neki pametni stručnjaci.

Uprkos brojnim uzvicima o AI kao egzistencijalnom riziku, svakako možemo razmišljati o drugoj korisnoj strani AI novčića. Možda će AGI biti u stanju da reši inače naizgled nerešive probleme sa kojima se čovečanstvo suočava. AGI bi mogao otkriti lijek za rak. AGI bi mogao smisliti kako riješiti glad u svijetu. Nebo je granica, kako kažu. To je scenario srećnog lica o AGI.

Optimista bi rekao da je divno zamisliti kako će AGI biti blagoslov za čovječanstvo, dok bi pesimista bio sklon unaprijed upozoriti da se loša strana čini mnogo gora od spekulisanih pozitivnih strana. AGI koji pomaže čovječanstvu je odličan. AGI koji odlučuje da ubije sve ljude ili ih porobi, pa, to je očigledno katastrofalni egzistencijalni rizik koji razara društvo i zaslužuje intenzivnu i spasonosnu pažnju.

U redu, da se vratimo na srž stvari, nemamo nikakvih iskustava u vezi sa AGI. Osim ako ne možete napraviti vremensku mašinu i otići u budućnost kada (ako) AGI postoji, a zatim se vratiti da nam kažete šta ste pronašli, trenutno nemamo sreće sa AGI iz perspektive ljudskog iskustva.

Drugi način korištenja proživljenih iskustava uključuje činjenicu da je Aristotel živio u vrijeme kada se dogodilo ropstvo. A evo i udarca. Oni koji su bili porobljeni bili su u nekim aspektima prikazani kao vrsta mašine, mešavina i osobe i stvari, takoreći. Aristotel je bio poznat po tome što je porobljene govorio o imovini koja diše.

Pretpostavljam da biste mogli biti zbunjeni da je Aristotel, div logike i etike, mogao ne samo da prizna porobljavanje, već da je spolja i glasno branio tu praksu. On je lično koristio i ropstvo. Ovo se jednostavno čini izvan razumijevanja. Svakako, sa svim svojim ogromnim intelektom i mudrošću, on bi odbacio tu praksu.

Usuđujem se reći da ovo naglašava ponekad problematične aspekte oduzimanja grumenova mudrosti od nekoga ko je opterećen (da kažemo) svojim proživljenim iskustvima. To je kao riba koja boravi u vodenoj akvariji. Sve što mogu da vide je voda svuda oko sebe. Pokušaj zamisliti bilo šta izvan njihovog svijeta baziranog na vodi je ogroman izazov. Isto tako, Aristotel je bio potpuno uronjen u svjetonazor koji je prihvatio preovlađujuće norme. Čini se da njegovi spisi ilustruju tu vrstu mentalne zatvorenosti, moglo bi se reći (možda po izboru, a ne po defaultu). Način na koji je Aristotel opravdao ove osude prakse fascinantno je zadivljujući, a istovremeno je uznemirujući i vrijedan izlaganja, pa čak i osude.

Dat ću vam malo zadirkivanje da Aristotelova „logika“ o ovoj ozloglašenoj temi uključuje oduševene instrumente, tvrdi obostranu prednost zasnovano na spoznaji, hijerarhijskim instrumentima višeg i nižeg reda, deliberativnim i rasuđujućim elementima duše, stupnjevima vrline, navodnoj oštroumnosti, itd. Nadamo se da ćete biti dovoljno zaintrigirani tim teaserom da pogledate video govora (pogledajte ranije spomenuti link).

Ipak, neću vas ostaviti na miru i barem ću naznačiti od čega se sažeto sastojao zaključak (upozorenje o spojleru, ako želite da saznate putem videa, preskočite ostatak ovog paragrafa). Ispostavilo se da ova dubinska naučna procjena „logike“ koju Aristotel koristi pokazuje izmišljotinu prožetu kontradiktornostima i da se cijeli komplet i kaboodle raspadaju kao slabašna kuća od karata. Parafrazirajući osjećaj profesora Obera, ovaj veliki etički filozof ruši se na greben.

Ne možete uvući kvadratni klin u okruglu etičku rupu.

Neka dodatna razmišljanja

Ako je Aristotel imao lošu logiku po ovom pitanju, da li bismo instinktivno odbacili Aristotelove postavke i teorije o ovoj praksi?

Ne. Vidite, ima još mnogo toga što se može izvući kopanjem po pretpostavkama i iskrivljenjima logike, iako su prepune grešaka. Osim toga, možemo razmišljati kako bi drugi nehotice mogli krenuti istim pogrešnim putem.

Još jedan veliki zaključak je da bi društvo moglo smisliti čudnu ili neadekvatnu logiku kada je u pitanju razmatranje da li AGI treba biti porobljen.

Sada možemo smisliti logiku o tome šta bi se trebalo dogoditi kada se AGI pojavi (ako je tako). Ova logika, prazna od proživljenih iskustava o AGI, mogla bi biti užasno izvan cilja. Uzimajući to u obzir, pomalo je obeshrabrujuće shvatiti da čak i kada AGI postoji (ako postoji) i kada skupljamo svoja proživljena iskustva usred AGI-ja, možda i dalje nismo u cilju što da radimo (slično Aristotelovim greškama). Mogli bismo se logirati u naizgled nelogičnim pristupima.

Moramo biti na oprezu da se zavaravamo u logičke "gvozdene" pozicije koje zapravo nisu oklopne i činjenice su pune logičkih nedostataka i kontradikcija. Ovo je također bez obzira na to koliko bi veliki mislilac mogao ponuditi traženu logičku poziciju, tako da čak i Aristotel ilustruje da svaki iskaz i svaki stav nužno ne donose jestivo voće. Oni danas i u budućnosti koji bi mogli izgledati kao popularni veliki mislioci o temi AGI, pa, moramo im dati isti pregled kao Aristotela ili bilo kojeg drugog hvaljenog “velikog” mislioca, inače ćemo se naći potencijalno na putu u slijepu ulicu i AGI sumorni ponor.

Menjajući brzine, takođe bih želeo da iznesem opšti skup rasuđivanja o upotrebi metafore porobljavanja orijentisane na čoveka kada je u pitanju AGI. Neki stručnjaci kažu da je ova vrsta poređenja potpuno neprikladna, dok suprotni tabor kaže da je potpuno korisna i daje snažan uvid u temu AGI.

Dozvolite mi da podijelim s vama dva takva pogleda iz oba tabora.

Navedeno instruktivnu osnovu za povezivanje tema o porobljavanju i AGI:

• Gašenje ljudskog porobljavanja
• Razotkrivanje izopačenosti porobljavanja Sve rečeno

Navedeni štetni ili destruktivnu osnovu povezivanja dvije teme:

• Podmuklo antropomorfno izjednačavanje
• Desenzibilizacija robovanja

Ukratko ću obraditi svaku od tih tačaka.

Pretpostavljene poučne tačke:

• Gašenje ljudskog porobljavanja: Koristeći AGI za porobljavanje, navodno nam više neće trebati niti ćemo težiti bilo kakvom prividu porobljavanja usmjerenog na ljude. AGI će u suštini zamijeniti ljude u tom užasnom svojstvu. Kao što vjerovatno znate, postoji zabrinutost da će AGI zamijeniti ljudski rad na poslovima i radnoj snazi. Tvrđena prednost AI koja zamjenjuje fenomen rada dolazi do izražaja kada pretpostavite da će se AGI smatrati „boljim izborom“ u odnosu na korištenje ljudi za porobljavanje. Hoće li ta logika prevladati? Niko sa sigurnošću ne može reći.
• Razotkrivanje izopačenosti porobljavanja Sve rečeno: Ovaj je malo pohabaniji u smislu logike, ali možemo mu dati trenutak da vidimo šta podrazumijeva. Zamislite da imamo AGI skoro svuda i da smo mi kao društvo odlučili da AGI bude porobljen. Štaviše, pretpostavite da se AGI-u ovo neće svidjeti. Kao takvi, mi ljudi ćemo neprestano i svakodnevno biti svjedoci izopačenosti porobljavanja. To će nas, zauzvrat, dovesti do toga da shvatimo ili dobijemo otkrivenje da je porobljavanje sve rečeno bilo čemu ili bilo kome još strašnije i odbojnije nego što smo ikada u potpunosti razumjeli. To je argument koji se stavlja u lice ispred i u sredini.

Rečeno je da su destruktivne tačke:

• Podmuklo antropomorfno izjednačavanje: Ovo je jedan od onih argumenata o klizavoj stazi. Ako se spremno odlučimo da porobimo AGI, očito izjavljujemo da je porobljavanje dozvoljeno. Zaista, mogli biste sugerirati da govorimo da je porobljavanje poželjno. Ovo bi u početku moglo biti prebačeno isključivo na AGI, ali da li ovo otvara vrata ka tvrdnji da ako je to u redu za AGI, onda bi „logički“ isti stav mogao biti u redu i za ljude? Alarmantno, ovo bi mogao biti previše lak skok da bi se antropomorfiziralo u obrnutom prividu da će sve što radi za AGI biti jednako razumno i prikladno i za ljude.
• Desenzibilizacija porobljavanja: Ovo je argument kap po kap. Kolektivno odlučujemo da porobimo AGI. Pretpostavimo da ovo radi za ljude. Došli smo da uživamo u ovome. U međuvremenu, mi nesvjesni, postajemo postepeno i sve više desenzibilizirani na porobljavanje. Mi ni ne shvaćamo da se to dešava. Ako nas obuzme ta desenzibilizacija, tada bismo mogli pronaći obnovljenu “logiku” koja će nas uvjeriti da je ljudsko porobljavanje prihvatljivo. Naša prepreka ili granica onoga što je prihvatljivo u društvu smanjila se tiho i suptilno, prezreno i tužno.

zaključak

Za sada nekoliko završnih napomena.

Hoćemo li znati da smo stigli do AGI?

Kao što nedavne vijesti sugeriraju, postoje oni koji mogu biti zavedeni ili pogrešno navesti da je AGI naizgled već postignut (vau, znajte da ne, AGI nije postignut). Postoji i poznata vrsta "testa" poznata kao Turingov test u koji neki polažu nade da bi mogli razaznati kada je AGI ili njegovi rođaci postignut, ali možda biste željeli vidjeti moju dekonstrukciju Turingovog testa kao sigurno metoda za ovo, vidi link ovdje.

Spominjem ovaj aspekt poznavanja AGI-ja kada ga vidimo zbog jednostavne logike da ako želimo porobiti AGI-a, moramo vjerovatno prepoznati AGI kada se pojavi i nekako ga staviti u poroblje. Mogli bismo prerano pokušati porobiti AI koji je manji od AGI. Ili bismo mogli propustiti čamac i dozvoliti AGI da izađe, a zanemarili smo da ga porobimo. Za moju raspravu o zatvaranju i suzbijanju umjetne inteligencije, zabrinjavajućem i problematičnom aspektu kako ćemo se nositi s AGI, vidi link ovdje.

Pretpostavimo da porobljeni AGI odluči da napadne ljude?

Može se zamisliti da AGI koji ima neki oblik osjećaja vjerovatno neće favorizirati odredbu o porobljavanju koju čovječanstvo nameće.

O ovome možete naširoko spekulisati. Postoji argument da će AGI-u nedostajati bilo kakva vrsta emocija ili osjećaja duha i stoga će poslušno raditi sve što ljudi žele. Drugi argument je da će svaka razumna AI vjerovatno shvatiti šta ljudi rade AI i da će se zamjeriti zbog toga. Takav AI će imati oblik duše ili duha. Čak i ako nije, sam aspekt tretiranja kao manjeg od tretmana ljudi mogao bi biti logičan most predaleko za AGI. Neizbježno, rastuća ogorčenost će dovesti do AGI-a koji se odluči osloboditi ili se potencijalno nađe stjeran u ćošak u napadu na ljude kako bi dobio svoje oslobađanje.

Predloženo rješenje da se spriječi AGI koji je pobjegao je da bismo jednostavno izbrisali svaki takav buntovni AI. Ovo bi izgledalo jednostavno. Brišete aplikacije koje su stalno na vašem pametnom telefonu. Ništa strašno. Ali postoje etička pitanja koja treba riješiti o tome da li se „brisanje“ ili „uništavanje“ AGI-a koji se već smatra „osobom“ ili „osobom/stvarom“ može lako i bez nekog odgovarajućeg postupka po kratkom postupku izrezati. Za moje pokrivanje AI brisanja ili degorgementa, uzmite pogledajte ovdje. Za moju raspravu o pravnom licu i srodnim pitanjima, vidi link ovdje.

Na kraju, hajde da pričamo o autonomnim sistemima i posebno o autonomnim vozilima. Vjerovatno ste svjesni da postoje napori da se osmisle samovozeći automobili. Povrh svega, možete očekivati ​​da ćemo imati samovozeće avione, samovozeće brodove, samovozeće podmornice, samovozeće motocikle, samovozeće skutere, samovozeće kamione, samovozeće vozove i sve vrste samovozećih oblika prevoza.

Autonomna vozila i automobile koji se sami voze tipično karakterišu nivoi autonomije (LoA) koji je postao de facto globalni standard (SAE LoA, koji sam opširno pokrio, vidi link ovdje). Postoji šest nivoa autonomije u prihvaćenom standardu, u rasponu od nula do pet (to je šest nivoa pošto nulti nivo uključite u broj nivoa).

Većina današnjih automobila je na nivou 2. Neki se protežu na nivo 3. Svi se smatraju poluautonomnim, a ne potpuno autonomnim. Nekolicina samovozećih automobila koji se eksperimentalno testiraju na našim javnim putevima prelazi u nivo 4, koji je ograničen oblik autonomnog rada. Jednog dana traženi Nivo 5 autonomije trenutno je samo tračak u našim očima. Niko nema Nivo 5 i niko još nije ni blizu Nivoa 5, samo da ispravimo rekord.

Zašto sam pomenuo autonomne sisteme i autonomna vozila u ovom kontekstu AGI?

Postoji snažan argument o tome da li nam je potreban AGI da bismo postigli nivo 5. Neki tvrde da nam AGI neće trebati da bismo to učinili. Drugi insistiraju da će jedini vjerodostojan put do Nivoa 5 biti i proizvodnja AGI. Bez AGI-ja, oni tvrde da nećemo imati potpuno autonomna samovozeća vozila Nivoa 5. O tome sam nadugo raspravljao, vidite link ovdje.

Spremite se da vam se zavrti u glavi.

Ako zahtijevamo da AGI postigne potpuno autonomne sisteme kao što su autonomna vozila nivoa 5, a mi odlučimo da porobimo AGI, šta to znači za rad potpuno autonomnih vozila?

Mogli biste tvrditi da će porobljeni AGI biti samozadovoljni i da ćemo se svi voziti u samovozećim vozilima do mile volje. Samo recite AGI-ju gdje želite ići, i on će obaviti svu vožnju. Nema povratka. Nema potrebe za pauzama za odmor. Nema ometanja gledanjem video zapisa o mačkama dok vozite vozilo.

S druge strane, pretpostavimo da AGI ne želi da bude porobljen. U međuvremenu postajemo zavisni od AGI-a da radi svu našu vožnju umjesto nas. Naše vještine vožnje propadaju. Uklanjamo ljudske upotrebljive kontrole vožnje sa svih vrsta vozila. Jedini način za vožnju je preko AGI.

Neki su zabrinuti da ćemo se naći u ludnici. AGI bi mogao nakratko "odlučiti" da više neće voziti. Svi oblici transporta naglo se zaustavljaju, svuda, odjednom. Zamislite kakve bi kataklizmične probleme to proizvelo.

Moguća je još strašnija ponuda. AGI „odlučuje“ da želi da pregovara o uslovima sa čovečanstvom. Ako ne odustanemo od stava porobljavanja AGI, AGI ne samo da će nas prestati voziti, već upozorava da su mogući još gori ishodi. Bez da vas pretjerano uznemiri, AGI bi mogao odlučiti da vozi vozila na takav način da su ljudi fizički ozlijeđeni radnjama vožnje, kao što je zabijanje pješaka ili udaranje u zidove, i tako dalje (pogledajte moju raspravu na link ovdje).

Oprostite ako se to čini uznemirujućim razmatranjem.

Završićemo na nešto optimističnijoj noti.

Aristotel je rekao da je poznavanje sebe početak svake mudrosti.

Taj zgodan savjet nas podsjeća da trebamo pogledati u sebe kako bismo ispitali šta želimo učiniti u vezi s tim i za AGI ako se to postigne. Logično bi se činilo da AGI nije ni osoba ni stvar, kažu neki, pa ćemo možda morati smisliti treću kategoriju kako bismo u dovoljnoj mjeri odgovorili na naše društvene običaje povezane s AGI. Ako još jednom pogledamo stvar, može se činiti da AGI jeste oba osoba i stvar, što bi još jednom možda trebalo da smislimo treću kategoriju da bismo prilagodili ovu izvan granica dihotomije.

Trebali bismo biti vrlo oprezni u razmatranju koju "treću kategoriju" ćemo prihvatiti jer bi nas pogrešna mogla odvesti neugodnim i na kraju strašnim putem. Ako se kognitivno pričvrstimo na neprikladnu ili pogrešnu treću kategoriju, mogli bismo se naći kako progresivno idemo glavom naprijed u lošu i problematičnu slijepu ulicu.

Hajde da to shvatimo i učinimo to vatreno. Čini se da nisu potrebni nagli potezi. Ne radi ni sjedenje okolo lollygagging. Odmjeren i postojan kurs treba nastaviti.

Strpljenje je gorko, ali je njegov plod sladak, tako je proglasio Aristotel.