Etika veštačke inteligencije i potraga za samosvesnošću u veštačkoj inteligenciji

Jeste li samosvjesni?

Kladim se da verujete da jeste.

Stvar je u tome što je, navodno, malo nas posebno samosvesno. Postoji raspon ili stepen samosvesti i svi se navodno razlikujemo po tome koliko smo pronicljivo samosvesni. Možda mislite da ste potpuno samosvjesni i da ste to samo marginalno. Možda ste slabo samosvjesni i shvatite da je to vaše mentalno stanje.

U međuvremenu, na najvišem dijelu spektra, mogli biste vjerovati da ste potpuno samosvjesni i da ste iskreno samosvjesni koliko i oni. Dobro za tebe.

Kad smo kod toga, kakva je korist od toga da budete izuzetno samosvjesni?

Prema istraživanju objavljenom u Harvard Business Review (HBR) od Tasha Eurich, navodno ste u stanju da donosite bolje odluke, sigurniji ste u svoje odluke, jači ste u svojim komunikacijskim kapacitetima i sveukupno učinkovitiji (po članku pod naslovom „Šta je samosvijest zaista (i kako da ga kultivišu).“ Faktor bonusa je to što se kaže da su oni sa izraženom samosvesnošću manje skloni varanju, krađi ili laži. U tom smislu, postoji dva načina da se izbegne biti nitkov ili lopov, zajedno sa nastojeći da budete bolje ljudsko biće i da ulepšate svoje bližnje čovečanstvo.

Sve ove priče o samosvijesti postavljaju pomalo očigledno pitanje, naime, šta zapravo označava izraz samosvijest. Lako možete pronaći mnoštvo različitih definicija i interpretacija o kompleksu i da tako kažemo kašastog konstrukta koji podrazumijeva samosvijest. Neki bi pojednostavili stvari sugerirajući da se samosvijest sastoji od praćenja vlastitog ja, znajući šta namjeravate. Izuzetno ste svjesni svojih misli i postupaka.

Vjerovatno, kada nije samosvjesna, osoba ne bi shvatila šta radi, niti zašto to radi, a takođe ne bi bila svjesna šta drugi ljudi imaju da kažu o njoj. Siguran sam da ste upoznali ljude koji su takvi.

Čini se da neki ljudi hodaju ovom zemljom bez pojma šta oni sami rade, niti imaju privid onoga što drugi govore o njima. Pretpostavljam da biste mogli tvrditi da su poput bika koji napada glavom prema dolje u delikatnom butiku lomljivih proizvoda. Obično smo skloni vjerovati da bik ne zna šta radi i da ostaje nesvjestan gledišta drugih osim ako oni drugi ne pokušaju fizički manevrirati ili uhvatiti neupućeno stvorenje.

Kaže se da samosvijest može biti donekle rekurzivna.

Dozvolite mi da skiciram primjer da ilustrujem ovu rekurziju. Gledate prilično zadivljujući video o mačkama na svom pametnom telefonu (svi to rade, čini se). Neki ljudi ne bi imali druge očigledne misli osim čudesnih dirljivih ludorija tih dragih mačaka. U međuvremenu, svako ko ima malo samosvesti, svestan je da gleda video o mačkama. Oni također mogu biti svjesni da drugi oko njih primjećuju da gledaju video o mačkama.

Primijetite da možete biti samosvjesni i još uvijek biti uronjeni u, da tako kažemo, određenu primarnu aktivnost. Primarna aktivnost u ovom slučaju je gledanje videa mačke. Drugo, i istovremeno, možete nositi misao da zapravo gledate video s mačkom. Također možete nositi misao da vas drugi promatraju dok gledate potpuno zabavan video o mačkama. Ne morate nužno prekinuti jednu aktivnost, kao što je prestanak gledanja videa o mačkama, da biste zatim zasebno razmišljali o tome da gledate (ili samo jeste) gledate video o mačkama. Te misli se naizgled mogu javljati paralelno jedna s drugom.

Ponekad bi nas naša samosvijest mogla izbaciti iz ili barem prekinuti primarnu mentalnu aktivnost. Možda, dok razmišljate o gledanju videa o mački, vaš um se djelimično povuče jer je preopterećeno koncentrirati se samo na sam video. Odlučujete da zatim premotate video da biste se vratili na dio koji ste na neki način vidjeli, ali ste bili mentalno ometeni od potpunog razumijevanja. Samosvijest je poremetila vašu primarnu mentalnu aktivnost.

U redu, sada smo spremni za pojavu rekurzivnih aspekata.

Jesi li spreman?

Gledate video o mačkama. Vaša samosvijest vas obavještava da gledate video s mačkom i da vas drugi gledaju dok gledate video. To je status quo.

Zatim napravite dodatni mentalni skok. Počinjete razmišljati o svojoj samosvijesti. Vi ste samosvjesni da uključujete svoju samosvijest. Evo kako to ide: Da li previše razmišljam o tome da gledam video o mački, pitate se očajnički? Ovo je još jedan sloj samosvesti. Rangiranje samosvijesti na vrhu druge samosvijesti.

Stara izreka kaže da su kornjače sve dole. Što se tiče fenomena samosvijesti, mogli biste biti:

• Niste svesni sebe
• Samosvjestan sebe
• Samosvest o svojoj samosvesti o sebi
• Samosvest o sebi da ste samosvesna o svojoj samosvesti o sebi
• Ad Infinitum (tj. i tako dalje)

Možda ste shvatili da sam ranije suptilno istakao da izgleda da postoje dvije glavne kategorije samosvijesti. Jedna posebna teorija postulira da imamo neku vrstu unutrašnje samosvijesti koja se fokusira na naša unutrašnja stanja, a također imamo i vanjsku samosvijest koja pomaže u mjerenju percepcije o nama onih oko nas koji nas posmatraju.

Prema članku HBR-a, evo kratkog prikaza teoretizirane dvije vrste samosvijesti: „Prvi, koji smo nazvali unutrašnja samosvest, predstavlja koliko jasno vidimo vlastite vrijednosti, strasti, težnje, kako se uklapaju u našu okolinu, reakcije (uključujući misli, osjećaje, ponašanja, snage i slabosti) i utjecaj na druge.” A u međuvremenu druga je: „Druga kategorija, spoljašnja samosvest, znači razumijevanje kako nas drugi ljudi vide, u smislu istih gore navedenih faktora. Naše istraživanje pokazuje da su ljudi koji znaju kako ih drugi vide vještiji u pokazivanju empatije i preuzimanju perspektive drugih.”

Zgodna matrica dva po dva ili kvadrat četiri može se izvesti tvrdnjom da se i unutrašnja i eksterna samosvijest kreću od visoke do niske, te možete spojiti dvije kategorije jedna protiv druge. Istraživanje HBR-a pokazuje da ste za vas jedan od ova četiri arhetipa samosvijesti:

• Introspektor: Niska eksterna samosvest + visoka unutrašnja samosvest
• Tragač: niska eksterna samosvest + niska unutrašnja samosvest
• Ugodnik: visoka vanjska samosvijest + niska unutrašnja samosvijest
• Svjesni: visoka vanjska samosvijest + visoka unutrašnja samosvijest

Vrhunac bi bio „svjestan“ arhetip koji se sastoji od toga da se nalazite na najvišoj stepenici eksterne samosvijesti i isto tako na vrhu unutrašnje samosvijesti. Da pojasnim, ne postižete ovo hvaljeno držanje na nužno trajan način. Možete kliziti naprijed-nazad između visokog i niskog nivoa, između unutrašnjeg i vanjskog područja samosvijesti. To može zavisiti od doba dana, situacije u kojoj se nalazite i niza drugih značajnih faktora.

Sada kada smo ljubazno pokrili neke temeljne elemente o samosvijesti, možemo pokušati to povezati s temom etičkog ponašanja.

Uobičajena tvrdnja o samosvijesti je da je veća vjerovatnoća da ćete biti iznad ploče kada ste samosvjesni. To znači, kao što je već navedeno, da ste manje skloni štetnom etičkom ponašanju kao što su krađa, varanje i laganje. Obrazloženje za ovu tendenciju je da bi vas aktivnost vaše samosvijesti navela da shvatite da je vaše vlastito ponašanje neugodno ili neetično. Ne samo da se uhvatite dok skrećete u mutne neetičke vode, već ste i skloni da se vratite nazad i na suvo (svetost etičke teritorije), takoreći.

Vaša samosvijest vam pomaže da ostvarite samokontrolu.

Kontrast bi vjerovatno bio kada postoji malo ili nimalo samosvijesti, što sugerira da je neko možda nesvjestan svog naginjanja neetičkom ponašanju. Mogli biste tvrditi da takva nesvjesna osoba možda neće shvatiti da djeluje loše. Slično biku u prodavnici lomljivih stvari, dok im nešto otvorenije ne privuče pažnju, malo je verovatno da će se samoregulisati.

Usput, ne prihvataju svi ovo. Neki bi tvrdili da se samosvijest može jednako lako primijeniti na neetičnost kao i na etičnost. Na primjer, zločinac može biti potpuno svjestan sebe i uživati ​​u tome što čini zlo. Njihova samosvijest ih čak tjera oštrije ka sve većim i većim djelima zlog ponašanja.

Na ovome je više oblačnosti nego što bi se moglo vidjeti. Pretpostavimo da je neko izrazito samosvjestan, ali nije svjestan etičkih običaja datog društva ili kulture. Na taj način nemaju nikakvo etičko vodstvo, uprkos navedenoj činjenici da su samosvjesni. Ili, ako želite, možda osoba zna za etičke propise i ne vjeruje da se na njih odnose. Oni sebe smatraju jedinstvenim ili izvan granica konvencionalnog etičkog razmišljanja.

Ide u krug.

Samosvijest bi se mogla protumačiti kao dvosjekli etički orijentiran mač, neki bi žarko naglašavali.

Za sada, idemo s verzijom sretnog lica koja se sastoji od samosvijesti u velikoj mjeri koja nas vodi ili gura prema etičkom ponašanju. Uz sve ostalo jednako, napravićemo drsku pretpostavku da što je više samosvesti, više ćete biti etički nastrojeni. Čini se da je prijatno i inspirativno poželjeti to.

Promjenimo brzine i ubacimo umjetnu inteligenciju (AI) u sliku.

Nalazimo se na raskrsnici u ovoj raspravi da povežemo sve postojeće zaplete sa rastućim carstvom etičke AI, takođe poznatom kao etika AI. Za moje kontinuirano i opsežno pokrivanje etike umjetne inteligencije, vidi link ovdje i link ovdje, Da nabrojimo samo neke.

Pojam etičke umjetne inteligencije podrazumijeva preplitanje polja etike i etičkog ponašanja do pojave AI. Sigurno ste vidjeli naslove koji su uzbunili u vezi s umjetnom inteligencijom koja je prepuna nejednakosti i raznih predrasuda. Na primjer, postoji zabrinutost da sistemi za prepoznavanje lica zasnovani na umjetnoj inteligenciji ponekad mogu pokazati rasnu i rodnu diskriminaciju, obično kao rezultat toga kako su osnovni objekti za mašinsko učenje (ML) i duboko učenje (DL) obučeni i postavljeni (pogledajte moju analizu at ovaj link ovdje).

Pokušati zaustaviti ili barem ublažiti nesrećnu jurnjavu prema AI za loše, koji se sastoji od AI sistema koji su ili nehotice ili ponekad namjerno oblikovani tako da djeluju loše, nedavno je postojala hitnost primjene etičkih propisa na razvoj i korištenje AI. Ozbiljni cilj je pružiti etičke smjernice programerima umjetne inteligencije, plus firmama koje grade ili koriste umjetnu inteligenciju i onima koje zavise od AI aplikacija. Kao primjer kreiranja i usvajanja etičkih principa umjetne inteligencije, pogledajte moje izvješće na link ovdje.

Dajte trenutak za razmišljanje da razmislite o ova tri vrlo ključna pitanja:

• Možemo li navesti programere umjetne inteligencije da prihvate etičke principe umjetne inteligencije i stave te smjernice u stvarnu upotrebu?
• Možemo li natjerati firme koje se bave zanatstvom ili umjetnom inteligencijom da rade isto?
• Možemo li natjerati one koji koriste AI da na sličan način budu svjesni etičkih aspekata AI?

Ovo bih bez stida rekao, to je težak zadatak.

Uzbuđenje stvaranja AI može nadjačati svaku nagoveštaj pažnje prema etici AI. Pa, ne samo uzbuđenje, već je i zarada sastavni dio te jednačine. Možda ćete biti iznenađeni kada saznate da su neki u AI carstvu skloni reći da će se uhvatiti u koštac sa etičkim AI „stvarima“ kada izbace svoje AI sisteme van vrata. Ovo je tipična mantra za tehničare da se pobrinete da brzo propadnete i da često ne uspete dok to ne uradite kako treba (nadamo se da ćete uspeti).

Naravno, oni koji sumarno guraju etički sumnjivu umjetnu inteligenciju široj javnosti puštaju konja iz štale. Njihova proklamovana ispružena ideja je da AI za loše će se popraviti nakon što je u svakodnevnoj upotrebi, što je štetno zakašnjenje jer konj već bezobzirno galopira unaokolo. Šteta se može učiniti. Takođe postoji povećana šansa da ništa neće biti popravljeno ili podešeno dok je AI u upotrebi. Čest izgovor je da bi petljanje sa AI u tom trenutku moglo učiniti još gore u smislu ionako neetičkog algoritamskog donošenja odluka (ADM) koji potpuno nestaje.

Šta se može učiniti da bi se iskoristila i vitalna etička umjetna inteligencija kao blistavo i vodeće svjetlo u umovima onih koji grade AI, koriste AI i koriste AI?

odgovor: Samosvijest.

Da, ideja je da kada bi ljudi bili svjesniji o tome kako koriste ili komuniciraju s AI, to bi moglo povećati njihovu sklonost prema želji da etička AI bude norma. Isto se može reći i za AI programere i kompanije povezane sa AI sistemima. Da su bili svjesniji onoga što rade, možda bi više prihvatili etiku umjetne inteligencije.

Dio logike kao što je već navedeno je da samosvijest nudi sklonost ka tome da budete etički bolja osoba, a također i izbjegavanje da budete etički loša osoba. Ako možemo zadržati tu premisu, to implicira da će programeri umjetne inteligencije koji su više skloni samosvijesti, ergo, biti skloni etičkom ponašanju i stoga će biti skloni proizvodnji etički zdrave AI.

Je li to most predaleko za tebe?

Neki bi rekli da je indirektnost malo. Preveliki lanac veza između samosvjesnosti, etičke vrline i primjene etičkih propisa na AI je možda teško progutati. Protuargument je da ne može škoditi pokušati.

Skeptici bi rekli da bi AI programer mogao biti samosvjestan i možda više etički nastrojen, ali neće nužno skočiti ka primjeni tog mentalnog logora na običaje etičke AI. Odgovor na tu nedoumicu je da ako možemo objaviti i popularizirati etička pitanja umjetne inteligencije, inače naizgled slaba veza će postati očiglednija, očekivana i možda će postati standardni način rada kada je u pitanju stvaranje AI.

Sada ću dodati zaokret ovoj sagi. Od zaokreta bi vam se mogla zavrtjeti glava. Molim vas da dobro sjedite i da se pripremite za ono što ću vam reći.

Neki ističu da bismo trebali ugraditi etičku umjetnu inteligenciju direktno u samu umjetnu inteligenciju.

Možda vas ta izjava ne oduševi. Hajde da ga raspakujemo.

Programer bi mogao stvoriti AI sistem i to učiniti sa svojom vlastitom programskom samosviješću o pokušaju da spriječi AI da utjelovljuje pristranosti i nejednakosti. Umjesto da se samo bavi programiranjem, programeri gledaju preko vlastitog ramena da pitaju da li će pristup koji preduzimaju rezultirati potrebnim odsustvom štetnih elemenata u AI.

Odlično, imamo AI programera koji se čini dovoljno samosvjestan, nastojao je prihvatiti etičko ponašanje i ugledao svjetlo da uključi etičke propise dok stvaraju svoj AI sistem.

Ostvarite pobjedu za Ethical AI!

Sve u redu, ali evo nečega što će se kasnije dogoditi. AI se postavlja i stavlja u svakodnevnu upotrebu. Dio AI uključivao je komponentu za „učenje“ u hodu. To znači da se AI može prilagoditi na osnovu novih podataka i drugih aspekata originalnog programiranja. Na stranu, ovo ne znači da je AI razuman. Mi nemamo razumnu AI. Zanemarite one glupe naslove koji govore da imamo. Niko ne može reći hoćemo li imati razumnu umjetnu inteligenciju, niti može u dovoljnoj mjeri predvidjeti kada će se to dogoditi, ako ikada.

Da se vratimo na našu priču, AI je namjerno osmišljen kako bi se poboljšao dok je u toku. Prilično zgodan pojam. Umjesto da programeri moraju stalno da unapređuju, oni dozvoljavaju AI programu da to uradi sam (vau, zar se to izvlači iz posla?).

Tokom vremena dok se AI inč po inč prilagođava, ispostavilo se da se razne užasne nejednakosti i predrasude uvlače u AI sistem sopstvenim aktima izmene. Dok je programer prvobitno držao te neugodne aspekte po strani, oni sada formulišu zbog AI prilagođavanja u hodu. Nažalost, ovo se može dogoditi na tako suptilan način iza scene da niko nije mudriji. Oni koji su ranije možda dali zeleno svjetlo AI nakon početnog iscrpnog testiranja, sada slijepo nisu svjesni da je AI krenula trulim putem AI za loše.

Jedno od načina da se spriječi ili barem uhvati ova nepoželjna pojava bilo bi ugraditi u AI neku vrstu etičke AI dvostruke provjere. Komponenta unutar AI je programirana da prati ponašanje AI i otkrije da li počinje da se pojavljuje neetički ADM. Ako je tako, komponenta bi mogla poslati upozorenje programerima AI ili to učiniti firmi koja koristi AI sistem.

Naprednija verzija ove komponente mogla bi pokušati popraviti AI. Ovo bi bilo prilagođavanje prilagođavanja, pretvaranje neetičkih aspekata nazad u odgovarajuće etičke parametre. Možete zamisliti da je ova vrsta programiranja nezgodna. Postoji šansa da zaluta, da se neetično pretvori u duboko neetičko. Također postoji mogućnost lažnog pozitivnog pokretanja komponente u akciju i možda zabrljati stvari u skladu s tim.

U svakom slučaju, bez zaglavljivanja u tome kako bi ova dvostruka provera funkcionisala, daćemo odvažnu izjavu o tome. Mogli biste sugerirati da se na neki ograničen način za AI kaže da je samosvjestan.

Joj, to su za mnoge borbene riječi.

Preovlađujuće uvjerenje gotovo svih je da današnji AI nije samosvjestan. Tačka, tačka. Dok ne dođemo do razumne AI, za koju ne znamo da li će se i kada dogoditi, ne postoji nijedna vrsta AI koja je samosvesna. Ne barem u smislu samosvijesti usmjerene na čovjeka. Nemojte ni sugerisati da se to može dogoditi.

Svakako se slažem da moramo biti oprezni u pogledu antropomorfizacije AI. Reći ću više o toj zabrinutosti za trenutak.

U međuvremenu, ako biste radi diskusije bili voljni da koristite faznu „svijest o sebi” na labav način, vjerujem da ćete lako vidjeti zašto bi se za AI moglo reći da se pridržava cjelokupnog pojma samo- svijesti. Imamo dio AI koji nadgleda ostatak AI, prateći šta ostatak AI sprema. Kada ostatak AI počne pretjerati, nadzorni dio nastoji to otkriti. Nadalje, dio za praćenje AI ili dvostruka provjera mogu usmjeriti ostatak AI natrag u odgovarajuće trake.

Ne liči li to pomalo na čin gledanja tih video zapisa o mačkama i samosvijesti da to radite?

To je poznato.

Možemo ovo još više produžiti. Komponenta dvostruke provjere AI nije samo programirana da promatra ponašanje ostatka AI-a, već također bilježi ponašanje onih koji koriste AI. Kako se ponašaju korisnici kada koriste AI? Pretpostavimo da neki korisnici izražavaju ogorčenje što ih AI čini diskriminirajućim. AI dvostruka provjera bi mogla to shvatiti, koristeći to kao još jednu crvenu zastavicu o tome da ostatak AI zaluta.

Ovo dovodi do kategorizacije unutrašnje samosvesti i spoljašnje samosvesti.

AI dvostruka provjera skenira interno i eksterno kako bi ustanovila da li je ostatak AI krenuo u uznemirujuća mora. Detekcija će podići zastavicu ili uzrokovati samoispravku.

Hajde da dodamo još jednu pomalo zapanjujuću ekstenziju. Izgradili smo još jedan AI dvostruku provjeru koja je namijenjena dvostrukoj provjeri jezgre AI dvostruke provjere. Zašto tako? Pa, pretpostavimo da se čini da AI dvostruka provjera posustaje ili ne radi svoj posao. AI dvostruka provjera dvostruke provjere će nastojati da otkrije ovaj kvar i poduzima potrebne mjere u skladu s tim. Dobrodošli u rekurzivnu prirodu samosvijesti, neki bi mogli s ponosom izjaviti, kao što je prikazano u računarskom AI sistemu.

Za one od vas koji su već na ivici svog mjesta u vezi s ovim, posljednji komentar, za sada, je da bismo mogli pokušati sugerirati da ako sisteme umjetne inteligencije učinite „samosvjesnim“ oni će onda potencijalno gravitirati etičkom ponašanju. Da li to rade na razumnoj osnovi? Odlučno, ne. Da li to rade na računskoj osnovi? Da, iako moramo biti jasni da to nije istog kalibra kao ljudsko ponašanje.

Ako vam je neugodno što se pojam samosvijesti pogrešno iskrivljuje kako bi se uklopio u računsku shemu, vaše sumnje u vezi s tim su dobro zapažene. Još jedno je otvoreno pitanje da li bismo trebali zaustaviti tekuće napore AI koji koriste ovu ideju. Mogli biste uvjerljivo tvrditi da nas barem čini da nas vodi ka boljem ishodu onoga što će AI vjerovatno učiniti. Ipak, moramo imati širom otvorene oči dok se ovo dešava.

Pretpostavljam da ćemo morati vidjeti kako će se sve ovo odigrati. Vratite se na ovo za pet godina, deset godina i pedeset godina i vidite da li se vaše razmišljanje promijenilo o kontroverznoj stvari.

Shvaćam da je ovo bilo pomalo opojno ispitivanje teme i možda žudite za nekim primjerima iz dana u dan. Postoji poseban i sigurno popularan niz primjera koji su mi bliski srcu. Vidite, u mom svojstvu stručnjaka za umjetnu inteligenciju, uključujući etičke i pravne posljedice, od mene se često traži da identifikujem realistične primjere koji prikazuju dileme etike AI tako da se donekle teorijska priroda teme može lakše shvatiti. Jedno od najzanimljivijih područja koje na živopisno predstavlja ovu etičku AI nedoumicu je pojava pravih samovozećih automobila zasnovanih na AI. Ovo će poslužiti kao zgodan slučaj upotrebe ili primjer za široku raspravu o ovoj temi.

Evo jednog važnog pitanja o kojem vrijedi razmisliti: Da li pojava pravih samovozećih automobila zasnovanih na umjetnoj inteligenciji rasvjetljava išta o tome da AI ima privid “samosvijesti” i ako jeste, šta ovo pokazuje?

Dozvolite mi trenutak da raspakujem pitanje.

Prvo, imajte na umu da ne postoji ljudski vozač koji je uključen u istinski samovozeći automobil. Imajte na umu da se istinski samovozeći automobili voze putem AI sistema za vožnju. Ne postoji potreba za ljudskim vozačem za volanom, niti je predviđeno da čovjek upravlja vozilom. Za moju opsežnu i stalnu pokrivenost autonomnih vozila (AV) i posebno samovozećih automobila, pogledajte link ovdje.

Želio bih dodatno pojasniti šta se misli kada govorim o pravim samovozećim automobilima.

Razumijevanje nivoa samoupravnih automobila

Kao pojašnjenje, istinski samovozeći automobili su oni koji AI automobilom upravljaju potpuno samostalno i za vrijeme vožnje ne postoji nikakva ljudska pomoć.

Ova vozila bez vozača smatraju se nivoom 4 i 5 (pogledajte moje objašnjenje na ovaj link ovdje), dok se automobil koji zahtijeva od ljudskog vozača da zajednički dijeli napor u vožnji obično se smatra na Nivou 2 ili Nivou 3. Automobili koji zajednički dijele zadatak vožnje opisani su kao poluautonomni i obično sadrže različite automatizovani dodaci koji se nazivaju ADAS (Napredni sistemi za pomoć vozaču).

Još nema pravog automobila za samostalnu vožnju na nivou 5, za koji još ne znamo da li će to biti moguće postići, niti koliko će vremena trebati da se tamo stigne.

U međuvremenu, napori Nivoa 4 postepeno pokušavaju da dobiju određenu vuču podvrgavajući se vrlo uskim i selektivnim ispitivanjima na javnom putu, iako postoje kontroverze oko toga da li ovo testiranje treba dozvoliti samo po sebi (svi smo mi zamorci na život ili smrt u eksperimentu koji se odvijaju na našim autoputevima i sporednim putevima, neki tvrde, pogledajte moju reportažu na ovaj link ovdje).

S obzirom da za poluautonomne automobile potreban je ljudski vozač, usvajanje tih tipova automobila neće se znatno razlikovati od vožnje konvencionalnih vozila, tako da nema mnogo novog što bi se samo po sebi moglo pokriti na ovu temu (doduše, kao što ćete vidjeti u trenu su sledeće točke koje slede postave uglavnom primenljive).

Za poluautonomne automobile važno je da javnost treba upozoriti na uznemirujući aspekt koji se pojavljuje u posljednje vrijeme, naime da uprkos onim ljudskim vozačima koji stalno objavljuju videozapise kako zaspaju za volanom automobila nivoa 2 ili nivoa 3 , svi trebamo izbjegavati zabludu da vjerujemo kako vozač može oduzeti njihovu pažnju vozačkom zadatku tijekom vožnje poluautonomnog automobila.

Vi ste odgovorna strana za radnje u vozilu, bez obzira na to koliko se automatizacija može prebaciti na nivo 2 ili nivo 3.

Samovozeći automobili i AI imaju takozvanu samosvijest

Za prava vozila sa samostalnim upravljanjem nivoa 4 i nivo 5 neće biti ljudskog vozača koji je uključen u zadatak vožnje.

Svi putnici bit će putnici.

AI vozi vožnju.

Jedan aspekt koji treba odmah razmotriti uključuje činjenicu da AI uključen u današnje sisteme vožnje AI nije osjetljiv. Drugim riječima, AI je sve skupa računarskog programiranja i algoritama i zasigurno nije u stanju rasuđivati ​​na isti način na koji to mogu ljudi.

Zašto ovaj dodatni naglasak na tome da AI nije svjestan?

Budući da želim naglasiti da, raspravljajući o ulozi sistema upravljanja umjetnom inteligencijom, ne pripisujem ljudske osobine umjetnoj inteligenciji. Imajte na umu da danas postoji stalna i opasna tendencija antropomorfizacije AI. U osnovi, ljudi današnjoj umjetnoj inteligenciji dodjeljuju ljudsku osjetljivost, uprkos neporecivoj i neupitnoj činjenici da još uvijek ne postoji takva umjetna inteligencija.

Uz to pojašnjenje, možete zamisliti da AI sistem vožnje neće nekako "znati" o aspektima vožnje. Vožnja i sve što to uključuje trebat će programirati kao dio hardvera i softvera samovozećeg automobila.

Zaronimo u bezbroj aspekata koji će se igrati na ovu temu.

Prvo, važno je shvatiti da nisu svi samovozeći automobili sa umjetnom inteligencijom isti. Svaki proizvođač automobila i samovozeća tehnološka firma zauzima svoj pristup osmišljavanju samovozećih automobila. Kao takav, teško je dati sveobuhvatne izjave o tome šta će AI sistemi za vožnju učiniti ili ne.

Nadalje, kad god konstatuju da sistem upravljanja AI -om ne radi neku posebnu stvar, to kasnije mogu preuzeti i programeri koji u stvari programiraju računar da to učini. Korak po korak, sustavi vožnje umjetne inteligencije postupno se poboljšavaju i proširuju. Postojeće ograničenje danas možda više neće postojati u budućoj iteraciji ili verziji sistema.

Vjerujem da to pruža dovoljno litanija upozorenja da potkrijepi ono o čemu ću govoriti.

Sada smo pripremljeni da duboko zaronimo u automobile koji se sami voze i etička pitanja AI koja podrazumijevaju pomisao da AI ima neku vrstu samosvijesti, ako hoćete.

Upotrijebimo jednostavan primjer. Samovozeći automobil baziran na umjetnoj inteligenciji je u toku na ulicama vašeg susjedstva i čini se da vozi sigurno. U početku ste posebnu pažnju posvećivali svakom trenutku kada biste uspjeli da bacite pogled na samovozeći automobil. Autonomno vozilo isticalo se svojom stalkom elektronskih senzora koji su uključivali video kamere, radarske jedinice, LIDAR uređaje i slično. Nakon mnogo sedmica samovozećeg automobila koji krstari vašom zajednicom, sada to jedva primjećujete. Što se vas tiče, to je samo još jedan automobil na već prometnim javnim putevima.

Da ne mislite da je nemoguće ili nevjerovatno upoznati se s viđanjem samovozećih automobila, često sam pisao o tome kako su se lokaliteti koji su u okviru testiranja samovozećih automobila postepeno navikli da vide dotjerana vozila, pogledajte moju analizu na ovaj link ovdje. Mnogi od lokalnog stanovništva na kraju su prešli sa razjapljenih usta ushićenog buljenja na sada emitovanje ekspanzivnog zijevanja dosade kako bi svjedočili tim vijugavim samovozećim automobilima.

Vjerovatno je glavni razlog trenutno zbog kojeg bi mogli primijetiti autonomna vozila zbog faktora iritacije i razdraženosti. Standardni AI sistemi za vožnju osiguravaju da automobili poštuju sva ograničenja brzine i pravila na putu. Za užurbane ljudske vozače u njihovim tradicionalnim automobilima koje upravljaju ljudi, ponekad se iznervirate kada ste zaglavljeni iza samovozećih automobila zasnovanih na umjetnoj inteligenciji koji strogo poštuju zakon.

To je nešto na šta bi svi mogli da se naviknemo, s pravom ili ne.

Natrag na našu priču. Jednog dana, pretpostavimo da se samovozeći automobil u vašem gradu ili gradu približi znaku Stop i ne čini se da usporava. Nebesa, izgleda da će sistem za vožnju sa veštačkom inteligencijom naterati samovozeći automobil da prođe pored znaka Stop. Zamislite da je pešak ili vozač bicikla negdje u blizini i bude uhvaćen nespremno da se samovozeći automobil neće pravilno zaustaviti. Sramota. Opasno!

I nezakonito.

Razmotrimo sada AI komponentu u AI sistemu vožnje koja djeluje kao stil dvostruke provjere samosvijesti.

Odvojit ćemo trenutak da proučimo detalje o tome šta se dešava unutar AI sistema vožnje. Ispostavilo se da su video kamere postavljene na autonomno vozilo otkrile nešto što je možda izgledalo kao znak Stop, iako u ovom slučaju obraslo drvo obilno zaklanja znak Stop. Sistem mašinskog učenja i dubokog učenja koji je prvobitno bio obučen za znakove Stop osmišljen je na obrascima uglavnom znakova potpunog zaustavljanja, uglavnom nesputanih. Računarskim ispitivanjem video snimaka, dodijeljena je mala vjerovatnoća da je na tom mjestu postojao znak Stop (kao dodatna komplikacija i dodatno objašnjenje, ovo je bio novopostavljen znak Stop koji se nije pojavio na prethodno pripremljenim digitalnim kartama koje je AI sistem vožnje se oslanjao na).

Sve u svemu, AI sistem za vožnju je kompjuterski određen da nastavi naprijed kao da znak Stop ili ne postoji ili je moguće znak druge vrste koji je možda podsjećao na znak Stop (ovo se može dogoditi i dešava se s određenom učestalošću).

Ali, srećom, dvostruka provera samosvesne veštačke inteligencije pratila je aktivnosti AI sistema za vožnju. Nakon računskog pregleda podataka i procjene od strane ostatka AI, ova komponenta je odlučila da nadjača normalan tok nastavka i umjesto toga naredila AI sistemu vožnje da se prikladno zaustavi.

Povrijeđenih nije bilo, a nije bilo nikakvih nezakonitih radnji.

Moglo bi se reći da se dvostruka provera samosvesne veštačke inteligencije ponašala kao da je ugrađeni pravni agent, pokušavajući da osigura da sistem vožnje AI poštuje zakon (u ovom slučaju, znak Stop). Naravno, i sigurnost je bila ključna.

Taj primjer, nadamo se, pokazuje kako bi zamišljena AI samosvjesna dvostruka provjera mogla funkcionirati.

Sljedeće možemo ukratko razmotriti jedan istaknutiji primjer etičke umjetne inteligencije koji ilustrira kako dvostruka provjera samosvjesne umjetne inteligencije može pružiti ugrađenu funkcionalnost orijentiranu na etičku umjetnu inteligenciju.

Prvo, kao pozadina, jedna od zabrinutosti koja je izražena u vezi s pojavom samovozećih automobila zasnovanih na umjetnoj inteligenciji je da bi oni mogli na kraju biti korišteni na pomalo nenamjeran diskriminirajući način. Evo kako. Pretpostavimo da su ti automobili koji se sami voze postavljeni da pokušaju maksimizirati svoj potencijal prihoda, što definitivno ima smisla za one koji upravljaju flotom samovozećih automobila koji su dostupni za dijeljenje vožnje. Vlasnik flote želi da ima profitabilnu operaciju.

Može se dogoditi da u određenom gradu ili gradu lutajući samovozeći automobili postepeno počnu služiti nekim dijelovima zajednice, a ne drugim područjima. Oni to rade u cilju zarade, jer siromašnija područja možda neće donositi prihod kao bogatiji dijelovi lokalnog područja. Ovo nije eksplicitna težnja da se služi nekim područjima, a ne služi drugima. Umjesto toga, organski proizlazi da AI samovozećih automobila „shvati“ računski da se može zaraditi više novca koncentrišući se na geografski bolje plaćena područja. Raspravljao sam o ovoj društvenoj etičkoj brizi u svojoj kolumni, kao što je na link ovdje.

Pretpostavimo da smo dodali dvostruku provjeru AI samosvijesti u sisteme vožnje AI. Nakon nekog vremena, AI komponenta računski primjećuje obrazac gdje se samovozeći automobili kreću u romingu. Posebno, u nekim oblastima, ali ne i u drugim. Na osnovu toga što je kodiran nekim etičkim AI pravilima, AI samosvjesna dvostruka provjera počinje voditi samovozeće automobile u druge dijelove grada koji su inače bili zanemareni.

Ovo ilustruje pojam samosvjesne umjetne inteligencije i to u kombinaciji s elementom etičke umjetne inteligencije.

Još jedan takav primjer mogao bi pružiti uvid da ovo razmatranje etičke umjetne inteligencije može biti i prilično otrežnjujuće i ozbiljno razgrananje života ili smrti.

Razmotrite novinski izvještaj o nedavnoj saobraćajnoj nesreći. Navodno, čovjek je vozač dolazio do prometne raskrsnice i imao zeleno svjetlo da nastavi pravo. Drugi vozač je prošao kroz crveno svjetlo i ušao na raskrsnicu kada to nije trebalo. Vozač sa zelenim svjetlom je u posljednjem trenutku shvatio da će se ovaj drugi automobil žestoko zabiti u njegov auto.

Prema rečima ovog ugroženog vozača, on je svesno proračunao da će ga ili udariti drugi automobil, ili da može skrenuti da pokuša da izbegne uljeza. Problem sa skretanjem je bio što su se u blizini nalazili pješaci koji bi bili ugroženi.

Koji biste izabrali?

Možete se pripremiti da budete pogođeni i nadati se da vas šteta neće osakatiti ili ubiti. S druge strane, možete se radikalno udaljiti, ali teško ugroziti i eventualno oštetiti ili ubiti obližnje pješake. Ovo je težak problem, koji uključuje moralno prosuđivanje, i u potpunosti je prožet etičkim (i pravnim) implikacijama.

Postoji etička nedoumica opće namjene koja pokriva ovu vrstu dileme, slavno ili možda neslavno nazvanu Problem kolica, pogledajte moje opširno izvješće na ovaj link ovdje. Ispostavilo se da je to etički stimulirajući misaoni eksperiment koji seže do ranih 1900-ih. Kao takva, ova tema postoji već duže vrijeme, a u novije vrijeme se općenito dovodi u vezu s pojavom umjetne inteligencije i samovozećih automobila.

Zamijenite ljudskog vozača sa AI sistemom vožnje ugrađenim u auto koji se samostalno vozi.

Zamislite onda da AI samovozeći automobil ulazi u raskrsnicu i senzori autonomnog vozila iznenada detektuju automobil kojim upravljaju ljudi koji opasno dolazi direktno kroz crveno svjetlo i cilja na automobil bez vozača. Pretpostavimo da samovozeći automobil ima nekoliko putnika u vozilu.

Šta želite da AI uradi?

Da li se AI sistem za vožnju odluči da nastavi naprijed i uđe u njega (vjerovatno će oštetiti ili možda ubiti putnike u vozilu), ili želite da AI sistem za vožnju iskoristi šansu i skrene, iako akcija skretanja uzima autonomno vozilo opasno prema obližnjim pješacima i može ih povrijediti ili ubiti.

Mnogi proizvođači AI automobila koji se sami voze uzimaju bezobzirni pristup ovim etičkim AI groznim problemima. Uopšteno govoreći, AI kako je trenutno programiran jednostavno bi plutao naprijed i bio bi nasilno nabijen od strane drugog automobila. AI nije bio programiran da traži bilo kakve druge manevre izbjegavanja.

Više puta sam predviđao da će ovaj stav proizvođača automobila koji se sami voze sa veštačkom inteligencijom da se ne vidi-zlo ne čuje-ne-zlo na kraju doći okolo i ugristi ih (moja analiza je na link ovdje). Možete očekivati ​​tužbe koje uključuju takve saobraćajne nesreće koje će tražiti da se otkrije šta je AI programirana da uradi. Da li su kompanija ili programeri AI ili operater flote koji su razvili i postavili AI bili nemarni ili odgovorni za ono što je AI uradila ili nije? Također možete predvidjeti da će se etička svijest o umjetnoj inteligenciji pojaviti u javnosti kada dođe do ovakvih slučajeva.

U ovu dilemu o etičkoj umjetnoj inteligenciji ulazi naša hvaljena AI samosvjesna dvostruka provjera koja je etički orijentirana. Možda bi se ova posebna komponenta AI mogla uključiti u ovakve okolnosti. Dio prati ostatak AI sistema za vožnju i status samovozećeg automobila. Kada dođe do ovako strašnog trenutka, AI komponenta služi kao rješavač problema s kolicima i nudi ono što bi AI sistem vožnje trebao učiniti.

Nije lako kodirati, uvjeravam vas.

zaključak

Podijeliću sa vama posljednju misao za sada na ovu temu.

Vjerovatno će vam biti intrigantno.

Znate li za ono test ogledala?

To je prilično dobro poznato u proučavanju samosvijesti. Drugi nazivi za ovu materiju su test samoprepoznavanja ogledala, test crvenih tačaka, test crvenila i srodne fraze. Tehnika i pristup su prvobitno osmišljeni ranih 1970-ih za procjenu samosvijesti životinja. Životinje koje su navodno uspješno prošle test uključuju majmune, određene vrste slonova, delfine, svrake i neke druge. Životinje koje su testirane i navodno nisu prošle test uključuju džinovske pande, morske lavove itd.

Evo dogovora.

Kada se životinja vidi u ogledalu, da li životinja shvaća da je prikazana slika njih same, ili životinja misli da je druga životinja?

Pretpostavlja se da životinja vizualno prepoznaje svoju vlastitu vrstu, nakon što je vidjela druge svoje vrste, pa bi stoga mogla pomisliti da je životinja prikazana u zrcalu rođak ili možda ratoborni konkurent (naročito ako životinja reži na zrcalnu sliku, koja u čini se da im turn reže). Možda ste vidjeli svoju kućnu mačku ili voljenog kućnog ljubimca kako rade isto kada se prvi put ugleda u kućnom ogledalu.

U svakom slučaju, pretpostavili bismo da se divlja životinja nikada prije nije vidjela. Pa, to nije nužno istina, jer je možda životinja ugledala sebe u mirnom bazenu ili kroz sjajnu formaciju stijena. Ali to se smatra manje vjerovatnim šansama.

U redu, želimo nekako procijeniti da li je životinja u stanju da shvati da je to zapravo životinja prikazana u ogledalu. Razmislite o tom naizgled jednostavnom činu. Ljudi u mladosti shvaćaju da postoje i da se njihovo postojanje demonstrira videći sebe u ogledalu. Postaju samosvjesni sebe. U teoriji, možda nećete shvatiti da ste vi, sve dok se ne vidite u ogledalu.

Možda životinje nisu u stanju da kognitivno postanu samosvjesne na isti način. Može biti da bi se životinja vidjela u ogledalu i stalno vjerovala da je to neka druga životinja. Koliko god se puta ugledalo, i dalje bi pomislilo da je to drugačija životinja od nje same.

Trik u ovome dolazi do izražaja. Označavamo životinju. Ova oznaka mora biti vidljiva samo kada se životinja vidi u ogledalu. Ako životinja može da se izvrne ili okrene i vidi oznaku na sebi (direktno), to uništava eksperiment. Nadalje, životinja ne može osjetiti, pomirisati ili na bilo koji drugi način otkriti žig. Još jednom, ako bi to učinili, to bi uništilo eksperiment. Životinja ne može znati da smo joj stavili žig, jer bi to zvijeri dalo naslutiti da je nešto tu.

Želimo da suzimo stvari tako da bi jedini mogući razlog da se znak može otkriti bio gledanje samog sebe u ogledalo.

Aha, test je sada spreman. Životinja se postavlja ispred ogledala ili odluta do njega. Ako životinja naknadno pokuša dodirnuti ili kopati žig, razumno bismo zaključili da bi se to dogodilo jedino ako bi životinja shvatila da je oznaka na njoj samoj. Vrlo malo životinjskih vrsta uspjelo je uspješno proći ovaj test.

Postoji niz kritika na račun testa. Ako je ljudski tester u blizini, oni bi mogli odati stvari buljeći u žig, što bi moglo dovesti do toga da ga životinja četka ili osjeti. Druga mogućnost je da životinja i dalje vjeruje da je druga životinja prikazana u ogledalu, ali je iste vrste, pa se životinja pita da li i ona ima oznaku kao na drugoj životinji.

I dalje ide dalje.

Siguran sam da vam je drago da ovo znate i da ćete od sada shvatiti zašto postoji tačka ili neka čudna oznaka na životinji koja inače ne bi imala takav znak. Ko zna, možda je nedavno završio eksperiment ogledala. Čestitajte životinji, sigurno, što je bila velikodušan učesnik.

Kakve veze išta od toga ima sa samovozećim automobilima baziranim na umjetnoj inteligenciji?

Svideće vam se ovaj deo.

Dugim autoputem ide samovozeći automobil. AI sistem vožnje koristi senzore za otkrivanje drugog saobraćaja. Ovo je autoput sa dvije trake na kojem se jednom trakom saobraća u smjeru sjevera, a drugom na jugu. Povremeno će automobili i kamioni pokušati da se mimoiđu, čineći to tako što će ući u suprotnu traku, a zatim se vratiti u svoju pravu traku.

Videli ste ovo, nesumnjivo ste ovo uradili.

Kladim se da se i vama dogodio ovaj sljedeći aspekt. Ispred samovozećeg automobila je jedan od onih velikih kamiona cisterni. Izrađen je od sjajnog metala. Uglačan i čist kao zvižduk. Kada sjednete iza takvog kamiona, možete vidjeti zrcalnu sliku vašeg automobila preko stražnjeg dijela cisterne. Ako ste ovo vidjeli, znate koliko to može biti očaravajuće. Tu ste, vi i vaš automobil, koji se ogledate u ogledalu stražnjeg dijela kamiona cisterne.

Sedi za ludi obrt.

Iza kamiona cisterne dolazi samovozeći automobil. Kamere detektuju sliku automobila koja se prikazuje u ogledalu. Vau, procjenjuje AI, je li to auto? Dolazi li kod samovozećeg automobila? Kako se samovozeći automobil sve više približava kamionu cisterni, čini se da je automobil sve bliže i bliže.

Ajme, AI bi kompjuterski mogao izračunati da je ovo opasna situacija i da bi AI trebala poduzeti akciju izbjegavanja iz ovog ludog odmetničkog vozila. Vidite, AI se nije prepoznao u ogledalu. Nije prošao test ogledala.

sta da radim? Možda AI samosvjesni dvostruki provjeravač uskoči u stvar i uvjeri ostatak AI sistema vožnje da je to samo bezopasna refleksija. Opasnost izbjegnuta. Svijet je spašen. Uspješno položen AI Mirror Test!

Sa nerazumljivim zaključkom, mogli bismo čak sugerirati da je AI ponekad pametnija ili barem samosvjesnija od prosječnog medvjeda (iako, za čast medvjeda, oni se obično dobro snalaze u testu ogledala, često nakon što su dobili navikli na njihov odraz u lokvama vode).

Ispravka, možda AI može biti samosvjesniji od džinovskih pandi i morskih lavova, ali nemojte to reći životinjama, one bi mogle biti u iskušenju da razbiju ili razbiju AI sisteme. Ne želimo to, zar ne?