Etika veštačke inteligencije i poznata AI Neobična dolina, koja takođe izaziva samovozeće automobile zasnovane na veštačkoj inteligenciji

Ponekad postoje pomalo čudne stvari koje privlače vašu pažnju i pokrenu intuitivne sokove da nešto nije u redu. Neobičnost nije očigledna, nimalo flagrantno u vašem licu. Možda čak nećete moći odmah da shvatite šta je nesklad ili zašto vas poslovično paukovo čulo trne.

Možda se naslućuju suptilni izdajnički tragovi. Možda vam se desi da u svojoj utrobi shvatite da postoji nesklad. Pretpostavljam da biste mogli reći da postoji samo i najmanji nagovještaj potcijenjene jezivosti i da vaš osjetljivi ljudski radar hvata inače naizgled skrivene signale.

Dobrodošli u čudesnu dolinu.

Ako nikada niste čuli za jezovitu dolinu, temu relativno popularnu u polju AI i posebno robotike, čeka vas malo poslastica jer ću to pomno raspravljati i analizirati ovdje.

Sveobuhvatni pojam može se primijeniti na mnoge stvari koje doživljavamo u životu, iako ključni principi i izvorna definicija uključuju AI sisteme i robote. Prvo ćemo istražiti porijeklo i početno značenje čudesne doline, a zatim ćemo nastaviti sa proširenjem kako bismo vidjeli kako se čini da su fenomeni primjenjivi u većim kontekstima.

Takođe bih mogao da dodam da ćemo razmotriti da li ta neobična dolina uopšte postoji.

Vidite, neki skeptici i cinici tvrde da je cijela stvar pomalo smicalica i ne drži vodu. Budite oprezni kada iznosite temu onima koji znaju. Neki će se radosno nasmiješiti i tapšati vas po leđima da vam je ta čudesna dolina itekako poznata, dok će vam drugi oštro govoriti da je to pijanica svinja i da morate ukratko očistiti svoj um sapunom sapuna za mentalno čišćenje .

Dobra vest je da možete da odlučite da li je neobična dolina stvarna ili ne, zajedno sa tim da li ima zasluga za pažljivu primenu ili umesto toga treba da je bez ceremonije bacite na smetlište tehno ideja. U tom smislu, vi ste na sedištu vozača.

Sve ovo se takođe usko odnosi na rastuće polje etičke veštačke inteligencije i rastuću spoznaju da društvo mora ozbiljno i trezveno da obrati pažnju na etiku veštačke inteligencije. Izjednačićemo za trenutak.

Najbolje mjesto za početak je direktno citiranje profesora koji je osmislio koncept neobične doline i otvoreno nazvao ovaj proklamovani fenomen. Godine 1970., profesor Masahiro Mori sa Tokijskog instituta za tehnologiju objavio je prilično sitan članak u nešto manje poznatom časopisu pod nazivom energija (nije posebno leglo za AI i robotiku po sebi), i rekao je ovo:

“Primijetio sam da, penjući se prema cilju da roboti izgledaju kao ljudi, naš afinitet prema njima raste sve dok ne dođemo do doline, koju ja nazivam jezovitom dolinom.”

Imajte na umu da je gornja fraza prikazana na engleskom, iako je originalni rad bio na japanskom. Prevedenu verziju na engleski je nadgledao autor i kasnije je objavljena u IEEE Spectrum 2012. godine i pripisan Masahiru Moriju kao autoru. Rad možete sami pročitati jer je otvoreno i besplatno dostupan na internetu. To je izrazito brzo čitanje od nekih desetak minuta i ne sadrži nikakvu tehničku tešku terminologiju.

Imajući to u vidu, zanimljivo je i pomalo nevjerojatno da je tako žustar članak, objavljen 1970., na kraju pokrenuo čitavu arenu istraživanja i pokrenuo bezbroj srodnih studija, projekata, istraživanja, a ponekad i buru kontroverzi o tome da li je uvedeno koncept neobične doline zaista postoji. Pretpostavljam da ovo pokazuje da intrigantne ideje koje ponekad mijenjaju gledište ne moraju biti masivno zamršene ili pretrpane žargonom i uzvišenošću. Sažeta ideja može biti čak i moćnija nego što se čini na prvi pogled.

Vjerujem da će vas to ohrabriti da pokušate njegovati svoje nove ideje, čineći to sa spoznajom da slatko i jednostavno može biti jednako veličanstveno ili ponekad više nego složeno i složeno.

Hajde da se vratimo u čudesnu dolinu.

Nailazite na robotski sistem koji ima lice slično licu koje izgleda kao čovjek. Zamislite da je ovo robotsko lice osmišljeno kroz brojne iteracije. AI programeri koji sastavljaju glavu robota postepeno se trude da robotski dio lica izgleda sve više i više nalik stvarnom ljudskom licu.

Njihov prvi pokušaj bio je krajnje primitivan. Lice robota imalo je isti izgled koji ste viđali u naučnofantastičnim filmovima da je potpuno metalno i prikazuje zupčanike i žice. Odmah kada pogledate u napravu znate da je to robot. Nemaš pitanja o tome.

Sljedeći pokušaj AI programera uključivao je omotavanje nekih plastičnih materijala oko metalnih dijelova. Iako ovo izgleda malo prijateljskije, još uvijek odmah znate da je to glava robota i robotsko lice. Opet, lako je otkriti.

Ti programeri umjetne inteligencije odlučni su nastaviti s ovim. Oni oblikuju plastiku i daju joj tonove kože. Dodaju karakteristike koje izgledaju vrlo slične ljudskom licu, kao što su mladeži, kosa, mrlje i slično.

Na prvi pogled mogli biste se navesti da povjerujete da je ovo ljudsko lice. Ako je slika robotskog lica snimljena i od vas se tražilo da identifikujete da li slika prikazuje osobu nasuprot robotskom licu, možda ćete biti u zastoju da odmah možete reći koje je to bilo. S druge strane, da ste stajali pored uređaja, vjerovatno biste nakon pažljivijeg pregleda mogli uočiti da to nije čovjek, već robotski izum.

Stvar je u tome da prije nego što ste dobili priliku da pregledate izbliza, bilo je nešto na licu što se nije u potpunosti poklopilo. Izgledalo je kao ljudsko lice. Ali nešto nije u redu. Morali ste stalno pozorno buljiti iznova i iznova da biste stavili prst na ono što ne izgleda sasvim ispravno. Možda je pravo lice. A opet, možda i nije. Vaš um se vrti u skladu s tim.

Privid jezivosti ulazi u vaš um.

Niste imali isti privid jezivosti kada ste vidjeli dvije ranije verzije. Mogli ste bez pauze ili oklijevanja otkriti da je robot robot. Samo bi se dijete moglo prevariti da povjeruje da je bilo koja od tih verzija stvarna osoba.

Ova najnovija verzija je ipak bila drugačija. Još nije bilo usavršeno da izgleda kao ljudsko lice. Niti je bio toliko daleko od prave stvari da je bilo očito da mora biti robot. Došlo je do neke vrste zbrkanog tla.

Pretpostavimo da su programeri dalje gurali svoje istraživačke napore i sve uredili tako da se robotsko lice gotovo ne razlikuje od ljudskog lica. Bez obzira koliko dugo buljite u stvar, niste sigurni da li je čovjek ili nije čovjek. Kada vas informišu da je to lice robota, zatečeni ste. Bože, uradili su sjajan posao da to izgleda stvarno.

Primijetite da ste do sada razmatrali samo robotske aspekte samo na osnovu izgleda.

Mogli bismo ovoj jednačini dodati kretanje. Ovo vam dodaje dodatnu dimenziju da razlučite je li robot robot naspram čovjeka. Ne želim da se u ovoj raspravi u potpunosti bavim ovim problemom kao višedimenzionalnom vrstom problema, jer to čini razjašnjenje ove teme zamršenijim (iako su višedimenzionalnosti neizbježno isprepletene). U svakom slučaju, zamislite da ne samo da ste vidjeli robotsko lice, već biste mogli i gledati kako robot pomiče crte lica, kao što su usta, oči, nos, itd. Očigledno, i to bi mogli biti pokloni o tome da li je ovo robot ili čovek.

Jedan vitalni aspekt koji treba zadržati na čelu jezive doline je da originalna koncepcija naglašava čin ljudske sklonosti. Fenomen koji se tvrdi je da se vaš afinitet povećava dok vidite lica robota koja se postepeno poboljšavaju, sve do tačke u kojoj se pojavljuje neobična varijanta. Kaže se da u tom trenutku vaš osjećaj afiniteta dramatično opada, spuštajući se u ponor ili dolinu afiniteta.

Za određenu verziju zbog koje ste posumnjali da nešto nije u redu, vaš afinitet je navodno radikalno opao. Nadalje, prema teoriji, vaš afinitet može ponovno porasti kada naiđete na napredniju verziju koja je gotovo identična stvarnom ljudskom obliku.

Evo više o tome šta je autor rekao o našoj normalnoj sklonosti da pretpostavimo da se aspekti života glatko povećavaju: „Matematički termin monotono rastuća funkcija opisuje odnos u kojem je funkcija y = ƒ(x) kontinuirano raste sa varijablom x. Na primjer, kao napor x raste, prihod y povećava, ili kada se pritisne gas automobila, automobil se kreće brže. Ova vrsta odnosa je sveprisutna i vrlo lako razumljiva. U stvari, budući da takve monotono rastuće funkcije pokrivaju većinu pojava svakodnevnog života, ljudi mogu pasti u iluziju da predstavljaju sve odnose. Ovom lažnom utisku svjedoči i činjenica da se mnogi ljudi bore kroz život upornim guranjem, a da ne razumiju efikasnost povlačenja. Zato su ljudi obično zbunjeni kada se suoče s nekim fenomenom koji ova funkcija ne može predstavljati.” Ovo je citirano prema IEEE Spectrum prevedeni rad.

Ova skoro univerzalna pretpostavka o stalnom porastu može se poništiti kada naiđemo na nešto pogrešno. Jezivost i sumnja će uzrokovati relativno nagli i dramatičan pad afiniteta, kaže teorija, kao što je robotska ruka koju ste odlučili da se protresete i niste mogli osjetiti karakteristike kostiju ljudske ruke: „Kada se to dogodi, gubimo razum afiniteta, a ruka postaje neobična. U matematičkom smislu, ovo se može predstaviti negativnom vrijednošću.”

Ako prihvatite pretpostavku da postoji ovaj fenomen jezovite doline, siguran sam da se pitate kakva je korist od toga da znate da ta neobična dolina očigledno postoji.

To je klasik svih vremena "pa šta?" test praktičnosti.

Ispostavilo se da je mnogo ljudi smislilo mnoga tumačenja o tome šta bismo trebali ili možemo učiniti u vezi sa čudesnom dolinom. Ima mnogo mišljenja. Uskoro ću se pozabaviti nekima od toga.

U međuvremenu, evo šta je Masahiro Mori ponudio: „Nadamo se da ćemo dizajnirati i izgraditi robote i protetske ruke koje neće pasti u jezovitu dolinu. Stoga, zbog rizika svojstvenog pokušaju povećanja stepena ljudske sličnosti kako bi se povećao drugi vrh, preporučujem dizajnerima da umjesto toga uzmu prvi vrh kao svoj cilj, što rezultira umjerenim stepenom ljudske sličnosti i značajnim osjećajem afiniteta . Zapravo, predviđam da je moguće stvoriti siguran nivo afiniteta namjernim praćenjem neljudskog dizajna. Molim dizajnere da razmisle o ovome.”

Brzi sažetak sa moje strane dvanaest praktičnih pravila o tome šta treba učiniti u vezi sa jezovitom dolinom ide ovako posebno za AI programere:

1) Budite svjesni neobične doline i budite na nogama u skladu s tim

2) Vjerovatno želite postići ljudski afinitet za svoju umjetnu inteligenciju što je više moguće

3) Budite spremni na gubitak ljudskog afiniteta ako vaš AI padne u jezovitu dolinu

4) Nastojte izbjeći čudesnu dolinu tako što ćete osmisliti svoju umjetnu inteligenciju na ovaj način

5) Respektabilno je imati cilj koji je kratak od jezovite doline

6) Podignite se do ruba neobične doline, ali nemojte pasti preko litice

7) Nemojte biti opsjednuti odlaskom izvan neobične doline

8) Postoji šansa da ipak možete preskočiti jezovitu dolinu

9) Nemojte biti zaokupljeni skokom jer ionako možete pasti u dolinu

10) Maksimalni ljudski afinitet bi se doduše postigao prolaskom kroz jezovitu dolinu

11) Bez obzira na to, postoji adekvatan i odgovarajući afinitet koji se nalazi prije neobične doline

12) Neprekidno imajte na umu jezovitu dolinu i ne dozvolite da vam ona izmakne iz uma

Ovih tuceta su sve opšta pravila koja se mogu smatrati ključnim kamenom ili uporištem znanja o jezovitoj dolini. Odmah ću priznati da postoje druge tačke koje nisu navedene u tih oskudnih desetina koje bi se mogle smatrati jednako važnim. Također ću spremno priznati da će sigurno postojati neslaganje za svaku od identificiranih tačaka, a o svakoj navedenoj tački može doći do dugotrajne burne debate.

Štaviše, neki bi rekli da je dvanaest tačaka potpuno smeće jer se za početak zasnivaju na neistini. Ne postoji takva stvar kao što je čudnovata dolina, tvrdili bi. Sve je to samo smicalica i izmišljena izmišljotina koja jedino i nažalost apeluje na slabe umove (jao, to iskreno boli!). Svaka pažnja na jezovitu dolinu je izgubljen dah zraka i neko bi trebao doći i staviti oštar drveni teorijski kolac u srž stvari (neki istraživači su to pokušali učiniti).

Radi diskusije, hajde da nastavimo sa tokom i pretpostavimo da postoji jeziva dolina i da se generalno poklapa sa onim što sam do sada naveo. Oni koji se ne slažu sa konceptualizacijom jezovite doline dobrodošli su da se izvuku iz zone ili nastave da čitaju stisnutih zuba, a njihov intelektualni gnev nastaje i ključa (izvinite zbog toga).

Evo kako se etička AI i fokus osmišljavanja i primjene etičke umjetne inteligencije pojavljuju. Usput, za moja stalna i dubinska istraživanja etike umjetne inteligencije, pogledajte moju diskusiju na ovaj link ovdje i ovaj link ovdje, Da nabrojimo samo neke.

Neobična dolina je izrazito ljubavna afera za one koji se bave etičkom umjetnom inteligencijom.

Prvo, potrebna pozadina. Jedna od etičkih nedoumica vezanih za umjetnu inteligenciju koja najviše diže kosu je to što se ljudi mogu prevariti da vjeruju da je AI sistem razuman. Imajte na umu da ne postoji nijedna AI današnjice koja bi bila ni izbliza svjesna. To se jednostavno ne dešava u ovom trenutku. Moja tobože „drska“ tvrdnja je izrečena uprkos onim neprestanim i blistavim naslovima koji deklarišu ovu AI ili da je AI ili razumna ili dovoljno bliska da se smatra takvom. Malarkey. Nismo u stanju AI.

Ne znamo kako do tamo. Ne znamo hoće li se to dogoditi. Osjećaj umjetne inteligencije je vrijedan san i težnja, iako nemojte preskakati oružje i misliti da smo na pragu toga da ga ostvarimo.

Naravno, mnogi žarko upozoravaju da ćemo se suočiti s egzistencijalnim rizikom, ako na neki način uspijemo da izvučemo AI osjećaj, bilo da to učinimo namjerno ili čisto slučajno. Na taj način razmišljanja, možda traženje AI osjećaja nije baš toliko vrijedno truda. Rizik je da bi ova razumna AI mogla utvrditi da ljudi nisu vrijedni da ih ima. Mogli bismo biti zgnječeni kao buba. Ili postanite robovi AI. Ovo se može dogoditi tako što AI otvoreno odluči da to učini, ili bi AI mogla završiti kao naša vlastita mašina sudnjeg dana koja nas uništava svojom vlastitom nesposobnošću. Za moje izvještavanje o tim zabrinjavajućim ishodima AI osjećaja ili singularnosti, vidi link ovdje.

Ključna etička briga AI je to što programeri AI i oni koji se bave umjetnom inteligencijom povremeno navode ljude da misle da je AI razumna. Način na koji se AI pokazuje, kao što je robotska formulacija ili njena interaktivnost u razgovoru, može podmuklo potaknuti ljude na pretpostavku da je AI razumna. Ovo vas zauzvrat vodi potencijalno lošom stazom jaglaca.

Ako upadnete u mentalnu zamku razmišljanja da je AI sistem razuman, vjerovatno ćete se osloniti na njega da radi stvari koje bi živa bića radila. Ali još uvijek nema zdravog razuma o kvaliteti poput čovjeka ugrađenog u bilo koji od današnjih AI. AI koju trenutno doživljavamo je izuzetno krhka i plitka kada su u pitanju ljudski kapaciteti. Mogli biste se uvući u neke neugodne i opasne vode ako vjerujete da je AI sistem razuman.

Kako se to povezuje sa jezovitom dolinom?

Evo dogovora.

Podsjetimo da nam čudesna dolina izgleda govori da će ljudski afinitet postupno rasti kako se AI sistem ili robot bude sve više približavao ljudskoj formulaciji. U trenutku kada se AI sistem bliži tački da bude prilično blizu, ali još uvijek, ne baš tamo, imamo jeziv osjećaj da nešto nije u redu. Do tada smo znali da AI nije čovjek. Sada nismo sigurni. Naš ljudski afinitet opada. Tek kada AI ili robot postanu potpuno uvjerljivi u pogledu ljudskih sposobnosti, mi vraćamo svoj privid afiniteta prema uređaju.

Vjerovatno bi programeri umjetne inteligencije koji su prihvatili ovo srce namjerno nastoje da zadrže svoju AI izvan jezovite doline, sa ciljem da se zaustave u smislu karakteristika AI, neposredno prije pada u jezoviti ponor (podsjetimo, to je također naglasio Masahiro Mori). Programeri bi to očigledno učinili tako što bi se uverili da još uvek postoje obilni izdajnički tragovi kako bi bilo prilično jasno da je veštačka inteligencija manje od osećajna veštačka inteligencija i ergo nije čovek ili isto tako.

Etičari veštačke inteligencije generalno bi pozdravili taj iskreni napor.

Obrazloženje je jednostavno. Oni koji su tako informisani i prihvataju AI programeri pokušavaju da osiguraju da sistem veštačke inteligencije ne dovede ljude u zabludu da lažno pripisuju objekte nalik ljudima na AI. To je sigurno dobra vijest. Programeri će namjerno izraditi AI kako bi spriječili zaron u jezovitu dolinu. Ljudi će lako shvatiti da AI nije razuman.

Pokušati navesti programere umjetne inteligencije da prihvate takav pristup nije lako. Zaista, to može biti kontraintuitivno s njihovim uobičajenim instinktima i pokretačkim ambicijama.

Postoje mnoge tvrdnje da su AI programeri i tehničari, općenito, zaokupljeni ciljevima. Oni vide cilj i često će ga slijepo slijediti sa velikim guštom. Nema vremena za zaustavljanje i miris ruža. Idemo na trke, idemo. U polju AI, normativni cilj bi bio idealizirana AI koja se ne razlikuje od ljudi po tome što bi AI mogla biti inteligentno jednaka u paritetu. Ali još nismo tamo. Kao takva, čudnovata dolina pruža sekundarni cilj, slijetanje ispred inače strašne jezovite doline, i postaje cilj koji je ipak prihvatljiv. Naravno, nije zlatni nagrađeni prsten, ali ideja je da je ova „sporedna“ nagrada u redu, hvala vam puno i možete biti ponosni na to.

Izmijenili smo razornu najvišu ambiciju težnje ka ciljevima i upregnuli je u razumnu osnovu koja zvuči logično da učinimo pravu stvar, takoreći.

Ura!

Osvojite pobjedu za etiku umjetne inteligencije.

Ali sačekajte sekundu, upozorenje o spojleru, postoji još nešto što moramo jednako uzeti u obzir.

Sada kada ovi pametni AI programeri znaju za jezovitu dolinu, mogli bi svoju pamet i tehničku snagu okrenuti ka namjernom skoku preko ponora, a ipak to učiniti s prividom obmane na umu. Neka AI izgleda i izgleda kao da je potpuno ljudski, iako programeri znaju da to nije istina.

Lagano razmišljanje ide ovako. Nemojte dozvoliti da vaš AI sistem nagne svoj šešir i navede ljude da dobiju tu neuhvatljivu podvodnu struju jezivosti. Isključite aspekte koji bi mogli dati bilo kakav nagovještaj ili naznaku da AI nije ljudskih sposobnosti. Uradite to dok potajno shvaćate i neoprostivo znajući da AI nema ljudske sposobnosti i da se radi o skrivanju te istine od onih koji stupaju u interakciju sa AI ili su zavisni od nje.

Kakvi đavolski planovi.

Ironično, jezovita dolina bi mogla biti neka vrsta poziva za buđenje za AI programere da, ako žele zaista prevariti ljude, moraju biti dovoljno pametni da pobjegnu iz ponora. Oni to ne čine tako što postižu potpunu umjetnu inteligenciju, već podižu dim i ogledala kako bi umjetna inteligencija izgledala varljivo kao da je ljudska. Da programeri veštačke inteligencije nisu shvatili da ova čudesna dolina postoji, uglavnom bi upali u nju. To je dobro za čovječanstvo jer bi ljudi ergo izgubili svoj afinitet prema AI u smislu da se ne oslanjaju previše na današnji kvalitet AI.

Nažalost, znajući da zamka postoji, programeri umjetne inteligencije koji žele da je zaobiđu naći će pogubno pametne načine da to učine.

Postignite pogodak protiv propisa Etičke AI.

Vidite li kako ovo stvara odnos ljubavi i mržnje za etičare umjetne inteligencije o jezovitoj dolini?

Prokletstvo ako to uradiš, prokletstvo ako ne.

Shvaćam da je ovo bilo prilično visoko ispitivanje neobične doline i možda žudite za nekim primjerima iz dana u dan. Postoji poseban i sigurno popularan niz primjera koji su mi bliski srcu. Vidite, u mom svojstvu stručnjaka za umjetnu inteligenciju, uključujući etičke i pravne posljedice, od mene se često traži da identifikujem realistične primjere koji prikazuju dileme etike AI tako da se donekle teorijska priroda teme može lakše shvatiti. Jedno od najzanimljivijih područja koje na živopisno predstavlja ovu etičku AI nedoumicu je pojava pravih samovozećih automobila zasnovanih na AI. Ovo će poslužiti kao zgodan slučaj upotrebe ili primjer za široku raspravu o ovoj temi.

Evo jednog važnog pitanja o kojem vrijedi razmisliti: Da li pojava pravih samovozećih automobila zasnovanih na umjetnoj inteligenciji rasvjetljava išta o nevjerovatnoj dolini, i ako jeste, na šta nas to upućuje?

Dozvolite mi trenutak da raspakujem pitanje.

Prvo, imajte na umu da ne postoji ljudski vozač koji je uključen u istinski samovozeći automobil. Imajte na umu da se istinski samovozeći automobili voze putem AI sistema za vožnju. Ne postoji potreba za ljudskim vozačem za volanom, niti je predviđeno da čovjek upravlja vozilom. Za moju opsežnu i stalnu pokrivenost autonomnih vozila (AV) i posebno samovozećih automobila, pogledajte link ovdje.

Želio bih dodatno pojasniti šta se misli kada govorim o pravim samovozećim automobilima.

Razumijevanje nivoa samoupravnih automobila

Kao pojašnjenje, istinski samovozeći automobili su oni koji AI automobilom upravljaju potpuno samostalno i za vrijeme vožnje ne postoji nikakva ljudska pomoć.

Ova vozila bez vozača smatraju se nivoom 4 i 5 (pogledajte moje objašnjenje na ovaj link ovdje), dok se automobil koji zahtijeva od ljudskog vozača da zajednički dijeli napor u vožnji obično se smatra na Nivou 2 ili Nivou 3. Automobili koji zajednički dijele zadatak vožnje opisani su kao poluautonomni i obično sadrže različite automatizovani dodaci koji se nazivaju ADAS (Napredni sistemi za pomoć vozaču).

Još nema pravog automobila za samostalnu vožnju na nivou 5, za koji još ne znamo da li će to biti moguće postići, niti koliko će vremena trebati da se tamo stigne.

U međuvremenu, napori Nivoa 4 postepeno pokušavaju da dobiju određenu vuču podvrgavajući se vrlo uskim i selektivnim ispitivanjima na javnom putu, iako postoje kontroverze oko toga da li ovo testiranje treba dozvoliti samo po sebi (svi smo mi zamorci na život ili smrt u eksperimentu koji se odvijaju na našim autoputevima i sporednim putevima, neki tvrde, pogledajte moju reportažu na ovaj link ovdje).

S obzirom da za poluautonomne automobile potreban je ljudski vozač, usvajanje tih tipova automobila neće se znatno razlikovati od vožnje konvencionalnih vozila, tako da nema mnogo novog što bi se samo po sebi moglo pokriti na ovu temu (doduše, kao što ćete vidjeti u trenu su sledeće točke koje slede postave uglavnom primenljive).

Za poluautonomne automobile važno je da javnost treba upozoriti na uznemirujući aspekt koji se pojavljuje u posljednje vrijeme, naime da uprkos onim ljudskim vozačima koji stalno objavljuju videozapise kako zaspaju za volanom automobila nivoa 2 ili nivoa 3 , svi trebamo izbjegavati zabludu da vjerujemo kako vozač može oduzeti njihovu pažnju vozačkom zadatku tijekom vožnje poluautonomnog automobila.

Vi ste odgovorna strana za radnje u vozilu, bez obzira na to koliko se automatizacija može prebaciti na nivo 2 ili nivo 3.

Samovozeći automobili i Neobična dolina

Za prava vozila sa samostalnim upravljanjem nivoa 4 i nivo 5 neće biti ljudskog vozača koji je uključen u zadatak vožnje.

Svi putnici bit će putnici.

AI vozi vožnju.

Jedan aspekt koji treba odmah razmotriti uključuje činjenicu da AI uključen u današnje sisteme vožnje AI nije osjetljiv. Drugim riječima, AI je sve skupa računarskog programiranja i algoritama i zasigurno nije u stanju rasuđivati ​​na isti način na koji to mogu ljudi.

Zašto ovaj dodatni naglasak na tome da AI nije svjestan?

Budući da želim naglasiti da, raspravljajući o ulozi sistema upravljanja umjetnom inteligencijom, ne pripisujem ljudske osobine umjetnoj inteligenciji. Imajte na umu da danas postoji stalna i opasna tendencija antropomorfizacije AI. U osnovi, ljudi današnjoj umjetnoj inteligenciji dodjeljuju ljudsku osjetljivost, uprkos neporecivoj i neupitnoj činjenici da još uvijek ne postoji takva umjetna inteligencija.

Uz to pojašnjenje, možete zamisliti da AI sistem vožnje neće nekako "znati" o aspektima vožnje. Vožnja i sve što to uključuje trebat će programirati kao dio hardvera i softvera samovozećeg automobila.

Zaronimo u bezbroj aspekata koji će se igrati na ovu temu.

Prvo, važno je shvatiti da nisu svi samovozeći automobili sa umjetnom inteligencijom isti. Svaki proizvođač automobila i samovozeća tehnološka firma zauzima svoj pristup osmišljavanju samovozećih automobila. Kao takav, teško je dati sveobuhvatne izjave o tome šta će AI sistemi za vožnju učiniti ili ne.

Nadalje, kad god konstatuju da sistem upravljanja AI -om ne radi neku posebnu stvar, to kasnije mogu preuzeti i programeri koji u stvari programiraju računar da to učini. Korak po korak, sustavi vožnje umjetne inteligencije postupno se poboljšavaju i proširuju. Postojeće ograničenje danas možda više neće postojati u budućoj iteraciji ili verziji sistema.

Vjerujem da to pruža dovoljno litanija upozorenja da potkrijepi ono o čemu ću govoriti.

Sada smo spremni da duboko zaronimo u samovozeće automobile i etička pitanja umjetne inteligencije koja za sobom povlače jezivu dolinu.

Postoje četiri aspekta koji se odnose na ovo pitanje koji će biti pokriveni ovdje:

1. Ukupan izgled samovozećih automobila

2. Pitanje gdje "gledaju" samovozeći automobili

3. AI akcije vožnje samovozećih automobila

4. Roboti koji voze kao sredstvo za postizanje samovozećih automobila

Dodatni aspekti su takođe održivo obuhvaćeni, ali zbog prostornih ograničenja, ove četiri teme će biti dovoljne da rasvetle orijentaciju jezovite doline u vezi sa samovozećim automobilima zasnovanim na veštačkoj inteligenciji.

1. Ukupni izgled samovozećih automobila

Kladim se da ste vidjeli slike ili video zapise današnjih proba samovozećih automobila. Kao takvi, možda ste primijetili da su većina vozila automobili konvencionalnog izgleda koji su opremljeni dodatnom specijalizovanom opremom. Na primjer, može postojati krovni nosač koji sadrži niz elektronskih senzora. Senzori ponekad uključuju video kamere, radarske jedinice, LIDAR uređaje, ultrazvučne senzore i slično.

Futuristički dizajn obično sugerira da bismo mogli odstupiti od automobila konvencionalnog izgleda i umjesto toga redizajnirati automobile kako u unutrašnjosti tako iu eksterijeru kako bi bili autonomna vozila glatkijeg izgleda. Trenutno, opšte mišljenje je da je jednostavnije koristiti konvencionalne automobile i ne trošiti energiju pokušavajući da rastegne poduhvat istovremeno petljajući po automobilima nekonvencionalnog izgleda (postoje neki izuzeci od ovog opšteg gledišta, pogledajte moje izveštavanje na link ovdje).

Suština trenutno je u tome da ako se vozite cestom i naiđete na obližnji samovozeći automobil, možete gotovo uvijek odmah uočiti da se vjerovatno radi o samovozećem automobilu tako što ćete samo primijetiti mrvicu senzora postavljenih na autonomno vozilo. Ovo je brzi vizuelni dar. Naravno, ne znate sa sigurnošću da se radi o samostalnoj vožnji sam po sebi jer su u ovom trenutku kontrole vožnje obično netaknute, a za volanom može biti i pomoćni vozač.

Na jedan način razmišljanja, možete sugerirati da je posebno zgodno da se samovozeći automobili fizički ističu i da ih vozači ljudi u obližnjim automobilima kojima upravljaju ljudi lako uočavaju, kao i pješaci u blizini. Spoznaja da u blizini luta samovozeći automobil može biti zgodan trag da budete na oprezu, podstičući vas da budete budni i svjesni da AI vozi ili možda upravlja vozilom.

Pretpostavimo da su samovozeći automobili izgledali identično konvencionalnim automobilima koje upravljaju ljudi. Ovo je realno izvodljivo na najmanje dva načina. Prvo, senzori bi potencijalno mogli biti skriveni ili oblikovani tako da ne budu tako očigledni za povremeni vizuelni pregled. Drugo, moglo bi se dogoditi da se svi automobili, uključujući konvencionalne automobile koje upravljaju ljudi, postepeno opremaju sličnim senzorima, čak i ako će vozilo ipak ostati kao automobil koji pretežno upravljaju ljudi. Pogledajte moje dalje izvještavanje na ovaj link ovdje.

Ako pažljivo razmislite o tome da li samovozeći automobili mogu ili bi trebali biti po izgledu identični konvencionalnim automobilima koje upravljaju ljudi, mogli biste doći do pomisli da se u ovom gulašu možda krije čudnovata dolina.

Vidite, automobili koji očigledno izgledaju kao automobili koji se sami voze mogli bi se označiti kao da se nalaze na raskrsnici koja je samo malo udaljena od jezovite doline. U osnovi, "znate" da je to robot ili robotska vrsta sistema. To je presuda na koju možete skoro odmah preskočiti.

Kada samovozeći automobili izgledaju identično automobilima koje upravljaju ljudi, to možda sugerira da su autonomna vozila preskočila nevjerovatnu dolinu što se tiče izgleda poput robota. Postoji li ipak sredina između te dvije fizičke pojave koja nas dovodi u jezovitu dolinu?

Možda uočite samovozeći automobil kako dolazi niz ulicu i nekako vam se čini da se radi o samovozećem automobilu, s druge strane, izgled nije ni striktno autonoman, niti striktno vođen ljudima. Mogli biste tvrditi da je samovozeći automobil sada u jezivom ili uznemirujućem stanju.

Samovozeći automobil je navodno uronjen u jezovitu dolinu.

Imajući to u vidu, ne bi se svi složili sa tom kategorizacijom. Neki bi tvrdili da fizički izgled nema nikakve veze sa jezovitom dolinom. Neki, naravno, takođe tvrde da ne postoji ništa što se realno naziva čudnovata dolina.

Kao što je ranije spomenuto, možete sami donijeti odluku o tome.

2. Pitanje gdje gledaju samovozeći automobili

Najveća zabrinutost koju mnogi imaju u vezi sa samovozećim automobilima je to što im obično nedostaje bilo kakav ljudski vozač na sedištu vozača i stoga je teško shvatiti gde „vozač“ gleda dok vozi automobil.

Obično bacite pogled na ljudske vozače da biste špijunirali kuda gledaju. Na primjer, možda ste pješak na pješačkom prijelazu i automobil se približava prijelazu. Pažljivo gledate u osobu koja sjedi na vozačevom mjestu i pokušavate razaznati gdje joj je okrenuta glava i gdje gledaju oči. Ako vjerujete da vas je čovjek vidio, možda će vam biti ugodnije da pređete ulicu. Nasuprot tome, ako se činilo da vas ljudski vozač nije vidio, s pravom ste zabrinuti zbog prelaska.

U nekim gradovima postoji neka vrsta gambita mačke i miša o ovim aspektima. Posebna kulturna norma u datom gradu može biti da ako uspostavite kontakt očima sa vozačem, vozač „pobjeđuje“ i oni imaju prividno pravo da nastave, bez obzira na zakonitost situacije u vožnji. Drugi gradovi bi mogli biti potpuno suprotni, naime kulturna norma je da kada se uspostavi kontakt očima, pješak „pobjeđuje“ i da se ljudski vozač treba povinovati postupcima pješaka.

Čini se da smo usvojili ovaj običaj tokom relativno dugog vremena kada su automobili bili usred naših gradova i zajednica. Problem s pojavom samovozećih automobila je taj što nema čovjeka vozača na sjedištu vozača i stoga je bilo koji pješak ili obližnji ljudski vozač koji obično koristi glavu i oči vozača automobila kao kulturni pokazatelj namjere vožnje sada nema sreće.

Proizvođači automobila i programeri samovozećih automobila veoma su svjesni ovog problema koji se pojavljuje. Jedno predloženo rješenje sastoji se od toga da samovozeći automobil trepće farovima autonomnog vozila ili eventualno trubi. Druga ideja je da auto koji se samostalno vozi može imati varijantu zvučnika i reći onima u blizini koje su "namjere" sistema vožnje AI. Svaka od ovih ideja ima značajne nedostatke.

Ipak, drugačiji prijedlog podrazumijeva činjenje nečega za što biste isprva mogli vjerovati da je smiješno. Prijedlog se sastoji od postavljanja kugli nalik na očne jabučice na eksterijer autonomnog vozila. Ove kugle bi prilično izgledale kao ljudske oči u prividu da se mogu okretati naprijed-nazad, dajući vam trenutnu indikaciju koja sugerira da vas je AI „vidjela“ (to biste protumačili po očnim jabučicama koje gledaju u vašem određenom smjeru). Analizirao sam ovaj pristup na link ovdje.

Kakva bi bila vaša reakcija da vidite samovozeći automobil kako se spušta niz cestu i imate ove ogromne čudne kugle koje se pojavljuju na haubi ili krovu?

Pretpostavljam da biste mogli pomisliti da je jezivo, možda jezivo.

Neki bi sugerirali da jezivost proizlazi iz toga što se opremljen samovozeći automobil nalazi u jezovitoj dolini. Drugi bi žestoko tvrdili da ovo nema nikakve veze sa jezovitom dolinom. Od tih takvih stručnjaka, neki bi rekli da postoji jezivost koja može biti jeziva, a da ne mora biti ukorijenjena u jezovitu dolinu (tj. neobična dolina naizgled uvijek proizvodi jezivost, ali nije sva jezivost proizvedena samo preko jezive doline). Drugi ugao je da bi kugle mogle biti dizajnirane tako da manje gledaju na očne jabučice i da izgledaju više robotski, ili da ćemo svi neizbježno prihvatiti pojavu ovih kugli i početna zapanjujuća reakcija će se smiriti.

3. Akcije AI vožnje samovozećih automobila

Mnoga od današnjih pokušaja samovozećih automobila pokazala su da se postojeći sistemi za vožnju sa umjetnom inteligencijom obično programiraju da voze na prilično mlak i donekle striktno pridržavajući se zakonski način. AI sistem vožnje obično dovodi auto koji se samostalno vozi do potpunog zaustavljanja na znakovima Stop. Sistem za AI vožnju ne dozvoljava smelo trčanje kroz raskrsnice kada će semafor uskoro biti crven. Ove svojeglave prakse vožnje su oblast ljudskih vozača.

Na neki način, mogli biste skoro da pretpostavite da je samovozeći automobil samovozeći automobil po stilu vožnje koji izlaže. Čak i ako je autonomno vozilo vizuelno izgledalo kao konvencionalni automobil kojim upravljaju ljudi, mogli biste posmatrati radnje vožnje i možda logično zaključiti da ga verovatno pokreće AI sistem.

Neki veruju da ćemo morati da napravimo sisteme za vožnju sa veštačkom inteligencijom tako da budu sličniji ludostima ljudskih vozača kako bi se efikasno uklopili u normativne pristupe vožnji. Pretpostavljam da biste ovo mogli protumačiti kao gašenje vatre vatrom.

Ima li smisla to raditi?

Imajte na umu da se otvoreni skeptici i kritičari gade te ideje. Oni bi žestoko tvrdili da želimo da AI sistemi za vožnju voze ispravno i oprezno. Dodavanje potencijalno miliona samovozećih automobila na puteve koji su programirani da budu poput zalutalih ljudskih vozača činilo bi se kolosalnom noćnom morom. Razgovarao sam o ovom kontroverznom prijedlogu na link ovdje.

Hajde da preokrenemo dilemu koristeći jezivu dolinu.

Kada je AI sistem vožnje strogo legalan po svojim radnjama vožnje, ovo je možda izdajnički znak da je vjerovatno da je riječ o robotskom sistemu (bez obzira na to što ljudski vozači to rade, iako se u današnjem svijetu čini da su rijetki). Ako sistemi za vožnju sa veštačkom inteligencijom treba da voze neobično kao i ljudski vozači, da li ovo skače preko neobične doline ili pada u jezovitu dolinu?

Razmislite o tome.

4. Roboti koji voze kao sredstvo za postizanje samovozećih automobila

Ova posljednja stavka za pokriće je najupečatljivija od ove četiri.

Možda niste svjesni da neki programeri umjetne inteligencije pokušavaju napraviti robote koji bi vozili automobile. Robot bi izgledao kao čovjek u različitim aspektima, s robotskim nogama i robotskim rukama kao udovima. Kada želite da bilo koji konvencionalni automobil kojim upravljaju ljudi bude samovozeći, vi samo stavite ovog specijalizovanog AI robota za vožnju na vozačevo sjedište vašeg automobila. Vidite moju analizu ovog pojma na link ovdje.

Zašto bismo želeli da vozimo robote?

Ljepota takvog robota je u tome što bi svi današnji automobili kojima upravljaju ljudi mogli na neki način interpretacije postati samovozeći automobili, gotovo preko noći. Vi samo kupite, iznajmite ili nekako nabavite sebi robota za vožnju. Stavljate robota na svoje vozačevo sjedište kada idete na putovanje. Robot vas vozi do vašeg odredišta. Ako želite da se prebacite na ljudsku vožnju, izvadite robota iz vozila, možda ga odložite u prtljažnik za kasniju upotrebu.

Danas u Sjedinjenim Državama postoji oko 250 miliona konvencionalnih automobila. Neki vjeruju da će to na kraju biti bačeno u otpad kako samovozeći automobili budu postojali. Umjesto da bacamo te konvencionalne automobile u otpad, možda bismo mogli pokušati da ih preuredimo u samovozeće automobile, iako je to možda prilično skupa ideja. Naizgled razboritiji pristup bi bio da se roboti za vožnju budu dostupni.

Kada biste vidjeli automobil konvencionalnog izgleda kako dolazi niz ulicu u vašem susjedstvu i imao robota za volanom, kakva bi bila vaša reakcija?

Vjerovatno jezivost.

Jedna tvrdnja koja se može osporiti je da je ova jeziva posljedica toga što robot koji vozi konvencionalni automobil uranja u poznatu ili zloglasnu jezovitu dolinu.

zaključak

Iz perspektive etičke umjetne inteligencije, neobična dolina predstavlja intrigantnu zagonetku.

Postoje neki u AI koji u potpunosti vjeruju u jezovitu dolinu, a neki ne. Ali, bez obzira da li vjerujete u jezovitu dolinu ili ne vjerujete, ipak se sama tema vrti okolo. Ne možete sakriti glavu i pretvarati se da konstrukt sam po sebi ne postoji. Konstrukt kao ideja živi i na neki način je viralno moćan. Mrzite ili volite, prokleta ili možda uzvišena tema i dalje postoji.

Prema mom ranijem diskursu o zaslugama jezovite doline iz ugla etike AI, u njoj postoji dvobojni odnos ljubavi i mržnje. Trebaju li oni u etičkom području umjetne inteligencije prihvatiti jezivu dolinu, ili po kratkom postupku odbaciti jezivu dolinu, ili ostati donekle neutralni po pitanju istinitosti i umjesto toga se fokusirati na utjecaj koji nastaje zbog stalnih divergentnih uvjerenja o tome.

Ovaj izazov dovodi do eminentnog ekonomiste Adama Smitha kako je jednom rekao (parafrazirajući) da na putu od Grada skepticizma morate proći kroz Dolinu dvosmislenosti.