AI Etika koja se strastveno bori za vaše zakonsko pravo da budete izuzetak

Kažu da od svakog pravila postoji izuzetak.

Međutim, problem je u tome što često preovlađuje stalno pravilo i postoji malo ili nimalo dopuštenja da se izuzetak prizna ili prihvati. Prosječni slučaj se koristi uprkos velikoj mogućnosti da je izuzetak u prvom planu. Izuzetak ne dobija vreme za emitovanje. Nema šanse da bude propisno razmotreno.

Siguran sam da znaš o čemu pričam.

Da li ste ikada pokušali da dobijete neku vrstu individualizovane korisničke usluge u kojoj ste bili bezobzirno tretirani bez ikakve razlike za vaš konkretan slučaj i vaše specifične potrebe?

Ovo vam se nesumnjivo dogodilo, vjerovatno bezbroj puta.

Provest ću vas kroz uznemirujući trend koji se javlja o tome kako se umjetna inteligencija (AI) nemilosrdno osmišljava kako bi natjerala sve da uklopi u jednu paradigmu koja odgovara svima.

Izuzeci se ili ne otkrivaju ili se biraju da budu iskrivljeni kao da uopće nisu izuzeci. Osnova za to je djelimično zbog pojave mašinskog učenja (ML) i dubokog učenja (DL). Kao što ćete uskoro vidjeti, ML/DL je oblik uparivanja računskog uzorka, čije je slično „lakše“ za razvoj i implementaciju ako ste voljni zanemariti ili zaobići izuzetke. Ovo je veoma problematično i izaziva veoma značajne brige oko etike veštačke inteligencije. Za moje sveukupno tekuće i opsežno pokrivanje etike AI i Etičke AI, pogledajte link ovdje i link ovdje, Da nabrojimo samo neke.

Stvari ne moraju biti takve i imajte na umu da to podstiču oni koji prave i primjenjuju AI odabirom ignoriranja ili umanjivanja rukovanja izuzecima unutar svojih AI izmišljotina.

Kada vladaju izuzeci

Hajde da prvo otkrijemo prirodu prosječnog slučaja nasuprot realizaciji izuzetaka.

Moj omiljeni primjer ove vrste gomilanja pasa ili kratkovidno prosječnog pristupa bez izuzetaka živo je osvijetljen gotovo bilo kojom epizodom hvaljene i još uvijek izuzetno popularne TV serije poznate kao House, MD (obično se izražava samo kao kuća, koji je trajao od 2004. do 2012. i danas se može pogledati na društvenim mrežama i drugim medijima). Emisija je uključivala izmišljenog lika po imenu dr. Gregory House koji je bio grub, nepodnošljiv i prilično nekonvencionalan, a ipak je bio prikazan kao medicinski genije koji je mogao otkriti najsjajnije bolesti i tegobe. Drugim doktorima, pa čak i pacijentima, možda se nije nužno svidio, ali on je posao obavio.

Evo kako se odigrala tipična epizoda (generičko upozorenje za spojler!).

Pacijent se pojavljuje u bolnici u kojoj je dr House zaposlen. Pacijent u početku ima pomalo uobičajene simptome, a razni drugi doktori se izmjenjuju pokušavajući dijagnosticirati i izliječiti pacijenta. Čudno je da pokušaji da se pomogne pacijentu ili ne uspevaju da poboljšaju nepovoljne uslove ili što je još gore imaju tendenciju da se obrate. Pacijentu je sve gore i gore.

Pošto se na pacijenta sada gleda kao na neku vrstu medicinske radoznalosti, a pošto niko drugi ne može da shvati od čega pacijent boluje, u slučaj je doveden dr. House. To se ponekad radi namjerno kako bi se iskoristilo njegovo medicinsko umijeće, dok u drugim slučajevima on čuje za slučaj i njegovi urođeni instinkti ga vuku prema neobičnim okolnostima.

Postepeno otkrivamo da pacijent ima neku izuzetno rijetku bolest. Samo dr. House i njegov tim medicinskih stažista mogu ovo shvatiti.

Sada kada sam s vama podijelio glavnu radnju epizoda, hajde da zaronimo u naučene lekcije koje ilustruju prirodu prosječnog slučaja naspram izuzetaka.

Izmišljene priče su dizajnirane da pokažu kako razmišljanje unutar kutije ponekad može jako promašiti cilj. Svi ostali doktori koji isprva pokušavaju pomoći pacijentu su zamagljeni u svojim procesima razmišljanja. Oni žele da umetnu simptome i predstavljene aspekte u konvencionalnu medicinsku dijagnozu. Pacijent je samo jedan od mnogih koje su vjerovatno već vidjeli. Pregledajte pacijenta, a zatim mu prepišite iste tretmane i medicinska rješenja koja su više puta koristili tokom svoje medicinske karijere.

Operite, isperite, ponovite.

U jednom smislu, ovaj pristup možete opravdati. Šanse su da će većina pacijenata imati najčešće bolesti. Dan za danom, ovi doktori se susreću sa istim medicinskim problemima. Mogli biste sugerirati da su pacijenti koji ulaze u bolnicu zaista na medicinskoj traci. Svaki od njih teče duž standardiziranih bolničkih protokola kao da je dio proizvodnog pogona ili pogona za sklapanje.

Preovlađuje prosječan slučaj. Ne samo da je ovo općenito prikladno, već i omogućava bolnici i medicinskom osoblju da u skladu s tim optimiziraju svoje medicinske usluge. Troškovi se mogu smanjiti kada osmislite medicinske procese za rješavanje prosječnog slučaja. Postoji prilično poznat savjet koji se često uvlači u umove studenata medicine, a to je da ako čujete zvuk kopita sa ulice, velika je vjerovatnoća da biste trebali razmišljati o konju, a ne o zebri.

Efikasno, produktivno, efektivno.

Sve dok se izuzetak ne ušunja u sredinu.

Možda je zebra iz zoološkog vrta pobjegla i odlutala vašom ulicom.

Da li to znači da bi izuzeci trebali biti pravilo i da bismo trebali ostaviti po strani pravilo prosječnog slučaja umjesto fokusiranja isključivo na izuzetke?

Bilo bi vam teško reći da bi svi naši svakodnevni susreti i usluge trebali biti fokusirani na izuzetke, a ne na prosječan slučaj.

Imajte na umu da ja ne dajem takav prijedlog. Ono što tvrdim je da trebamo osigurati da se izuzeci dogode i da moramo prepoznati kada se izuzeci pojave. Spominjem ovo zato što su neki stručnjaci skloni da glasno proglase da, ako ste zagovornik priznavanja izuzetaka, ergo se morate protiviti osmišljavanju prosječnog slučaja.

To je lažna dihotomija.

Ne nasjedaj na to.

Možemo uzeti našu tortu i pojesti je.

Pravo na iznimku

Sledeće ću možda doneti mali šok koji sve ovo povezuje sa sve većom upotrebom veštačke inteligencije.

AI sistemi se sve više izrađuju da se koncentrišu na prosječan slučaj, često na isključivanje ili na štetu prepoznavanja izuzetaka.

Možda ćete biti iznenađeni kada saznate da se ovo dešava. Većina nas bi pretpostavila da, budući da je AI oblik kompjuterske automatizacije, ljepota automatizacije stvari je u tome što obično možete uključiti izuzetke. To se obično može učiniti po nižoj cijeni nego da koristite ljudski rad za obavljanje slične usluge. Što se tiče ljudskog rada, moglo bi biti skupo ili nedovoljno imati na raspolaganju sve vrste rada koji se mogu nositi sa izuzecima. Stvarima je mnogo lakše upravljati i postavljati ih na svoje mjesto ako možete pretpostaviti da su svi vaši kupci ili klijenti prosječnog kalibra. Ali upotreba kompjuterizovanih sistema bi trebalo da prihvati izuzetke, i to odmah. Na taj način razmišljanja, trebali bismo burno navijati za više kompjuteriziranih mogućnosti koje dolaze u prvi plan.

Razmotrite ovo kao zagonetku koja izaziva um i odvojite trenutak da razmislite o ovom mučnom pitanju: Kako AI za koju se inače pretpostavlja da je najbolja automatizacija naizgled neumoljivo korača rutinskim i beziznimnim putem za koji smo ironično ili neočekivano zamišljali da ide u potpuno suprotnom smjeru?

odgovor: Međutim, mašinsko učenje i duboko učenje vode nas u beskrajnu egzistenciju ne jer moramo obavezno ići tim putem (možemo bolje).

Hajde da ovo raspakujemo.

Pretpostavimo da odlučimo da koristimo mašinsko učenje da osmislimo veštačku inteligenciju koja će se koristiti za otkrivanje medicinskih dijagnoza. Prikupljamo gomilu historijskih podataka o pacijentima i njihovom zdravstvenom stanju. ML/DL koji smo postavili pokušava poduzeti kompjutorsko uparivanje obrazaca koji će ispitati simptome pacijenata i prikazati očekivanu bolest povezanu s tim simptomima.

Na osnovu dobijenih podataka, ML/DL matematički utvrđuje simptome kao što su curenje iz nosa, grlobolja, glavobolja i bol koji su snažno povezani s prehladom. Bolnica se odlučuje koristiti ovu AI za obavljanje pre-probira pacijenata. Naravno, pacijentima koji prijavljuju te simptome po prvom dolasku u bolnicu „dijagnosticira se” da vjerovatno imaju prehladu.

Mijenjamo brzine, dodajmo Dr. Houseu neku vrstu obrta svemu ovome.

Pacijent dolazi u bolnicu i dijagnosticira mu AI. AI ukazuje da se čini da pacijent ima običnu prehladu na osnovu simptoma curenja iz nosa, upale grla i glavobolje. Pacijentu se daju naizgled odgovarajući recepti i medicinski savjeti za liječenje obične prehlade. Ovo je sve sastavni dio pristupa prosječnog slučaja koji se koristi pri osmišljavanju AI.

Ispostavilo se da pacijent na kraju ima ove simptome nekoliko mjeseci. Stručnjak za rijetke bolesti i ishranu shvaća da bi ti isti simptomi mogli biti odraz curenja cerebrospinalne tekućine (CSF). Stručnjak tretira pacijenta raznim hirurškim zahvatima vezanim za takva curenja. Pacijent se oporavlja (usput, ova izvanredna priča o pacijentu s curenjem likvora kojemu je prvobitno dijagnosticirana prehlada zasnovana je na stvarnom medicinskom slučaju).

Sada ćemo ponovo pratiti naše korake u ovoj medicinskoj sagi.

Zašto AI koji je vršio pre-skrining unosa nije mogao da proceni da li pacijent možda ima ovu retku bolest?

Jedan od odgovora je da ako podaci obuke koji se koriste za izradu ML/DL-a ne sadrže takve instance, u njima ne bi bilo ničega za podudaranje računskog uzorka. S obzirom na nedostatak podataka koji pokrivaju iznimke od pravila, opšte pravilo ili sam prosječan slučaj smatrat će se naizgled besprijekornim i primjenjivati ​​bez ikakvog oklijevanja.

Druga mogućnost je da je postojao recimo slučaj ovog retkog curenja CSF-a u istorijskim podacima, ali to je bio samo jedan poseban slučaj i u tom smislu izvanredan. Svi ostali podaci bili su matematički bliski utvrđenom prosječnom slučaju. Tada se postavlja pitanje šta učiniti sa takozvanim outlierom.

Imajte na umu da je bavljenje ovim odstupanjima stvar koja se uvelike razlikuje u pogledu načina na koji programeri AI mogu odlučiti da se bore s pojavom nečega izvan utvrđenog prosječnog slučaja. Ne postoji obavezan pristup na koji su programeri umjetne inteligencije primorani. Pomalo je divlji zapad u pogledu onoga što bi bilo koji AI programer mogao učiniti u bilo kojoj instanci koja izaziva izuzetak svojih razvojnih napora ML/DL.

Evo moje liste načina na koje su ovi izuzeci česti neprimjereno obrađeno:

• Izuzetak se pretpostavlja kao greška
• Izuzetak se smatra nedostojnim
• Izuzetak se pretpostavlja kao prilagodljiv u "normi"
• Izuzetak uopšte nije primećen
• Izuzetak je primijećen, ali ukratko zanemaren
• Izuzetak je uočen i kasnije zaboravljen
• Izuzetak uočen i skriven od pogleda
• Itd

AI programer može odlučiti da rijetkost nije ništa drugo do greška u podacima. Ovo bi moglo izgledati čudno da bi iko razmišljao na ovaj način, posebno ako pokušate to humanizirati tako što, na primjer, zamislite da je pacijent s curenjem CSF-a taj jedan slučaj. Međutim, postoji snažno iskušenje da ako svi vaši podaci izvan konteksta govore u osnovi jednu stvar, možda se sastoje od hiljada i hiljada zapisa i svi se približavaju prosječnom slučaju, pojava jednog čudnog podatka može lako (lijeno!) može se protumačiti kao čista greška. „Grešku“ bi tada AI programer mogao odbaciti i ne smatrati je u okviru onoga na čemu se ML/DL obučava.

Drugi način da se izborite sa izuzetkom bio bi odlučiti da je to nedostojna stvar. Zašto se mučiti s jednom rijetkošću kada možda žurite da pokrenete ML/DL? Izbacite izvan sebe i nastavite dalje. Nijedna misao ne ide nužno prema posljedicama na putu.

Još jedan pristup uključuje savijanje izuzetka u ostatak miljea prosječnog slučaja. AI programer modificira podatke kako bi se uklopili u ostatak norme. Također postoji šansa da AI programer ne primijeti da postoji izuzetak.

ML/DL bi mogao prijaviti da je izuzetak otkriven, a zatim bi AI programer trebao dati instrukcije ML/DL-u o tome kako treba matematički postupiti s outlierom. AI programer bi to mogao staviti na listu obaveza i kasnije zaboraviti na suočavanje s tim ili će jednostavno odlučiti da to ignoriše, itd.

Sve u svemu, otkrivanje i rješavanje bavljenja izuzecima kada je u pitanju AI je bez ikakvog posebno određenog ili uvjerljivo uravnoteženog i obrazloženog pristupa samo po sebi. Izuzeci se često tretiraju kao nedostojni izopćenici i prosječan slučaj je preovlađujući pobjednik. Suočavanje sa izuzecima je teško, može oduzeti mnogo vremena, zahteva privid veštih veština razvoja veštačke inteligencije, a inače je gnjavaža u poređenju sa grupom stvari u zgodnu leptir mašnu u paketu jedne veličine za sve.

U određenoj mjeri, zato su etika umjetne inteligencije i etička umjetna inteligencija tako ključna tema. Propisi etike umjetne inteligencije navode nas da ostanemo budni. Tehnolozi AI ponekad mogu postati zaokupljeni tehnologijom, posebno optimizacijom visoke tehnologije. Oni ne razmišljaju nužno o većim društvenim posljedicama.

Osim primjene načela etike umjetne inteligencije općenito, postoji odgovarajuće pitanje da li bismo trebali imati zakone koji bi regulisali različite upotrebe AI. Na saveznom, državnom i lokalnom nivou se donose novi zakoni koji se tiču ​​opsega i prirode načina na koji bi umjetna inteligencija trebala biti osmišljena. Napori da se izrade i donesu takvi zakoni su postepeni.

U ovu konkretnu raspravu o ulozi izuzetaka dolazi provokativno gledište da bi možda trebalo postojati zakonsko pravo povezano sa izuzetkom. Moglo bi biti da jedini održivi način da se dobije bona fide priznanje za nekoga ko je možda izuzetak podrazumijeva korištenje duge ruke zakona.

Uvesti novu vrstu ljudskih prava.

Pravo da se smatra izuzetkom.

Razmotrite ovaj prijedlog: „Pravo na izuzetak ne podrazumijeva da svaki pojedinac is izuzetak, ali da, kada odluka može nanijeti štetu subjektu odluke, donosilac odluke treba razmotriti mogućnost da subjekt može biti izuzetak. Pravo na izuzetak uključuje tri sastojka: šteta, individualizacija, I neizvesnost. Donosilac odluke mora odlučiti da nanese štetu samo kada razmotri da li je odluka na odgovarajući način individualizirana i, što je najvažnije, nesigurnost koja prati komponentu odluke zasnovanu na podacima. Što je veći rizik od povrede, to je ozbiljnije razmatranje” (od Sarah Cen, u istraživačkom radu pod naslovom Pravo da budete izuzetak u donošenju odluka na osnovu podataka, MIT, 12. april 2022.).

Možda ćete biti u iskušenju da pretpostavite da već imamo takvo pravo.

Nije nužno. Prema istraživačkom radu, vjerovatno najbliže međunarodno priznato ljudsko pravo moglo bi biti pravo na dostojanstvo pojedinca. U teoriji, pojam da bi trebalo postojati priznanje dostojanstva tako da bi pojedinac i njegova specifična jedinstvenost trebalo da budu obuhvaćeni vas dovodi u okvir potencijalnog ljudskog prava na izuzetak. Jedna nedoumica je to što se kaže da su postojeći zakoni koji regulišu oblast dostojanstva donekle magloviti i previše savitljivi, pa stoga nisu dobro usklađeni sa specifičnom pravnom konstrukcijom prava na izuzetak.

Oni koji favorizuju novo pravo koje se sastoji od ljudskog prava da bude izuzetak tvrdili bi da:

• Takvo pravo bi u velikoj mjeri pravno prisililo programere umjetne inteligencije da se eksplicitno nose s izuzecima
• Firme koje prave umjetnu inteligenciju bile bi pravno spremnije da se ne bave izuzecima
• AI bi vjerovatno bio bolje izbalansiran i generalno robusniji
• Oni koji koriste AI ili koji su podložni AI bi bili bolje
• Kada veštačka inteligencija ne prihvata izuzetke, pravni lek bi bio lako izvodljiv
• I proizvođači umjetne inteligencije sigurno će biti bolji (njihova AI bi pokrivala širi krug korisnika)
• Itd

Oni koji se protive novom pravu označenom kao ljudsko pravo da bude izuzetak obično kažu:

• Postojeća ljudska prava i zakonska prava to dovoljno pokrivaju i nema potrebe za kompliciranjem stvari
• Neopravdani teret bi bio stavljen na ramena proizvođača AI
• Napori da se napravi AI bi postali skuplji i imali bi tendenciju da uspore napredak AI
• Pojavila bi se lažna očekivanja da će svi tražiti da budu izuzetak
• Samo pravo bi nesumnjivo bilo predmet različitih tumačenja
• Oni koji će dobiti najviše će biti pravna profesija kada pravni predmeti naglo porastu
• Itd

Ukratko, opozicija takvom novom pravu obično tvrdi da je ovo igra sa nultom sumom i da će zakonsko pravo biti izuzetak koštati više nego što je korisno. Oni koji vjeruju da je takvo novo pravo razumno potrebno, skloni su naglasiti da ovo nije igra s nultom sumom i da na kraju svi imaju koristi, uključujući i one koji prave AI i one koji koriste AI.

Možete biti sigurni da će ova debata koja uključuje pravne, etičke i društvene implikacije povezane sa AI i izuzecima biti glasna i uporna.

Samovozeći automobili i važnost izuzetaka

Razmislite kako se to primjenjuje u kontekstu autonomnih sistema kao što su autonomna vozila i automobili koji se sami voze. Već je bilo raznih kritika o prosječnom načinu razmišljanja o razvoju AI za automobile koji se sami voze i autonomna vozila.

Na primjer, u početku je vrlo malo dizajna samovozećih automobila prihvaćalo one koji imaju neki oblik fizičkog invaliditeta ili oštećenja. Nije se mnogo razmišljalo o širem obuhvatu čitavog spektra potreba jahača. Uglavnom, ova svijest se povećala, iako se i dalje izražava zabrinutost oko toga da li je ovo dovoljno daleko i prihvaćeno koliko bi trebalo biti.

Još jedan primjer prosječnog slučaja u odnosu na izuzetak ima veze s nečim što bi vas moglo zateći nespremnim.

Jesi li spreman?

Dizajn i implementacija mnogih AI sistema za vožnju i samovozećih automobila današnjice ima tendenciju da stvori tihu ili neizgovorenu pretpostavku da će se odrasli voziti u automobilu koji se samostalno vozi. Znamo da kada je za volanom čovjek, naravno da je odrasla osoba u vozilu, po definiciji, jer se obično dobijanje vozačke dozvole zasniva na tome da ste odrasla osoba (pa, ili skoro jedna). Za automobile koji se samostalno voze i imaju AI koji obavlja svu vožnju, nema potrebe da prisustvuje odrasla osoba.

Poenta je u tome da možemo imati djecu koja se sama voze u automobilima bez prisustva odrasle osobe, barem je to moguće u slučaju potpuno autonomnih samovozećih automobila s AI pogonom. Svoju djecu možete poslati u školu ujutro koristeći samovozeći automobil. Umjesto da morate da vozite svoju djecu ili da koristite uslugu dijeljenja vožnje pomoću ljudskog vozača, možete jednostavno staviti svoju djecu u samovozeći automobil i odvesti ih u školu.

Nije sve ružičasto kada je riječ o tome da djeca budu sama u samovozećim automobilima.

Pošto više nema potrebe za odraslom osobom u vozilu, to implicira da se ni djeca više neće osjećati pod utjecajem ili da kažemo pod kontrolom prisustva odrasle osobe. Hoće li djeca poludjeti i pocijepati unutrašnjost samovozećih automobila? Hoće li djeca pokušati da se popnu ili posegnu van prozora samovozećeg automobila? Koje druge vrste ludorija mogu učiniti, što može dovesti do potencijalnih ozljeda i teške ozljede?

Pokrivao sam žestoku debatu o ideji da se djeca sama voze u automobilima koji se sami voze, vidi link ovdje. Neki kažu da se to nikada ne smije dozvoliti. Neki kažu da je to neizbježno i da moramo smisliti kako to najbolje uspjeti.

zaključak

Vratimo se na sveobuhvatnu temu prosječnog slučaja naspram izuzetka.

Čini se da se svi slažemo da će uvijek postojati neki izuzetak od pravila. Jednom kada je pravilo formirano ili identifikovano, trebalo bi da tražimo izuzetke. Kada naiđemo na izuzetke, trebali bismo razmisliti o tome na koje pravilo se ovaj izuzetak vjerovatno odnosi.

Mnogi od AI koji se danas osmišljavaju oblikovani su oko formulisanja pravila, dok se izazovi povezani s izuzecima obično napuštaju i sliježu ramenima.

Za one koji vole da budu lukavi i kažu da nema izuzetaka od pravila da uvek postoje izuzeci od pravila, priznao bih da ova dosjetljivost izgleda kao mentalna zagonetka. Naime, kako možemo imati pravilo da uvijek postoje izuzeci, a da onda baš to pravilo izgleda ne važi za pravilo da uvijek postoje izuzeci od pravila?

Vrti ti se u glavi.

Srećom, nema potrebe pretjerano komplikovati ove otrežnjujuće stvari. Nadamo se da možemo živjeti s praktičnim i vitalnim pravilom na koje bismo trebali paziti i prihvatiti iznimke od svakog pravila.

To rješava stvari, pa hajdemo sada da radimo na tome.