U Tesli i drugim velikim tehnološkim kompanijama, probleme ne uzrokuju mašine, već pretpostavke iza njih

Nove tehnologije uvijek izvuku nervozne nesreće. Godine 370. pne, Platon je razmišljao u svojoj knjizi Fedru da bi povećani “trend” ka pisanju natjerao muškarce da izgube svu svoju zadržanu mudrost. U 1880-im godinama, od svih nas se bojalo da će električna dugmad izazvati sve nas gubimo našu kreativnost pustiti dugme da uradi zadatak umesto nas. U našoj generaciji postoji dubok strah da će svako izlaganje video igricama istrunuti dečji mozak. Takve teorije se često na kraju pokažu pogrešnim. Ali ponekad ono za šta smo se nadali da će ostati u domenu naučne fantastike postane stvarnost.

Imali smo dva vrlo snažna podsjetnika o opasnostima neobuzdanog usvajanja tehnologije u posljednjih nekoliko mjeseci. Naše najgore noćne more su se ostvarile, a životi su nepopravljivo oštećeni:

• U roku od nekoliko sati nakon što je vođa Tesle Elon Musk reklamirao svoje automobile koji se sami voze na Twitteru, Tesla je u režimu samovožnje odlučio da stane sa strane Bay Bridgea, brze ulice sa 4 trake i izazvao nesreću sa 8 automobila povrijedivši 9 osoba, uključujući dvogodišnjaka. Ovo je jedna od stotina nesreća koje su izazvali Teslini samovozeći sistemi, što je dovelo do 19 smrtnih slučajeva od 2016.
• Randall Reid je bio na putu na zakasnelu večeru za Dan zahvalnosti sa svojom mamom kada ga je policija zaustavila i strpala u zatvor na nedelju dana nakon softver za usklađivanje lica označio ga je kao osumnjičenog u slučaju krađe luksuzne torbice u Louisiani. Jedini problem? Nikada nije kročio u državu. Ali, 28-godišnji stanovnik Džordžije je Afroamerikanac – a softver za prepoznavanje lica je naširoko kritikovan zbog svoje nesposobnosti da precizno razlikuje crna lica.

“Rekli su mi da imam nalog iz Jefferson Parisha. Rekao sam, 'Šta je Jefferson Parish?'” Reid napominje AP. “Nikada u životu nisam bio u Luizijani. Onda su mi rekli da je to zbog krađe. Dakle, ne samo da nisam bio u Luizijani, već i ne kradem.”

Možda ne u odbranu Elona Muska, već kao objašnjenje, često je primećivao da je njegov altruistički cilj da na kraju smanji broj saobraćajnih nesreća i smrtnih slučajeva tako što će automobile učiniti pametnijim od ljudi. I da će ti automobili biti pametniji, možda će morati da se kreću brzo (bukvalno) i razbiti neke stvari (također, doslovno) na pravim cestama.

Ovo je mjesto gdje se neko može uskladiti s njegovim ciljevima – sigurnijim putevima – ali osporiti njegove metode – eksperimentiranje na ljudima. Prešli smo sa testiranja lijekova na ljudima – bez njihovog pristanka, u slučaju Nacistička Nemačka a Tuskegee “studije” – za pacove, koji ne mogu pristati – za industrije poput kozmetike koje uče kako testirati proizvode bez troškova života, ljudi, životinja ili na neki drugi način. Može li se tehnologija testirati bez nanošenja štete ljudima na putu? Ovo je mjesto gdje mi – i vladina regulatorna tijela – donosimo odluke o tome kakvim vrstama eksperimenata smo voljni podvrgnuti naše građane.

A onda, u slučaju umjetne inteligencije, izražena je razumna zabrinutost da u kontekstu tehnoloških timova kojima općenito nedostaje raznolikost našeg globalnog svijeta gdje preko 85% ljudi žive u Aziji, Africi i Latinskoj Americi, postoji mogućnost značajne štete koja može se uraditi ako tehnologije ne uspevaju da unesu raznolikost u svoje dizajne. Ljudi poput Timnita Gebrua sa Crno u AI rade težak posao pokušavajući da ljudi iza mašina budu odgovorni, ali jesu suočio sa dosta čeonih vjetrova s obzirom na ekonomske snage koje kontrolišu veći dio ovog istraživanja.

Ne moramo se vraćati na konje i kolica ako odbijemo samovozeće automobile. Ono što MOŽEMO je da se zalažemo za novi tehnološki moto za narednu deceniju: „kreći se polako i manje lomi“.

Slično, Hermant Tenaja je pisao u Harvard Business Review, "Minimalno održivi proizvodi" moraju biti zamijenjeni "minimalno korisnim proizvodima" - novim ponudama koje testiraju učinak na dionike i izgrađuju zaštitu od potencijalne štete." On nudi osam pitanja koja današnji tehnološki poduzetnici moraju postaviti, uključujući:

• Koju sistemsku, društvenu promjenu želite stvoriti svojim proizvodom?
• Kako ćete održati vrlinu svog proizvoda?
• Koji je vaš okvir za odgovorno korištenje podataka i AI?
• Kako definišete i promovirate raznolikost u kontekstu vašeg poslovanja?

Poduzetnici mogu razmišljati o ovim pitanjima za svoje proizvode. A onda za potrošače, prije nego što se okrenu najnovijoj, najboljoj usluzi koja generiše avatare, možda bi bilo pametno dvaput razmisliti o tome kako bi se to moglo vratiti da vas ugrize. Ne moramo zanemariti tehnologiju – ali možda možemo naučiti da budemo mnogo svjesniji potrošači tehnologije.