AI Shake-Up kao istaknuti AI Guru predlaže „Smrtničke kompjutere“ koji savijaju um i koji takođe uzima u obzir etiku AI i zakon AI

Evo nečega o čemu vjerovatno još niste razmišljali: Smrtnički kompjuteri.

Ali možda bi trebao biti.

Opojna tema pojavila se na nedavnoj i sveukupno prilično istaknutoj godišnjoj konferenciji o AI koja je posebno fokusirana na pojavu neuronskih mreža i mašinskog učenja, naime Konferencija o sistemima za obradu neuronskih informacija (poznata od strane insajdera kao NeurIPS). Pozvani glavni govornik i smatrani dugogodišnji AI guru Geoffrey Hinton iznio je intrigantnu i možda kontroverznu tvrdnju da bismo trebali razmišljati o kompjuterima u smrtnom i besmrtnom kontekstu.

Ja ću se pozabaviti značajnom tvrdnjom i to na dva načina koja se u početku neće nužno činiti povezanima, iako će nakon malo dodatnog pojašnjenja postati jasnije povezani jedni s drugima u pogledu sukoba između smrtnika i besmrtnika.

Dvije teme su:

1) Integralno povezivanje i hardvera i softvera za AI mehanizacije umjesto da ih ima kao posebne i zasebne saveznike

2) Prenošenje ili destilacija formulacija mašinskog učenja iz jednog AI modela u drugi koji to čini bez potrebe niti nužno želje (ili čak izvodljivog drugačijeg mogućeg) direktnog potpunog čistokrvnog kopiranja

Sve ovo ima veliki značaj za AI i budući smjer razvoja AI.

Štaviše, postoji niz vrlo problematičnih pitanja etike i prava AI koji se takođe pojavljuju. Ove vrste tehnoloških napretka predviđenih umjetnom inteligencijom obično se koriste na čisto tehnološkoj osnovi mnogo prije nego što se shvati da bi to moglo imati i značajne reperkusije etičke AI i zakona AI. U određenom smislu, obično, mačka je već izašla iz vreće, ili je konj izašao iz štale, prije nego što se shvati da Etici AI i zakonu AI treba dati dužnu pažnju.

Pa, hajde da prekinemo taj zakasneli krug razmišljanja i uđemo u parter na ovaj.

Za one od vas koji su općenito zainteresirani za najnovije uvide u osnovi etike umjetne inteligencije i zakona o umjetnoj inteligenciji, možda ćete pronaći informativne i inspirativne moje stalne i opsežne izvještaje na link ovdje i link ovdje, Da nabrojimo samo neke.

Prvo ću ovdje pokriti gornju tačku o povezivanju hardvera i softvera. Diskusija i analiza teme će se odvijati ruku pod ruku. Zatim ću se dotaknuti pitanja kopiranja ili neki kažu destilacija ključni elementi AI sistema za mašinsko učenje od jedne AI do novo osmišljene AI kao mete.

Počnimo.

Povezivanje hardvera i softvera za AI

Vjerovatno znate da je općenito dizajn računara takav da postoji hardverska strana stvari i odvojeno softverska strana stvari. Kada kupite svakodnevni laptop ili desktop računar, on se smatra računarskim uređajem opšte namene. Unutar računara postoje mikroprocesori koji se koriste za pokretanje i izvršavanje softvera koji možete kupiti ili pisati sami.

Bez ikakvog softvera za vaš računar, to je komad metala i plastike koji vam u suštini neće doneti mnogo koristi, osim što će delovati kao uteg za papir. Neki bi rekli da je softver kralj i da vlada svijetom. Naravno, ako nemate hardver na kojem biste mogli pokrenuti softver, softver neće učiniti mnogo dobrog. Možete napisati onoliko redova koda koliko vam srce želi, ali sve dok se softver ne koristi preko kompjutera, formulisani izvorni kod je slab i besprekoran kao prelijepo pjesničko djelo ili detektivski roman sa uzbuđenjem.

Dozvolite mi da se trenutno prebacim na drugu aveniju koja se može činiti daleko (neće biti).

Često pokušavamo da povučemo analogije između rada kompjutera i načina na koji funkcioniše ljudski mozak. Ovaj pokušaj da se napravi konceptualne paralele je zgodan. Uzimajući to u obzir, morate biti oprezni kada ne pretjerujete s tim analogijama jer poređenja imaju tendenciju da se pokvare kada se približite mesnatim detaljima.

U svakom slučaju, radi diskusije, evo analogije koja se često koristi.

Sam mozak se neformalno ponekad naziva wetware. To je privlačan način da se stvari izraze. Znamo da se kompjuteri sastoje od hardvera i softvera, tako da je pametno koristiti "ware" dio kovanog novca da opišemo što mozak predstavlja. Ugniježđen u našim nogama, moćni i misteriozni mozak pluta okolo, mentalno računajući sva naša djela (neka dobra, dok neke naše misli definitivno nisu ispunjene dobrotom).

Sa prosječnom težinom od oko tri funte, mozak je izvanredan organ. Nekako, a mi još ne znamo kako, mozak je sposoban da iskoristi to oko 100 milijardi neurona i možda bilo gdje od 100 do 1,000 triliona interkonekcija ili sinapsi kako bi sve naše razmišljanje obavljalo umjesto nas. Kako biološka i hemijska svojstva mozga dovode do inteligencije? Niko ne može sa sigurnošću reći. Ovo je potraga vekova.

Pitam vas ovo, da li je mozak tobože samo hardverski ili je i hardver i softver kombinovan?

Noodle na toj mozgalici.

Možda ćete biti u iskušenju da tvrdite da je mozak jednostavno hardver (u opštem smislu). To je organ tijela. Slično, možete reći da je srce hardver, bešika hardver, itd. Sve su to mehanizacije slične kada govorimo o artefaktima koji imaju fizički oblik i vrše fizički povezane radnje.

Gdje je onda softver koji pokreće ljude?

Usudio bih se sugerirati da se svi prilično slažemo da “softver” čovječanstva nekako leži u mozgu. Koraci potrebni za kuhanje jajeta ili popravljanje puknute gume su upute koje su utjelovljene u našem mozgu. Koristeći onu ranije zapaženu kompjutersku analogiju hardvera i softvera, naš mozak je takoreći dio hardvera za koji učimo o svijetu, a upute o tome što treba učiniti se „pokreću“ i „pohranjuju“ u našem mozgu.

Na računaru možemo lako pokazati na hardver i reći da je to hardver. Možemo imati listu izvornog koda i ukazati na listu kao softver. Danas elektronski preuzimamo softver na mreži i instaliramo ga na naše laptope i pametne telefone. U danima davnih vremena koristili smo diskete i bušene kartice za skladištenje našeg softvera za učitavanje na hardver računara.

Uvlačim vas u važnu zagonetku.

Nakon što ste nešto naučili i znanje je prisutno u vašem mozgu, možete li i dalje razlikovati “hardver” vašeg mozga i pretpostavljeni “softver” vašeg mozga?

Jedna argumentirana pozicija je da znanje u vašem mozgu nije posebno odvojivo od koncepcija hardvera i softvera. Prema tome, analogija sa prirodom kompjutera se kvari, neki bi gorljivo tvrdili. Znanje u mozgu je isprepleteno i neodvojivo od hardvera vašeg mozga. Biološka i hemijska svojstva prepliću znanje koje mentalno posjedujete.

Zagrijte to za malo mentalne refleksije.

Ako se nadamo da ćemo jednog dana osmisliti kompjutere koji su jednaki ljudskoj inteligenciji, ili čak premašuju ljudsku inteligenciju, možda bismo mogli koristiti strukture mozga i njegov unutrašnji rad kao vodič za ono što trebamo učiniti da bismo postigli tako uzvišeni cilj. Za neke u oblasti AI postoji uverenje da što više znamo o tome kako mozak funkcioniše, veće su naše šanse da osmislimo pravu veštačku inteligenciju, koja se ponekad naziva i veštačka opšta inteligencija (AGI).

Drugi u AI manje su oduševljeni time što moraju znati kako mozak funkcionira. Naglašavaju da možemo brzo nastaviti sa stvaranjem AI, bez obzira na to da li smo u stanju da otključamo tajne unutrašnje funkcije mozga. Ne dozvolite da misterije mozga ometaju naše napore AI. Naravno, nastavite da pokušavate dekodirati i dešifrirati ljudski mozak, ali ne možemo sjediti i čekati da se mozak reverzno konstruira. Ako je to jednog dana izvodljivo, divna vijest, iako je to možda nemoguće ili će se dogoditi eonima od sada.

Spreman sam da podijelim s vama smrtnu i besmrtnu kompjutersku svađu. Molimo vas da sjednete i spremni za veliko otkriće.

Računar koji ima jasnu razdvojenost hardvera i softvera mogao bi se tvrditi kao „besmrtan“ u smislu da hardver može postojati zauvijek (u granicama, naravno), dok se softver može pisati i prepisivati ​​uvijek iznova. Konvencionalni računar možete održavati sve dok možete popravljati hardver i održavati uređaj u stanju da se uključi. I danas možete koristiti grube kućne računare iz 1970-ih koji su dolazili u kompletima za sklapanje, iako su stari skoro pedesetak godina (dugo vremena u kompjuterske godine).

Pretpostavimo ipak da smo odlučili da napravimo računare koji imaju hardver i softver koji rade neodvojivo (uskoro ću reći više o tome). Razmotrite ovo na istoj osnovi na kojoj sam ranije spomenuo da mozak možda ima integralni sastav hardvera i softvera. Da je to bio slučaj, moglo bi se sugerirati da kompjuter ove vrste više ne bi bio besmrtan. Umjesto toga, to bi se protumačilo kao "smrtno".

Prema napomenama koje je na konferenciji NeurIPS dao pozvani glavni govornik i istaknuti AI guru Geoffrey Hinton, i kako je navedeno u njegovom pratećem istraživačkom radu:

• „Digitalni računari opšte namene dizajnirani su tako da verno prate uputstva jer se pretpostavljalo da je jedini način da se računar opšte namene natera da izvrši određeni zadatak bio da se napiše program koji tačno određuje šta treba da radi do strašnih detalja. Ovo više nije tačno, ali istraživačka zajednica je spora da shvati dugoročne implikacije dubokog učenja na način na koji su računari izgrađeni. Tačnije, zajednica se držala ideje da softver treba da bude odvojiv od hardvera tako da se isti program ili isti skup težina mogu izvoditi na drugoj fizičkoj kopiji hardvera. Ovo čini znanje sadržano u programu umire ili težine besmrtnim: Znanje ne umire kada hardver umre” (kao što je sadržano i citirano u njegovom istraživačkom radu “The Forward-Forward Algorithm: Some Preliminary Investigations”, preprint dostupan na internetu) .

Imajte na umu da posebna vrsta računarstva o kojoj se govori u ovoj vrsti AI koristi umjetne neuronske mreže (ANN).

Hajde da raščistimo stvari oko ovoga.

U našem mozgu postoje biološki neuroni iz stvarnog svijeta. Koristiš ih stalno. Oni su biološki i hemijski međusobno povezani u mrežu u vašoj nozi. Dakle, ovo možemo označiti kao a neuronska mreža.

Na drugim mjestima postoje, recimo, lažni „neuroni“ koje kompjuterski predstavljamo u kompjuterima za potrebe osmišljavanja AI. Mnogi ljudi u AI-ju ih takođe nazivaju neuronskim mrežama. Vjerujem da je ovo donekle zbunjujuće. Vidite, više volim da ih nazivam vještački neuronske mreže. Ovo pomaže da se odmah napravi razlika između upućivanja na ono u vašoj glavi neuronske mreže (prave stvari, takoreći), i kompjuterski zasnovane (vještački neuronske mreže).

Ne zauzimaju svi takav stav. Mnogi ljudi u AI samo pretpostavljaju da svi ostali u AI "znaju" da kada se govori o neuronskim mrežama gotovo uvijek govore o ANN-ima - osim ako se ne pojavi situacija u kojoj iz nekog razloga žele razgovarati o stvarnim neuronima i stvarnim neuronskim mrežama u mozak.

Vjerujem da ćeš razumjeti moje mišljenje. Većinu vremena, ljudi sa umjetnom inteligencijom će reći “neuronske mreže” što je potencijalno dvosmisleno jer ne znate da li se odnose na stvarne u našim glavama ili na računske koje programiramo u kompjutere. Ali budući da se ljudi sa AI uglavnom bave instancama zasnovanim na kompjuterima, podrazumevano pretpostavljaju da mislite na veštačke neuronske mreže. Volim da dodam riječ “vještačko” na prednji kraj teksta kako bih bio jasniji o namjerama.

Nastavljajući dalje, možete donekle smatrati ove kompjuterske umjetne neurone kao matematičku ili računsku simulaciju onoga što mislimo da stvarni biohemijski fizički neuroni rade, kao što je korištenje numeričkih vrijednosti kao faktora težine koji se inače dešavaju biohemijski u mozgu. Danas ove simulacije nisu ni približno tako složene kao pravi neuroni. Trenutni ANN su izuzetno grubi matematički i računski prikazi.

Općenito, ANN su često ključni element za mašinsko učenje (ML) i duboko učenje (DL) — imajte na umu da postoji mnogo više detalja o tome, i pozivam vas da pogledate moju opsežnu pokrivenost ML/DL-a at link ovdje i link ovdje, na primjer.

Vraćajući se na besmrtne i smrtne tipove kompjutera, evo još o čemu treba razmišljati po istraživaču:

• „Razdvajanje softvera od hardvera jedan je od temelja računarstva i ima mnogo prednosti. Omogućava proučavanje svojstava programa bez brige o elektrotehnici. Omogućava da se program jednom napiše i da se kopira na milione računara. Ako smo, međutim, voljni da napustimo besmrtnost, trebalo bi da bude moguće postići ogromne uštede u energiji potrebnoj za izvođenje računanja i u troškovima proizvodnje hardvera koji izvršava izračunavanje. Možemo dozvoliti velike i nepoznate varijacije u povezivanju i nelinearnosti različitih instanci hardvera koji su namijenjeni za obavljanje istog zadatka i oslanjati se na proceduru učenja kako bismo otkrili vrijednosti parametara koji efikasno koriste nepoznata svojstva svake pojedinačne instance hardver. Ove vrijednosti parametara su korisne samo za tu specifičnu instancu hardvera, tako da je proračun koji oni obavljaju smrtonosan: umire s hardverom” (ibid).

Sada ste upoznati kako se besmrtni i smrtni koriste u ovom kontekstu.

Dozvolite mi da elaboriram.

Propozicija je da se kompjuter koji je namenski napravljen na osnovu ANN-a može biti osmišljen tako da se hardver i softver smatraju neodvojivim. Jednom kada hardver jednog dana više ne funkcioniše (što, naravno, kažemo da integralno zapliće softver), ova vrsta računara naizgled više nije korisna i neće više funkcionisati. Kaže se da je smrtno. Možete i zakopati računar baziran na ANN-u jer vam ubuduće neće mnogo koristiti nakon što nerazdvojni hardver i softver više ne rade kao tim.

Ako biste htjeli pokušati povezati ovo s analogijom ljudskog mozga, mogli biste zamisliti lošu situaciju ljudskog mozga koji se potpuno pogoršava ili je na neki način nepopravljivo oštećen. Prihvatamo ideju da je osoba smrtna i da će njen mozak na kraju i neizbježno prestati raditi. Znanje koje sadrže u svom mozgu više nije dostupno. Osim ako slučajno nisu pokušali reći drugima ili zapisati ono što su znali, njihovo znanje je otišlo u svijet.

Nesumnjivo ste čuli ili vidjeli izvještaje o pokušajima očuvanja mozga, poput stavljanja u zamrznuto stanje, pod teorijom da bi ljudi mogli jednog dana biti besmrtni ili barem produžiti svoje uobičajene živote. Vaš mozak bi mogao da živi, ​​čak i ako nije u vašem telu. Mnogi naučnofantastični filmovi i priče spekulišu o takvim idejama.

Sada smo spremni za detaljan pogled na kompjuter smrtnika i besmrtni kompjuter kao koncept i šta on predviđa.

Pažljiva diskusija i pažljiva analiza

Prije nego što uđemo u srž ove analize postuliranog pristupa, vrijedi spomenuti nekoliko važnih upozorenja i dodatnih tačaka.

Istraživač je naglasio da je skovan smrtni kompjuteri ne bi posebno zamijenio ili izbacio iz postojanja besmrtni kompjuteri koje danas nazivamo konvencionalnim digitalnim računarima. Postojala bi koegzistencija oba tipa računara. Kažem ovo jer je reakcija nekih bila da je poziv na red bio potpuna tvrdnja sve kompjuteri nužde idu ili će ići ka smrtnom tipu.

To nije bila tvrdnja.

On je tokom govora napomenuo da su ovi specijalizovani neuromorfno orijentisan kompjuteri bi obavljali računski rad poznat kao smrtni proračuni: “Mi ćemo raditi ono što ja zovem smrtno računanje, gdje su znanje koje je sistem naučio i hardver neodvojivi” (kao što je citirano u ZDNET članku Tiernana Raya od 1. decembra 2022.).

I posebno: “Neće zamijeniti digitalne računare” (ibid).

Takođe, ovi novi tipovi računara definitivno neće uskoro biti u vašoj lokalnoj prodavnici računara ili odmah dostupni za kupovinu na mreži, kao što je navedeno tokom njegove prezentacije: „Ono što mislim je da ćemo videti potpuno drugačiji tip računara. kompjutera, ne za nekoliko godina, ali postoje svi razlozi za istraživanje ovog potpuno drugačijeg tipa računara.” Namjena bi se također razlikovala: „Neće kompjuter biti taj koji je zadužen za vaš bankovni račun i koji tačno zna koliko novca imate.“

Dodatni zaokret je da bi se računari smrtnika naizgled uzgajali, a ne proizvodili kao što to radimo danas za proizvodnju kompjuterskih procesora i računarskih čipova.

Tokom procesa rasta, smrtni kompjuter bi povećao svoje sposobnosti u stilu kompjuterskog sazrijevanja. Dakle, određeni smrtnički kompjuter može početi sa jedva ikakvim sposobnostima i sazreti u ono što je trebalo da postane. Na primjer, pretpostavimo da želimo da kreiramo mobilne telefone koristeći kompjutere smrtnika. Počeli biste s jednostavnom varijantom smrtničkog kompjutera koji je inicijalno oblikovan ili zasijan za ovu svrhu. Tada bi sazreo u napredniju verziju koju ste tražili. Ukratko: "Zamijenili biste to sa svakim od tih mobilnih telefona koji bi morali početi kao mobilni telefon za bebe, a on bi morao naučiti kako biti mobilni telefon."

Na jednom od njegovih temeljnih slajdova o izračunavanju smrtnika, prednosti su opisane na sljedeći način: „Ako napustimo besmrtnost i prihvatimo da je znanje neodvojivo od preciznih fizičkih detalja određenog komada hardvera, dobićemo dvije velike prednosti: (1) Možemo koristiti analogno računanje vrlo male snage, (2) Možemo razviti hardver čija precizna povezanost i analogno ponašanje nisu poznati.”

Dio istog govora, kao i ono što je sadržano u njegovom istraživačkom radu prije štampe, je predložena tehnika kako se ANN mogu bolje osmisliti, koju on naziva korištenjem naprijed-naprijed pristup umrežavanju. Neki od vas koji su upućeni u ANN nesumnjivo su već prilično svjesni upotrebe backpropagacije ili back-propa. Možda biste željeli pogledati njegovu predloženu tehniku ​​naprijed-naprijed. Pokrivat ću taj fascinantan pristup u budućoj kolumni, pa budite na oprezu za moje nadolazeće izvješće o tome.

Mijenjamo brzine, hajde da razmotrimo šta se priča u hodnicima i stranputicama AI zajednice o ovom bezobrazluku smrtni kompjuter mahinacija.

Počećemo sa onim što bi neki rekli da nije početnik u ovoj temi.

Jesi li spreman?

Prestani zvati ovu stvar a smrtno kompjuter.

Isto tako, prestanite da proglašavate da su današnji konvencionalni računari to besmrtno.

Obje upotrebe su jednostavno pogrešne i prilično obmanjujuće, upozoravaju skeptici.

Svakodnevna rječnička definicija onoga što je besmrtno sastoji se od nečega što ne može umrijeti. Živi zauvek. Da ne biste umrli, valjda morate reći da je sama stvar živa. Koračate pogrešnim putem da biste tvrdili da su današnji računari živi. Nijedna razumna osoba ne bi pripisala bona fide “živa” svojstva modernim kompjuterima. Oni su mašine. One su stvari. Oni nisu osobe, životinje ili životno stanje.

Ako želite da proširite definiciju besmrtnog kako biste dopustili da mislimo i na neživa bića, u tom slučaju, neživi entitet naizgled neće nikada morati da se raspadne i ne može se neizbježno raspasti u prah. Možete li tako tvrditi o današnjim računarima? Ovo se čini preteranim (sporedna napomena: mogli bismo, naravno, ući u veliku filozofsku raspravu o prirodi materije i postojanja, ali hajde da ne idemo tamo u ovom slučaju).

Suština je u tome da je upotreba ili bi neki rekli zloupotreba riječi "smrtan" i "besmrtan" čudna i nepoželjna. Uzimanje uobičajenog narodnog jezika i njegova ponovna upotreba u druge svrhe je zbunjujuće i stvara mutne vode. Morate biti spremni da naizgled iznova konceptualizirate šta smrtno i besmrtno znače u ovom specifičnom kontekstu. Ovo postaje problematično.

Još više zabrinjava to što ovi izbori riječi imaju tendenciju antropomorfizacije kompjuterskih aspekata.

Već postoji više nego dovoljno problema vezanih za antropomorfizaciju AI, sigurno ne moramo izmišljati više takvih mogućnosti. Kao što sam opširno govorio u svom izvještavanju o etici umjetne inteligencije i etičkoj umjetnoj inteligenciji, postoje razni divlji načini na koje ljudi kompjuterima pripisuju razumne kapacitete. Zauzvrat, ovo dovodi ljude u zabludu da lažno vjeruju da kompjuteri zasnovani na umjetnoj inteligenciji mogu razmišljati i djelovati kao ljudi. To je klizav teren ugroženosti kada društvo postane uljuljkano u uvjerenje da su današnja umjetna inteligencija i računarstvo u rangu s ljudskim intelektom i zdravim razumom, pogledajte na primjer moju analizu na link ovdje i link ovdje.

U redu, možemo odbaciti ili imati prezir prema nezgodnim izborom formulacija, ali da li to sugeriše da bi trebalo da izbacimo bebu sa vodom za kupanje (star izraz, verovatno se bliži penziji)?

Neki tvrde da možda možemo pronaći bolju formulaciju za ovaj sveukupni pristup ili koncepciju. Odbacite upotrebu izraza "smrtan" i "besmrtan" kako ostale ideje ne bi bile ukaljane neprikladnom ili nepravilnom upotrebom. U međuvremenu, postoje kontraargumenti da je potpuno prihvatljivo koristiti te izbore riječi, bilo zato što pristaju, ili zato što ne bismo trebali biti nefleksibilni u pogledu toga kako se odlučujemo za ponovnu upotrebu riječi. Ruža je ruža pod bilo kojim drugim imenom, izjavljuju.

Kako bih izbjegao daljnju oštru debatu ovdje, ubuduće ću izbjegavati korištenje riječi "smrtan" i "besmrtan" i samo ću reći da imamo dvije glavne vrste kompjutera koje se vrte okolo, jedan koji je konvencionalni digitalni računar današnjice i drugo je predloženo neuromorfna kompjuter.

Čini se da nema potrebe uvlačiti zagonetku o smrtnosti u ovo. Neka nebo bude čisto da vidimo šta još možemo da uradimo o ovom pitanju.

U tom slučaju, neki bi tvrdili da predložena ideja o neuromorfnom kompjuteru nije ništa novo.

Možete pratiti do ranijih dana AI, posebno kada su se ANN-e u početku istraživale, i vidjeti da se govorilo o osmišljavanju specijalizovanih kompjutera za obavljanje rada umjetnih neuronskih mreža. Predložene su sve vrste novog hardvera. Ovo se dešava i dan-danas. Naravno, možete se suprotstaviti da je većina današnjeg istraživanja specijalizovanog hardvera za ANN i mašinsko učenje još uvek zasnovana na konvencionalnom pristupu računarstvu. U tom smislu, ova analogna neodvojivost hardvera i softvera donekle pomera okvire, a predlog „razvijanja“ računara takođe, barem u pogledu izlaska izvan razmatranog mainstreama.

Ukratko, postoje neki koji su u potpunosti zaokupljeni ovim stvarima koji su iznenađeni da bi iko drugi mogao biti iznenađen ovim prijedlozima. Ovi pojmovi su ili isti kao i prije ili odražavaju ono što se već ispituje u različitim istraživačkim laboratorijama.

Kažu da ne dirate kosu.

Ovo nas vodi do još jednog aspekta koji mnogima smeta.

jednom recju: Predvidljivost.

Današnji računari se općenito smatraju predvidljivim. Možete pogledati hardver i softver da shvatite šta će računar raditi. Isto tako, možete pratiti šta je računar već uradio da bi otkrio zašto je uradio to što je uradio. Naravno, postoje ograničenja za ovo, tako da ne želim da preuveličavam predvidljivost, ali mislim da generalno shvatate ideju.

Možda ste svjesni da je jedno od problematičnih pitanja s kojima se AI danas suočava to što je neki AI osmišljen da se samopodešava. AI koji su programeri postavili mogao bi se sam promijeniti dok se koristi. U području etike umjetne inteligencije, postoje brojni primjeri AI koji su stavljeni u upotrebu i koji u početku nisu imali nepotrebne predrasude ili diskriminatorske tendencije, koje su se zatim postupno kompjuterski samomutirale tokom vremena dok je AI bila u proizvodnji, vidi moje detaljne procjene na link ovdje.

Zabrinutost je što već ulazimo u okruženje koje uključuje umjetnu inteligenciju koja nije nužno predvidljiva.

Pretpostavimo da se AI za sisteme oružja podvrgava samoprilagođavanju i rezultat je da AI naoružava i lansira smrtonosno oružje na ciljeve i vrijeme koje se ne očekuje. Ljudi možda nisu u petlji da zaustave AI. Ljudi koji su u petlji možda neće moći odgovoriti dovoljno brzo da prestignu radnje AI. Za dodatne zastrašujuće primjere pogledajte moju analizu na link ovdje.

Za neuromorfne kompjutere, zabrinutost je da stavljamo nepredvidljivost na steroide. Od samog početka, suština neuromorfnog kompjutera bi mogla biti da radi na način koji prkosi predviđanju. Hvalimo se nepredvidljivošću. Postaje značka časti.

Postoje dva kampa.

Jedan kamp kaže da možemo živjeti sa neugodnim problemima nepredvidljivosti, čineći to postavljanjem zaštitne ograde kako bi umjetna inteligencija spriječila da ode predaleko preko mosta. Drugi tabor tvrdi da vodite svijet opasnim putem. Doći će dan da zatražene zaštitne ograde ili pokvare, ili nisu dovoljno stroge, ili da slučajno ili zle namjere ograde budu uklonjene ili pobrkane.

Trebamo li odstupiti od brige oko neuromorfnih kompjutera i predvidljivosti?

Prema primjedbama istraživača: “Među ljudima koji su zainteresirani za analogno računanje, još uvijek je vrlo malo onih koji su spremni odustati od besmrtnosti.” Nadalje: "Ako želite da vaš analogni hardver radi istu stvar svaki put... Imate pravi problem sa svim ovim zalutalim električnim stvarima i sličnim stvarima."

Pokrenuću ovo.

Nadolazeća i pomalo sumorna perspektiva je da takozvana predvidljivost povezana s današnjim digitalnim kompjuterima ionako ide u smjeru nepredvidljivosti. Kao što je spomenuto, ovo se posebno može dogoditi kod AI koji se samopodešava na konvencionalnim kompjuterskim platformama. Samo zato što bi neuromorfni računari mogli biti naizgled nepredvidljivi nije ergo znak da su konvencionalni digitalni računari u stvari predvidljivi.

Nepredvidljivi parni valjak dolazi na nas, punom parom, bez obzira koju računarsku platformu želite da odaberete. Za moju procjenu najnovijih napora da pokušam postići sigurnost AI u ovom svjetlu, vidi link ovdje.

Ovaj zaokret oko predvidljivosti trebao bi vam natjerati um da se posveti nečemu neotkrivene prirode. Oni od vas koji se bave etikom AI i zakonom o AI bi mogli ne su razmatrali posledice neuromorfnih kompjutera.

Vjerovatno ste ciljali na konvencionalne digitalne računare koji pokreću AI. Pa, pogodite šta, imate potpuno dodatni i novi segment AI računarstva o kojem sada možete ostati budni i brinuti noću. Da, neuromorfni kompjuteri. Stavite to na svoju listu obaveza.

Izvinite, još neprospavanih noći za vas.

Hajde da ukratko razmotrimo šta su etika veštačke inteligencije i pravo veštačke inteligencije radili u vezi sa konvencionalnim digitalnim računarstvom i veštačkom inteligencijom.

U prethodnim kolumnama pokrio sam različite nacionalne i međunarodne napore za izradu i donošenje zakona koji regulišu AI, vidi link ovdje, na primjer. Također sam pokrio različite principe i smjernice etike umjetne inteligencije koje su različite nacije identificirale i usvojile, uključujući na primjer napore Ujedinjenih nacija kao što je UNESCO-ov skup etike umjetne inteligencije koji je usvojilo skoro 200 zemalja, vidi link ovdje.

Evo korisne ključne liste etičkih AI kriterija ili karakteristika u vezi s AI sistemima koje sam prethodno pomno istražio:

• Providnost
• Pravda i pravičnost
• Non-Maleficence
• odgovornost
• privatnost
• Dobrotvornost
• Sloboda i autonomija
• povjerenje
• održivost
• Dostojanstvo
• solidarnost

Te principe etike umjetne inteligencije ozbiljno bi trebali koristiti programeri umjetne inteligencije, zajedno s onima koji upravljaju razvojnim naporima AI, pa čak i onima koji na kraju obavljaju i održavaju AI sisteme.

Sve zainteresovane strane tokom čitavog životnog ciklusa AI razvoja i upotrebe se smatraju u okviru poštovanja ustaljenih normi Etičke AI. Ovo je važan naglasak budući da je uobičajena pretpostavka da „samo koderi“ ili oni koji programiraju AI podliježu pridržavanju pojmova etike AI. Kao što je ovdje ranije naglašeno, potrebno je selo da osmisli i postavi AI, a za to cijelo selo mora biti upućeno u etičke propise AI i pridržavati se njih.

Dio ovoga o kojem možda ranije niste mnogo razmišljali je kako će se ista pravila etike AI i rastuća lista novih zakona AI primijeniti na neuromorfne računare. Da pojasnimo, etika AI i zakon o AI zaista to moraju izričito uzeti u obzir. Ističem da malo njih to čini, i imajte na umu da postoji velika šansa da će pojava neuromorfnih kompjutera baciti mnoge na petlju u smislu nove dimenzije za pokušaj vladanja u AI.

Moramo razmotriti etičku umjetnu inteligenciju i zakone o AI na dovoljno širok način da obuhvatimo sve što je AI novo osmišljeno, uključujući neuromorfne kompjutere.

Alternativa klackalici je klasični gambit mačke i miša. Evo kako to ide. Zamišljeni su i izgrađeni novi načini izrade AI. Postojeća etika AI i zakoni o AI uhvaćeni su nespremni i ne obuhvataju u potpunosti najnovije AI smicalice. Užurbani su napori da se ažuriraju etička pravila AI i modificiraju ti novonastali zakoni o AI.

Pjene, isperite, ponovite.

Za sve nas bilo bi bolje da ostanemo ispred igre, nego da budemo uhvaćeni iza osmice.

zaključak

Poveo sam te na malo putovanje.

Na početku sam predložio da će postojati dvije glavne teme koje treba ispitati:

1) Integralno povezivanje i hardvera i softvera za AI mehanizacije umjesto da ih ima kao posebne i zasebne saveznike

2) Prenošenje ili destilacija formulacija mašinskog učenja iz jednog AI modela u drugi koji to čini bez potrebe niti nužno želje (ili čak izvodljivog drugačijeg mogućeg) direktnog potpunog čistokrvnog kopiranja

Prva tema o povezivanju hardvera i softvera bila je glavnina ovog putovanja. Ovo nas je dovelo do smrtnog naspram besmrtnog računarstva. Od kojih su postojala neka ključna razmatranja etike veštačke inteligencije i zakona o veštačkoj inteligenciji koja inače obično ne bi bila pokrenuta jer se ova vrsta tema vezanih za kompjutere obično smatra čisto tehnološkom, a ne da podrazumeva bilo kakav društveni uticaj.

Kažem da je najmudrije biti prije i sigurnije, a ne kasnije i gore kada je u pitanju etički AI i zakon o AI.

Druga tema, koju još nisam ovdje artikulirao, materijalno se odnosi na prvu temu.

Evo dogovora.

Pretpostavimo da imamo „smrtni kompjuter“ i želimo da sačuvamo mogućnosti kako bismo mogli da imamo rezervnu kopiju ili navodne kopije onoga što AI sadrži. Možda smo zabrinuti da se određeni smrtnički kompjuter bliži svom kraju. Jao, zavisimo od toga. Šta da radimo? Jedan odgovor je da bismo trebali kopirati prokletu stvar.

Ali, kopiranje neuromorfnog kompjutera tipa koji se skicira bit će teže nego što se čini na prvi pogled. Stvari mogu postati nezgodne.

Možda bismo trebali smisliti trik kopiranja koji će biti generaliziran i primjenjiv na okolnosti koje uključuju strojno učenje i umjetne neuronske mreže. Želimo da ovo funkcioniše na velikim i izuzetno velikim instancama. I mi bismo bili voljni da kopija ne bude tačan duplikat, već bi umjesto toga mogla biti u suštini ekvivalentna ili možda čak i bolje osmišljena kao rezultat kopiranja.

Tehnika poznata kao destilacija je predloženo.

Ponestalo mi je prostora za današnju kolumnu, pa ću ovu drugu temu pozabaviti u narednoj kolumni. Pretpostavio sam da biste željeli odmah znati o odnosu između te druge teme i prve teme koja je ovdje opširno obrađena. Zamislite ovo kao dodatnu bilješku koja služi kao teaser ili trejler onoga što slijedi.

Ostanite na ivici svog sjedišta, jer je tema destilacije prilično dobra.

Kao što je Batman govorio, neka vam krila šišmiša budu prekrižena i budite spremni za isto vrijeme slepog miša i kanal za rješavanje mučnog pitanja kako kopirati ANN ili model mašinskog učenja ili neuromorfni računar na drugi.

Posljednja napomena za sada. U filmu postoji poznata rečenica Vraća se Mračni vitez u kojem naš krstaš sa plaštom kaže ovo: "Svijet ima smisla samo ako ga na to prisiliš." Pokušaću da se držim tog ideala kada budem obrađivao drugu temu o destilaciji u vezi sa veštačkom inteligencijom.

Pratite drugi dio ovog uzbudljivog i očaravajućeg naslova.