Etika veštačke inteligencije i geopolitička borba oko toga ko će pobediti u trci za postizanje prave veštačke inteligencije

Svijet je u mahnitoj trci.

Geopolitičke sile tvrde da će pobjednik takoreći svu slaninu odnijeti kući.

Koja se trka žestoko vodi i uporno proganja?

To je AI trka.

Možda biste to prikladnije nazvali trkom koju treba postići istinski Veštačka inteligencija (AI), koja se trenutno potpunije naziva veštačka opšta inteligencija (AGI). Želimo nekako doći do naizgled najveće umjetne inteligencije ili poznate kao AGI koja je uporediva s ljudskom inteligencijom. Još nismo tamo. Zaista, uprkos svim vrstama divljih i drsko proklamujućih naslova, ne znamo kada i da li ćemo postići tu visoku ocenu. Današnja AI ima daleko manje sposobnosti od sveobuhvatne ljudske inteligencije, iako sigurno postoji mnogo užih načina na koje je AI napravila impresivne pohode, kao što je mogućnost igranja šaha vrhunske svjetske klase ili drugih relativno ograničenih zadataka.

Zlatni prsten je ipak pojava umjetne inteligencije koja pokazuje ljudsku inteligenciju pobožne prirode i dubine slične ljudskoj. Ovo je sveti gral istraživača i praktičara AI. S vremena na vrijeme, pojavile su se lažne tvrdnje da su već prešli ciljnu liniju utrke AI, što sam razotkrio u svojoj kolumni na link ovdje. Oni koji pokušavaju da naprave sporove o prelasku ciljne linije zbunjuju širu javnost i to ponekad čine revnosnom nevinošću, dok u drugim slučajevima imaju ozbiljno sumnjive motive u rukama. Sve u svemu, ovo pokreće prilično značajna i vitalna pitanja etike AI. Za moje tekuće i opsežno pokrivanje etike AI i Etičke AI, pogledajte link ovdje i link ovdje, Da nabrojimo samo neke.

U svakom slučaju, nema sumnje da je globalna sprinterska AI trka željno u toku. Bilo bi teško da tvrdite drugačije.

Razmislite o tome na ovaj način. Da smo već uspjeli postići pravi AI ili AGI, izgledi su da bi trka AI stopala bila formalno i globalno proglašena uspješno završenom. Uvjeravam vas da bi svjetska pažnja bila prikovana za tako snažan i potresan napredak. Znao bi za to. Svi bismo. AI madcap crtica bi ergo više ne postojala, iako bi se možda mogla pojaviti sekundarna verzija koja uključuje one koji nisu postigli pravu AI koji grozničavo rade na tome da sustignu. Tu je i uznemirujuća stvar o tome kako ćemo na kraju kontrolirati ili upravljati AGI-om ako ili kada stignemo tamo.

Nijedna osoba, entitet ili nacija još uvijek ne mogu na pravi način tražiti krunu proizvodnje prave AI ili AGI.

U međuvremenu, dešava se ogromna i nemilosrdna količina rukovanja oko toga koja je nacija (ili nacije) na čelu čopora, a ko je dalje iza. Pretpostavka je da ćete, ako niste prvi, ostati u prljavštini. Jest ćete ostatke od AI pobjednika. Potencijalno ćete biti zauvijek potčinjeni naciji ili nacijama koje naprave najavljeni skok u pravi AI ili AGI.

Kao brzu stranu i da olakšam formulaciju ove rasprave, od sada ću koristiti "AGI" kad god želim da prizovem auru prave AI. Upotreba nešto novije fraze "AGI" ponekad je neugodna za one koji nisu navikli da je koriste. Svi smo upoznati sa "AI" i možda ćete biti uznemireni kada vidite da se umjesto njega koristi akronim "AGI". Dozvolite mi da objasnim zašto se ovo postepeno pojavljuje kao glagolski trend.

Dio razloga zašto se AGI uzdigao u areni AI narodnog jezika je taj što je samo navođenje "AI" sada postalo, nažalost, razvodnjena fraza. Niko ne zna da li je veštačka inteligencija koju spominjete jedva AI varijanta ili neka kvazi-bolja infuzija veštačke inteligencije koja napreduje, ili možda aludira na jednog dana futuristički potpuno izjednačen AI. Kako bi se izborili sa preopterećenjem “AI” kao krilatom frazom, AGI nadimak dobija prednost od strane onih insajdera u oblasti AI koji žele posebno i posebno aludirati na pravu AI.

Dakle, ukratko, smatrajte da je moje spominjanje AGI isto što i da kažem „pravi AI“ robusnog kalibra sličnog ljudskoj inteligenciji, hvala.

Razborito duboko udahnimo i pažljivo ispitajmo neke aspekte trke za postizanje AGI. Postoji čak i meta-aspekt koji treba prvo navesti. Imajte na umu da postoji pomalo neugodna žgaravica u korištenju alegorije navodne trke ili neke druge vrste trkačke aktivnosti kao metafore za AGI trku. Zašto tako? Nakratko ću vas izvijestiti o komplikacijama i složenostima zašto (neki kažu) trka stopala ili njen ekvivalent potpuno obmanjuju i podmukli prostački stav.

Evo ključnih tačaka koje ću obraditi s vama u ovom diskursu:

• Ako je ovo utrka, AGI ciljna linija izgleda prilično loše definirana
• AGI trka može doći do osobe, entiteta ili nacije
• Metrike i kako se nacije porede u AGI trci
• Geopolitičko manevrisanje i usklađivanje za AGI trku
• Međunarodni zakoni o AI i etika AI kao suci u AGI trci

Možda biste željeli da vežete pojas dok ispitujem hitnu AGI trku stopala (da, usuđujem se da je nazovem trkom stopala) na kojoj se gotovo svi kreću vrtoglavom brzinom i naizgled vrtoglavo napreduju u ovoj gorućoj misiji. Neki bi mogli reći da je ovo trka za boljitak čovječanstva, dok drugi upozoravaju da bi rasa mogla značiti potpunu propast za sve nas.

Vrijeme će pokazati.

Ako je ovo utrka, AGI ciljna linija izgleda prilično loše definirana

Ciljna linija je obično prilično definitivno razgraničenje. Ili ste stigli do cilja ili niste. Čini se da vam kratak korak ne pomaže. Zamislite trku na 400 metara na Olimpijskim igrama i da li biste se posebno sjećali ili biste pohvalili trkače koji uopće nisu završili utrku (nikada nisu prešli ciljnu liniju). Malo vjerovatno.

Hoćemo li znati kada smo stigli do AGI tako da se razumno svi slažu da je cilj postignut?

Postoje žestoka neslaganja oko razgraničenja AGI.

Na primjer, pretpostavimo da osmislimo umjetnu inteligenciju za koju se čini da je u potpunosti sposobna pokazati ljudsku inteligenciju, ali u njoj nema privida osjećaja per se (pogledajte moje izvješće o argumentima oko AI osjećaja na link ovdje). AI je kompjuterski sposoban da oponaša ili na drugi način radi kao ljudska inteligencija. Međutim, ne postoji ni iskra živosti ili osjećaja koju povezujemo s ljudima i drugim živim bićima. Da li se ovaj AGI računa kao postizanje cilja za koji smo mislili da imamo?

Neki bi tvrdili da ne bi bilo važno ako se čini da je osjećaj per se umotan u ovaj AGI. Dokle god može pokazati ljudsku inteligenciju, inkorporacija osjećaja je nešto od različite raznolikosti koju bismo mogli ili ne bismo željeli vidjeti. Sentience u tom smislu stvari je dodatak.

Drugi žestoko tvrde da će jedino sredstvo za postizanje ljudske inteligencije u AGI-u biti integralno utjelovljenje osjećaja. AGI i osjećaj se ili smatraju istim, ili su mješavina nesvodivog neodvojivog dvostrukog utjelovljenja. Da biste dobili AGI, morate imati razum, tvrdili bi.

Ako ostavimo po strani taj ugao debate, druga perspektiva je da bismo mogli koristiti čuveni Turingov test da procenimo da li je AGI postignut. Ja sam detaljno obradio Tjuringov test na link ovdje. Ukratko, pojam se sastoji od toga da čovjek postavlja pitanja AGI-ju i ako čovjek ne može razlikovati odgovore koje je generirao AGI od odgovora čovječanstva onda bismo proglasili AGI kao sposoban da ispoljava ljudsku inteligenciju.

Postoji mnogo problema ili nedostataka koji se često povezuju s Turingovim testom.

Pretpostavimo da osoba koja postavlja upite radi loš posao i ne postavlja upitna pitanja. Jedna zabrinutost je da mnogi od današnjih naizgled moćnih modela velikih jezika (LLM) mogu papagajno vratiti čovjeku sadržaj za koji je LLM bio obučen (tj. tekst i digitalni mediji koji se često dobijaju putem velikih razmjera scraping Interneta). Kao takav, posebno odabrani čovjek koji postavlja pitanja obične vrste na koja je već odgovoreno i koja postoji na mreži može potencijalno lako „odgovoriti“ od strane LLM-a, ali to nije zbog bilo kakvog oličenja ljudske inteligencije AGI kalibra.

Pojavljuje se mnogo drugih nedoumica. Pretpostavimo da čovjek nije u stanju da shvati odgovore. Ili pretpostavimo da se čovjek zavarava vjerujući da su svi odgovori dokaz ljudske inteligencije. Čak sam pokrio i zastarjelu ideju nekih da sve što treba da uradimo je da pitamo AI da li je AGI ili je razuman, što jasno ističem da nije baš ubedljiv oblik AGI dokaza, vidi link ovdje.

Konačno, kao još jedna misao, da li trebamo u potpunosti stići do cilja da bismo smatrali da je AGI postignut?

Ranije sam spomenuo da obično zaboravljamo na one koji ne stignu do cilja. Ovo možda nije razumno analogno AGI trci. Vjerujem da se može iznijeti uvjerljiv argument da ćemo se, ako smo u stanju postići značajan put prema AGI, već naći u stanju zaprepaštenja i ili velike koristi ili velike nevolje. Vidite, mnogi važni i vrlo korisni ishodi mogli bi se pojaviti gotovo tamo AGI. Neće biti toliko problematično kao da ne završimo trku na 400 metara, pogotovo zato što bi to mogla biti vitalna osnova za naš put do potpunije verzije AGI-a (možda je to maraton u poređenju).

Metafora postignuća AGI-a kao vrsta trke stopala ili njenog ekvivalenta ponekad je nezadovoljavajuća i neadekvatna.

AGI rasa bi mogla doći do osobe, entiteta ili nacije

Neki gaje sanjivu ideju da će AGI postići neki majstor koji radi u garaži dok je u pidžamama i da će biti plod ludo inventivnih eksperimenata kompjuterizacije na kojima su se trudili godinama i godinama. To je klasični visokotehnološki trop vuka samotnjaka.

Žao nam je što moram izvijestiti da se radi o izuzetno niskim kvotama.

Veće šanse bi bile da će entitet kao što je biznis ili neki istraživački tim biti AGI igrači. Snažno i preovlađujuće uvjerenje je da će biti potrebno jedno selo da stigne do AGI. Vuk samotnjak neće imati resurse niti uvid sam da dođe do AGI. Oni mogu doprinijeti potrazi. Oni mogu pružiti potrebne dijelove slagalice. Neće biti u stanju da sakupe cijeli komplet i opremu.

Govoreći o selima, još jedno čvrsto stajalište je da će to biti nacije koje će moći postići samo AGI. Kroz kombinaciju ljudi, preduzeća, akademika i svih drugih oblika entiteta unutar nacionalne države, AGI će stići kao rezultat kombinovanog rada nacionalnog totaliteta. Jedinični nivo pažnje za pobednika u ovoj trci je na bazi nacionalne države, a ne na nečemu više rasutom, slobodnom ili individualističkom.

Ukratko, ako je potrebno selo, selo će biti na nacionalnoj razini, tako da će nacionalna država biti određeni trkač koji prelazi ciljnu liniju u AGI trci.

metrika i kako se nacije upoređuju u AGI trci

Uzmite kao dato da će AGI postignuće biti bazirano na nivou nacionalne države.

Da ponovim, to ne znamo sa sigurnošću, ali se čini da je to razumna pretpostavka.

Uzmite u obzir razgranate osnove nacionalne države. Pretpostavimo da vuk samotnjak prvi uspije doći do AGI-ja i vjeruje da je njihov rad izvan onoga što je uradila nacionalna država čiji su članovi. Ova osoba izjavljuje da nisu ni iz jedne nacionalne države u smislu kreiranog AGI. Da li bismo i dalje odali priznanje toj nacionalnoj državi i da li bi AGI bila pod kontrolom i nadležnosti te nacije?

Zamislite još jednu alternativu da veliki multinacionalni konglomerat prvi stigne u AGI. Koja nacija može reći da je AGI njihova „stvar“ za korištenje i raspoređivanje (hoće li se tumačiti kao vlasništvo ili kao varijanta pravnog lica)? Možda sve nacije u kojima kompanija postoji treba da dobiju jednake kredite. Ili možda samo gdje god je formalno sjedište geografski smješteno. To bi moglo biti složeno cijepanje pravog lonca zlata.

U svakom slučaju, opšte popularno mišljenje je da će nacionalna država biti presudna odrednica za postizanje AGI. Nacija koja podstiče istraživanje i razvoj veštačke inteligencije u okviru svojih nacionalnih napora verovatno će doći do AGI ranije od drugih zemalja koje to ne čine.

Preovlađuje mišljenje da je rasa AI nacionalna.

Pitanje koje grebe glavu je kako da utvrdimo da li je jedna nacija ispred ili iza druge nacije u AGI trci.

U konvencionalnoj trci, lako bismo mogli identificirati metriku koja se može koristiti da odredimo koji trkači rade dobro, a koji ne. Brzina trkača može se lako izračunati. Ovo ne garantuje da će završiti prvi, ali barem obećava. Fizička udaljenost između trkača i preostala udaljenost do cilja su očito vitalni kriteriji koje možemo lako izmjeriti.

AGI trka nema te vrste sigurnih oblika metrike ili mjerenja.

Koristimo sve vrste surogat mjera jer ne postoji nikakav definitivan način da izračunamo gdje je krajnja linija i koliko smo udaljeni od nje.

Hajde da pogledamo tipove metrike koje se konvencionalno razmatraju. Posebno zgodan izvor globalnih mjerenja povezanih s umjetnom inteligencijom svake godine prikuplja i objavljuje Stanfordski institut za AI usmjerenu na čovjeka (HAI) na Univerzitetu Stanford. Izvještaj je dostupan online besplatno i naslovljeno je na najnovije izdanje Godišnji izvještaj indeksa umjetne inteligencije za 2022 (na osnovu podataka prikupljenih za 2020-2021). Za trenutak ću podijeliti s vama neke naglaske nacionalnih poređenja navedenih u njihovoj najnovijoj kompilaciji.

Metrike koje se koriste za mjerenje nacionalnog i međunarodnog napretka u oblasti umjetne inteligencije obično uključuju pomalo od svega, ponekad graniči sa uključivanjem pravog sudopera.

Tipovi mjera koje se obično ispituju uključuju:

• Broj istraživačkih članaka AI koji se pripisuju određenoj naciji
• Broj citiranih referenci na AI članke određene nacije
• Broj AI časopisa baziranih u određenoj naciji
• Broj AI konferencija koje se održavaju unutar određene nacije
• Broj AI konferencija sponzoriranih od strane određene nacije
• Broj patenata vezanih za umjetnu inteligenciju odobrenih unutar određene nacije
• Broj pokretanja AI kompanija unutar određene zemlje
• Broj AI poslova unutar određene nacije
• Broj novih AI poslova ili zapošljavanja u određenoj zemlji
• Broj zakona o veštačkoj inteligenciji ili zakonskih zakona uvedenih u određenoj naciji
• Broj usvojenih ili donesenih zakona o AI u određenoj državi
• drugi

Razmotrite ove savremene naznake iz HAI AI indeksa 2022:

• Citati publikacije AI: “Što se tiče citiranosti publikacija u repozitorijumu veštačke inteligencije, Sjedinjene Države su na vrhu liste sa 38.6% ukupnih citata u 2021. godini, uspostavljajući dominantnu prednost u odnosu na Evropsku uniju plus Ujedinjeno Kraljevstvo (20.1%) i Kinu (16.4%).”
• AI časopisi/konferencije: „U 2021. Kina je nastavila da vodi u svijetu po broju publikacija AI časopisa, konferencija i repozitorija—63.2% više od Sjedinjenih Država sa sve tri vrste publikacija zajedno. U međuvremenu, Sjedinjene Države su imale dominantno vodstvo među glavnim AI silama po broju citata konferencija i repozitorija.”
• AI patenti: “Kina sada podnosi više od polovine svjetskih patenata za umjetnu inteligenciju i odobrava oko 6%, otprilike isto kao i Evropska unija plus Ujedinjeno Kraljevstvo. Sjedinjene Države, koje prijavljuju gotovo sve patente u Sjevernoj Americi, to čine po stopi od jedne trećine Kine. U poređenju sa sve većim brojem prijavljenih i odobrenih patenata za veštačku inteligenciju, Kina ima daleko veći broj prijava patenata (87,343 u 2021.) od onih koji su odobreni (1,407 u 2021.).
• Novofinansirane AI kompanije: „Podaci o investicijama prema broju novofinansiranih AI kompanija u svakoj regiji. Za 2021. prednjačile su Sjedinjene Države sa 299 kompanija, a slijede Kina sa 119, Ujedinjeno Kraljevstvo sa 49 i Izrael sa 28. Razlike između svake su značajne.”
• Tempo zapošljavanja AI: “Novi Zeland, Hong Kong, Irska, Luksemburg i Švedska su zemlje ili regije s najvećim rastom zapošljavanja AI od 2016. do 2021.
• AI oglasi za posao: “U 2021. godini, Kalifornija, Teksas, New York i Virginia su bile države s najvećim brojem oglasa za AI posao u Sjedinjenim Državama, pri čemu je Kalifornija imala preko 2.35 puta veći broj oglasa od Teksasa, drugog po veličini. Washington, DC, imao je najveću stopu oglasa za posao AI u poređenju sa ukupnim brojem oglasa za posao
• AI zakonodavna radnja: „Analiza AI indeksa zakonodavnih zapisa o AI u 25 zemalja pokazuje da je broj zakona koji sadrže 'vještačku inteligenciju' koji su usvojeni u zakon porastao sa samo 1 u 2016. na 18 u 2021. Španija, Ujedinjeno Kraljevstvo i Sjedinjene Države usvojio je najveći broj zakona koji se odnose na umjetnu inteligenciju u 2021., a svaki je usvojio tri.”

Možemo se u izobilju diviti i cijeniti naporan rad uključen u sastavljanje statistike trkača na nacionalnoj državnoj razini za AGI trku.

Skeptici se ipak poprilično prepiru o korištenju bilo koje vrste metrike u angažmanu u AGI trci.

Trnovito pitanje je da li možete povući bilo kakvu pravu liniju od broja članaka AI ili konferencija AI unutar određene nacije do konačnog postignuća AGI. Isto se kaže za broj AI poslova, broj AI kompanija i mnoštvo drugih metrika. Moguće je da ti brojevi nemaju mnogo veze sa postizanjem AGI. Argument je da su te mjere više topline nego svjetlosti.

Protuargument je da moramo pokušati izmjeriti gdje smo i kuda idemo. Stavljanje glave u pijesak ne izgleda kao dobar način za procjenu da li idemo prema AGI ili možda dalje od AGI. Nadamo se i generalno se pretpostavlja da što više energije i pažnje bude usmjereno na napredak u AI, to ćemo se približiti AGI. Ove metrike su najbolje što možemo učiniti da saznamo koliko se energije i pažnje izdvaja i troši u AGI trci.

Unaokolo to ide.

Svaki od pokazatelja se može sam po sebi također udarati o glavu.

Na primjer, razmotrite broj zakonodavnih zakona ili zakona o AI.

Možete tvrditi da ako se zakonodavci fokusiraju na zakone koji se odnose na umjetnu inteligenciju, to je dobar znak da nacija prilično trezveno shvaća važnost umjetne inteligencije i društvene posljedice toga kuda AI ide. Može se zaključiti da ovo pokazuje da se u toj određenoj naciji javlja mnogo napora za unapređenje AI. Zašto biste se trudili da donesete zakone o veštačkoj inteligenciji, osim ako veštačka inteligencija nije naročito bujala i bujala kao demonstrativni element vaše nacije?

Na taj način, one nacije koje objavljuju nove zakone o umjetnoj inteligenciji tumače se kao signalni znak ili signal da je napredak AGI uvelike u toku u toj zemlji.

Neki kritičari tvrde da će predloženi novi zakoni o AI ugušiti napore AI unutar svake takve posebne nacije. Poslanici i politički lideri će pucati sebi u noge. Zakoni će prerano staviti sumornu sjenu na napore AI koji su u toku u toj specifičnoj naciji. Slavina za napredak AI će se začepiti legalnim začepljenjem kose i tempo napretka AGI-a će se usporiti do curenja u toj naciji koja proglašava zakon AI. U međuvremenu, druge nacije koje ne donose takve zakone o AI nastavit će nesmetano. Kao da ste odlučili da stavite olovne utege na trkaču koja je već na stazi od 400 metara. Ako ste imali za cilj da im pomognete i ubrzate ih, uradili ste upravo suprotno.

Vau, replika ide, donošenje zakona o veštačkoj inteligenciji više liči na osiguravanje da nema nepotrebnih prepreka na putu ispred trkača. Zakoni daju smjernice u istom smislu da su linije na trkačkoj stazi tu da održavaju trkača nesmetano u pravom smjeru. Bez tih naslikanih linija, trkači bi mogli poludjeti. Novi zakoni o umjetnoj inteligenciji omogućit će im da zajedno koračaju prema poželjnom ishodu. Zemlje koje ne rade isto u smislu novih zakona o veštačkoj inteligenciji naći će da njihovi trkači idu u svim divljim pravcima, uključujući moguće da u potpunosti bježe sa staze i nanose štetu onima koji su nevini izvan same AGI trke.

Postoje i "skriveni" zakoni vezani za umjetnu inteligenciju koje neki broje, a neki drugi se ne računaju kao dio ovih metrika (što stvara zbrku kada pokušavate uporediti broj).

Na primjer, ako država donese zakon koji se odnosi na autonomna vozila kao što su automobili koji se sami voze, da li to smatrate zakonom o umjetnoj inteligenciji? Da razjasnimo autonomno vozilo, kao što je potpuno autonomno vozilo koje se samostalno vozi, imat će AI sistem vožnje koji je jezgro sposobnosti bez vozača (pogledajte moje izvješće na link ovdje). Zbog umiješane umjetne inteligencije, svi zakoni o autonomnim vozilima mogli bi se razumno argumentirati kao suštinski zakoni AI. S druge strane, mogli biste uvjerljivo tvrditi da se zakon odnosi na autonomno vozilo, a ne per se na AI, stoga se ovo ne računa u zakonima specifičnim za AI.

Neuredan je.

Sva ova konsternacija oko metrike mogla bi vas natjerati da slegnete ramenima usred polarno suprotnih pogleda na ova važna razmatranja. Kao što bi moglo biti očigledno, metrika je gotovo uvijek podložna različitim tumačenjima o tome šta znače i kako se na odgovarajući način analizira status nacije u pogledu AGI.

Geopolitičko manevrisanje i usklađivanje za AGI trku

Koje nacije su ispred u AGI trci?

Koje nacije zaostaju?

Gore spomenuti pokazatelji pokušavaju pokazati gdje se trenutno nalazi svaki od trkača. Osnovna pretpostavka je da ako metrika predstavlja prikladnu indikaciju pozicioniranja u potrazi za AGI, ovi različiti polo-pozicije mogu ostati iste tokom vremena. Naravno, realnost je da nacionalni interes i pažnja mogu porasti ili opasti tokom neravnog puta prema AGI. Možda je najmudrije očekivati ​​promjene u pozicioniranju.

Jedna važna stvar je da nacije nisu same u ovoj trci.

Nacije će najvjerovatnije predavati palicu naprijed-nazad jedna na drugu. AGI trka ponekad ima jednu ili više nacija koje rado rade ruku pod ruku. Ponekad se to radi oprezno, a ne s prijateljskim veseljem. U drugim slučajevima, nacije bi se mogle uzdržati jedna od druge. U bilo kom trenutku, položaj u trci može biti sasvim drugačiji nego što je bio nekoliko koraka unazad, plus može biti sasvim drugačiji nekoliko koraka u budućnost.

Uzmite u obzir ovu tvrdnju koju je iznio izvještaj HAI AI Index 2022 o saradnji između zemalja: „Uprkos rastućim geopolitičkim tenzijama, Sjedinjene Države i Kina imale su najveći broj međudržavnih suradnji u publikacijama AI od 2010. do 2021., povećavši se pet puta od 2010. Saradnja između dvije zemlje proizvela je 2.7 puta više publikacija nego između Ujedinjenog Kraljevstva i Kine – druga najveća na listi.”

Cinici bi rekli da se možda korištenje unakrsne saradnje povremeno koristi kao smicalica. Nacija bi mogla otvoreno tvrditi da surađuje unakrsnu, naizgled izgleda da to čini, dok duboko u sebi svoj najbolji napredak u AGI-ju čuvaju skrivenom nacionalnom tajnom. Možda je ovo učinjeno da bi se zagušio napredak nacije unakrsne saradnje. Možda se to radi kako bi se osiguralo da se tajni sos nehotice ne podijeli. Mogući su razni razlozi.

U današnjem modernom digitalnom Internet svijetu na mreži, pokušaj da se AGI uvidi čvrsto drže u tajnosti može biti težak zadatak. Intenzivna želja da se otkrije ili izmisli AGI je uvjerljiva privlačnost koja može potaknuti pojedinačne AGI programere i istraživače da otvoreno podijele svoje najnovije radove. Nacije mogu otkriti da je pokušaj ograničavanja takvog dijeljenja mnogo teži nego što se čini, a vjerovatno i mnogo teži nego u danima kada je sve bilo na papiru i zahtijevalo fizičko kretanje dokumenata širom svijeta.

Kretanje ka otvorenom kodu je svakako bio savremeni naglasak za većinu najnovijih istraživanja AI i AGI, kao što se spominje u izvještaju HAI AI Index 2022: „Svake godine hiljade i hiljade publikacija AI se objavljuju u otvorenom kodu, bilo u konferencijama ili na web stranicama za razmjenu datoteka. Istraživači će otvoreno dijeliti svoje nalaze na konferencijama; vladine agencije će finansirati istraživanje veštačke inteligencije koje završi u otvorenom kodu; a programeri koriste otvorene softverske biblioteke, slobodno dostupne javnosti, za proizvodnju najsavremenijih AI aplikacija. Ova otvorenost također doprinosi globalnoj međuzavisnoj i međusobno povezanoj prirodi modernog istraživanja i razvoja umjetne inteligencije.”

Sve u svemu, nacije uglavnom dijele, a ipak mogu pokazati samo dio svoje ruke. Druge nacije možda ne dijele ili se samo pretvaraju da to čine. Neke se nacije teško bore s pokušajem da procijene šta oni u njihovoj naciji poklanjaju u odnosu na šta se drže. I tako dalje.

Okarakterizirao sam prirodu ovih nacionalnih poteza na sljedeće načine:

• AI Go-it-alone Nation (pokušava da nastavi sam)
• AI Jednosmjerna nacija (uzima, nece odati)
• AI Leftover Nation (dobije šta može od drugih)
• AI Open-sharing Nation (ponosi se dijeljenjem)
• AI Hollow-sharing Nation (laž u dijeljenju)
• AI Alliances Nation (pokušava sklopiti što više saveza može)
• AI Nacija koja nije u igri (traženje AGI nije nacionalni prioritet)
• AI Cheating Nation (obrnuti inženjering ili prikrivena krađa od drugih nacija)
• drugi

Jedna nacija može biti u više od jedne od tih kanti istovremeno.

Nacija može neko vrijeme biti u jednoj od tih kanti, izaći iz kante i možda se kasnije vratiti.

Želje i pažnja nacionalne države koje se odnose na traženje AGI-a su dinamična oseka i oseka koja će zasigurno nastaviti da se odvija i biti pokretna meta koja se nacija nalazi u trci, i biće potrebno stalno oko da se shvati gdje su svi igrači pozicionirani u datom trenutku.

Međunarodni zakoni o AI i etika AI kao suci u AGI trci

U prethodnim kolumnama pokrio sam različite nacionalne i međunarodne napore za izradu i donošenje zakona koji regulišu AI, vidi link ovdje i link ovdje, na primjer. Također sam pokrio različite principe i smjernice etike umjetne inteligencije koje su različite nacije identificirale i usvojile, uključujući na primjer napore Ujedinjenih nacija kao što je UNESCO-ov skup etike umjetne inteligencije koji je usvojilo skoro 200 zemalja, vidi link ovdje.

Evo korisne ključne liste etičkih AI kriterija ili karakteristika u vezi s AI sistemima koje sam prethodno pomno istražio:

• Providnost
• Pravda i pravičnost
• Non-Maleficence
• odgovornost
• privatnost
• Dobrotvornost
• Sloboda i autonomija
• povjerenje
• održivost
• Dostojanstvo
• solidarnost

Te principe etike umjetne inteligencije ozbiljno bi trebali koristiti programeri umjetne inteligencije, zajedno s onima koji upravljaju razvojnim naporima AI, pa čak i onima koji na kraju obavljaju i održavaju AI sisteme.

Svi akteri tokom čitavog životnog ciklusa AI razvoja i upotrebe smatraju se u okviru poštivanja postojećih normi Etičke AI. Ovo je važan naglasak budući da je uobičajena pretpostavka da su „samo koderi“ ili oni koji programiraju AI podložni pridržavanju pojmova etike AI. Kao što je ovdje ranije naglašeno, potrebno je selo da osmisli i postavi AI, a za šta cijelo selo mora biti upućeno i pridržavati se etičkih propisa AI.

Hajde da razmotrimo uticaj i vitalnu prirodu međunarodnih zakona o veštačkoj inteligenciji i međunarodnih proklamacija etičkih pravila veštačke inteligencije na AGI trku.

Nacije koje teže ka AGI-ju mogle bi to učiniti sa odustajanjem i naći se da skreću ka nekim od često popularizovanih egzistencijalnih rizika AGI-ja. Nadamo se da će se uspostavljanjem međunarodnih zakona o umjetnoj inteligenciji i međunarodnih etičkih propisa o umjetnoj inteligenciji, nacije voditi ka AI za dobro i kloni se AI za loše.

Prema našoj analogiji sa trkačkim stazama, ti zakoni o umjetnoj inteligenciji i razmatranja etike umjetne inteligencije su poput pokušaja da se trkači spriječi da izađu izvan staze. Postoje ogromna iskušenja da se krene prečicama u AGI trci. Te bi prečice mogle odvesti naciju naizgled brže do cilja, iako bi istovremeno tu naciju i druge nacije izložile nepotrebnom riziku. Suptilan, ali upečatljiv primjer sastoji se od AI dvostruke namjene, koji sam ispitao link ovdje, pri čemu se napredovanje umjetne inteligencije lako mijenja bez mnogo truda sa cilja na dobrotu na stvaranje kataklizmičke zla.

Mogli biste tvrditi da su međunarodni zakoni o umjetnoj inteligenciji i međunarodna etika umjetne inteligencije kao suci ili sudije.

Pretpostavka je da će ovi međunarodno osmišljeni pravni i etički mehanizmi održati AGI trku na ravnomjernijoj kobilici. Stvar je u tome da li se određene nacije odlučuju da poslušaju sudije ili sudije, to je druga stvar. Slično tome, postoji uznemirujuće pitanje kako te vlasti mogu obezbijediti kazne ili poticaje da zadrže trkače na pravom putu. Šanse su da će nacije učiniti ono što žele, za što će druge nacije možda morati da prebace svoju težinu kako bi ojačale podršku kršenju pravila izvan puta koje su neke nacije dužne poduzeti.

zaključak

Louis Pasteur, legendarni hemičar i mikrobiolog, slavno je rekao: „Nauka ne poznaje zemlju, jer znanje pripada čovječanstvu i baklja je koja obasjava svijet. Nauka je najviša personifikacija nacije jer će ta nacija ostati prva koja nosi najdalje djela misli i inteligencije.”

Možemo li reći da postizanje AGI ne poznaje nijednu zemlju i da će AGI pripadati cijelom čovječanstvu?

Ili će nacija koja prva stigne na AGI biti posesivna prema tome, opijajući se groznom moći i izluđujući moć?

Za one od vas koji vole malo obrta u ovoj konkretnoj zagonetki, uzmite u obzir da bi AGI mogao sam po sebi biti vrsta postignuća koja je poslovična zmija u travi. Otkrivač zmije mogao bi biti prvi koji će dobiti zmijski ugriz. Biti prvi ima svoje rizike.

Prelazak ciljne linije na AGI-u neće nužno biti tako slavljenički i bezbrižan kao što neki misle. Niti će korištenje AGI-a biti nužno lako. Neki bi mogli tvrditi da bi suočavanje sa AGI-om moglo biti gotovo nemoguće jer će AGI naizgled imati uporedivu lukavost i domišljatost kao i čovječanstvo. Nacije bi trebale biti svjesne onoga što pokušavaju postići i kakav će biti rezultat, radeći to unaprijed i ne budu iznenađene. Možda imaju stršljenovo gnijezdo u svojoj škrinji s nacionalnim blagom.

Kao što je Pasteur ponudio: "Sreća favorizuje pripremljeni um."