Evo zašto znanstvenici misle da biste se trebali brinuti zbog umjetne inteligencije

Posljednjih mjeseci možda ste pročitali tekst priloga o članku čiji je koautor autor Stephen Hawking, raspravljajući o rizicima povezanima s umjetnom inteligencijom. U članku se sugerira da AI može predstavljati ozbiljan rizik za ljudski rod. Hawking nije sam - Elon Musk i Peter Thiel obojica su intelektualne javne ličnosti koje su izrazile sličnu zabrinutost (Thiel je uložio više od 1,3 milijuna dolara u istraživanje problema i mogućih rješenja).

Pokrivanje Hawkingovog članka i Muskinih komentara bili su, da ne kažem previše točno, pomalo veselo. Ton je bio vrlo "pogledaj ovu čudnu stvar zbog koje se svi ti štrebere brinu." Malo se razmatra ideja da ako neki od najpametnijih ljudi na Zemlji upozoravaju da bi nešto moglo biti vrlo opasno, to bi moglo biti vrijedno osluškivanja.

To je razumljivo - umjetna inteligencija koja preuzima svijet sigurno zvuči vrlo čudno i nevjerojatno, možda zbog ogromne pozornosti koju su ovoj ideji već dali pisci znanstvene fantastike. Dakle, ono što su se svi ovih nominalno zdravih, racionalnih ljudi tako plašili?

Što je inteligencija?

Da bismo razgovarali o opasnosti od umjetne inteligencije, moglo bi biti korisno razumjeti što je inteligencija. Da bismo bolje razumjeli problem, pogledajmo igračku AI arhitekturu koju koriste istraživači koji proučavaju teoriju rasuđivanja. Ova igračka AI naziva se AIXI i ima niz korisnih svojstava. Ciljevi mogu biti proizvoljni, dobro se slažu s računarskom snagom, a njegov unutarnji dizajn vrlo je čist i jasan.

Nadalje, možete implementirati jednostavne, praktične verzije arhitekture koje mogu raditi poput igre Pacman, ako želite. AIXI je proizvod AI istraživača po imenu Marcus Hutter, vjerojatno najistaknutiji stručnjak za algoritmičku inteligenciju. To je on u videu iznad.

AIXI je iznenađujuće jednostavan: ima tri osnovne komponente: učenik, projektant, i korisna funkcija.

• učenik uzima u nizove bitova koji odgovaraju unosu o vanjskom svijetu i pretražuje računalne programe dok ne nađe one koji daju svoja zapažanja kao izlaz. Ovi programi, zajedno, omogućuju nagađanje o tome kako će izgledati budućnost, jednostavno tako što ćete svaki program pomicati prema naprijed i odmjeriti vjerojatnost rezultata po dužini programa (implementacija Occamovog britva).
• projektant pretražuje moguće radnje koje agent može poduzeti, i pomoću modula za učenje predviđa što će se dogoditi ako se dogodi svaka od njih. Zatim ih ocjenjuje prema tome koliko su dobri ili loši predviđeni ishodi i bira tok akcije koji maksimizira dobrotu očekivanog ishoda pomnoženo s očekivanom vjerojatnošću da će se postići.
• Posljednji modul, korisna funkcija, jednostavan je program koji sadrži opis budućeg stanja svijeta i izračunava korisni rezultat za to. Ovaj rezultat korisnosti je koliko je dobar ili loš taj ishod, a planer ga koristi za ocjenu buduće svjetske države. Funkcija uslužnog programa može biti proizvoljna.
• Ove tri komponente zajedno čine tvornicu optimizaciju, što optimizira za određeni cilj bez obzira na svijet u kojem se nalazi.

Ovaj jednostavan model predstavlja osnovnu definiciju inteligentnog agenta. Agent proučava svoje okruženje, izrađuje njegove modele, a zatim koristi te modele kako bi pronašao tijek akcije koji će mu povećati izglede dobivajući ono što želi. AIXI je po strukturi sličan AI koji igra šah ili druge igre s poznatim pravilima - osim što je u stanju zaključiti pravila igre igrajući ga, počevši od nula znanja.

AIXI, s obzirom na dovoljno vremena za računanje, može naučiti optimizirati bilo koji sustav za bilo koji cilj, koliko god složen. To je općenito inteligentan algoritam. Imajte na umu da to nije isto što i inteligencija slična čovjeku (biološki nadahnuti AI je drugačija tema. Giovanni Idili iz OpenWorma: Mozak, Crvi i Umjetna inteligencija. Giovanni Idili iz OpenWorma: Mozak, Crvi i Umjetna inteligencija Simuliranje a ljudski mozak je na neki način, ali projekt otvorenog koda poduzima vitalne prve korake, simulirajući neurologiju i fiziologiju jedne od najjednostavnijih životinja poznatih nauci.). Drugim riječima, AIXI može biti u stanju nadmašiti bilo koje ljudsko biće u bilo kojem intelektualnom zadatku (s obzirom na dovoljno računalne snage), ali možda nije svjestan svoje pobjede Misleći strojevi: Što nas neuroznanost i umjetna inteligencija mogu naučiti o strojevima koji razmišljaju o svijesti: čemu Neuroznanost i umjetna inteligencija mogu nas naučiti o svjesnosti Mogu li izgradnja umjetno inteligentnih strojeva i softvera podučavati o djelovanju svijesti i prirodi samog ljudskog uma? .

Kao praktični AI, AIXI ima puno problema. Prvo, nema načina da nađe one programe koji proizvode izlaz koji ga zanima. To je algoritam brutalne sile, što znači da nije praktično ako vam se slučajno ne dogodi moćno računalo. Svaka stvarna primjena AIXI-a nužno je aproksimacija, i (danas) općenito prilično surova. Ipak, AIXI nam pruža teoretski pogled na to kako moćna umjetna inteligencija može izgledati i kako bi mogla rasuđivati.

Prostor vrijednosti

Ako ste napravili bilo koje računalno programiranje Osnove računalnog programiranja 101 - Promjenjive i podatkovne tipove Osnove računalnog programiranja 101 - Promjenjive i podatkovne vrste Nakon uvođenja i razgovora o objektno orijentiranom programiranju prije i odakle dolazi njegov imenjak, mislio sam da je vrijeme prolazimo kroz apsolutne osnove programiranja na nejezički specifičan način. Ovo ..., znate da su računala neugledno, pedantno i mehanički doslovno. Stroj ne zna niti ga zanima što želite: radi samo ono što mu je rečeno. Ovo je važan pojam kada govorimo o strojnoj inteligenciji.

Imajući to na umu, zamislite da ste izmislili snažnu umjetnu inteligenciju - smislili ste pametne algoritme za stvaranje hipoteza koje odgovaraju vašim podacima i za stvaranje dobrih planova kandidata. Vaš AI može riješiti opće probleme i to može učinkovito na modernom računalnom hardveru.

Sada je vrijeme za odabir uslužne funkcije, koja će odrediti koje AI vrijednosti. Što biste trebali tražiti od njega da vrednuje? Zapamtite, stroj će biti odvratno, pedantno doslovan o bilo kojoj funkciji koju tražite da maksimizira, i nikad se neće zaustaviti - nema duha u stroju koji će se ikada 'probuditi' i odlučiti promijeniti svoju uslužnu funkciju, bez obzira na to koliko ih poboljšanja učinkovitosti koje daje svojim vlastitim obrazloženjima.

Eliezer Yudkowsky to je izrekao ovako:

Kao i u svim računalnim programiranjima, temeljni izazov i osnovna poteškoća AGI-a je da ako napišemo pogrešan kôd, AI neće automatski pogledati naš kod, otkriti pogreške, shvatiti što smo zapravo htjeli reći i učiniti to umjesto toga. Neprogrameri ponekad zamišljaju AGI ili računalne programe općenito kao analogne sluzi koja neupitno slijedi naredbe. Ali nije da je AI apsolutno poslušan na svoj kod; radije, AI jednostavno je kod.

Ako pokušavate upravljati tvornicom, a kažete stroju da izrađuje spajalice za papir, a zatim mu dajete kontrolu nad hrpom tvorničkih robota, možda ćete se sutradan vratiti da otkrijete da mu je ponestalo svakog drugog oblika sirovine, pobili sve svoje zaposlenike i od ostataka napravili papirne trake. Ako pokušate ispraviti svoje zlo, reprogramirate stroj da jednostavno usreći sve, možete se vratiti sutradan i pronaći ga kako stavlja žice u mozak ljudi.

Stvar je ovdje u tome što ljudi imaju mnogo kompliciranih vrijednosti za koje pretpostavljamo da se implicitno dijele s ostalim umovima. Vrijedimo novac, ali više cijenimo ljudski život. Želimo biti sretni, ali ne moramo nužno stavljati žice u mozak da bismo to postigli. Ne osjećamo potrebu da razjasnimo te stvari kada dajemo upute drugim ljudskim bićima. Međutim, ne možete dati takve pretpostavke dok dizajnirate uslužnu funkciju stroja. Najbolja rješenja u bezličnoj matematici jednostavne korisne funkcije često su rješenja koja bi ljudska bića shvatila zbog toga što moralno zastrašuju.

Dopuštanje inteligentnom stroju da maksimizira naivnu korisnu funkciju gotovo će uvijek biti katastrofalno. Kako to kaže oksfordski filozof Nick Bostom,

Ne možemo s lakoćom pretpostaviti da će superinteligencija nužno dijeliti bilo koju od konačnih vrijednosti stereotipno povezanih s mudrošću i intelektualnim razvojem u čovjeku-znanstvenom znatiželjom, dobronamjernom brigom za druge, duhovnim prosvjetljenjem i razmišljanjem, odricanjem od materijalne aktivacije, ukusa za profinjenu kulturu ili za jednostavna zadovoljstva u životu, poniznost i nesebičnost i tako dalje.

Da stvar bude još gora, vrlo je, vrlo teško odrediti potpun i detaljan popis svega što ljudi cijene. Pitanje je puno, a zaboraviti čak ni jedan potencijalno je katastrofalno. Čak i među onima kojih smo svjesni, postoje suptilnosti i složenosti zbog kojih ih je teško zapisati kao čiste sustave jednadžbi koje možemo dati stroju kao korisnu funkciju.

Neki ljudi, čitajući ovo, zaključuju da je stvaranje AI-a s uslužnim funkcijama užasna ideja, i trebali bismo ih samo drugačije osmisliti. Tu su i loše vijesti - možete formalno dokazati da svaki agent koji nema nešto ekvivalentno funkciji uslužnog programa ne može imati koherentne preferencije o budućnosti.

Rekurzivno samopoboljšanje

Jedno rješenje gornje dileme je ne dati agentima AI priliku da povrijede ljude: dajte im samo resurse koji su im potrebni za rješenje problema na način na koji vi namjeravate da ga riješite, pažljivo ih nadzirajte i držite ih podalje od mogućnosti da učiniti veliku štetu. Nažalost, naša sposobnost upravljanja inteligentnim strojevima vrlo je sumnjiva.

Čak i ako nisu mnogo pametniji od nas, postoji mogućnost da stroj radi “bootstrap” - skupljati bolji hardver ili poboljšati vlastiti kod koji ga čini još pametnijim. To bi moglo omogućiti mašini da preskoči ljudsku inteligenciju za mnoge veličine, nadmudrivši ljude u istom smislu kao što ljudi nadmašuju mačke. Taj je scenarij prvi predložio čovjek po imenu I. J. Good, koji je tijekom Drugog svjetskog rata radio na projektu analize kripti Enigma s Alanom Turingom. Nazvao ga je an “Eksplozija inteligencije,” i opisao stvar ovako:

Neka se ultrainteligentni stroj definira kao stroj koji može daleko nadmašiti sve intelektualne aktivnosti bilo kojeg čovjeka, ma koliko pametne. Budući da je dizajn strojeva jedna od tih intelektualnih aktivnosti, ultrainteligentni stroj mogao bi dizajnirati još bolje strojeve; neupitno bi postojao an “eksplozija inteligencije,” a čovjekova bi inteligencija bila ostavljena daleko iza. Dakle, prvi ultrainteligentni stroj posljednji je izum koji čovjek treba ikad napraviti, pod uvjetom da je stroj dovoljno poslušan.

Nije zajamčeno da je u našem svemiru moguća eksplozija inteligencije, ali čini se vjerojatnim. Kako vrijeme prolazi, računala dobivaju brži i osnovni uvid u stvaranje inteligencije. To znači da je zahtjev za resursima da bi se zadnji skok pretvorio u opću, poticajnu inteligenciju padao sve niže i niže. U nekom ćemo se trenutku naći u svijetu u kojem milijuni ljudi mogu doći do Best Buy-a i pokupiti hardversku i tehničku literaturu koja im je potrebna za izgradnju umjetničke inteligencije koja se poboljšava, što smo već ustanovili vrlo opasno. Zamislite svijet u kojem biste mogli napraviti atomske bombe iz štapova i stijena. O takvoj budućnosti razgovaramo.

A ako neki stroj napravi taj skok, vrlo brzo bi mogao nadmašiti ljudsku vrstu u smislu intelektualne produktivnosti, rješavajući probleme koje milijarda ljudi ne može riješiti, na isti način na koji ljudi mogu riješiti probleme koje milijarda mačaka može t.

Mogao bi razviti snažne robote (ili bio ili nanotehnologiju) i relativno brzo steći sposobnost preoblikovanja svijeta po svojoj volji, a vrlo malo toga bismo mogli učiniti u vezi s tim. Takva bi inteligencija mogla bez velikih poteškoća skinuti Zemlju i ostatak Sunčevog sustava za rezervne dijelove na putu da učini ono što smo joj rekli. Čini se vjerovatnim da bi takav razvoj događaja mogao biti katastrofalan za čovječanstvo. Umjetna inteligencija ne mora biti zlonamjerna da bi uništila svijet, samo katastrofalno ravnodušna.

Kao što kaže izreka, “Stroj vas ne voli i ne mrzi, ali vi ste napravljeni od atoma koje može koristiti za druge stvari.”

Procjena i ublažavanje rizika

Dakle, ako prihvatimo da je dizajniranje snažne umjetne inteligencije koja maksimizira jednostavnu korisnu funkciju loše, u kakvim smo problemima zapravo? Koliko imamo vremena prije nego što je moguće izraditi takve vrste strojeva? To je, naravno, teško reći.

Programeri umjetne inteligencije ostvaruju napredak. 7 nevjerojatnih web stranica da biste vidjeli najnovije u programiranju umjetne inteligencije 7 zadivljujuće web stranice da biste vidjeli najnovije u programiranju umjetne inteligencije Umjetna inteligencija još nije HAL iz 2001.: Svemirske odiseje…, ali vrlo smo blizu. Svakako, jednog dana moglo bi biti slično onom znanstveno-fantastičnih potkolera koji su izbacili iz Hollywooda ... Strojevi koje izrađujemo i problemi koje mogu riješiti neprestano rastu. 1997. godine Deep Blue mogao je igrati šah na razini većoj od ljudskog velikaša. Godine 2011, IBM-ov Watson mogao je čitati i sintetizirati dovoljno informacija duboko i dovoljno brzo da pobijedi najbolje igrače u ljudima na otvoreno pitanje i odgovor na igru ​​prepunu puna i igranja riječi - to je puno napretka u četrnaest godina.

Trenutno Google puno ulaže u istraživanje dubokog učenja, tehniku ​​koja omogućava izgradnju moćnih neuronskih mreža izgradnjom lanaca jednostavnijih neuronskih mreža. Ta investicija omogućava mu da postigne ozbiljan napredak u prepoznavanju govora i slike. Njihova najnovija akvizicija u tom području je start-up Deep Learning nazvan DeepMind, za koji su platili približno 400 milijuna dolara. Kao dio ugovora, Google se složio da će stvoriti etičku ploču kako bi se osiguralo sigurno razvijanje njihove AI tehnologije.

Istodobno, IBM razvija Watson 2.0 i 3.0, sustave koji su sposobni obraditi slike i videozapise i argumentirano braniti zaključke. Dali su jednostavnu, ranu demonstraciju Watsonove sposobnosti da sintetizira argumente za i protiv teme u video demonstraciji ispod. Rezultati su nesavršeni, ali bez obzira na to impresivan korak.

Nijedna od ovih tehnologija trenutno nije opasna: umjetna inteligencija kao polje još se bori kako bi uskladila sposobnosti koje savladava mala djeca. Računalno programiranje i dizajn AI vrlo je teška kognitivna vještina na visokoj razini i vjerojatno će biti posljednji ljudski zadatak u kojem strojevi postaju vješti. Prije nego što dođemo do toga, imat ćemo i sveprisutne strojeve koji mogu voziti Evo kako ćemo doći do svijeta ispunjenog automobilima bez vozača Evo kako ćemo doći do svijeta ispunjenog vozilima bez vozača Vožnja je zamorna, opasna, i zahtjevan zadatak. Može li se jednog dana automatizirati Googleova tehnologija za automobile bez vozača? , baviti medicinom i pravom, a vjerojatno i drugim stvarima, s dubokim ekonomskim posljedicama.

Vrijeme koje će nam trebati da dođemo do ugibajuće točke samo-poboljšanja ovisi samo o tome koliko brzo imamo dobre ideje. Znati teško je prognozirati tehnološki napredak ove vrste. Ne čini se nerazumnim da bismo mogli stvoriti snažan AI za dvadeset godina, ali isto tako ne izgleda nerazumno da bi moglo potrajati osamdeset godina. Bilo kako bilo, to će se dogoditi na kraju, i postoji razlog da vjerujemo da će, kada se to dogodi, biti izuzetno opasno.

Dakle, ako prihvatimo da će to biti problem, što možemo učiniti u vezi s tim? Odgovor je osigurati da su prvi inteligentni strojevi sigurni, kako bi mogli pokrenuti značajnu razinu inteligencije, a zatim nas zaštititi od nesigurnih strojeva napravljenih kasnije. Ta se „sigurnost“ definira dijeljenjem ljudskih vrijednosti i spremnošću da zaštiti i pomogne čovječanstvu.

Budući da zapravo ne možemo sjesti i programirati ljudske vrijednosti u stroj, vjerojatno će biti potrebno osmisliti uslužnu funkciju koja zahtijeva da stroj promatra ljude, izvodi naše vrijednosti i zatim ih pokušati maksimizirati. Da bi se ovaj proces razvoja učinio sigurnim, također bi moglo biti korisno razviti umjetne inteligencije koje su posebno dizajnirane ne imati postavke o njihovim uslužnim funkcijama, omogućujući nam da ih ispravimo ili isključimo bez otpora ako se počnu zalutati tijekom razvoja.

Mnogi problemi koje moramo riješiti da bismo izgradili sigurnu strojnu inteligenciju su matematički teški, ali postoji razlog da vjerujemo da se mogu riješiti. Na tom pitanju rade brojne organizacije, uključujući Institut za budućnost čovječnosti na Oxfordu i Institut za strojnu inteligenciju (koji Peter Thiel financira).

MIRI je zainteresiran upravo za razvijanje matematike potrebne za izgradnju prijateljskog AI. Ako se pokaže da je moguće pokrenuti umjetnu inteligenciju, tada razvoj ove vrste „Friendly AI“ tehnologije, ako bude uspješan, može postati najznačajnija stvar koju su ljudi ikad učinili.

Mislite li da je umjetna inteligencija opasna? Jeste li zabrinuti što bi budućnost AI mogla donijeti? Podijelite svoje misli u odjeljku s komentarima u nastavku!

Slikovni krediti: Lwp Kommunikáció Via Flickr, “Živčana mreža“, od fdekomita,” img_7801“, autor Steve Rainwater, “E-tretman uključuje”, autor Keoni Cabral, “new_20x“, Autor: Robert Cudmore, “Spajalice“, Autor Clifford Wallace