Smanjite svoje psovke Kako vam zloporaba AI uređaja može koštati posao

Jeste li ikada psovali na Siri, Alexa ili Google zbog toga što nisu razumjeli vaše riječi? Nisi sam. Možda smo krivi za lobiranje uvrede ili dvije. Suočimo se s tim: Alexa Amazonova odjeka je glupa da se suočimo: Amazonova ehova Alexa je glupa Nema sumnje da su asistenti s kontrolom glasa glasovi budućnosti, ali je li Alexa rješenje? Vjerojatno ne. U ovom ću članku tvrditi da je Alexa zapravo prilično glup. sebe.

Ali svi bismo trebali biti oprezni.

Iako na drugom kraju vaše uvrede nema stvarne osobe, ni ove riječi psovke ne nestaju u prazninu. Naši bezumni bari prenosi se preko mreže na udaljene poslužitelje. Kako postupamo s digitalnim osobnim asistentima možemo ih naučiti najgorem čovječanstvu, a neke tvrtke mogu neke od nas smatrati previše nespretnim zaposliti se.

Kao što se ispostavilo, ono što možemo smatrati bezazlenim pljačkašem nije tako bezazleno.

Oni uče od nas

Siri se našla na sceni 2011., a godinu dana kasnije Google Now. Do 2014. Microsoft je imao Cortanu. Iste godine Amazon je zabio AI nazvan Alexa u plastičnu cijev koju su ljudi mogli ostaviti na svojim pultima. Google i Apple su od tada učinili isto. Tehnički divovi brzo traže načine kako pretvoriti umjetnu inteligenciju u proizvode koji su spremni za potrošače Amazon Echo vs. Google Home vs. Apple HomePod Amazon Echo vs. Google Home vs. Apple HomePod U ovom ćete članku naučiti razlike između Amazon Echo i Google početna Također ćemo pogledati koje značajke Appleovog zvučnika mogu uključivati. .

Ovi digitalni osobni pomoćnici mogu se činiti zreli. Oni možda čak imaju i trenutke koji nas oduševljavaju. Smiješna pitanja koja možete postaviti Alexa, najsmješnija pitanja koja možete postaviti Alexa Tražite stvari koje možete pitati Alexa? Ovo su najsmješnija pitanja koja možete postaviti svojem Amazon Alexa-u, a dodatak je još 100. , Ali oni su adolescentni. Vrlo su pismeni mališani i aktivno uče iz informacija koje im pružamo. Tako su i tvrtke koje ih čine.

Tim koji stoji iza Siri radi na Vivu (koji je sada u vlasništvu Samsunga), digitalnom pomoćniku koji se integrira sa uslugama trećih proizvođača, poput Weather Undergrounda i Ubera, kako bi govornicima pružio detaljnije odgovore. Demonstracije u okuse pokazuju da Viv odgovara na pitanja koja postavljamo drugim ljudima, a ne na jezik koji prilagođavamo strojevima da razumiju. To je rezultat učenja iz načina na koji ljudi koriste jezik.

Digitalni osobni asistenti nisu ono što većina nas zamišlja kad slikamo umjetnu inteligenciju. Za razliku od ELIZA, računalnog programa iz 1960-ih koji simulira prirodni jezik (možete pokušati razgovarati s njim na mreži), ovi AI ne rade puno “mišljenje” za njih. Taj se posao sve učitava putem interneta.

Proces je nekoliko koraka.

Prva komponenta je prepoznavanje govora. Uređaj prenosi izravno snimanje ili prevodi vaše riječi u tekst koji može poslati udaljenim poslužiteljima (Appleovim, Googleovim, Amazonovim, bilo kim). Tu se događa magija. Ili bolje rečeno, softver traži odgovarajuću reakciju u bazi podataka. Potom te podatke vraća osobnom asistentu.

Ukratko: netko vam postavlja pitanje, vi postavljate Siri, a Siri onda pita Appleove poslužitelje. Poslužitelji daju Siri odgovor, ona vam uzvraća, a vi ste ili zadovoljni ili ste se bavili kako se nositi sa svojim razočaranjem Siri. Zašto me ne razumiješ? [INFOGRAFSKA] Siri, zašto me ne razumiješ? [INFOGRAFSKA] Jedna od najboljih stvari o iPhoneu 4S je aplikacija za prepoznavanje govora Siri, ali kako sve više primjećujem, izgleda da mi se ne sviđa i moj škotski naglasak (znaci puno trenutaka ... .

Te baze podataka ne sadrže samo odgovore. Neki pohranjuju glasovne zapise koji pomažu računalu da se snalazi u mnogim nijansama naših različitih dijalekata. Ove informacije ne pomažu samo botovima da nas razumiju. Facebook je koristio tisuće pregovora na prirodnom jeziku između dvije osobe kako bi naučio Messenger chatbotove kako pregovarati.

Postavljamo li dobar primjer?

To su jedine AI-ove koji uče iz načina na koji govorimo.

Prošle godine Microsoft je objavio Twitter bot, Twitter, Kik i GroupMe sa ciljem da simuliraju američku tinejdžerku. U roku od nekoliko sati, “Tay” slagao se s Hitlerom i zagovarao sve vrste uvredljive retorike. Microsoft je povukao Taya izvan mreže prije dana.

Iako je Tay bio neuspjeh, to nije usporilo širenje chatbotova. Možete ih pronaći na društvenim mrežama poput Facebooka i Snapchata, zajedno s klijentima za razmjenu poruka poput HipChat i Slack. Neki su za razgovor. Drugi vas povezuju s uslugama. Neki su od ovih botova sigurniji jer nemoj pokušajte oponašati prirodni razgovor, jer trenutno nije nužno da strojevi oponašaju način na koji razgovaramo.

Ne postavljamo baš najbolji primjer za botove od kojih treba učiti. Profesorica s koledža na Državnom sveučilištu Missouri Sheryl Brahnam provela je studiju zaključujući kako je 10 do 50 posto proučavanih interakcija pokazalo da su ljudi zlostavljani ili na drugi način zli za računalne asistente (od kojih su digitalni osobni asistenti samo jedan tip). To je uznemirujuće velik broj. Neki se roditelji osjećaju krivima što su izgovarali jednu lošu riječ pred svojom djecom. To je daleko od plača pola njihovih negativnih interakcija.

One Facebook Messenger chatbote koje sam ranije spomenuo? Ne samo da su naučili pregovarati proučavanjem prirodnog jezika, već su i naučili lagati.

Budući poslodavac mogao bi gledati

U budućnosti bismo mogli dostići točku u kojoj nas posao komunikacije s robotima može koštati našeg posla. Prema Harvard Business Reviewu, taj bi se pomak mogao dogoditi kada od gledanja maltretiranog robota gledamo kao na pokvaren mobitel i više nalik na izbačeno mače. Ako ne poštujete bot tvrtke, potencijalno vas mogu otpustiti.

Kreditna slika: Koncept Chatbota putem Shutterstocka

To ne znači da će zaposleni ili poslodavci na robota gledati kao na obožavajuća živa bića. Međutim, mogli bi biti dovoljno razboriti da bi ih maltretirali i izgledali neprofesionalno i kontraproduktivno. Ako ste menadžer, zlouporaba AI-a mogla bi vas pozvati pred HR zbog lošeg vodstva.

Zvuči li to previše hipotetički? Razmislite o onome što već znamo da se događa. Sve što napišemo ili kažemo ovim asistentima šalje se putem interneta, a mi doista ne znamo što se s njim događa. Veliki dio tih podataka je zabilježen. Čak i ako te informacije nisu uvijek povezane s vašim računom, one se i dalje pohranjuju.

Google je tehnički transparentan u vezi s tim, ali to ne čini očitim. Ova vrsta ako se prikupljanjem podataka proteže definicija postojanja nečijeg pristanka prije snimanja.

Sada prikupljeni podaci mogu se činiti bezazlenim, ali ništa ne sprečava tehnološke divove da na kraju sastave detaljne portfelje o svakome od nas što bi budući poslodavci, banke i drugi subjekti mogli provjeriti prije suradnje s nama, poput kreditnog izvještaja.

Provedba zakona previše gleda

U slučaju u koji je uključen muškarac iz Arkanzasa optužen za ubojstvo svog prijatelja (bivšeg policajca), tužitelj je kao dokaz pokušao upotrijebiti snimke iz Amazonskog odjeka. Amazon je zahtjev odbio, ali to je samo djelomično ugodno. Ono što nervira je da je Amazon u prvom redu pohranio podatke. Osumnjičeni je od tada odobrio pristup tim podacima.

Spomenuo sam te tvrtke mogla provjerite naše podatke prije interakcije s nama. U slučaju provođenja zakona, oni već imaju pogled na ove informacije. Treba li doista NSA prikupiti podatke NSA pohranjuje svoje podatke u oblak. Ali je li to sigurno? NSA pohranjuje svoje podatke u oblak. Ali je li to sigurno? U jeku Edwarda Snowdena, Nacionalna sigurnosna agencija (NSA) okreće se oblaku za pohranu svojih podataka. Nakon što prikupe podatke o vama, koliko će to biti sigurno? može li se pouzdati u privatni sektor radi prikupljanja tih podataka za njih? Treba li vjerovati bilo kome s toliko podataka o svakome od nas?

Uključeni u podatke nisu samo ono što smo pretraživali ili naredbe koje smo izdali, već kako uspjeli smo. Ne samo dajemo uvid u naše interese i akcije - već drugima dajemo pogled kako postupamo. Ono što se događa između vas i Alexa ne ostaje između vas i Alexa.

Što mi kažemo o pitanjima

Dok je Tay morao ići u istek vremena, Microsoft je pronašao nevjerojatan uspjeh s drugim robotom. Zove se Xiaoice. U Kini i Japanu taj je bot komunicirao s preko 40 milijuna ljudi. To što se Xiaoice nije samouništavao dijelom je i zbog kulturološke razlike. U Kini određene vrste govora nisu dopuštene putem interneta.

Sada su roboti počeli sami obavljati poslove policije. Društvene mreže počinju koristiti robote kako bi umanjile govor mržnje. Možda ne razgovaramo izravno s tim robotima, ali oni još uvijek proučavaju naš govor kako bi naučili što se smatra zlouporabom.

Bez obzira na to kako pristupite pitanju, ono što mi kažemo i kako mi kažemo da je važno. Botovi i tvrtke koje ih čine slušaju. Jednog dana mogu im se pridružiti i naši poslodavci. A ako računala su da nas zamijene u budućnosti, ne bismo li željeli da su lijepi?

Kako reagirati kad digitalni osobni asistenti ne uspiju? Tretirate li ih kao da imaju osjećaje? Zanima li vas netko vodi tabulator o onome što kažete? Što vidite kao odgovoran način naprijed? Čovjek će paziti na vaše komentare u nastavku.

Kreditna slika: deagreez1 / Depositphotos