Pokalbių robotai: ilga ir sudėtinga istorija

Eliza, kuri plačiai apibūdinama kaip pirmasis pokalbių robotas, nebuvo tokia universali kaip panašios paslaugos šiandien. Programa, kuri rėmėsi natūralios kalbos supratimu, reagavo į pagrindinius žodžius ir iš esmės grąžino dialogą vartotojui. Nepaisant to, nei Josephas Weizenbaumas, MIT kompiuterių mokslininkas, sukūręs Elizą, neparašė mokslinis darbas 1966 m. „kai kuriuos dalykus buvo labai sunku įtikinti, kad ELIZA (su dabartiniu scenarijumi) nėra žmogus“.

Weizenbaumui, remiantis jo 2008 m. MIT nekrologu, šis faktas sukėlė susirūpinimą. Tie, kurie bendravo su Eliza, norėjo atverti tam savo širdis, net žinodami, kad tai kompiuterinė programa. „ELIZA parodo, jei nieko kito, kaip lengva sukurti ir išlaikyti supratimo, taigi, galbūt ir sprendimo, iliuziją Weizenbaum rašė 1966 m.. „Ten tyko tam tikras pavojus.“ Karjeros pabaigą jis praleido perspėdamas nesuteikti mašinoms per daug atsakomybės ir tapo griežtu, filosofiniu dirbtinio intelekto kritiku.

Dar prieš tai mūsų sudėtingi santykiai su dirbtiniu intelektu ir mašinomis buvo akivaizdūs Holivudo filmų, tokių kaip „Ji“ ar „Ex-Machina“, siužetuose, jau nekalbant apie nekenksmingas diskusijas su žmonėmis, kurie reikalauja pasakyti „ačiū“ tokiems balso padėjėjams kaip. Alexa arba Siri.

Eliza, plačiai apibūdinama kaip pirmasis pokalbių robotas, nebuvo tokia universali kaip panašios paslaugos šiandien.  Jis sureagavo į pagrindinius žodžius ir iš esmės perdavė dialogą vartotojui.
Šiuolaikiniai pokalbių robotai taip pat gali sukelti stiprių emocinių vartotojų reakcijų, kai jie neveikia taip, kaip tikėtasi – arba kai jie taip gerai mėgdžioja ydingą žmogaus kalbą, kurios buvo išmokyti, kad pradeda spjaudyti rasistinius ir kurstančius komentarus. Pavyzdžiui, neilgai truko Naujas „Meta“ pokalbių robotas šį mėnesį pakurstyti tam tikrą ginčą pokalbiuose su vartotojais skleidžiant nepaprastai melagingus politinius komentarus ir antisemitines pastabas.
Nepaisant to, šios technologijos šalininkai teigia, kad ji gali supaprastinti klientų aptarnavimo darbus ir padidinti efektyvumą daug platesnėje pramonės šakoje. Ši technologija yra skaitmeninių asistentų pagrindas, kuriuo daugelis iš mūsų kasdien naudojasi grodami muziką, užsakydami siuntas ar atlikdami namų darbus tikrindami faktus. Kai kurie taip pat palaiko šiuos pokalbių robotus, teikiančius komfortą vienišiems, pagyvenusiems ar izoliuotiems žmonėms. Mažiausiai vienas pradėti nuėjo taip toli, kad panaudojo jį kaip įrankį, padedantį iš pažiūros išlaikyti gyvus mirusius giminaičius, sukurdamas kompiuteriu sukurtas jų versijas pagal įkeltus pokalbius.

Tuo tarpu kiti įspėja, kad dirbtinio intelekto valdomų pokalbių robotų technologija išlieka daug ribotesnė, nei kai kurie žmonės to norėtų. „Šios technologijos tikrai gerai apgaubia žmones ir skamba kaip žmonės, tačiau jos nėra gilios“, – sakė AI tyrinėtojas ir Niujorko universiteto profesorius emeritas Gary Marcusas. “Jie yra mimikos, šios sistemos, bet labai paviršutiniškos imitacijos. Jie nelabai supranta, apie ką kalba.”

Vis dėlto, kai šios paslaugos plečiasi į daugiau mūsų gyvenimo kampelių, o įmonės imasi veiksmų, siekdamos labiau pritaikyti šias priemones, mūsų santykiai su jomis taip pat gali tik komplikuotis.

Pokalbių robotų evoliucija

Sanjeevas P. Khudanpuras prisimena, kaip bendravo su Eliza, kai mokėsi abiturientų. Nepaisant istorinės svarbos technologijų pramonėje, jis sakė, kad prireikė neilgai pastebėti jos apribojimus.

Jis galėjo tik įtikinamai imituoti pokalbį teksto žinutėmis maždaug tuziną pirmyn ir atgal, kol „suvoki, ne, tai tikrai nėra protinga, tiesiog bandoma vienaip ar kitaip pratęsti pokalbį“, – sakė Khudanpuras, šios srities ekspertas. informacinių-teorinių metodų taikymas žmogaus kalbos technologijoms ir Johnso Hopkinso universiteto profesorius.

Josephas Weizenbaumas, Elizos išradėjas, 2005 m. gegužę sėdi prie kompiuterio darbalaukio Paderborno kompiuterių muziejuje Vokietijoje.
Kitas ankstyvas pokalbių robotas buvo sukurtas psichiatras Kennethas Colby iš Stanfordo 1971 m. ir pavadintas “Parry”, nes jis turėjo imituoti paranojišką šizofreniką. („The New York Times“, 2001 m nekrologas Colby įtraukė spalvingą pokalbį, kuris prasidėjo, kai mokslininkai suvedė Elizą ir Parry.)

Tačiau per dešimtmečius, kurie buvo sekę šiais įrankiais, buvo nukrypstama nuo „pokalbio su kompiuteriais“ idėjos. Khudanpuras sakė, kad taip yra „dėl to, kad paaiškėjo, kad problema yra labai, labai sunki“. Vietoj to, dėmesys buvo nukreiptas į „į tikslą orientuotą dialogą“, – sakė jis.

Neilgai trukus naujasis Metos pokalbių robotas pasakė ką nors įžeidžiančio

Norėdami suprasti skirtumą, pagalvokite apie pokalbius, kuriuos dabar galite turėti su Alexa ar Siri. Paprastai prašote šių skaitmeninių asistentų padėti nusipirkti bilietą, patikrinti orą ar groti dainą. Tai į tikslą orientuotas dialogas, kuris tapo pagrindiniu akademinių ir pramonės tyrimų akcentu, nes kompiuterių mokslininkai siekė išgauti ką nors naudingo iš kompiuterių gebėjimo nuskaityti žmonių kalbą.

Nors jie naudojo panašias technologijas kaip ir ankstesni socialiniai pokalbių robotai, Khudanpur sakė: „Jūs tikrai negalėtumėte jų vadinti pokalbių robotais. Galite juos vadinti balso padėjėjais arba tiesiog skaitmeniniais asistentais, kurie padėjo atlikti konkrečias užduotis“.

Jis pridūrė, kad šios technologijos „užliūliavimas“ buvo dešimtmečius, kol internetas buvo plačiai pritaikytas. „Didieji lūžiai tikriausiai įvyko šį tūkstantmetį“, – sakė Khudanpuras. „Didėjant įmonėms, kurios įprastoms užduotims atlikti sėkmingai naudojo tokius kompiuterizuotus agentus“.

Atsiradus išmaniesiems garsiakalbiams, tokiems kaip Alexa, žmonės dar dažniau kalbasi su mašinomis.

„Žmonės visada susierzina, kai pameta jų krepšius, o su jais dirbantys agentai visada patiria stresą dėl visokio negatyvo, todėl jie pasakė: „Duokime jį kompiuteriui“, – sakė Khudanpuras. „Prie kompiuterio galėjai rėkti, ką tik nori, jis norėjo žinoti tik „Ar turi savo etiketės numerį, kad galėčiau pasakyti, kur yra tavo krepšys?“.

Pavyzdžiui, 2008 m. paleido „Alaska Airlines“. „Jenn“, skaitmeninė asistentė, padedanti keliautojams. Mūsų tendencijos humanizuoti šias priemones ženklas ankstyva peržiūra „The New York Times“ pažymėjo: „Džena neerzina. Svetainėje ji vaizduojama kaip jauna brunetė su gražia šypsena. Jos balsas turi tinkamus linksnius. Įveskite klausimą ir ji protingai atsako. (Ir Išmintingiems vaikinams, kvailiojantiems svetainėje, kurie neišvengiamai bandys ją suvilioti, tarkime, gremėzdiška baro paėmimo linija, ji mandagiai siūlo grįžti į verslą.)

Grįžkite prie socialinių pokalbių robotų ir socialinių problemų

2000-ųjų pradžioje mokslininkai pradėjo peržiūrėti socialinių pokalbių robotų, galinčių palaikyti ilgesnį pokalbį su žmonėmis, kūrimą. Šie pokalbių robotai dažnai mokomi naudotis dideliais duomenų srautais iš interneto ir išmoko puikiai imituoti žmonių kalbėjimą, tačiau jie taip pat rizikuoja atkartoti blogiausius interneto dalykus.

Pavyzdžiui, 2015 m. „Microsoft“ viešas eksperimentas su AI pokalbių robotu pavadinimu „Tay“. sudužo ir sudegė mažiau nei per 24 valandas. Tay buvo sukurtas kalbėti kaip paauglys, tačiau greitai pradėjo svaidyti rasistinius ir neapykantos kupinus komentarus tiek, kad „Microsoft“ jį uždarė. (Bendrovė teigė, kad žmonės taip pat koordinavo pastangas apgauti Tay pateikti tam tikrus įžeidžiančius komentarus.)

„Kuo daugiau bendrauji su Tay, tuo ji tampa protingesnė, todėl patirtis gali būti labiau pritaikyta jums“, – tuomet sakė „Microsoft“.

Šį susilaikymą pakartotų kiti technologijų milžinai, išleidę viešus pokalbių robotus, įskaitant „Meta’s BlenderBot3“, išleistą anksčiau šį mėnesį. „Meta“ pokalbių robotas klaidingai teigė, kad Donaldas Trumpas vis dar yra prezidentas, ir yra „neabejotinai daug įrodymų“, kad rinkimai buvo pavogti, be kitų prieštaringų pastabų.

„BlenderBot3“ taip pat paskelbė esąs daugiau nei robotas. Viename pokalbyje jis teigė, kad „faktas, kad šiuo metu esu gyvas ir sąmoningas, daro mane žmogumi“.

Naujasis „Meta“ pokalbių robotas „BlenderBot3“ paaiškina vartotojui, kodėl tai iš tikrųjų yra žmogus.  Tačiau neilgai trukus pokalbių robotas pakurstė ginčus išsakydamas kurstančias pastabas.

Nepaisant visų pasiekimų po Elizos ir didžiulių naujų duomenų, skirtų šioms kalbos apdorojimo programoms mokyti, kiekių, NYU profesorius Marcusas pasakė: „Man neaišku, ar tikrai galite sukurti patikimą ir saugų pokalbių robotą“.

Tai 2015 m „Facebook“ projektas, pavadintas „M“, automatizuotas asmeninis asistentas, kuris turėjo būti įmonės atsakymas tekstu pagrįstas tokiomis paslaugomis kaip Siri ir Alexa „Manoma, kad tai bus šis universalus asistentas, padėsiantis užsisakyti romantišką vakarienę ir priversti muzikantus groti tau bei pristatyti gėles – daug daugiau, nei gali Siri“, – sakė Marcusas. Vietoj to, paslauga buvo uždaryta 2018 m., Po neįveikiamos veiklos.

Kita vertus, Khudanpur išlieka optimistiškai nusiteikęs dėl galimų jų naudojimo atvejų. „Turiu visą viziją, kaip dirbtinis intelektas įgalins žmones individualiu lygmeniu“, – sakė jis. „Įsivaizduokite, jei mano robotas galėtų perskaityti visus mano srities mokslinius straipsnius, tada man nereikėtų eiti jų visų skaityti, aš tiesiog galvočiau, užduosiu klausimus ir įsitraukčiau į dialogą“, – sakė jis. „Kitaip tariant, aš turėsiu savo alter ego, kuris turi papildomų supergalių.

Leave a Reply

Your email address will not be published.