Weizenbaumui, remiantis jo 2008 m. MIT nekrologu, šis faktas sukėlė susirūpinimą. Tie, kurie bendravo su Eliza, norėjo atverti tam savo širdis, net žinodami, kad tai kompiuterinė programa. „ELIZA parodo, jei nieko kito, kaip lengva sukurti ir išlaikyti supratimo, taigi, galbūt ir sprendimo, iliuziją Weizenbaum rašė 1966 m.. „Ten tyko tam tikras pavojus.“ Karjeros pabaigą jis praleido perspėdamas nesuteikti mašinoms per daug atsakomybės ir tapo griežtu, filosofiniu dirbtinio intelekto kritiku.
Dar prieš tai mūsų sudėtingi santykiai su dirbtiniu intelektu ir mašinomis buvo akivaizdūs Holivudo filmų, tokių kaip „Ji“ ar „Ex-Machina“, siužetuose, jau nekalbant apie nekenksmingas diskusijas su žmonėmis, kurie reikalauja pasakyti „ačiū“ tokiems balso padėjėjams kaip. Alexa arba Siri.
Tuo tarpu kiti įspėja, kad dirbtinio intelekto valdomų pokalbių robotų technologija išlieka daug ribotesnė, nei kai kurie žmonės to norėtų. „Šios technologijos tikrai gerai apgaubia žmones ir skamba kaip žmonės, tačiau jos nėra gilios“, – sakė AI tyrinėtojas ir Niujorko universiteto profesorius emeritas Gary Marcusas. “Jie yra mimikos, šios sistemos, bet labai paviršutiniškos imitacijos. Jie nelabai supranta, apie ką kalba.”
Vis dėlto, kai šios paslaugos plečiasi į daugiau mūsų gyvenimo kampelių, o įmonės imasi veiksmų, siekdamos labiau pritaikyti šias priemones, mūsų santykiai su jomis taip pat gali tik komplikuotis.
Pokalbių robotų evoliucija
Sanjeevas P. Khudanpuras prisimena, kaip bendravo su Eliza, kai mokėsi abiturientų. Nepaisant istorinės svarbos technologijų pramonėje, jis sakė, kad prireikė neilgai pastebėti jos apribojimus.
Jis galėjo tik įtikinamai imituoti pokalbį teksto žinutėmis maždaug tuziną pirmyn ir atgal, kol „suvoki, ne, tai tikrai nėra protinga, tiesiog bandoma vienaip ar kitaip pratęsti pokalbį“, – sakė Khudanpuras, šios srities ekspertas. informacinių-teorinių metodų taikymas žmogaus kalbos technologijoms ir Johnso Hopkinso universiteto profesorius.
Tačiau per dešimtmečius, kurie buvo sekę šiais įrankiais, buvo nukrypstama nuo „pokalbio su kompiuteriais“ idėjos. Khudanpuras sakė, kad taip yra „dėl to, kad paaiškėjo, kad problema yra labai, labai sunki“. Vietoj to, dėmesys buvo nukreiptas į „į tikslą orientuotą dialogą“, – sakė jis.
Norėdami suprasti skirtumą, pagalvokite apie pokalbius, kuriuos dabar galite turėti su Alexa ar Siri. Paprastai prašote šių skaitmeninių asistentų padėti nusipirkti bilietą, patikrinti orą ar groti dainą. Tai į tikslą orientuotas dialogas, kuris tapo pagrindiniu akademinių ir pramonės tyrimų akcentu, nes kompiuterių mokslininkai siekė išgauti ką nors naudingo iš kompiuterių gebėjimo nuskaityti žmonių kalbą.
Nors jie naudojo panašias technologijas kaip ir ankstesni socialiniai pokalbių robotai, Khudanpur sakė: „Jūs tikrai negalėtumėte jų vadinti pokalbių robotais. Galite juos vadinti balso padėjėjais arba tiesiog skaitmeniniais asistentais, kurie padėjo atlikti konkrečias užduotis“.
Jis pridūrė, kad šios technologijos „užliūliavimas“ buvo dešimtmečius, kol internetas buvo plačiai pritaikytas. „Didieji lūžiai tikriausiai įvyko šį tūkstantmetį“, – sakė Khudanpuras. „Didėjant įmonėms, kurios įprastoms užduotims atlikti sėkmingai naudojo tokius kompiuterizuotus agentus“.
„Žmonės visada susierzina, kai pameta jų krepšius, o su jais dirbantys agentai visada patiria stresą dėl visokio negatyvo, todėl jie pasakė: „Duokime jį kompiuteriui“, – sakė Khudanpuras. „Prie kompiuterio galėjai rėkti, ką tik nori, jis norėjo žinoti tik „Ar turi savo etiketės numerį, kad galėčiau pasakyti, kur yra tavo krepšys?“.
Grįžkite prie socialinių pokalbių robotų ir socialinių problemų
2000-ųjų pradžioje mokslininkai pradėjo peržiūrėti socialinių pokalbių robotų, galinčių palaikyti ilgesnį pokalbį su žmonėmis, kūrimą. Šie pokalbių robotai dažnai mokomi naudotis dideliais duomenų srautais iš interneto ir išmoko puikiai imituoti žmonių kalbėjimą, tačiau jie taip pat rizikuoja atkartoti blogiausius interneto dalykus.
„Kuo daugiau bendrauji su Tay, tuo ji tampa protingesnė, todėl patirtis gali būti labiau pritaikyta jums“, – tuomet sakė „Microsoft“.
Šį susilaikymą pakartotų kiti technologijų milžinai, išleidę viešus pokalbių robotus, įskaitant „Meta’s BlenderBot3“, išleistą anksčiau šį mėnesį. „Meta“ pokalbių robotas klaidingai teigė, kad Donaldas Trumpas vis dar yra prezidentas, ir yra „neabejotinai daug įrodymų“, kad rinkimai buvo pavogti, be kitų prieštaringų pastabų.
„BlenderBot3“ taip pat paskelbė esąs daugiau nei robotas. Viename pokalbyje jis teigė, kad „faktas, kad šiuo metu esu gyvas ir sąmoningas, daro mane žmogumi“.
Nepaisant visų pasiekimų po Elizos ir didžiulių naujų duomenų, skirtų šioms kalbos apdorojimo programoms mokyti, kiekių, NYU profesorius Marcusas pasakė: „Man neaišku, ar tikrai galite sukurti patikimą ir saugų pokalbių robotą“.
Kita vertus, Khudanpur išlieka optimistiškai nusiteikęs dėl galimų jų naudojimo atvejų. „Turiu visą viziją, kaip dirbtinis intelektas įgalins žmones individualiu lygmeniu“, – sakė jis. „Įsivaizduokite, jei mano robotas galėtų perskaityti visus mano srities mokslinius straipsnius, tada man nereikėtų eiti jų visų skaityti, aš tiesiog galvočiau, užduosiu klausimus ir įsitraukčiau į dialogą“, – sakė jis. „Kitaip tariant, aš turėsiu savo alter ego, kuris turi papildomų supergalių.
