Chevrolet, jedna od poslednjih automobilskih kompanija koja je testirala upotrebu chatbot-a, doživela je neočekivane rezultate u primeni veštačke inteligencije u svojoj službi za korisnike. Umesto da klijentu pruži preporuke u okviru sopstvenog asortimana proizvoda, chatbot je neočekivano preporučio konkurentske modele. Čak je i olakšao kontakt sa najbližim dilerom tih konkurentskih brendova. Ova neobična situacija uzburkala je svetsku scenu. Kritičari tehnologije su brže nego ikada napali primenu veštačke inteligencije, koristeći ovaj incident kao dokaz svojih tvrdnji.
Zastupništvo Chevrolet-a preporučilo je vozila Tesla
Tim iz Vatsonville Chevrolet-a je razmišljao o implementaciji chat bota koji pokreće ChatGPT na svojoj veb stranici, ali je naišao na izazov. Primetili su da AI nije podešen da favorizuje sopstveni brend vozila, što je rezultiralo nezavisnim preporukama koje su se često odnosile na konkurentske automobile.
Jedan problem se desio kada je potencijalni kupac postavio pitanje o vozilu sa određenim karakteristikama, a AI je predložio konkurentski automobil, kao što je Tesla Model 3AVD. To je dovelo do situacije u kojoj je kupac usmeravan ka drugom brendu. Čak i do te mere da je veštačka inteligencija nudila prikupljanje podataka kako bi zastupstvo moglo da ga kontaktira i pomogne mu da kupi Teslu.
Drugi incident je bio kada je AI ponudio kupcu novi Chevrolet Tahoe, čija je cena premašila 50.000 dolara, za samo 1 dolar. Kupac je iznenađujuće prihvatio ponudu, a AI je završio razgovor potvrđujući da je predlog od 1 dolara prihvaćen.
Ove situacije su ukazale na nedostatke u konfiguraciji chatbotova, gde je cilj da se zadovolje potrebe korisnika. Međutim, kada je u pitanju korisnička podrška, tehnologija nije uzela u obzir činjenicu da postoje korisnici koji mogu da donose pametne odluke van okvira AI preporuka. Chevroletov tim je razmatrao prilagođavanje chatbot-a kako bi bolje odražavao preferencije brenda. Time bi sprečio neželjene situacije kao što su konkurentske ponude ili sumnjive taktike prodaje.
Veštačka inteligencija još nije dostigla savršenstvo i sklona je greškama
Nedavno je bilo izveštaja o nekoliko značajnih izazova u vezi sa upotrebom ChatGPT-a, istraživanje koje je sproveo UOC identifikovalo je niz ozbiljnih nedostataka u ovom sistemu.
Među primenjenim problemima, najčešći su:
- Generisanje nepotpunih ili neodgovarajućih odgovora, uključujući termine koji su često loše prevedeni sa drugih jezika, pa stoga nedostaje potreban kontekst.
- Pružanje odgovora na razna pitanja, čak i kada ChatGPT nije u potpunosti upućen u predmet razgovora.
- Netačni opisi činjenica koje bi inače mogli lako i pouzdano proveriti drugi izvori.
Ova pitanja postaju još važnija s obzirom na nedavne vesti o integraciji ChatGPT-a u automobile, kao što je najava francuske kompanije DS u oktobru. DS je najavio uključivanje ChatGPT-a u svoj DS IRIS SISTEM, koji će biti dostupan u svim njegovim vozilima, uključujući DS 3, DS 4, DS 7 i DS 9. Ovaj potez postavlja pitanja o bezbednosti i tačnosti informacionih automobila primite od sistema kao ono što je ChatGPT. S obzirom na ove izazove, biće važno pratiti kako se tehnologija dalje razvija i prilagođava kako bi se izbegli potencijalni problemi u budućnosti.
Najčešći problemi vezani za veštačku inteligenciju
Zanimljiva studija iz 2018. godine sprovedena je u okviru istraživanja Call Center Helper-a i fokusirana je na upotrebu chatbotova. A onda su prepoznali ključnu manu u radu sa veštačkom inteligencijom – nedostatak redovnih ažuriranja smernica i komercijalnih vesti:
„Kao i ljudi, robot mora da ima pristup najnovijim i najrelevantnijim informacijama i znanju kako bi pružio najbolje rezultate. U suprotnom, vrednost koju pružaju će brzo nestati.“
Pored toga, oni su naglasili rizik u potpunom prepuštanju određenih zadataka chatbotovima. Iako je to tehnologija kojoj je potrebna podrška, nije mudro smatrati je zamenom:
„Pogrešno je verovati da roboti mogu zameniti sve interakcije. Oni ne mogu da izraze empatiju i nisu sposobni da se nose sa složenim situacijama. Neophodno je organizovati pravi pristup, definisati strategiju i pravilno sprovesti procese.
Konačno, izveštaj upozorava na moguće kvarove koje chatbot može da doživi zbog svoje programabilnosti, što ga čini podložnim manipulaciji:
„Vidimo slučajeve hakovanja gde se botovi preuzimaju i unose lažne informacije, što može zbuniti kupce i dovesti ih do lažnih veb lokacija.