Kako chat agent razume šta kupac pita

Chat agent razume pitanja zahvaljujući velikom jezičkom modelu, programu koji je naučen na ogromnoj količini teksta i prepoznaje značenje rečenica, a ne samo pojedinačne reči. Taj model sam ne zna ništa o tvojoj firmi. Zato se agent podešava: dobije tvoju ponudu, pravila i sadržaj sajta, pa odgovara iz toga.

Ukratko

• Veliki jezički model je program koji razume i piše tekst na običnom jeziku.
• Naučio je jezik čitajući ogromnu količinu tekstova, a ne tvoj biznis.
• "Podešavanje" znači da agentu daš tvoje informacije i pravila ponašanja.
• Agent odgovara iz onoga što mu daš, a ne iz nagađanja.
• Što su tvoje informacije jasnije i tačnije, to su odgovori bolji.

Šta je veliki jezički model

Veliki jezički model je program koji je "čitao" ogromnu količinu teksta i naučio kako ljudi formulišu misli. Ne pamti stranice napamet kao enciklopedija. Nauči obrasce jezika: koje reči idu uz koje, šta znači pitanje, kako zvuči prirodan odgovor.

Zamisli osobu koja je godinama čitala knjige, novine i prepiske, pa zna da kaže "da li ste otvoreni nedeljom" na desetak načina. Takva osoba ume da razume pitanje i da napiše pristojan odgovor. Ali ne zna da li je tvoja prodavnica otvorena nedeljom, sve dok joj to ne kažeš.

Skraćenica koju ćeš često čuti je LLM, od engleskog large language model. To je isti pojam.

Kako razume pitanje

Kad posetilac napiše "stiže li ovo do petka", model ne traži reč "stiže" u tabeli. Prepoznaje da je to pitanje o roku isporuke, čak i ako reč "isporuka" nigde nije napisana. Razume i nepotpune rečenice, greške u kucanju i izraze iz govora.

Agent prati i tok razgovora. Ako posetilac prvo pita o jednoj saksiji, a zatim napiše samo "a koliko košta?", agent zna da se pitanje odnosi na tu saksiju. Zato razgovor deluje prirodno, a ne kao niz odvojenih pitanja. U stručnom jeziku se to zove kontekst.

Zbog toga posetilac ne mora da se prilagođava programu. Piše kako bi pitao prodavca u radnji, a agent shvata o čemu je reč. Razlika u odnosu na stare skriptovane botove opisana je u članku o tome u čemu je razlika između chatbota i chat agenta.

Šta znači da je agent "podešen" na tvoj biznis

Podešavanje je dodavanje onoga što model nema: znanja o tebi i pravila ponašanja. U praksi to uključuje tri stvari.

1. 1Znanje: ponuda, cene, uslovi dostave, reklamacije, radno vreme, kontakti, sadržaj sajta.
2. 2Pravila: na primer da odgovara samo o tvom biznisu, da ne obećava ono što nije napisano i da za nepoznato uputi posetioca na tebe.
3. 3Ličnost: ime, ton, način obraćanja.

Kad posetilac pita, agent traži odgovor u onome što je dobio i sastavlja ga svojim rečima. Ako informacije nema, dobro podešen agent ne improvizuje: kaže da ne zna i nudi telefon ili mejl firme.

U BizzBot-u prvo mi naučimo agenta ponudi, pravilima i sadržaju sajta, a ti odobriš kako priča. Šta tačno agentu treba da daš, razrađeno je u tekstu o tome šta chat agent treba da zna o tvom biznisu.

Zašto je ovo važno za tebe

Razumevanje jezika je samo pola posla. Drugu polovinu radiš ti, tako što obezbediš tačne informacije. Ovo je češće problem nego što se misli. Ako na sajtu piše jedna cena, a u katalogu druga, agent ne može da zna koja je tačna. Ako uslovi povrata nisu napisani, nema šta da kaže.

Dobra vest je da to nije tehnički posao. Dovoljno je da znaš svoj biznis i da ga opišeš jasno. Kako da spremiš sadržaj, piše u članku kako pripremiti sadržaj sajta da chat agent odgovara tačno.

Gde agent može da pogreši

Veliki jezički modeli su vešti u jeziku, ali nisu nepogrešivi. Ponekad mogu da zvuče uverljivo i kad nemaju osnova za tvrdnju. To se u struci zove halucinacija. Zato se agenti ograničavaju pravilima i testiraju pre puštanja na sajt. BizzBot agent je podešen da ne izmišlja odgovore, ali nijedan sistem ne daje apsolutnu garanciju. Zato vredi povremeno pregledati razgovore i dopuniti znanje.

Šta ne treba očekivati

Agent ne uči sam od tvojih kupaca na način koji bi menjao njegovo znanje bez tvog znanja. Ne postaje pametniji sam od sebe. Ako želiš da zna nešto novo, to mu daš. Ponašanje mu menjaš ti, ili neko ko ga održava umesto tebe.

Česta pitanja

Da li chat agent zaista razume ili samo traži ključne reči?

Razume značenje pitanja, a ne samo reči. Zato prepoznaje isto pitanje i kad je napisano na više različitih načina, pa i sa greškama u kucanju.

Odakle chat agent zna podatke o mom biznisu?

Od informacija koje mu daš: ponuda, cene, pravila i sadržaj sajta. Bez toga model zna da vodi razgovor, ali ništa konkretno o tvojoj firmi.

Da li se chat agent može prevariti ili navesti da kaže nešto pogrešno?

Može, kao i svaki program. Zato se podešava pravilima, testira pre lansiranja i povremeno proverava kroz pregled razgovora.

Šta dalje

Napravi kratak spisak onoga što bi agent trebalo da zna: cene, dostava, povrat, radno vreme i kontakt. To je dobra osnova. Ako želiš da vidiš kako izgleda razgovor, probaj demo, a ako ti treba pomoć oko podešavanja, javi nam se.