Veliki jezički modeli za vlasnike biznisa: šta treba znati
BizzBot5 min čitanja
Veliki jezički model je program koji je naučio da piše i razume tekst tako što je obradio ogromnu količinu primera. Ti ga ne moraš razumeti iznutra. Bitno je da znaš šta on radi, šta ne radi i šta ti zapravo biraš: model je samo motor chat agenta, a koliko je odgovor tačan zavisi od znanja i pravila koja mu daš.
Ukratko
- Model predviđa kako treba da zvuči dobar odgovor na pitanje, ne "zna" činjenice o tvojoj firmi.
- Sve što je specifično za tebe (cene, uslovi, radno vreme) mora da dobije od tebe.
- Naziv modela ti je manje važan od toga kako je chat agent podešen i kako se proverava.
- Dobar model bez dobrog znanja i pravila i dalje može da pogreši.
Šta je veliki jezički model, običnim rečima
Veliki jezički model je sistem koji je tokom treniranja video veoma mnogo tekstova i naučio obrasce jezika. Zbog toga može da razume pitanje napisano na bilo koji način i da sastavi odgovor koji zvuči prirodno. Kad ga pitaš nešto, on ne traži odgovor u bazi kao pretraživač. On slaže odgovor reč po reč, birajući ono što najbolje pristaje pitanju.
Zamisli osobu koja je pročitala ogroman broj knjiga i časopisa, ali nikad nije bila u tvojoj radnji. Zna kako se vodi razgovor, kako se objašnjava dostava i kako se ljubazno odbija zahtev. Ne zna koliko kod tebe košta dostava, osim ako joj to kažeš.
Skraćenica LLM dolazi iz engleskog (large language model) i znači isto. Kad je sretneš u ponudi, to je samo drugi naziv za ovu vrstu modela. Više pojmova nalaziš u rečniku pojmova chat agenata.
Šta model zna, a šta ne zna o tvom biznisu
Model ume da piše i razume jezik, ali ne zna ništa o tvojoj ponudi dok mu to ne daš. Ovo je najvažnija razlika koju vlasnik treba da shvati, jer iz nje proizlaze skoro sve dobre i loše strane.
Šta model radi dobro:
- razume pitanje čak i kad je napisano nepismeno ili nejasno
- odgovara prirodnim jezikom, u tonu koji mu zadaš
- sažima duže tekstove u kratak odgovor
- vodi razgovor i postavlja potpitanja
Šta model sam ne zna:
- tvoje trenutne cene i akcije
- tvoje uslove reklamacije i povraćaja
- tvoje radno vreme, adresu i izuzetke za praznike
- šta si jutros promenio na sajtu
Zato se kaže da je chat agent "podešen" na tvoj biznis. Podešavanje znači da modelu daš tačne informacije i jasna pravila, a zatim proveriš kako odgovara. Kako se to dešava, objašnjeno je u članku kako chat agent razume šta kupac pita.
Zašto model ponekad zvuči sigurno, a pogreši
Model je napravljen da uvek ponudi odgovor koji zvuči uverljivo, pa može da zvuči sigurno i kad nema podatak. Taj problem se zove halucinacija: model izmisli detalj jer mu je nedostajao pravi. Na primer, ako ne zna rok isporuke, može da napiše rok koji zvuči razumno.
Ovo nije kvar koji se jednom popravi i nestane. To je osobina načina na koji ovi modeli rade, pa se rizik smanjuje pravilima, a ne nadom. Dva pravila koja pomažu:
- Agent odgovara samo na osnovu sadržaja koji si mu dao.
- Kad podatka nema, agent iskreno kaže da ne zna i uputi posetioca na telefon ili mejl.
Detalje o uzrocima i merama imaš u članku o tome šta su halucinacije AI-ja i kako ih sprečiti.
Šta zapravo biraš kad kupuješ chat agenta
Kad kupuješ chat agenta, ne biraš samo model, nego ceo paket: znanje, pravila, izgled i podršku. Model je jedan deo i vlasniku je često najmanje vidljiv. Zato pitanja u ponudi treba usmeriti na stvari koje direktno utiču na tvoje kupce.
| Deo rešenja | Šta znači za tebe | Pitanje koje postaviš |
|---|---|---|
| Model | Koliko dobro razume i piše | Kako se proverava kvalitet odgovora na srpskom? |
| Znanje | Šta agent zna o tvojoj ponudi | Ko unosi i ko ažurira informacije? |
| Pravila | Šta sme, a šta ne sme da kaže | Šta agent radi kad ne zna odgovor? |
| Pregled | Da li vidiš razgovore | Mogu li da pročitam šta je agent rekao kupcima? |
| Cena | Šta plaćaš i šta se računa | Šta se dešava kad pređem limit poruka? |
Ne moraš da znaš kako model radi da bi ovo proverio. Dovoljno je da znaš da zahtevaš pregled razgovora i jasan odgovor na pitanje "šta kad ne zna". Više pitanja te vrste ima u kontrolnoj listi pitanja za dobavljača AI rešenja.
Kako da proceniš model, a da nisi tehničar
Kvalitet modela proveravaš ponašanjem, ne tehničkim podacima. Najbolji test je razgovor. Pre nego što agent ode na sajt, postavi mu pitanja kakva postavljaju tvoji kupci i pročitaj odgovore kao da si kupac.
Probaj ovo:
- obično pitanje na koje odgovor postoji ("do kad radite subotom?")
- pitanje napisano neuredno, sa greškama ili bez dijakritika
- pitanje na koje odgovor ne postoji u tvojim podacima
- pitanje potpuno van teme, da vidiš da li se agent drži posla
- pitanje u kojem se kupac ljuti
Gledaš tri stvari: da li je odgovor tačan, da li zvuči kao tvoja firma i šta radi kad ne zna. Ako agent na pitanje bez odgovora izmisli odgovor, to je znak da pravila nisu dobro postavljena, bez obzira na to koliko je model "jak".
Demo agent na sajtu ti daje dobar osećaj za ovakav razgovor, pa možeš da ga isprobaš sa sopstvenim pitanjima.
Česta pitanja
Da li moram da znam koji model koristi chat agent?
Ne moraš, ali je dobro da te dobavljač ume jasno da objasni kako proverava kvalitet odgovora. Naziv modela govori manje od toga kako je agent podešen i da li ti možeš da vidiš razgovore.
Da li veliki jezički model uči iz razgovora sa mojim kupcima?
To zavisi od rešenja i ugovora, pa je to pitanje koje treba postaviti dobavljaču pre nego što potpišeš. Traži jasan pisani odgovor o tome kako se koriste podaci iz razgovora.
Može li model da pogreši čak i kad je dobro podešen?
Može, jer nijedan model nije savršen. Dobro podešavanje, jasna pravila i redovan pregled razgovora smanjuju rizik, ali ga ne uklanjaju potpuno, pa je dobro da kupci imaju kome da se obrate telefonom ili mejlom.
Šta dalje
Najbrži način da shvatiš šta model radi je da razgovaraš sa njim. Probaj demo i postavi mu pitanja iz svog posla, uključujući ona na koja ne zna odgovor. Ako želiš da vidiš kako to izgleda za tvoj sajt, javi nam se.