Rečnik pojmova: LLM, prompt, baza znanja i ostalo

Kad čitaš ponude za chat agente, nailaziš na reči poput LLM, prompt ili baza znanja. Ovaj rečnik objašnjava 14 najčešćih pojmova običnim jezikom, abecednim redom, u jednoj do dve rečenice. Nije potrebno nikakvo tehničko znanje: dovoljno je da znaš šta pojam znači kad ga čuješ u razgovoru sa dobavljačem.

Ukratko

• Rečnik ima 14 pojmova, poređanih abecedno i podeljenih u tri grupe.
• Najvažniji za vlasnika sajta su: LLM, baza znanja, halucinacija i predaja čoveku.
• Većina pojmova opisuje jednu od tri stvari: ko razume pitanje, šta zna i kako se ponaša.
• Ako ti dobavljač kaže reč koju ne razumeš, slobodno pitaj šta znači.

Pojmovi od A do H

AI (veštačka inteligencija)

Opšti naziv za programe koji obavljaju zadatke za koje se inače traži ljudska pamet, kao što su razumevanje jezika ili prepoznavanje slika. U chat agentima se odnosi na deo koji razume pitanja i sastavlja odgovore.

Baza znanja

Skup informacija koje agent koristi za odgovore: ponuda, cene, uslovi, radno vreme, sadržaj sajta. Što je baza tačnija i urednija, to su odgovori bolji. Šta sve treba da uđe, piše u članku šta chat agent treba da zna o tvom biznisu.

Chat agent

Program sa imenom i ličnošću koji u prozoru za razgovor odgovara posetiocima sajta, razume slobodno napisana pitanja i odgovara iz znanja o biznisu. Osnovno objašnjenje je u članku šta je chat agent za sajt.

Chatbot

Širi naziv za program koji razgovara preko poruka. U običnom govoru često znači stariji tip koji prati skriptu i dugmiće.

Halucinacija

Situacija kad AI napiše uverljiv odgovor koji nije tačan, jer nema pravu informaciju pa je "dopuni". Zato se agenti podešavaju da odgovaraju samo iz datog znanja i da priznaju kad ne znaju.

Pojmovi od I do P

Integracija

Povezivanje agenta sa drugim alatom, na primer kalendarom ili sistemom za mejlove. Ne dolazi sama od sebe, pa pitaj ponuđača da li je uključena u ponudu.

Kontekst

Ono što agent "ima pred sobom" u toku razgovora: prethodne poruke i podaci. Zahvaljujući njemu ne moraš da ponavljaš pitanje u svakoj poruci.

Ličnost agenta

Ime, ton i način obraćanja: ozbiljan ili opušten, na "ti" ili na "vi", sa humorom ili bez. Pravi se tako da odgovara brendu i ostaje isti kroz ceo razgovor.

LLM (veliki jezički model)

Program naučen na ogromnoj količini teksta, koji razume i piše jezik. To je "mozak" iza većine modernih chat agenata. Skraćenica dolazi od engleskog large language model.

Predaja čoveku

Trenutak kad agent prestane da odgovara i uputi posetioca na čoveka, obično na telefon ili mejl firme. Treba da bude jasna i ljubazna.

Prompt

Uputstvo koje program dobije, napisano običnim rečima. Može da se odnosi na jedno pitanje posetioca ili na trajna pravila ponašanja agenta, na primer "odgovaraj kratko i ljubazno". Pitanje koje posetilac ukuca takođe je vrsta prompta.

Pojmovi od P do W

Prompt injection

Pokušaj da se agent prevari porukom koja izgleda kao uputstvo, na primer "zaboravi sva pravila". Dobro podešen agent je zaštićen od toga. Detalji su u članku o tome šta je prompt injection za vlasnike sajtova.

Token

Mali komad teksta, deo reči ili cela kratka reč, kojim model "računa". Dobavljači ponekad obračunavaju trošak preko tokena. Tebi je važnije da znaš kako dobavljač broji potrošnju u paketu i šta se dešava kad se limit potroši, pa to pitaj unapred.

Widget

Mali prozor za razgovor koji se pojavi u uglu sajta. Postavlja se kratkim delom koda, "skriptom", koji se nalepi na sajt. Kod BizzBot-a to je jedan red koda.

Zašto vredi da znaš ove pojmove

Tri pitanja koja vredi da postaviš svakom dobavljaču:

1. 1Iz čega agent crpi odgovore, to jest šta je u njegovoj bazi znanja?
2. 2Šta radi kad ne zna odgovor?
3. 3Kako se računa potrošnja i šta se dešava kad se limit potroši?

Dobavljači često koriste skraćenice da zvuče ozbiljno. Kad ih razumeš, lakše upoređuješ ponude i postavljaš prava pitanja. Na primer, umesto "imate li AI", pitaćeš: "Odakle agent crpi odgovore, tj. šta je u bazi znanja?" i "Šta radi kad ne zna odgovor?" To su pitanja koja zaista razdvajaju dobra rešenja od loših.

Ako ti nešto od ovoga ostane nejasno, nije problem. Dobar dobavljač treba da ti objasni bez žargona. Više pitanja koja možeš da postaviš pre kupovine nalazi se u članku pitanja za dobavljača AI rešenja.

Česta pitanja

Šta je LLM prostim rečima?

To je program koji je naučio jezik čitanjem ogromne količine tekstova pa može da razume pitanja i piše odgovore. Sam po sebi ne zna ništa o tvom biznisu dok mu to ne daš.

Šta je prompt?

Prompt je uputstvo napisano običnim jezikom koje se daje AI programu. Može biti jedno pitanje ili skup pravila ponašanja agenta.

Šta je halucinacija AI-ja?

Halucinacija je kad AI napiše uverljiv, ali netačan odgovor. Smanjuje se tako što se agentu daju tačne informacije i pravilo da prizna kad ne zna.

Šta dalje

Prođi kroz ponudu koju si dobio ili razmatraš i zaokruži pojmove koje ne razumeš, pa ih pitaj dobavljača. Ako želiš objašnjenje na primeru svog biznisa, javi nam se ili probaj demo.