Agenti UI s človeško odobritvijo za mala podjetja: stopnje avtonomije, resnični primeri in cena

Malo podjetje vpraša: ali lahko agent UI prevzame del dopisovanja, naročil ali zalednega dela, ne da bi stranki poslal kaj napačnega? In koliko to stane?

Kratek odgovor: da, če človek odobri tisto, kar šteje. Vsaka vrsta dejanja dobi stopnjo avtonomije. Branje in razvrščanje lahko hitro tečeta sama. Sporočila strankam čakajo na odobritev, dokler številke ne pokažejo, da jih agent piše pravilno. Ponudbe, cene in pogodbe vedno čakajo na človeka. Pilot za en proces stane od 6.900 € in traja 4–6 tednov. Za nekatera dela zadošča orodje za okoli 20 € na mesec, in to vam tudi povemo.

Smo majhna ekipa v Sevnici in vsak dan poganjamo osem lastnih agentnih sistemov, od agenta za dopisovanje do agentnega CRM. Primeri v nadaljevanju so iz njih.

Agent ni isto kot avtomatizacija

Avtomatizacija v Zapierju ali Makeu sledi pravilu, ki ste ga napisali: ko pride obrazec, ustvari vrstico in pošlji potrdilo. Vsakič naredi isto. To je njena prednost.

Agent dobi cilj in nabor orodij. Prebere vhod, se odloči, katera orodja pokliče in v kakšnem vrstnem redu, na koncu pa pripravi osnutek ali ukrepa. Pri e-pošti o poškodovani pošiljki na primer poišče stranko v CRM, preveri naročilo v ERP, prebere ustrezni člen vaših pogojev in pripravi odgovor v slovenščini.

Razlika se pokaže v ceni. Če vaš proces gre v "ko X, naredi Y", zgradite avtomatizacijo. Je cenejša, bolj predvidljiva in lažje preverljiva. Agent se splača tam, kjer je vhod mešan (e-pošta, skeni, klici), kjer je naslednji korak odvisen od vsebine in kjer nekdo danes ure bere, preden lahko ukrepa.

Pet stopenj avtonomije, od osnutka do samostojnega dejanja

V našem agentnem CRM (9 agentov, 99 orodij) ima vsaka vrsta dejanja stopnjo avtonomije in oceno tveganja. Bolj tvegana dejanja čakajo v vrsti za odobritev z rokom in stopnjevanjem. Pet stopenj:

Stopnja	Teče samo	Čaka na človeka
Samo osnutek	nič	vse, tudi branje in povzetki
Nizka	branje, iskanje, povzetki, razvrščanje	notranji zapisi in vsa zunanja sporočila
Srednja	še notranji zapisi: opravila, opombe, posodobitve zapisov	zunanja sporočila
Visoka	še rutinska zunanja sporočila: odgovori, opomniki, potrdila	množično pošiljanje, spremembe poslov
Polna	še dejanja velike vrednosti in množična dejanja	ponudbe, cene, pogodbe

Nad tabelo veljata dve pravili. Dvig stopnje je človeška odločitev, ne nekaj, kar agent naredi sam. Ponudbe, cene in pogodbe pa ne tečejo same pri nobeni stopnji.

To je primer pravil. Za vaše podjetje pragove nastavimo po vrstah dejanj. Večina malih podjetij začne pri nizki ali srednji stopnji in tam ostane dlje, kot je pričakovala. To je v redu.

Primer: agent za dopisovanje, ki čaka na odobritev

Naš agent za dopisovanje razvršča pošto ter pripravlja osnutke odgovorov in opomnikov. Nič ne gre ven, dokler človek ne odobri v Telegramu ali aplikaciji za pregled, en ukaz pa ustavi vse. 100 % njegovih odhodnih sporočil odobri človek.

Takole je videti primer teka na srednji stopnji, pri e-pošti o škodnem primeru, kot je prikazan na naši strani o agentih:

1. branje: e-pošta in priložen sken
2. orodje: crm.lookup najde stranko
3. orodje: policy.check preveri člen in rok
4. osnutek: odgovor v slovenščini, 182 besed
5. tveganje: zunanje sporočilo, ocena 0,41, rabi odobritev
6. človek: likvidator škod odobri z enim popravkom
7. pošiljanje: z oznako "Pripravljeno z UI, pregledal človek"
8. zapis: tek je zapisan z različico modela; vhodi in izhodi so shranjeni kot zgoščene vrednosti, zato se osebni podatki ne kopirajo v dnevnik

Zapis je tisto, kar kasneje omogoči spremembo stopnje. Brez njega ne veste, kako pogosto je likvidator popravil osnutek in zakaj.

Kaj meriti, preden dvignete stopnjo

Tri številke, izmerjene na vaših primerih, ne na predstavitvi:

• Delež osnutkov, odobrenih brez popravka. Če likvidator popravi vsak tretji osnutek, agent še ni pripravljen na naslednjo stopnjo. Poglejte, kaj popravlja: ton, dejstva ali napačen rezultat orodja.
• Napake pri klicu orodij. Napačno orodje, napačni argumenti ali klic, ki se ne bi smel zgoditi. To merimo na zamrznjenem naboru ločenih korakov iz vašega procesa.
• Pravilne odločitve "brez klica". Agent, ki pokliče orodje, ko bi moral samo odgovoriti, škoduje tiho. V našem učnem krogu je fino uglaševanje dvignilo delež pravilnih odločitev "brez klica orodja" z 0,847 na 0,925 na 2.471 ločenih korakih.

Merite več tednov, ne nekaj dni, in ponovno po vsaki spremembi modela, navodil ali orodij. Če številka pade, se stopnja vrne navzdol.

Akt o UI: človeški nadzor in razkritje

To ni pravni nasvet.

Obvezni človeški nadzor po členu 14 Akta o umetni inteligenci velja za visokotvegane sisteme, na primer pri zaposlovanju ali ocenjevanju kreditne sposobnosti, od 2. decembra 2027. Večina agentov v malem podjetju ureja dopisovanje, naročila ali termine in ni visokotvegana. Pri njih je odobritev poslovna odločitev, ne zakonska obveznost. Vseeno jo priporočamo, ker je najcenejši način, da ugotovite, kje se agent moti.

Kar velja, je člen 50, od 2. avgusta 2026. Ljudje, ki so v neposrednem stiku s sistemom UI, morajo to vedeti, razen če je to očitno. Klepetalni ali glasovni agent, ki govori z vašimi strankami, mora povedati, da je UI. Odgovorom, ki jih je odobril človek, dodamo kratko oznako, na primer "Pripravljeno z UI, pregledal človek". Nič ne stane in odpravi vprašanje. Datumi so v zapisu o tem, kaj mora podjetje narediti do 2. decembra 2026.

Če agenta zgradimo mi, vi pa ga daste v uporabo pod svojim imenom, ste ponudnik vi, mi smo dobavitelj. Vloge pisno uredimo, preden začnemo.

Koliko stane

Z naše strani o agentih, v EUR, brez DDV:

Kaj	Cena
Evalvacija: petdeset vaših resničnih primerov, pisna ocena	1.900 €, en dan, upoštevano pri pilotu
Pilot agenta: en proces od začetka do konca, orodja, stopnje, odobritve, dnevnik	od 6.900 €, fiksno, 4–6 tednov
Mesečna naročnina za agenta: ponovna ocena, novi primeri, posodobitve orodij in pravil	od 1.200 € na mesec

Če agent potrebuje model, naučen na vaših podatkih, učenje sledi ceniku učenja.

Kdaj zadošča orodje za 20 €

Nismo prava izbira za vsako podjetje. Ne potrebujete nas, ko:

• je proces stalno pravilo. Orodje za avtomatizacijo je cenejše in lažje preverljivo;
• nekaj ljudi želi pomoč pri pisanju e-pošte. Poslovna naročnina na velik model, okoli 20 € na uporabnika na mesec, to opravi;
• delo nekomu vzame pet minut na teden. Tega noben agent ne povrne;
• nimate primerov procesa. Najprej jih zberite petdeset, potem je kaj meriti.

Vredni smo denarja, ko je obseg velik, vhod mešan, podatki ne smejo zapustiti hiše ali potrebujete zapis o tem, kaj je agent naredil in kaj je odobril človek.

Pogosta vprašanja

Kakšna je razlika med avtomatizacijo in agentom UI? Avtomatizacija sledi pravilu, ki ste ga napisali: ko se zgodi X, naredi Y. Agent prebere vhod, se odloči, katera orodja pokliče in v kakšnem vrstnem redu, nato pripravi osnutek ali ukrepa. Kjer je pravilo stalno, je avtomatizacija cenejša in bolj predvidljiva.

Ali lahko agent UI ukrepa brez človeške odobritve? Samo pri vrstah dejanj, ki jim dvignete stopnjo. Ponudbe, cene in pogodbe vedno čakajo na človeka, ne glede na stopnjo.

Kaj naj podjetje meri, preden agentu da več avtonomije? Delež osnutkov, odobrenih brez popravka, napake pri klicu orodij na zamrznjenem naboru vaših primerov in kako pogosto se agent pravilno odloči, da orodja ne pokliče. Stopnjo dvignite šele, ko te številke zdržijo več tednov.

Ali Akt o UI zahteva človeško odobritev pri agentih? Človeški nadzor je zakonska zahteva za visokotvegane sisteme (člen 14). Za večino agentov v malem podjetju zdaj velja člen 50: ljudje, ki so v neposrednem stiku s sistemom UI, morajo to vedeti.

Koliko stane pilot agenta UI? Enodnevna evalvacija stane 1.900 € in jo upoštevamo pri pilotu. Pilot za en proces je od 6.900 €, fiksno, v 4–6 tednih. Da agent ostane izmerjen in aktualen, stane od 1.200 € na mesec.