- Povzetek za vodstvo
- Obseg in metoda
- Popis orodij UI
- Presoja po orodjih
- Matrika obveznosti
- Vrzeli in ukrepi
- Časovni načrt
- Priloge
- Česa poročilo ne pokrije
- Pravna podlaga in viri
Povzetek za vodstvo
Primer d.o.o. uporablja UI na petih mestih in povsod nastopa kot uvajalec: uporablja sisteme, ki so jih razvili drugi. Nobena raba ne spada med prepovedane prakse. Štiri rabe prinašajo obveznosti, ki že veljajo in jih pokrijete v nekaj dneh. Ena, razvrščanje prijav na delovna mesta, je sistem visokega tveganja in do 2. decembra 2027 zahteva lastno pripravo: nadzor, dnevnike, obveščanje kandidatov in oceno učinka po GDPR.
| Obveznost | Velja od | Stanje | Ukrep |
|---|---|---|---|
| Pismenost na področju UI (čl. 4) | 2. 2. 2025 | ni urejeno | #1 |
| Prepovedane prakse (čl. 5) | 2. 2. 2025 | preverjeno, brez najdb | #5 (pisna potrditev) |
| Razkritje pri klepetalniku (čl. 50) | 2. 8. 2026 | delno | #2 |
| Oznake na realističnih slikah UI (čl. 50) | 2. 8. 2026 | ni urejeno | #3 |
| Obveznosti uvajalca sistema visokega tveganja (čl. 26) | 2. 12. 2027 | v pripravi | #5, #6, #7 |
| Stik z GDPR: pogodbe o obdelavi, obveščanje, ocena učinka | že velja | delno | #4, #8 |
Najprej (30 dni): sprejmite politiko rabe UI in vodite evidenco, kdo jo je prebral; na klepetalnik postavite besedilo za razkritje; realistične slike UI označujte; osebne račune splošnega pomočnika zamenjajte s poslovnimi. Nato: platformo za zaposlovanje pripravite do decembra 2027, skupaj z dobaviteljem in odvetnikom.
Obseg in metoda
Viri. Uvodni pogovor (60 minut; direktor, vodja kadrovske službe, marketing), anonimni vprašalnik za zaposlene o rabi orodij UI (27 od 40 odgovorov), pogoji uporabe, pogodbe o obdelavi in navodila za uporabo petih dobaviteljev, pregled spletne strani in objav na družbenih omrežjih v zadnjih treh mesecih.
Senčna raba. Vodstvo je naštelo tri orodja. Vprašalnik je razkril še dve: generator slik v marketingu in splošnega pomočnika, ki ga 11 zaposlenih uporablja z osebnimi računi. Zato popis nikoli ne temelji samo na pogovoru z vodstvom.
Postopek razvrščanja, enak za vsako orodje:
- Je to sistem UI? Opredelitev iz člena 3(1) in smernice Komisije o opredelitvi sistema UI. Navadna pravila in makri niso sistem UI.
- Kakšna je vloga podjetja? Ponudnik, uvajalec, uvoznik ali distributer. Preverimo tudi člen 25: če bi podjetje sistem objavilo pod svojim imenom ali ga bistveno spremenilo, bi postalo ponudnik.
- Prepovedane prakse (člen 5). Med drugim prepoznavanje čustev na delovnem mestu, družbeno točkovanje, manipulacija.
- Visoko tveganje. Priloga I (izdelki) in Priloga III (področja), izjeme po členu 6(3). Profiliranje posameznikov je po členu 6(3) vedno visoko tveganje.
- Preglednost (člen 50). Stik z ljudmi, globoki ponaredki, besedila o zadevah javnega interesa.
- Splošni modeli UI v ozadju. Obveznosti ponudnika modela niso vaše, lahko pa vplivajo na pogodbo z dobaviteljem.
- Stik z GDPR. Pravna podlaga, pogodba o obdelavi, prenos v tretje države, člen 22 in ocena učinka.
Popis orodij UI
| ID | Orodje in namen | Dobavitelj, obdelava | Uporabniki | Podatki | Vloga | Razred |
|---|---|---|---|---|---|---|
| T1 | Splošni pomočnik UI: e-pošta, povzetki, prevodi | ponudnik iz ZDA; poslovna naročnina in 11 osebnih računov | ≈25 | občasno osebni podatki strank | uvajalec | minimalno |
| T2 | Klepetalnik na spletni strani: vprašanja o naročilih in dostavi | ponudnik SaaS iz EU | stranke | ime, e-pošta, številka naročila | uvajalec | preglednost |
| T3 | Razvrščanje kandidatov v platformi za zaposlovanje | ponudnik SaaS iz EU | kadrovska, 2 | življenjepisi, spremna pisma | uvajalec | visoko tveganje |
| T4 | Generator slik za družbena omrežja in e-novice | ponudnik iz ZDA; osebni račun | marketing, 1 | brez osebnih podatkov | uvajalec | preglednost |
| T5 | Izluščevanje podatkov iz računov v računovodskem programu | domači dobavitelj, obdelava v EU | računovodstvo, 6 | podatki dobaviteljev, zneski | uvajalec | minimalno |
Vloga in razred tveganja sta odvisna od rabe, ne od izdelka. Isti splošni pomočnik, uporabljen za odločanje o ljudeh, bi se premaknil v višji razred. Zato ima vsak vnos v registru orodij (priloga E) naveden namen in odgovorno osebo.
Presoja po orodjih
T3Razvrščanje kandidatovvisoko tveganje · Priloga III, točka 4(a)- Razvrstitev
- Sistem analizira in razvršča prijave na delovna mesta, kar je izrecno navedeno v Prilogi III, točka 4(a). Izjema po členu 6(3) ne pride v poštev, ker sistem profilira kandidate in ker razvrstitev določa, kdo pride v ožji izbor.
- Prepovedane prakse
- Platforma po dokumentaciji ne analizira video intervjujev in ne prepoznava čustev (člen 5(1)(f)). Pisno potrditev zahtevajte z vprašanjem 7 v prilogi D.
- Obveznosti od 2. 12. 2027
- uporaba v skladu z navodili dobavitelja (člen 26(1));
- človeški nadzor, ki ga izvaja usposobljena oseba s pooblastilom, da razvrstitev spremeni (26(2));
- ustrezni vhodni podatki, kolikor jih podjetje nadzoruje (26(4));
- spremljanje delovanja in obveščanje dobavitelja o tveganjih (26(5));
- hramba samodejnih dnevnikov najmanj šest mesecev (26(6));
- obveščanje kandidatov, da se pri odločitvi uporablja sistem UI (26(11)).
- Česa ni treba
- Ocena učinka na temeljne pravice (člen 27) za Primer ne velja: obvezna je za javne organe, izvajalce javnih storitev ter pri ocenjevanju kreditne sposobnosti in zavarovanj.
- GDPR
- Ocena učinka (člen 35) zaradi sistematičnega vrednotenja kandidatov; pravica do človeškega posredovanja (člen 22); dopolnitev obvestila o zasebnosti za kandidate.
- Preostalo tveganje
- Pristranskost razvrščanja in "slepo" sprejemanje razvrstitve. Ukrep #6 zahteva, da pregledovalec vsaj pri petini prijav preveri razvrstitev in razloge zapiše.
T2Klepetalnik na spletni stranipreglednost · člen 50- Razvrstitev
- Sistem, ki je v neposrednem stiku z ljudmi. Da ljudje vedo, da se pogovarjajo z UI, mora zagotoviti ponudnik (člen 50(1)); podjetje kot uvajalec preveri, da je to vklopljeno in razumljivo.
- Ugotovitev
- Nastavitev razkritja obstaja, a je izklopljena. Prvo sporočilo se začne s "Pozdravljeni, kako vam lahko pomagam?".
- Ukrep
- Vklop razkritja in besedilo iz priloge C; jasen prehod na človeka z besedo "človek" (#2).
T4Generator slikpreglednost · člen 50- Razvrstitev
- Realistične slike oseb, krajev ali dogodkov, ki jih ni bilo, so globoki ponaredki; uvajalec mora razkriti, da so ustvarjene z UI (člen 50). Grafike in očitne ilustracije niso zajete.
- Ugotovitev
- V zadnjih treh mesecih 14 objav, od tega 6 realističnih fotografij "zaposlenih" in "strank" brez oznake. Orodje se uporablja z osebnim računom.
- Ukrep
- Oznaka iz priloge C na realističnih slikah; poslovni račun; pravilo v politiki (#3, #4).
T1 · T5Splošni pomočnik in izluščevanje iz računovminimalno tveganje- Razvrstitev
- Brez posebnih obveznosti po Aktu razen pismenosti (člen 4). Pri T5 knjiženje še naprej potrdi človek.
- Ugotovitev
- Pri T1 zaposleni v osebne račune vnašajo podatke strank; za osebne račune ni pogodbe o obdelavi in podatki se lahko uporabijo za učenje modelov ponudnika.
- Ukrep
- Samo poslovni računi s pogodbo o obdelavi in izklopljenim učenjem na podatkih; pravilo v politiki (#1, #4).
Matrika obveznosti
| Obveznost | T1 | T2 | T3 | T4 | T5 |
|---|---|---|---|---|---|
| Pismenost, politika in evidenca (čl. 4) | |||||
| Preverjanje prepovedanih praks (čl. 5) | |||||
| Razkritje stika z UI (čl. 50) | |||||
| Oznaka globokih ponaredkov (čl. 50) | |||||
| Obveznosti uvajalca, visoko tveganje (čl. 26) | |||||
| Pogodba o obdelavi in prenos podatkov (GDPR) | |||||
| Obvestilo posameznikom in ocena učinka (GDPR) |
manjka delno ali v pripravi urejeno ne velja
Vrzeli in ukrepi
| # | Vrzel | Ukrep | Odgovoren | Rok | Obseg |
|---|---|---|---|---|---|
| 1 | Ni pravil za rabo UI; ni evidence usposabljanja | Sprejem politike (priloga A), 20-minutna predstavitev, evidenca (priloga B) | direktor | 15. 10. 2026 | 1 dan |
| 2 | Klepetalnik ne pove, da je UI | Vklop razkritja pri dobavitelju, besedilo iz priloge C, prehod na človeka | marketing | 3. 10. 2026 | 1 ura |
| 3 | Realistične slike UI brez oznake | Oznaka iz priloge C; za nazaj popraviti 6 objav | marketing | 10. 10. 2026 | 2 uri, nato sproti |
| 4 | Osebni računi (T1, T4); podatki strank brez pogodbe o obdelavi | Poslovni računi, pogodba o obdelavi, izklop učenja na podatkih | IT | 31. 10. 2026 | 2 dni |
| 5 | Za T3 ni dokumentacije dobavitelja o nadzoru, dnevnikih in čustvih | Vprašalnik za dobavitelja (priloga D) | kadrovska | 30. 11. 2026 | 1 ura + odgovor |
| 6 | Ni določenega pregledovalca razvrstitev | Imenovanje, usposabljanje, pravilo pregleda (priloga G) | kadrovska | 31. 3. 2027 | 1 dan |
| 7 | Kandidati ne vedo za rabo UI | Obvestilo kandidatom in dopolnitev obvestila o zasebnosti | kadrovska, pravnik | 30. 6. 2027 | 0,5 dneva |
| 8 | Ni ocene učinka za T3 | Ocena učinka po členu 35 GDPR | pooblaščenec, pravnik | 30. 6. 2027 | 2–3 dni |
| 9 | Nova orodja se uvajajo brez preverjanja | Postopek za uvedbo novega orodja (priloga F), register (priloga E) | direktor | 31. 12. 2026 | 0,5 dneva |
Časovni načrt
Do 30 dni
- politika in evidenca (#1)
- razkritje klepetalnika (#2)
- oznake slik (#3)
- poslovni računi (#4)
Do konca 2026
- odgovor dobavitelja platforme (#5)
- postopek za nova orodja in register (#9)
- prva posodobitev registra
Do 2. 12. 2027
- pregledovalec in pravilo pregleda (#6)
- obvestilo kandidatom (#7)
- ocena učinka (#8)
- dnevniki najmanj 6 mesecev
Priloge
APolitika rabe UIDve strani, prilagojeno podjetju: potrjena orodja, prepovedani podatki, pregled izhodov, razkritja, odgovornosti.
BEvidenca usposabljanja in predstavitevTabela (ime, datum, različica politike) in oris 20-minutne predstavitve za zaposlene.
CBesedila za razkritjeKlepetalnik (SL, EN), prehod na človeka, oznaka za slike in video.
DVprašalnik za dobaviteljeDvanajst vprašanj o vlogi, navodilih za uporabo, dnevnikih, lokaciji podatkov, učenju na vaših podatkih in označevanju.
ERegister orodij UIPreglednica z vsemi petimi orodji, namenom, odgovorno osebo, razredom in datumom naslednjega pregleda.
FPostopek za uvedbo novega orodjaKontrolni seznam na eni strani, preden kdo začne uporabljati novo orodje UI.
GKontrolni seznam za kadrovsko služboPregled razvrstitev, zapis razlogov, obveščanje kandidatov, hramba dnevnikov. Samo, kjer je najdeno področje visokega tveganja.
Priloga A · izvleček
1. Uporabljamo samo orodja UI iz registra (priloga E). Nova orodja po postopku iz priloge F odobri direktor.
2. V orodja UI ne vnašamo osebnih podatkov strank, podatkov o plačah ali pogodb, razen v orodja s pogodbo o obdelavi.
3. Vsak izhod UI pregleda človek, preden zapusti podjetje ali spremeni knjiženje.
4. Strankam povemo, ko se pogovarjajo z UI. Realistične slike UI označimo.
5. Vsak, ki uporablja UI, politiko prebere ob uvedbi in enkrat na leto; evidenco vodi kadrovska služba.
2. V orodja UI ne vnašamo osebnih podatkov strank, podatkov o plačah ali pogodb, razen v orodja s pogodbo o obdelavi.
3. Vsak izhod UI pregleda človek, preden zapusti podjetje ali spremeni knjiženje.
4. Strankam povemo, ko se pogovarjajo z UI. Realistične slike UI označimo.
5. Vsak, ki uporablja UI, politiko prebere ob uvedbi in enkrat na leto; evidenco vodi kadrovska služba.
Priloga D · izvleček vprašalnika za dobavitelja platforme za zaposlovanje
3. Ali vaš sistem razvršča ali ocenjuje kandidate? Priložite navodila za uporabo po členu 13.
5. Katere dnevnike sistem samodejno vodi, kje in koliko časa jih lahko hranimo?
6. Kako lahko pregledovalec razvrstitev spremeni ali zavrne in kje je to zabeleženo?
7. Ali sistem analizira video, glas ali izraze obraza kandidatov? Prosimo za pisno potrditev.
9. Ali se naši podatki uporabljajo za učenje ali izboljšanje vašega modela?
5. Katere dnevnike sistem samodejno vodi, kje in koliko časa jih lahko hranimo?
6. Kako lahko pregledovalec razvrstitev spremeni ali zavrne in kje je to zabeleženo?
7. Ali sistem analizira video, glas ali izraze obraza kandidatov? Prosimo za pisno potrditev.
9. Ali se naši podatki uporabljajo za učenje ali izboljšanje vašega modela?
Priloga C · besedila za razkritje
Klepetalnik (SL): Pozdravljeni, sem samodejni pomočnik (umetna inteligenca). Odgovorim na vprašanja o naročilih in dostavi. Za vse drugo ali če želite človeka, napišite "človek" in odgovoril vam bo sodelavec.
Klepetalnik (EN): Hi, I am an automated assistant (AI). I can answer questions about orders and deliveries. For anything else, or if you prefer a person, write "person" and a colleague will reply.
Oznaka za slike: Slika je ustvarjena z umetno inteligenco. · Image generated with AI.
Klepetalnik (EN): Hi, I am an automated assistant (AI). I can answer questions about orders and deliveries. For anything else, or if you prefer a person, write "person" and a colleague will reply.
Oznaka za slike: Slika je ustvarjena z umetno inteligenco. · Image generated with AI.
Česa poročilo ne pokrije
- Ni pravni nasvet in ni certifikat. Certifikata "skladnosti z Aktom o UI" za podjetja, ki UI uporabljajo, ni. Priporočamo, da dokumente pregleda vaš odvetnik.
- Ne ocenjuje obveznosti dobaviteljev kot ponudnikov. Našteje, kaj od njih zahtevati (priloga D).
- Ne nadomesti ocene učinka po GDPR; pove, kje je potrebna.
- Velja za stanje zakonodaje 26. 9. 2026. Ob spremembi predpisov ali novem orodju je treba register in poročilo posodobiti.
Pravna podlaga in viri
- Uredba (EU) 2024/1689 o umetni inteligenci (EUR-Lex), členi 3, 4, 5, 6, 25, 26, 27, 50 ter Prilogi I in III.
- Uredba (EU) 2026/1744 (digitalni omnibus): spremenjeni roki za sisteme visokega tveganja.
- Smernice Evropske komisije o opredelitvi sistema UI in o prepovedanih praksah (2025).
- Uredba (EU) 2016/679 (GDPR), členi 13, 14, 22, 28 in 35.