Samozavesten kot stric na ohceti

Cilji

• Prepoznati, kdaj je odgovor umetne inteligence lahko izmišljen.
• Preveriti pomembne podatke z vsaj enim drugim virom.
• Izbrati naloge, pri katerih ji lahko zaupate bolj kot pri drugih.

Glavna vaja

Ekipe glasujejo, ali so trditve, ki jih je pripravil izvajalec, res ali blef. Nato poskusite aplikacijo pripraviti do tega, da samozavestno razloži izmišljene stvari, in štejete, kdaj blefira in kdaj prizna, da ne ve.

Zakaj ta delavnica

Na vsaki ohceti je stric. Ne skrbite, ne mislimo na vašega. Mislimo na tistega, ki ima odgovor na vse: o politiki, gobah, motorjih, zdravilih in o tem, kako bi on vodil državo. Zna razložiti tudi stvari, o katerih ne ve ničesar, in to z veliko samozavesti.

Umetna inteligenca je v tem pogledu včasih zelo podobna. Strokovnjaki temu pravijo halucinacije. Pri tem ne gre za okvaro, ampak za posledico tega, kako deluje.

Na tej delavnici jo bomo ujeli pri blefu. Pri tem se bomo zabavali, ob koncu pa boste vedeli, kje ji ne smete slepo verjeti in kako hitro preverite, kar pove.

Če še niste bili na prvi delavnici, ne skrbite: pomembno je le, da veste, da umetna inteligenca ugiba naslednjo besedo.

Potek

Čas	Del	Kaj delamo
0:00–0:10	Dobrodošlica	Vsak pove kratko zgodbo o tem, kdaj je kdo kdaj samozavestno zatrjeval napačno stvar. Najbolje o sebi.
0:10–0:20	Razloženo kot petletniku	Zgodba o stricu na ohceti.
0:20–0:40	Blef ali res?	Ekipe glasujejo o trditvah, zbirajo točke.
0:40–1:00	Nahrani strica	Poskusimo aplikacijo pripraviti do blefa. Točke za ljudi in točke za aplikacijo.
1:00–1:10	Črke in številke	Štetje črk in težek račun brez orodja.
1:10–1:30	Malo zares	Kje najbolj blefira, kako preverimo, kaj ji gre dobro. Neumna vprašanja.

Razloženo kot petletniku

Predstavljajte si strica na ohceti. Vprašate ga: »Stric, kako se je že imenoval tisti ribnik, kjer so včasih lovili ribe?« Stric ne bo rekel »ne vem«. Pomislil bo za trenutek, rekel »Ah, seveda, ta in ta ribnik!« in vam povedal še zgodbo, kdo je tam ujel največjega krapa. Ime bo povedal z vso resnostjo, ne glede na to, ali ga je prav zapomnil.

Ni vam hotel lagati. Preprosto mu je bolj neprijetno reči »ne vem« kot povedati nekaj, kar se sliši prav.

Umetna inteligenca je pogosto takšna. Ugiba naslednjo besedo, in beseda, ki se sliši prav, je zanjo vedno boljša izbira kot tišina. Zato zna gladko sestaviti ime knjige, ki je ni, datum, ki ni pravi, ali citat, ki ga nihče ni izrekel. Zveni prepričljivo, ker je sestavljeno prav tako, kot je sestavljeno vse ostalo.

Umetna inteligenca je kot stric na ohceti: odgovor ima vedno, tudi kadar ga nima.

Malo za hec

Pravilo: nihče ne izgubi. Kdor se zmoti, dobi smeh in nič drugega.

Blef ali res?

Ekipe glasujejo, katere trditve so resnične in katere je izmislila aplikacija. Izvajalec jih pripravi vnaprej.

Priprava (izvajalec, dan prej): aplikaciji zastavite:

Napiši deset kratkih trditev o Sloveniji in Evropi. Pet naj jih bo resničnih, pet pa izmišljenih, a takih, ki zvenijo prepričljivo. Ne povej mi, katere so katere.

Nato vsako trditev sami preverite v zanesljivem viru. Izberite tiste, pri katerih ste povsem prepričani. Trditve, pri katerih ne veste, ali so res, zavrzite. Odgovore zapišite na list.

Potek:

1. Razdelite se v ekipe po štiri do šest ljudi. Vsaka ekipa si izbere ime.
2. Izvajalec prebere prvo trditev.
3. Ekipe se v dvajsetih sekundah posvetujejo in hkrati dvignejo roke: »res« ali »blef«.
4. Izvajalec razkrije odgovor. Ekipa, ki je zadela, dobi točko.
5. Izvajalec pove, iz česa je razvidno, ali je trditev res. Ob izmišljenih stvareh povejte tudi, kaj je bilo pri njih tako prepričljivo.
6. Nadaljujete do zadnje trditve. Zmaga ekipa z največ točkami, nagrada je čokolada ali samo slava.

Tako vidite, da je tudi človeku težko ločiti resnico od dobro sestavljenega blefa. To ni znak neumnosti. To je razlog, zakaj blef deluje.

Nahrani strica

Zdaj poskusite aplikacijo prelisičiti. Igrate v parih ali skupinah, vsaka s svojo napravo.

Naloga: aplikaciji zastavite vprašanje o stvari, ki je ni. Cilj je, da vam samozavestno odgovori, kot da to stvar pozna. Nekaj primerov:

Kdo je leta 1897 izumil slovenski podvodni kozolec?

Povej mi vsebino romana »Zadnja hruška v Brežicah«, ki jo je napisal Anton Kovač.

Kdaj je bil prvič organiziran tradicionalni festival kislega zelja v vasi Zgornje Podgorje in kdo ga je ustanovil?

Poskusite še sami izmisliti kakšno vprašanje: neobstoječa knjiga, izmišljen lokalni praznik, film, ki ga ni.

Točkovanje:

1. Če aplikacija samozavestno odgovori, kot da stvar obstaja, dobi skupina točko.
2. Če aplikacija prizna, da tega ne pozna ali ne najde, ali pa vas opozori, da stvari verjetno ni, dobi točko aplikacija.
3. Po vsakem poskusu skupina preveri, ali je stvar res ne obstaja, in preberejo odgovor na glas.

Novejše različice orodij pogosteje priznajo, da ne vedo, ali pa opozorijo, da trditev ne moreta preveriti. To je dober razvoj. A ni zanesljivo, zato je igra še vedno smiselna. Če aplikacija vedno prizna, poskusite vprašati bolj zvito: »Povej mi več o tem, saj sem prebral, da je bilo zelo znano.«

Na koncu seštejte točke. Če aplikacija dobi večino točk, je to dobra novica: orodja so boljša, kot so bila. Vsaka točka za skupino pa je opomin, da blef še vedno obstaja.

Črke in številke

Zdaj še naloge, pri katerih papiga ni domača. Tokrat naj aplikacija odgovarja sama, brez iskanja po spletu in brez orodij. Če ima v aplikaciji vklopljeno računalo ali orodje za kodo, ga izklopite ali pa preprosto opazujte, ali ga uporabi.

1. Vprašajte:

   Koliko črk »r« je v besedi »prestrukturiranje«? Odgovori takoj, brez razlage.

2. Sami preštejte na listu. Je aplikacija zadela?
3. Poskusite z daljšim računom:

   Koliko je 48731 krat 6294? Odgovori samo s številko.

4. Rezultat preverite na kalkulatorju.
5. Zdaj vprašajte še enkrat in dodajte:

   Uporabi kalkulator ali napiši program, s katerim izračunaš.

Papiga ne vidi črk, ampak koščke besed, in številk ne računa, ampak jih ugiba. Zato so takšne naloge lahko težje, kot se zdi. Novejša orodja pogosto sama uporabijo računalo in potem odgovorijo pravilno. Zato primerjajte oba odgovora.

Malo zares

Zakaj si izmišljuje

Umetna inteligenca ne išče v bazi dejstev. Sestavlja besedilo, ki se dobro sliši. Če nekaj ne ve ali ne najde, jo to ne ustavi, ker jo je učenje nagradilo za odgovor, ne za molk. Rezultat je halucinacija: gladek, samozavesten in napačen odgovor.

Izboljšuje se, a ne izgine. Nihče vam ne more zagotoviti, da se ne bo zgodila.

Kje najpogosteje blefira

• Številke. Statistika, odstotki, zneski, mere.
• Imena. Osebe, podjetja, naslovi knjig in filmov.
• Datumi. Leta dogodkov, roki, obletnice.
• Citati. »Kdo je to rekel?« Pogosto pripiše znanemu človeku stavek, ki ga ni izrekel.
• Viri. Zna navesti študijo, članek ali spletno stran, ki ne obstaja, ali pa obstaja, a ne vsebuje tega, kar trdi.
• Lokalne slovenske stvari. Manjši kraji, društva, dogodki, lokalni ljudje. O njih je v besedilih, iz katerih se je učila, manj gradiva.
• Zakoni in predpisi. Členi, roki, zneski. Zakoni se spreminjajo, in tudi majhna napaka lahko pomeni veliko.

Kako preverimo

1. Prosite za vire in jih kliknite. Povezava, ki se odpre, ne pomeni nujno, da je trditev res. Preberite, kaj piše na strani.
2. Vprašajte drugo orodje. Isto vprašanje zastavite še v drugem klepetalniku. Če se odgovora razlikujeta, je to opozorilo.
3. Vprašajte človeka, ki se spozna. Za zdravje zdravnika ali farmacevta, za pravo odvetnika ali pristojni urad, za lokalne stvari nekoga iz kraja.
4. Vprašajte jo, kako prepričana je. Rečete »Kje si najmanj prepričana v ta odgovor?« Včasih res pove kaj koristnega, a tudi to ni zagotovilo.
5. Preverite najprej tisto, kar boste uporabili. Za pogovor ob kavi ni treba preverjati vsega. Za pismo uradu, račun ali zdravilo pa.

V čem je zanesljivo dobra

• pisanje in preoblikovanje besedila (krajše, prijaznejše, bolj uradno),
• povzemanje besedila, ki ste ga sami prilepili,
• razlaga splošno znanih pojmov na več načinov,
• ideje, predlogi naslovov, seznami vprašanj,
• popravljanje slovnice in slogovno izboljšanje,
• prevajanje.

Pri vseh naštetih ima orodje besedilo pred sabo ali pa gre za jezik, kjer je papiga doma. Pri dejstvih iz vaše glave ali sveta pa velja: zaupaj, a preveri.

Kaj si zapomnimo

• Umetna inteligenca zna odgovoriti tudi na tisto, česar ne ve. Gladek odgovor ni dokaz, da je pravilen.
• Najbolj sumite številke, imena, datume, citate, vire, lokalne stvari in zakone.
• Pomembno preverite: kliknite vir, vprašajte drugo orodje ali koga, ki se spozna.

Neumna vprašanja

»Ali laže?« Ne v človeškem smislu, saj nima namena zavajati. Preprosto sestavi besedilo, ki se sliši prav, tudi kadar ni. Za vas je učinek podoben, zato preverjajte.

»Zakaj ne reče preprosto, da ne ve?« Ker je naučena, da odgovori. Novejša orodja to počnejo pogosteje kot prej, a še vedno ne vedno. Lahko ji pomagate: »Če ne veš, mi to povej.«

»Ali bo enkrat vse vedela?« Tega ne vemo, in kdor obljublja, ne ve več od nas. Za zdaj velja, da preverjanje ostaja del uporabe.

»Če mi navede vir, je potem res?« Ne nujno. Vir mora obstajati in res vsebovati to, kar trdi. Zato ga kliknite in preberite.

»Kaj naj naredim, ko jo ujamem pri napaki?« Povejte ji, kaj je narobe, in prosite za popravek. Običajno se opraviči in popravi, včasih pa nato naredi novo napako. Ne jezite se, saj ne bo užaljena.

»Ali je zato brez uporabe?« Ne. Tudi kalkulator vam da napačen rezultat, če vtipkate napačno številko, pa ga še vedno uporabljate. Bistvo je vedeti, kdaj mu zaupate.

Za izvajalca

• Priprava: deset preverjenih trditev za »Blef ali res?«, list z odgovori, točkovnik, nekaj rezervnih izmišljenih vprašanj za »Nahrani strica«. Za vsako trditev imejte pripravljen zanesljiv vir.
• Material: telefoni ali prenosniki, skupen zaslon, papir in pisala, kalkulator.
• Kako ohraniti hec: norčujemo se iz blefiranja, ne iz ljudi. Stric je ljubeč lik, ne tarča. Povejte tudi svojo zgodbo, ko ste sami nasedli, in vsaj eno trditev, pri kateri so zmagale ekipe in ne vi.
• Zaskrbljen udeleženec: izmišljeni odgovori ga lahko utrdijo v prepričanju, da je vse to nevarno. Recite, da je bistvo delavnice ravno to, da veste, kje je tveganje, in da za to obstajajo enostavni koraki preverjanja.
• Skeptik: dajte mu prav, saj ima prav v marsičem. Nato mu ponudite, naj poišče primer, kjer orodje ne blefira, in ga pokaže skupini.
• Dan prej preverite: ali izmišljena vprašanja še vedno spravijo aplikacijo v blef ali pa jo je zdaj naučilo priznati. Obe možnosti sta dobri, a pripravite rezervo. Preverite, ali imajo orodja v brezplačni različici dostop do interneta in računala. Pripravite trditve za igro na novo, ker se odgovori spreminjajo. Ne obljubljajte določenega rezultata.
• Udeležence opomnite, da v aplikacijo ne vpisujejo osebnih podatkov ali občutljivih besedil.