Osam malih eksperimenata: ti učiš mašinu, rastavljaš je i planiraš kako će učenici raditi s njom. Sve radi u tvom pregledaču: bez naloga, bez ključa, nijedan podatak ne odlazi nigde.
Označi poruke i gledaj kako mašina uči iz brojanja reči.
Isprobaj → 02Kako jezički model deli tekst na delove? Spajanje po spajanje.
Isprobaj → 03Igra „Budi ti jezički model” na računaru: verovatnoće, točak sreće, temperatura.
Isprobaj → 04Nauči pravu neuronsku mrežu na srpskim imenima i gledaj kako od besmislica nastaju imena.
Isprobaj → 05Nacrtaj električne simbole, nauči model da ih prepoznaje i vidi šta kaže na škrabotinu.
Isprobaj → 06Od šuma do slike: pogledaj kako difuzioni model korak po korak „razvija” sliku i šta znači pamćenje napamet.
Isprobaj → 07Jedan zadatak u tri sastava: gledaj kako poruke kruže između modela, okvira i alata.
Isprobaj → 08Pomeraj nivo AI i gledaj kako se menjaju zadatak, ono što se predaje i ocenjivanje. Sa gotovim radnim listom i izjavom.
Isprobaj →Svaki eksperiment traje 5–10 minuta. Ako te zanima kako AI radi, počni od 01–03; ako planiraš kako će učenici raditi s njim, 07 i 08 su za tebe.
Mašina ne razume poruke. Broji koliko se često svaka reč javlja u spamu i u običnim porukama i iz toga računa verovatnoću. Promeni oznake, dodaj poruku i prati presudu.
Roze = vuče ka spamu, plavo = ka običnoj poruci; što je veće, to jače. Precrtano = nepoznata reč.
Pitanje za grupu: napišite spam koji prolazi kroz filter! Tako rade i pravi pošiljaoci spama.
Jezički modeli vide delove reči, tokene. Tokenizator iz teksta za učenje uči koje parove slova vredi spojiti: uvek onaj najčešći. Pomeri klizač: delova je sve manje, a sve su veći.
Znak ▁ označava početak reči. Pravi modeli imaju 50–200 hiljada spajanja; česta engleska reč je jedan token, a ređa srpska reč često 3–4.
Ovaj model broji šta je posle čega dolazilo u tekstu za učenje. U svakom koraku računa verovatnoće, pa zavrti točak sreće. Temperatura odlučuje koliko će se držati najverovatnijeg nastavka.
Eksperiment: gledanje unazad 4, temperatura 0,1 → model doslovno ponavlja tekst za učenje. Temperatura 2 → besmisleno, ali „kreativno”. Veliki modeli rade isto, samo uz mnogo pametnije računanje.
Prava, mala neuronska mreža (oko 9 hiljada parametara, a veliki modeli mogu imati i bilion) uči na srpskim imenima: iz prethodna tri slova predviđa sledeće. Pokreni je i gledaj kako greška opada, a imena postaju sve sličnija pravim.
Greška meri koliko je model iznenađen pravim sledećim slovom. Isprekidana linija je nivo nasumičnog pogađanja.
Puna boja: novo ime, nije na listi za učenje. Bledo: ponovio je naučeno ime.
Ono što ovde traje pola minuta na laptopu, kod velikog modela traje mesecima, na hiljadama superračunara. Princip je isti: smanjivanje greške, korak po korak.
Tri klase, po nekoliko crteža za svaku, i iz toga uči mala konvoluciona mreža. Nacrtaj nove primere, ponovo je nauči, pa testiraj: nacrtaj simbol na papiru i pogledaj šta pogađa.
Još nije naučen.
Ovo vidi model: tvoj crtež smanjen na 28×28 piksela.
Halucinacija u slici: nacrtaj kuću ili sunce. Model će i tada izabrati jednu od tri klase, često s velikom „sigurnošću”, jer samo njih poznaje. I jezički modeli uvek nešto odgovore.
U sredini je model, oko njega prsten harnessa, a spolja planete alata. Isti zadatak možeš pokrenuti u tri sastava i korak po korak pratiti kuda putuju poruke.
„Napravi test od 10 pitanja iz poglavlja Transformator koje je na Drive-u i pošalji ga mejlom šefu stručnog aktiva.”
Suština: model samo predlaže šta bi trebalo uraditi („pozovi alat gmail.send”). Harness odlučuje da li će to izvršiti, a pre važnih koraka ti moraš da odobriš.
AI za slike (difuzioni modeli) kreće od čistog šuma i korak po korak pogađa kakva se slika krije ispod. Ovde to pokazuje sićušan model-igračka od 32×32 piksela. Ista matematika, samo sa 160 slika za učenje umesto milijardi.
Tokom učenja na svaku sliku dodajemo nasumičnu količinu šuma, a model uči kako da ga ukloni. Ako to dobro zna, može i iz čistog šuma da „razvije” sliku.
U pravom modelu mreža koja razume tekst pretvara prompt u brojeve, a oni usmeravaju uklanjanje šuma. Ovde dugme samo bira iz koje porodice slika da pogađa.
Malo koraka: brzo, ali grublja slika. Mnogo koraka: sporije, finije. Pravi modeli prave 20–50 koraka, za nekoliko sekundi na grafičkoj kartici.
Ovaj model-igračka zna samo 160 slika, pa skoro uvek vrati neku sliku za učenje. Veliki modeli mešaju nove slike iz milijardi, ali ponekad i oni vrate naučene slike: odatle sporovi oko autorskih prava.
Isti cilj učenja, pet različitih zadataka. Kako pomeraš nivo AI, menja se i zadatak: AI je prvo nastavnik, pa rešavač kog treba proveriti, a na kraju i sam postaje predmet istraživanja. Učenik na svakom nivou odgovara za ono što preda i mora umeti da to objasni.
Nivoi prate međunarodno korišćenu skalu za ocenjivanje uz AI (AI Assessment Scale, Perkins i sar., 2024), u pojednostavljenom obliku. Kako raste uloga AI, opada težina gotovog proizvoda u oceni, a raste težina razumevanja i provere.