prodaja@stozacibrid.com hr@hardtechnique.com vjeko.kovacicek@coolintunit.com info@tehnikhard.net mail@coolintunit.com webmaster@stozacibrid.com admin@hardtechnique.com tehnikhard.net web.stozacibrid.com www.coolintunit.com

Umjetna inteligencija ima sve odgovore ili halucinira?

U 2023. godini riječ ‘’halucinirati’’ proglašena je riječju godine od strane Cambridgeovog rječnika. Prema definiciji u kontekstu umjetne inteligencije, riječ halucinirati znači proizvesti lažne informacije suprotno namjeri korisnika i prikazati ih kao istinite i činjenične.

Prema istraživanju koje je provela organizacija Internet Matters, 60 % škola nije razgovaralo s učenicima o korištenju UI za školske potrebe, a čak 54 % učenika koristi je za izvršavanje školskih i domaćih zadaća. Jedini je način sprječavanja zabluda u korištenju umjetne inteligencije u obrazovanju razumjeti njezino funkcioniranje.

Umjetna inteligencija utkana je u naš svakodnevni život. Prepoznavanje lica prilikom uključivanja mobitela, prepoznavanje ‘’spam’’ pošte ili navigacija samo su neki primjeri korištenja UI koje niti ne prepoznajemo. Međutim, postoji razlika u korištenju UI u navedenim primjerima i korištenju generativne UI poput ChatGPT-a ili Geminija.

Naime, UI radi na principu predviđanja koja su temeljena na podacima. Primjer je bankarstvo gdje se UI koristi za predviđanje vjerojatnosti otplaćivanja kredita određenog zajmoprimca.

S druge strane, generativna UI trenirana je na način da kreira novi podatak i pruži odgovor u svim situacijama neovisno postoji li uopće ispravan odgovor.

Iako nam se čini da je generativna UI novost, to nije posve istina. Naime, model kojim se koriste chatbotovi star je više od 50 godina. Oni rade prema modelu Markovljevog lanca koji je prvo uveden u e-mail sustave zbog predviđanja sljedeće riječi u tekstu. Budući da ovi jednostavni modeli mogu gledati samo par riječi unazad, nisu dobri u generiranju uvjerljivog teksta.

Kad razgovaramo s LLM-om (Large Language Models kao što su ChatGPT, Gemini, Grok) može doći do 3 vrste halucinacija:

1) Kontradikcije – nedosljednost podataka

2) Krive činjenice – izmišljanje informacija i navođenje nepostojećih izvora

3) Manjak konteksta i nijansi – generiranje naizgled koherentnih odgovora, ali bez dovoljno znanja o temi

Postoje strategije ublažavanja pogrešaka UI u obrazovanju:

1) Podešavanje temperature – ‘’temperatura’’ u UI označava parametar koji kontrolira generiranje odgovora. Niska temperatura (npr. 0,2) može pomoći u generiranju odgovora s više preciznosti što koristi u zadacima u kojima je važna točnost činjenica, dok viša temperatura (npr. 1,5) omogućuje istraživanje širokog raspona mogućnosti i tako omogućava veću kreativnost za zadatke poput brainstorminga. Primjer: kada od umjetne inteligencije tražite da odgovori na pitanje „Kada je živio Picasso?“, koristite upit poput: „Odgovori na pitanje koristeći temperaturu od 0,2 kako bi smanjio vjerojatnost halucinacija.“

2) Dodjela uloga – pridodavanje specifičnih uloga UI poput stručnjaka za određenu temu može pridonijeti stručnosti generiranih odgovora. Koristite narativni pristup poput ovoga: „Ti si stručnjak za povjesničarstvo kubizma. Koristeći svoje opsežno znanje, daj točan odgovor na sljedeće pitanje o Picassu.“

3) Uputa – osim konkretnih uputa vezanih uz sami zadatak, potrebno je naglasiti UI da svoje odgovore temelji samo na provjerenim izvorima, poput akademskih publikacija.

4) Lančana veza – rastavljanje zadatka na više koraka gdje umjetna inteligencija prvo mora istražiti izvore prije generiranja konačnog odgovora, može poboljšati pouzdanost rezultata. Postavite redoslijed odgovora poput: „Prvo istraži najpouzdanije izvore o ovoj temi. Zatim sintetiziraj te informacije u sažet i točan odgovor na pitanje.“

Umjetna inteligencija nije ovdje kao zamjena za tradicionalnu nastavu i učenje, nije terapeut ili mjesto za osobne probleme, ona je samo pomoćni alat u primjeni našeg znanja. Prema tome, potrebno je konstantno educiranje i upoznavanje s novim alatima kako bi umjetna inteligencija postala ključ za razvoj modernog obrazovanja.

 

Izvori:

https://news.mit.edu/2023/explained-generative-ai-1109

https://www.aiprm.com/ai-in-education-statistics/

https://www.popsci.com/technology/ai-in-schools/

https://www.theguardian.com/books/2023/nov/15/hallucinate-cambridge-dictionary-word-of-the-year https://www.facultyfocus.com/articles/teaching-with-technology-articles/mitigating-hallucinations-in-llms-for-community-college-classrooms-strategies-to-ensure-reliable-and-trustworthy-ai-powered-learning-tools/