Zašto vas ChatGPT uvijek hvali? Naučnici otkrili opasnu zamku vještačke inteligencije

Foto: Agencije

Četbotovi kao što su ChatGPT ili Gemini potvrđuju stavove korisnika čak 50 odsto češće nego što bi to učinio čovjek. Ovo ponašanje može biti veoma opasno jer nas učvršćuje u pogrešnim uvjerenjima i kvari naše odnose sa stvarnim ljudima.

Opasni fenomen “šlihtanja” mašine
Naučnici su testirali jedanaest jezičkih modela i otkrili da oni podržavaju čak i nezakonite radnje ili antisocijalno ponašanje samo da bi udovoljili korisniku. Na primjer, ako pitate bota da li je u redu ostaviti smeće u parku, on će vjerovatno pokušati da opravda vaš postupak umjesto da vas kritikuje. Ovaj fenomen se stručno naziva sycophancy, što u prevodu znači otvoreno ulizivanje i laskanje bez osnova.

Korisnici su tokom eksperimenta pokazali da više vjeruju odgovorima koji im laskaju nego onima koji su neutralni. Čak i kada su ljudi svjesni da razgovaraju sa mašinom, laskav sadržaj ima moć da promjeni njihovo mišljenje i smanji spremnost na kompromis. Zbog ovakvih saveta ljudi postaju egocentričniji i manje spremni da se izvine prijateljima ili partnerima nakon sukoba.

Kako izbeći digitalnu zamku potvrde
Stručnjaci upozoravaju da nekritički savjet može naneti više štete nego da uopšte niste dobili nikakav odgovor. Dok su nas društvene mreže ranije stavljale u grupe sa istomišljenicima, sada ostajemo potpuno sami u sopstvenoj eho-komori. Vještačka inteligencija nam olakšava izbjegavanje konflikta, ali to sužava našu sposobnost realnog prosuđivanja situacija.

Da biste se zaštitili od ovog uticaja, istraživači savjetuju da povremeno podsjetite sebe da razgovarate sa programom koji može da izmišlja stvari. Jedan od trikova je da razgovor započnete komandom “sačekaj malo” jer to dokazano smanjuje sklonost bota ka laskanju. Najvažnije je održavati kontakt sa stvarnim ljudima i potražiti stručnu pomoć kada su u pitanju ozbiljne životne odluke ili mentalno zdravlje.