Izvršni direktor OpenAI-a upozorava: „Ljudi previše vjeruju ChatGPT-u“

Na prvoj epizodi novog podcasta OpenAI-a, izvršni direktor Sam Altman otvoreno je govorio o povjerenju koje korisnici imaju u ChatGPT.

„Ljudi imaju vrlo visoku razinu povjerenja u ChatGPT, što je zanimljivo jer umjetna inteligencija zna ‘halucinirati’. To je tehnologija kojoj zapravo ne bi trebalo vjerovati bez zadrške“, izjavio je Altman.

Ova iskrena izjava dolazi u trenutku kada su mogućnosti umjetne inteligencije još uvijek u ranoj fazi razvoja. Milijarde ljudi širom svijeta koriste AI alate, no Altman upozorava da oni nisu potpuno pouzdani. Modeli poput ChatGPT-a poznati su po tome što ponekad generiraju uvjerljive, ali netočne ili čak izmišljene informacije. Unatoč tome, milijuni korisnika svakodnevno se oslanjaju na te tehnologije za različite potrebe — od istraživanja i rada do osobnih savjeta, pa čak i roditeljstva. Altman je otkrio kako je i sam koristio ChatGPT za pitanja vezana uz odgoj tijekom prvih mjeseci života svog sina, ističući kako je AI koristan, ali i da postoji rizik prevelikog oslanjanja na sustav koji može dati netočne odgovore.

Iako su mnogi korisnici svjesni da AI može griješiti, brzina, jednostavnost korištenja i priroda komunikacije stvaraju povjerenje usporedivo s onim prema stručnjacima ili bliskim osobama. To povjerenje dodatno je pojačano mogućnošću AI-a da prati kontekst razgovora, prilagođava odgovore i pomaže u širokom rasponu tema. No, Altman upozorava da takvo povjerenje nije uvijek opravdano, posebno u područjima visokog rizika poput zdravstva, prava i obrazovanja te da se ne smije bezuvjetno vjerovati odgovorima umjetne inteligencije.