Raziskovalci z Univerze v Pensilvaniji ugotavljajo, da umetna inteligenca poleg dveh klasičnih načinov razmišljanja, hitrega in intuitivnega ter počasnega in analitičnega, prinaša še tretjega. Poimenovali so ga »umetna kognicija«, pri kateri sklepanje poteka zunaj človeka, v algoritmih.
Nadalje so ugotovili, da uporabniki umetne inteligence pogosto verjamejo njenim odgovorom, tudi kadar so napačni. Nova raziskava opozarja na pojav "kognitivne predaje", pri katerem ljudje opuščajo lastno presojo in se zanašajo na navidezno avtoritativne odgovore velikih jezikovnih modelov.
Od razbremenitve do predaje
Uporaba orodij za "kognitivno razbremenitev" ni nič nenavadnega. Ljudje že dolgo uporabljamo kalkulatorje ali navigacijo v avtomobilih. Gre za strateško delegiranje določenih nalog zanesljivim avtomatiziranim algoritmom. Kot ve vsak voznik, ki ga je navigacija že kdaj usmerila na kriva pota, pa tehnologiji ne gre vselej verjeti. Zato ji pogosto gledamo pod prste in ne sprejmemo vedno njenih predlogov za "najhitrejšo" pot do cilja. Se pravi še naprej uporabljamo lastno notranje sklepanje za nadzor in vrednotenje rezultatov.
Raziskovalci trdijo, da so sistemi UI povzročili kategorično drugačno obliko "kognitivne predaje", pri kateri uporabniki pokažejo "minimalno notranjo angažiranost" in v celoti sprejmejo sklepanje umetne inteligence brez vsakršnega nadzora ali preverjanja.
Eksperimenti, ki so temeljili na testih kognitivne refleksije (CRT), so pokazali, kako izrazit je ta učinek. Udeleženci so imeli pri reševanju nalog dostop do klepetalnika, ki je bil prirejen tako, da je v polovici primerov postregel napačne odgovore. Ko je UI odgovarjala pravilno, so ji verjeli v 93 odstotkih primerov. Presenetljivo pa so napačne odgovore sprejeli kar v 80 odstotkih primerov.
Prisotnost umetne inteligence tako po ugotovitvah raziskovalcev pogosto "izpodrine notranje razmišljanje". Še večjo skrb zbuja podatek, da so bili uporabniki, ki so se zanašali na UI, celo bolj samozavestni (za 11,7 odstotka) v svojih odgovorih, čeprav jih je bila polovica napačnih.
Vloga spodbud in časovnega pritiska
Na vedenje pomembno vplivajo tudi okoliščine. Denarne spodbude in takojšnje povratne informacije so povečale verjetnost, da so udeleženci zavrnili napačne odgovore, medtem ko je časovni pritisk dosegel nasprotni učinek. Ob 30-sekundni omejitvi so bili udeleženci bistveno manj pripravljeni preverjati pravilnost odgovorov.
Skupno so udeleženci napačno sklepanje umetne inteligence sprejeli v 73,2 odstotka primerov, zavrnili pa le v petini.
Raziskovalci opozarjajo, da tekoči in samozavestni odgovori umetne inteligence spodkopavajo kritičnost uporabnikov. Ti zato sprejemajo tudi napačne odgovore z minimalnim dvomom.
Vendar pa vsi niso enako dovzetni. Posamezniki, ki so bolj nagnjeni k reševanju novih in neznanih problemov s pomočjo logike in prepoznavanja vzorcev, ne da bi se zanašali na predhodno znanje ali izkušnje, so se manj zanašali na UI in pogosteje prepoznali njene napake. Nasprotno pa so tisti, ki umetno inteligenco dojemajo kot avtoriteto, bistveno pogosteje sprejeli napačne odgovore.
