Kur AI jep këshilla, punonjësit rrallë pyesin, Pse?!

Sistemet e Inteligjencës Artificiale, AI, që funksionojnë si “kuti e zezë” nuk janë të detyruara të shpjegojnë mënyrën se si arrijnë në një përgjigje, edhe kur përdoren për vendime me pasoja të rëndësishme.

Dhe, në disa raste, vendimmarrësit mund ta preferojnë pikërisht këtë mungesë shpjegimi, sidomos kur në lojë janë paratë dhe dilemat morale.

Një studim i Alex Chan, profesor në Harvard Business School, tregon se njerëzit shpesh i besojnë këshillës së AI, por nuk duan domosdoshmërisht të dinë arsyetimin pas saj.

Në një eksperiment për miratimin e kredive me ndihmën e AI, pjesëmarrësit vepruan si punonjës kredidhënës dhe shqyrtuan kërkesa reale për kredi prej 10 mijë dollarësh. Shpesh, ata zgjodhën të mos dinin pse sistemi i AI e cilësonte një huamarrës më të rrezikshëm se një tjetër, edhe pse shpjegimi mund të tregonte nëse vendimi ishte ndikuar nga raca apo gjinia.

Pjesëmarrësit kishin më shumë gjasa të shmangnin shpjegimet kur bonusi i tyre varej nga shlyerja e kredisë. Në këto raste, ata prironin të ndiqnin rekomandimin e algoritmit, pa verifikuar nëse ai mund të ishte i njëanshëm.

Gjetjet sugjerojnë se njerëzit jo vetëm që nuk kërkojnë gjithmonë më shumë informacion, por ndonjëherë e shmangin atë me vetëdije, sepse njohja e arsyeve mund ta bëjë vendimin më të vështirë ose moralisht më të pakëndshëm.

Siç e përmbledh Chan: “Rreziku më i madh i AI nuk janë vetëm përgjigjet e gabuara apo mungesa e përdorimit. Është fakti që mund t’i mësojë njerëzit të mos pyesin më ‘pse’.”

Pse shpjegueshmëria e AI nuk mjafton

Kompanitë po nxitojnë të përfshijnë AI në procese të ndryshme vendimmarrëse, nga rekrutimi dhe miratimi i kredive, te testimet mjekësore apo procedurat gjyqësore. Kjo ka rritur presionin që këto sisteme të jenë të drejta, transparente dhe të besueshme.

Për këtë arsye është rritur edhe interesi për të ashtuquajturën “AI e shpjegueshme”, që synon t’u tregojë përdoruesve arsyetimin pas përgjigjeve të gjeneruara nga sistemi, jo vetëm rezultatin përfundimtar.

Por studimi i Chan vë në dyshim një supozim të përhapur: idenë se njerëzit duan gjithmonë më shumë transparencë nga AI.

Punimi i tij “Preference for Explanations: Case of Explainable AI” tregon se, në disa raste, njerëzit mund të mos duan më shumë informacion nëse ai ua bën vendimmarrjen më të ndërlikuar apo më të pakëndshme.

“Njerëzit që ndërveprojnë me AI nuk janë agjentë plotësisht racionalë,” thotë Chan. “Ata janë strategjikë, të motivuar dhe ndonjëherë zgjedhin me vetëdije të mos dinë.”

Si u zhvillua eksperimenti

Për të kuptuar se si njerëzit reagojnë ndaj shpjegimeve të AI, Chan rekrutoi 2,512 pjesëmarrës online dhe u kërkoi të shqyrtonin çifte kërkesash për kredi prej 10 mijë dollarësh.

Kërkesat vinin nga individë të papunë në SHBA, të cilët kishin nevojë për para për shpenzime jetese.

Pjesëmarrësit panë informacione bazë për huamarrësit e mundshëm, si të ardhurat, raca, gjinia dhe madhësia e familjes, si edhe parashikimin e AI për rrezikun e mosshlyerjes së kredisë. Më pas, ata kishin mundësinë të shihnin edhe shpjegimin e këtij parashikimi.

Në çdo çift kërkesash, algoritmi e klasifikonte njërin huamarrës si me rrezik të ulët, me më pak se 10% probabilitet për mospagim, dhe tjetrin si me rrezik të lartë, me mbi 90% probabilitet.

Për një grup pjesëmarrësish, bonusi financiar lidhej drejtpërdrejt me faktin nëse kredia do të shlyhej apo jo.

Pjesëmarrësit, në rolin e punonjësve të kredidhënies, mund të zgjidhnin mes tre opsioneve:

• të anashkalonin algoritmin dhe të miratonin të dyja kreditë;
• të ndiqnin rekomandimin e AI për cilën kredi të financonin;
• të shihnin ose jo shpjegimin e faktorëve që AI kishte përdorur për vendimin.

Kur njerëzit nuk duan të dinë

Studimi tregoi se pjesëmarrësit donin të shihnin parashikimet e AI për rrezikun, por jo gjithmonë arsyetimin pas tyre.

Rreth 80% e pjesëmarrësve donin të shihnin vlerësimin e rrezikut për huamarrësit. Por vetëm rreth 46% kërkuan të shihnin shpjegimet pas këtij vlerësimi.

Kur kompensimi i pjesëmarrësve varej nga shlyerja e kredisë, ata kishin rreth 20% më shumë gjasa të refuzonin shpjegimet krahasuar me ata që merrnin një pagesë fikse.

Shmangia e shpjegimeve rritej edhe më shumë kur pjesëmarrësve u thuhej se shpjegimi mund të tregonte se rekomandimi i AI ishte ndikuar nga raca apo gjinia. Në këto raste, përqindja e atyre që shmangnin shpjegimin u rrit me mbi 10 pikë përqindje, në 23%.

Nga ana tjetër, ata që zgjodhën të shihnin shpjegimet kishin rreth 6 pikë përqindje më shumë gjasa të kundërshtonin rekomandimin e AI dhe të miratonin të dyja kreditë.

Sipas Chan, kjo tregon se njerëzit shfaqin një sjellje të dyfishtë: kërkojnë informacion kur u leverdis, por e shmangin kur ai krijon dilema morale ose mund t’u ndryshojë vendimin.

Si të përdoret AI e shpjegueshme me përgjegjësi

Studimi sugjeron se transparenca, e vetme, nuk mjafton. Nxitjet financiare dhe mënyra si është ndërtuar organizata ndikojnë drejtpërdrejt nëse vendimmarrësit angazhohen me arsyetimin e AI apo zgjedhin ta shpërfillin atë.

Për kompanitë që përdorin AI në vendime me peshë, Chan rekomandon disa hapa.

Ndërtoni mbikëqyrje në proceset vendimmarrëse të AI

Rregullatorët po i kushtojnë gjithnjë e më shumë vëmendje rreziqeve të AI.

Në Bashkimin Europian, Rregullorja e Përgjithshme për Mbrojtjen e të Dhënave dhe Akti për Inteligjencën Artificiale kërkojnë shpjegime për vendime të rëndësishme algoritmike.

Në SHBA, Byroja për Mbrojtjen Financiare të Konsumatorëve u ka kujtuar huadhënësve detyrimin ligjor për t’u dhënë huamarrësve arsye “specifike” dhe “të sakta” për vendime negative të ndihmuara nga AI, si refuzimi i kredisë.

Sipas Chan, qëllimi nuk duhet të jetë vetëm detyrimi për të dhënë shpjegime, por sigurimi që kompanitë i përdorin realisht këto shpjegime për të përmirësuar vendimet.

Krijoni nxitje që punonjësit të mendojnë në mënyrë kritike

Kërkesat për transparencë duhet të fokusohen te profesionistët që marrin vendime dhe nuk duhet të mbeten thjesht formalitet.

Organizatat duhet të trajnojnë menaxherët dhe punonjësit që të shqyrtojnë, dokumentojnë dhe reflektojnë mbi shpjegimet e AI, në vend që thjesht të kenë akses teknik te to.

“Shpjegueshmëria nuk mund t’i lihet plotësisht zgjedhjes individuale, kur nxitjet personale i shtyjnë njerëzit drejt verbërisë së qëllimshme,” thotë Chan.

Mos e zhvlerësoni gjykimin njerëzor

Për menaxherët, studimi ngre një shqetësim të rëndësishëm: rrezikun që përdorimi i AI të ulë vlerën e gjykimit njerëzor.

Prandaj, organizatat duhet t’i nxisin punonjësit të vënë në dyshim rekomandimet e AI, sidomos në vendime me pasoja të mëdha për njerëzit.

“Rreziku më i madh i AI nuk janë vetëm përgjigjet e gabuara apo mosadoptimi,” thotë Chan. “Rreziku është që ajo t’i mësojë njerëzit të mos pyesin më pse.”/Harvard Business School/ Monitor/