Ce nu poate face AI? Lista se tot scurtează, iar întrebarea este greșită
În primul articol am spus că, de data aceasta, AI nu preia doar calculul, ci ajunge la raționamentul profesional însuși. Profesia are pentru asta un răspuns liniștitor: raționamentul profesional și scepticismul rămân esențiale și devin chiar mai importante. Eu cred altceva, mai incomod: o bună parte din ceea ce numim raționament profesional este, de fapt, mecanică. La fel stau lucrurile și cu o parte din ceea ce numim „soft skills”, adică abilitățile de comunicare.
Aproape orice conferință despre inteligența artificială pornește de la aceeași întrebare: ce nu poate face AI? Vorbitorul enumeră ce vor prelua mașinile, apoi îi liniștește pe cei din sală cu o listă de lucruri care „vor rămâne mereu umane”: raționamentul profesional, scepticismul, gândirea critică, empatia. Am auzit multe variante ale acestei liste. Problema ei este că se scurtează de la un an la altul.
Granița care se tot mută
În 2016, Geoffrey Hinton, unul dintre pionierii învățării automate, spunea că ar trebui să nu mai formăm radiologi, pentru că în cinci ani, cel mult zece, AI avea să facă mai bine munca lor. Un deceniu mai târziu, numărul radiologilor activi din SUA a crescut, cererea este puternică, iar profesia se confruntă cu un deficit. Chiar Hinton și-a nuanțat ulterior poziția: se referea, a spus, doar la analiza imaginilor. Profesia nu a dispărut, dar întrebarea rămâne valabilă pentru sarcinile din interiorul ei: ce se întâmplă cu ele?
Auditul oferă un exemplu mai ușor de urmărit. Verificarea prin eșantionare a fost multă vreme un domeniu al raționamentului profesional al auditorului: ce testezi, cât testezi, unde cauți. Astăzi, instrumentele de analiză pot testa întreaga populație de tranzacții, iar o parte din această alegere poate să nu mai fie necesară. Același lucru se vede la scepticismul profesional. Standardele de audit îl definesc ca pe o atitudine cu trei componente: o minte care pune întrebări, atenția la situațiile care pot indica posibile denaturări și evaluarea critică a probelor. A doua componentă, depistarea acestor situații, este o sarcină pentru care sistemele automate de detectare a anomaliilor sunt bine adaptate. Omului par să-i rămână celelalte două: să întrebe de ce și să decidă ce se califică drept probă.
Mutația nu este specifică auditului. Se discută în drept, la analiza documentelor, în programare, la scrierea de cod, și în analiza financiară, la modelare. Peste tot, granița dintre om și mașină se mută, dar nu după un calendar pe care cineva îl cunoaște dinainte, așa cum arată prezicerea lui Hinton. Împărțirea de mai sus, cu omul care păstrează întrebarea și judecata probelor, este exact genul de listă pe care o pun la îndoială în continuare.
Greșeala din întrebare
Lista se scurtează pentru că limitele de capacitate sunt tocmai cele pe care tehnologia le mută de la o generație de modele la alta. Cred că problema nu ține de listă, ci de întrebarea de la care am pornit: „ce nu poate face AI?”. Ea caută o limită de capacitate, ceva ce mașina nu poate executa, adică exact ce se mută.
Nici complexitatea nu este un criteriu bun. Ce este complex pentru un om nu este neapărat complex pentru o mașină, iar AI avansează adesea tocmai pe sarcini complexe pentru noi. O mare parte din ceea ce numim, în orice profesie, „judecată” sau „intuiție” este de fapt un tipar. Sunt euristici dobândite prin repetiție, adică prin expunere la sute de cazuri asemănătoare: verifici tranzacțiile cu părți afiliate, observi sumele rotunde, suspectezi ce se întâmplă chiar înainte de închiderea exercițiului. Profesionistul experimentat le aplică aproape fără să se gândească și le trăiește ca pe o intuiție. Dar un tipar care se formează prin expunere la multe cazuri este exact ce pot învăța și sistemele actuale, antrenate pe milioane de exemple, de aceea astfel de sarcini sunt printre primele pe care mașinile le preiau. Același lucru este valabil pentru o parte din „soft skills”: o formulă verificată de a comunica o veste proastă sau un mod standard de a gestiona un client dificil sunt tot tipare.
O întrebare mai utilă mi se pare alta. Eu o numesc testul asumării: se reduce această sarcină la un tipar care poate fi învățat din exemple, sau cere ca cineva să stea în spatele concluziei? Prima categorie intră în competiție directă cu mașina. A doua rămâne, deocamdată, umană.
Ce rămâne după testul asumării
Dacă îl aplic onest, testul lasă puține sarcini în a doua categorie, cea care cere ca cineva să stea în spatele concluziei. Iar ce rămâne acolo este de altă natură decât ceea ce numim de obicei competențe:
- Răspunderea și statutul. Semnătura unui auditor, avizul unui avocat, decizia unui medic au consecințe juridice și profesionale pentru o persoană anume. Un sistem AI nu poate fi tras la răspundere, nu își poate pierde licența și nu poate fi exclus din profesie. Aceasta nu este o competență cognitivă, ci o realitate a felului în care sunt organizate profesiile.
- Asumarea unei concluzii acolo unde nu există un răspuns corect. Nu este vorba despre „care regulă se aplică”, ci despre „ce ar trebui să se întâmple aici”, în situații în care profesioniști competenți ar ajunge, cu bună-credință, la concluzii diferite. Aici nu există un răspuns corect din care un sistem să învețe.
- Capacitatea de a susține o poziție sub presiune. Presiunea poate veni de la un client, de la un superior sau de la un termen-limită. Un om o poate susține pentru că suportă consecințele dacă greșește. Un sistem AI poate fi făcut să rămână pe poziție, dar nu suportă nicio consecință.
- O relație anume, cu mize reale pe ambele părți. Nu „abilități de comunicare” ca tehnică, ci o istorie comună cu o persoană concretă, cu consecințe pentru viitor.
Ideea este aceeași în toate profesiile. Auditorul care refuză să semneze, avocatul care îi recomandă clientului o tranzacție pe care acesta nu vrea să o audă, medicul care comunică un diagnostic, managerul care decide o restructurare: niciunul nu este plătit, în acel moment, pentru analiză. Este plătit pentru asumare.
În acest articol folosesc două cuvinte care desemnează lucruri diferite. Răspunderea este consecința pe care o poate impune exteriorul: semnătura, licența, despăgubirile care pot fi cerute. Asumarea este actul prin care cineva își ia o poziție și o susține. Prima se poate verifica din afară, a doua se formează în timp.
Partea incomodă
Din test rezultă două concluzii pe care discursul obișnuit le ocolește, iar eu le susțin pe amândouă.
Prima: lucrurile care rămân umane nu sunt „competențe” în sensul obișnuit al cuvântului. Nu se predau la un curs și nu se certifică printr-un examen. Sunt mai degrabă asumări, iar asumarea se formează altfel decât cunoașterea. Studiul KPMG și University of Texas la Austin, discutat în primul articol, nu a fost despre asumare, deci nu pot spune că îmi confirmă teza. Are însă un rezultat compatibil cu ea: cunoștințele de domeniu, gândirea critică și alfabetizarea AI, măsurate clasic, nu au arătat clar în care dintre cele trei grupuri ajunge un participant. Cu alte cuvinte, ce a contat nu se vede în aceste măsurători, iar studiul nu spune ce a fost. Este o singură cercetare, așa că o iau drept indiciu, nu drept dovadă.
Asumarea nu este însă independentă de competență. Nu poți susține cu adevărat o concluzie pe care nu ești în stare să o evaluezi. Ce rămâne uman este asumarea, dar ea are nevoie de o bază tehnică suficientă: cunoștințele și tiparele fără de care nu poți judeca dacă un rezultat, venit de la un coleg sau de la un sistem, merită semnat. Tocmai această bază poate slăbi: fie pentru că se dobândește mai greu, fie pentru că se folosește mai rar.
A doua: la mulți profesioniști din domenii bazate pe raționament profesional, cea mai mare parte a muncii nu cere asumare. Ei aplică proceduri, completează liste de verificare și recunosc tipare. Indiferent de titlul de pe cartea de vizită, acea parte a muncii lor intră deja în competiție directă cu mașina.
Nici concluzia aceasta nu este definitivă. Cadrul legal al răspunderii profesionale poate evolua. Reglementatorii pot accepta, într-o zi, forme de certificare asistată de AI. Clienții își pot schimba așteptările. Testul asumării descrie situația de astăzi, nu o lege a naturii. Are totuși un avantaj față de o listă de competențe: poate fi reluat de fiecare dată când apare un instrument nou, pe când o listă trebuie rescrisă.
Oricine îl poate aplica. Dacă te uiți cinstit la o săptămână obișnuită de lucru, cât din ea a cerut să stai în spatele unei concluzii și cât s-a redus la aplicarea unui tipar? Iar dacă ceea ce rămâne uman sunt asumări, nu competențe, organizațiile au o problemă practică: sistemele lor de evaluare și promovare măsoară, aproape toate, competențe. Nu știu cine va trasa, în cele din urmă, granița dintre ce poate și ce nu poate fi delegat unei mașini: tehnologia, prin ce devine capabilă să facă, reglementatorii, prin ce acceptă să fie semnat, sau clienții, prin ce sunt dispuși să plătească.
Mă întorc acum la cealaltă față a problemei. Dacă asumarea se formează prin mize reale, cum se mai formează ea atunci când munca de rutină, din care învățau juniorii, dispare? Revenim.
Florin Toma | Managing Partner