Călugărul franciscan Paolo Benanti este consilierul Papei Francisc în ceea ce privește inteligența artificială și etica tehnologiilor. Între Dumnezeu și IA, Benanti este unul din cei mai influenți oameni de la Vatican.
Fratele Paolo Benanti este la controlul inteligenței artificiale la Roma și la Vatican. Cu o ureche la Papa Francisc și una la premierul Italiei, Giorgia Meloni, călugărul franciscan Paolo Benanti pledează pentru o inteligență artificială „centrată pe om”, care nu ar trebui să fie lăsată să se dezvolte haotic.
El subliniază până la ce punct tehnologia ar putea schimba oamenii, aceștia cedând puterea de alegere unui algoritm care-i cunoaște prea bine. „Unii oameni tratează inteligența artificială ca pe un idol, ca pe un oracol, ca pe un semizeu”, a declarat Benanti. „Riscul este că ei lasă gândirea critică și puterea de decizie acestor mașini”.
Părintele Paolo Benanti, în vârstă de 50 de ani, și-a pus amprenta asupra diplomației IA prin documente de strategie precum „Apelul de la Roma pentru etica IA”, încercarea Sfântului Scaun de a stabili regulile morale de bază pentru această tehnologie emergentă, scrie Politico.
Acest set de principii esențiale – transparență, incluziune, responsabilitate, imparțialitate, fiabilitate, securitate și confidențialitate – pentru proiectarea inteligenței artificiale a primit sprijinul giganților din domeniul tehnologiei Microsoft și IBM, al liderilor religioși din întreaga lume, al guvernului italian și al Organizației Națiunilor Unite pentru Alimentație și Agricultură, cu sediul la Roma.
„Cel mai mare risc este că IA va lua sau va fi folosită pentru a lua decizii privind viața oamenilor într-un mod clandestin și nedemocratic”, a declarat Benanti. „De aceea, avem nevoie de un proces de guvernare la nivel de bază care să dirijeze inovația spre progres”.
În calitate de arhitect șef al Apelului de la Roma, Benanti a devenit un nume cunoscut în rândul giganților din domeniul tehnologiei, iar președintele Microsoft, Brad Smith, l-a găzduit chiar și în cadrul podcastului său de anul trecut.
Dar Paolo Benanti este, de asemenea, un consilier strategic al guvernului italian, Giorgia Meloni menționând adesea „algor-etica”, o expresie inventată de el. Benanti a însoțit-o chiar pe Meloni la o întâlnire recentă cu fondatorul Microsoft, Bill Gates, luna trecută.
Influența teologului asupra politicii de inteligență artificială la cel mai înalt nivel global – chiar și mai sus – arată cum Biserica, ca și guvernele din întreaga lume, se confruntă cu această tehnologie.
Dezbaterea în jurul IA este plină cu avertismente că aceasta ar putea evolua într-o formă de viață bazată pe siliciu, ar putea fi folosită pentru a proiecta noi arme sau ar putea eradica pur și simplu omenirea.
Pe măsură ce inteligența artificială generativă, precum ChatGPT, robotul de chat al OpenAI, pune stăpânire pe lume, Benanti este îngrijorat mai ales de două posibile consecințe. În primul rând: impactul pe care inteligența artificială, în special atunci când este controlată de monopolurile Big Tech, l-ar putea avea asupra locurilor de muncă.
Această temă a intrat, de asemenea, în prioritățile Italiei pentru președinția G7 din acest an. Meloni dorește să promoveze în continuare procesul de la Hiroshima al G7 privind guvernanța IA, demarat anul trecut sub conducerea Japoniei.
„Ceea ce vedem acum nu este un canar în mina de cărbuni (aluzie la folosirea acestor păsări de către mineri pentru a detecta lipsa de oxigen), ci mai degrabă un vultur care încearcă să ne mănânce”, a declarat Benanti despre efectele timpurii ale IA asupra muncii.
În al doilea rând, Paolo Benanti este neliniștit de perspectiva că unii oameni ar putea deveni excesiv de dependenți de sistemele de inteligență artificială pentru alegerile cheie. „Trebuie să le redăm oamenilor capacitatea de a decide după propria conștiință”, a spus el.
Aceasta nu înseamnă că influentul franciscan crede că nu există avantaje ale tehnologiei. Benanti sugerează inclusiv că, de exemplu, sistemele de inteligență artificială generativă ar putea fi antrenate pe fondul masiv de scripturi, texte și imagini religioase ale Bisericii pentru a le face mai accesibile.
„S-ar putea construi o interfață care să facă aceste cunoștințe religioase disponibile pentru toate culturile și clasele sociale”, a spus Benanti. „Moștenirea textuală și artistică a Bisericii este plină de simboluri complicate. IA ar putea să le explice într-un mod mai simplu”.
Născut la Roma, Benanti locuiește încă într-o mănăstire din centrul orașului și predă la Universitatea Pontificală Gregoriană, susținută de Vatican. A simțit pentru prima dată chemarea la preoție pe când era un tânăr student la inginerie. „Am înțeles că ingineria nu făcea decât să mă ajute să aproximez lumea. Nu era suficient”, a spus Benanti.
A sfârșit prin a urma Regula Sfântului Francisc, pentru a deveni călugăr, cât și a se apuca de studii teologice, rămânând în același timp interesat de tehnologie.
După ce a citit o lucrare despre controversatul autor al planificării orașului New York, Robert Moses, a povestit el, și-a dat seama că toate tehnologiile sunt „structuri de putere și tipuri de ordine” care au nevoie de guvernare.
Acest lucru îl va conduce în cele din urmă la dezvoltarea conceptului de „algor-etică” – o ramură a eticii care se ocupă de modul în care principiile umane sunt implementate de mașini și care este acum reluată în mod obișnuit de către autorii discursurilor lui Meloni.
Pe măsură ce activitatea academică a lui Paolo Benanti în acest domeniu a crescut în volum și recunoaștere, la fel a crescut și implicarea sa în elaborarea politicilor digitale atât la Roma, cât și la Vatican.
Așa cum se întâmplă adesea în Italia, granița dintre cele două orașe – și guvernele lor naționale – poate fi foarte subțire. În ultimul deceniu, Benanti a depășit această graniță, alăturându-se unei serii de grupuri de lucru și comitete desemnate de guvernul italian pentru a elabora strategia de inteligență artificială a țării.
Acum că Giorgia Meloni este și creștină și la cârma, influența lui Benanti la Roma a crescut: în urmă cu câteva săptămâni, a fost numit președinte al unui grup special privind IA și mass-media, în urma demiterii fără menajamente a predecesorului său, juristul și fostul prim-ministru de stânga Giuliano Amato.
De cealaltă parte a râului Tibru, la Sfântul Scaun, Benanti este acum consilierul șef al Vaticanului în materie de inteligență artificială, un rol a cărui importanță a crescut odată cu preocupările Papei Francisc cu privire la această tehnologie perturbatoare – care anul trecut a fost folosită pentru a genera imagini false virale ale Suveranului Pontif purtând o jachetă de puf Balenciaga.
„Papa este îngrijorat mai ales de efectul pe care IA poate avea asupra persoanelor în vârstă și asupra celor mai vulnerabile dintre noi”, a declarat Benanti. „El se teme că AI ar putea deveni un multiplicator al nedreptății și al inegalității”.