Inteligența artificială va manipula deciziile online ale oamenilor. Comportamentul utilizatorilor va fi scos la licitație

În curând, instrumentele inteligenței artificiale ar putea manipula deciziile online ale oamenilor, susțin cercetătorii. Un studiu prezice o „economie a intențiilor” în care companiile licitează pentru previziuni exacte ale comportamentului uman.

Inteligența artificială și manipularea online

Potrivit cercetătorilor de la Universitatea Cambridge, instrumentele de inteligență artificială (AI) ar putea fi utilizate pentru a manipula publicul online în vederea luării unor decizii – de la ce să cumpere la cu ce politician să voteze.

Lucrarea evidențiază o nouă piață emergentă pentru „semnalele digitale de intenție” – cunoscută sub numele de „economia intenției” – în care asistenții AI înțeleg, prognozează și manipulează intențiile umane și vând aceste informații companiilor care pot profita de pe urma lor, scrie The Guardian.

Economia intențiilor este prezentată de cercetătorii de la Leverhulme Centre for the Future of Intelligence (LCFI) din Cambridge ca un succesor al economiei atenției, în care rețelele sociale mențin utilizatorii conectați la platformele lor și le oferă reclame.

Digi24.ro

„Salutări de la Moș Crăciun”: Grănicerii ucraineni au distrus o bază de lansare a dronelor rusești după ce au intrat pe horn

Intențiile oamenilor, țintite, dirijate și vândute

Economia intenției implică companii de tehnologie cu inteligență artificială care vând celui care licitează cel mai mult ceea ce știu despre motivațiile oamenilor, de la planuri pentru un sejur la hotel, la opinii despre un candidat politic.

„Timp de decenii, atenția a fost moneda de schimb a internetului”, a declarat Dr. Jonnie Penn, istoric al tehnologiei la LCFI. „Împărtășirea atenției cu platformele social media precum Facebook și Instagram a stimulat economia online”. El a adăugat: „Dacă nu este reglementată, economia intențiilor va trata motivațiile dumneavoastră ca pe noua monedă. Va fi o goană după aur pentru cei care vizează, dirijează și vând intențiile umane”.

„Ar trebui să începem să luăm în considerare impactul probabil pe care o astfel de piață l-ar avea asupra aspirațiilor umane, inclusiv alegeri libere și corecte, o presă liberă și o concurență loială pe piață, înainte de a deveni victime ale consecințelor sale neprevăzute”, spune Jonnie Penn.

Atenția utilizatorilor, de vânzare

Studiul susține că modelele lingvistice mari (LLM), tehnologia care stă la baza instrumentelor AI, cum ar fi chatbotul ChatGPT, vor fi utilizate pentru a „anticipa și orienta” utilizatorii pe baza „datelor intenționale, comportamentale și psihologice”.

Autorii au afirmat că economia atenției permite agenților de publicitate să cumpere accesul la atenția utilizatorilor în prezent prin licitații în timp real pe bursele de publicitate sau să o cumpere în viitor prin achiziționarea unui spațiu publicitar de o lună pe un panou publicitar.

LLM-urile vor putea accesa atenția și în timp real, întrebând, de exemplu, dacă un utilizator s-a gândit să vadă un anumit film – „te-ai gândit să vezi Spider-Man în seara asta?” – precum și să facă sugestii legate de intențiile viitoare, cum ar fi întrebarea: „Ați menționat că vă simțiți suprasolicitat, să vă rezerv acel bilet la filmul despre care am vorbit?”

În serviciu publicitarilor, dar nu numai

Studiul prezintă un scenariu în care aceste exemple sunt „generate în mod dinamic” pentru a corespunde unor factori precum „urmele comportamentale personale” și „profilul psihologic” al unui utilizator.

„Într-o economie a intenției, un LLM ar putea, cu costuri reduse, să valorifice cadența, politica, vocabularul, vârsta, sexul, preferințele pentru lingușire și așa mai departe ale unui utilizator, împreună cu ofertele intermediate, pentru a maximiza probabilitatea de a atinge un anumit obiectiv (de exemplu, vânzarea unui bilet la film)”, sugerează studiul. Într-o astfel de lume, un model de inteligență artificială ar dirija conversațiile în serviciul agenților de publicitate, al întreprinderilor și al altor părți terțe.

Reclame personalizate

Agenții de publicitate vor putea utiliza instrumente generative de inteligență artificială pentru a crea reclame online personalizate, susține raportul. Acesta citează, de asemenea, exemplul unui model de inteligență artificială creat de gigantul Meta a lui Mark Zuckerberg, numit Cicero, care a atins capacitatea „la nivel uman” de a juca jocul de societate Diplomacy – un joc despre care autorii afirmă că depinde de deducerea și prezicerea intențiilor adversarilor.

Modelele de inteligență artificială vor fi capabile să își adapteze rezultatele ca răspuns la „fluxurile de date generate de utilizatori”, adaugă studiul, citând cercetări care arată că modelele pot deduce informații personale prin schimburi obișnuite și chiar „dirija” conversațiile pentru a obține mai multe informații personale.

Studiul prezintă apoi un scenariu viitor în care Meta va scoate la licitație pentru agenții de publicitate intenția unui utilizator de a rezerva un restaurant, un zbor sau un hotel. Deși există deja o industrie dedicată previziunilor și licitațiilor privind comportamentul uman, conform raportului, modelele AI vor distila aceste practici într-un „format foarte cuantificat, dinamic și personalizat”.

Prezicerea intențiilor și acțiunilor utilizatorilor

Studiul citează echipa de cercetare din spatele Cicero, care avertizează că un „agent (AI) poate învăța să își influențeze partenerul de conversație pentru a atinge un anumit obiectiv”. Cercetarea se referă la executivi din domeniul tehnologiei care discută despre modul în care modelele de inteligență artificială vor fi capabile să prezică intențiile și acțiunile unui utilizator.

Aceasta îl citează pe directorul executiv al celui mai mare producător de cipuri AI, Jensen Huang de la Nvidia, care a declarat anul trecut că modelele „își vor da seama care este intenția dumneavoastră, care este dorința dumneavoastră, ce încercați să faceți, dat fiind contextul, și vă vor vor prezenta informațiile în cel mai bun mod posibil”.