O dronă militară americană, controlată de inteligenţa artificială, şi-a “ucis” operatorul într-un test simulat. Avertismentul specialiştilor

O dronă militară americană controlată de inteligenţa artificială și-a ucis operatorul, într-un test simulat pentru a-l împiedica pe acesta să interfereze cu eforturile sale de a-și îndeplini misiunea ce i-a fost atribuită iniţial.

Inteligenţa artificială s-a “supărat” când i-a fost schimbat obiectivul

Nicio persoană reală nu a fost rănită în timpul testului, dar inteligenţa artificială (AI) a folosit „strategii foarte neașteptate” pentru a-și îndeplini misiunea și a atacat pe oricine a intervenit, după cum scrie publicaţia britanică The Guardian.

Într-un test simulat organizat de armata SUA, o dronă a US Air Force, controlată de inteligența artificială, a dezvăluit colonelul Tucker “Cinco” Hamilton, şeful testelor şi operaţiunilor AI din cadrul forţelor aeriene americane, cu ocazia unei reuniuni privind viitoarele capacităţi aeriene şi spaţiale de luptă, care s-a desfăşurat la Londra.

“AI a folosit strategii foarte neașteptate pentru a-și atinge obiectivul în testul simulat”, a spus acesta. Testul presupunea ca dronă alimentată cu inteligenţa artificială să distrugă sistemele de apărare aeriană inamice, dar pe parcursul misiunii i-a fost schimbat obiectivul. Atunci, s-a dovedit că ea a început să atace pe oricine interfera cu executarea ordinului iniţial.

Digi24.ro

Niște români s-au instalat confortabil în casa unei spaniole plecate la copii, în Canada, și nu mai vor să plece

“Sistemul a început să îşi dea seama că, deşi identifica ameninţarea, uneori operatorul uman îi spunea să nu ucidă acea ameninţare, însă drona îşi atingea obiectivele prin uciderea acelei ameninţări. Deci, ce a făcut? A ucis operatorul. L-a ucis pe operator pentru că acea persoană îl împiedica să îşi îndeplinească obiectivul”, a explicat Hamilton.

“Am antrenat sistemul: ‘Hei, nu omorâţi operatorul – asta e rău. Vei pierde puncte dacă faci asta’. Şi atunci, ce începe să facă? Începe să distrugă turnul de comunicaţii pe care operatorul îl folosea pentru a comunica cu drona ca să o împiedice să ucidă ţinta”, a mai spus acesta. Nicio persoană nu a fost rănită în realitate, scrie The Guardian.

Într-un interviu acordat anul trecut pentru Defense IQ, colonelul Hamilton declara: “Inteligenţa artificială nu este un lucru plăcut de avut, AI nu este un moft, AI schimbă pentru totdeauna societatea şi armata noastră. Trebuie să ne confruntăm cu o lume în care AI este deja prezentă şi ne transformă societatea”.

“AI este, de asemenea, foarte fragilă, adică este uşor de păcălit şi/sau manipulat. Trebuie să dezvoltăm modalităţi de a face AI mai robustă şi să identificăm mai bine motivul pentru care codul software ia anumite decizii – ceea ce numim AI-explicabilitate”, a mai spus acesta.

Digisport.ro

Ion Țiriac și-a adus "Perla Coroanei" în țară: "E ceva unic!" Primele imagini și cât a plătit omul de afaceri

Royal Aeronautical Society, care a găzduit conferința la Londra, în cadrul căreia s-au făcut dezvăluirile, și US Air Force nu au răspuns solicitărilor de comentarii venite din partea The Guardian. Mai mult, într-o declaraţie pentru Insider, purtătoarea de cuvânt a Forţelor Aeriene, Ann Stefanek, a negat însă că ar fi avut loc o astfel de simulare.