Îngrijorare la ONU. O dronă militară ar fi vânat oameni pe cont propriu. Amenințarea roboților ucigași

Raportul, publicat în martie, susține că drona Kargu-2 quadcopter, produsă de compania de tehnică militară turcă STM, a atacat soldații fideli generalului libian Khalifa Haftar care se retrăgeau.

Îngrijorare la ONU. O dronă militară a vânat oameni pe cont propriu. Amenințarea roboților ucigași autonomi

Raportul de 548 de pagini al Grupului de experți al Consiliului de Securitate al ONU privind Libia nu conține detalii cu privire la existența unor decese ca urmare a incidentului.

Pe parcursul anului, guvernul de uniune națională, recunoscut de ONU, a îndepărtat forțele afiliate Haftar (HAF) din capitala libiană Tripoli, iar drona ar fi putut fi operațională din ianuarie 2020, au remarcat experții.

„Convoaiele logistice și retragerea HAF au fost urmărite ulterior și angajate de la distanță de vehiculele aeriene de luptă fără pilot sau de sistemele letale de arme autonome, cum ar fi STM Kargu-2”, a menționat raportul ONU, potrivit The Independent.

Digi24.ro

Doi angajați de la o bancă din București au văzut că un client avea o sumă mare în cont și i-au furat 140.000 €

Kargu este o dronă care „folosește” clasificarea obiectelor bazată pe învățarea automată pentru a selecta și angaja ținte, conform STM, și are, de asemenea, capacități de roire pentru a permite unui număr de 20 de drone să lucreze împreună.

„Sistemele de arme autonome letale au fost programate pentru a ataca ținte fără a necesita conectivitate de date între operator și muniție: de fapt”, au scris experții în raport.

În trecut, mulți cercetători în domeniul roboticii și inteligenței artificiale, inclusiv Elon Musk, și alte câteva personalități proeminente precum Stephen Hawking și Noam Chomsky au cerut interzicerea „armelor autonome de atac”, cum ar fi cele cu potențialul de a căuta și ucide anumite persoane pe baza programării lor.

Experții au avertizat că seturile de date utilizate pentru instruirea acestor roboți ucigași autonomi pentru a clasifica și identifica obiecte precum autobuze, mașini și civili ar putea să nu fie suficient de complexe sau robuste și că sistemul de inteligență artificială (AI) ar putea învăța lecții greșite.

Digisport.ro

A renunțat la sportul profesionist și a devenit ”cea mai frumoasă actriță de la Hollywood”

Ei au avertizat, de asemenea, despre „cutia neagră” în învățarea automată, în care procesul de luare a deciziilor în sistemele de inteligență artificială este adesea opac, prezentând un risc real ca dronele militare complet autonome să execute ținte greșite, motivele rămânând greu de dezlegat.

Zachary Kallenborn, un consultant de securitate națională specializat în vehicule aeriene fără pilot, consideră că există un risc mai mare ca ceva să nu meargă bine atunci când mai multe astfel de drone autonome comunică și își coordonează acțiunile, cum ar fi un roi de drone.

„Comunicarea creează riscuri de eroare în cascadă, în care o eroare a unei unități este împărtășită cu alta”, a precizat Kallenborn. “Dacă cineva ar fi ucis într-un atac autonom, ar reprezenta probabil un prim caz istoric cunoscut de arme autonome bazate pe inteligență artificială folosite pentru a ucide”, a adăugat el.

Lumea trebuie să se unească pentru a opri roboții ucigași

Potrivit unui raport din 2020 al Human Rights Watch, lumea trebuie să se unească pentru a acționa împotriva roboților ucigași. Există un acord din ce în ce mai puternic între diverse țări în vederea interzicerii armelor complet autonome pentru a evita crearea unor astfel de roboți ucigași.

Cercetătorii avertizează că ar fi „inacceptabil” ca sistemele de arme să fie capabile să selecteze și să omoare ținte fără supraveghere umană.

Cercetarea a arătat că 30 de țări și-au exprimat acum dorința pentru un tratat internațional care să prevadă că trebuie păstrat controlul uman asupra utilizării forței.

Noul raport, „Oprirea roboților ucigași: pozițiile statelor privind interzicerea armelor complet autonome și păstrarea controlului uman”, revizuiește politicile a 97 de țări care au abordat în mod public subiectul roboților ucigași din 2013.

Deși nu numește Marea Britanie printre țările care solicită o interdicție totală a armelor autonome, raportul afirmă că politica britanică este că trebuie să existe întotdeauna „supraveghere umană” atunci când se utilizează astfel de arme, dar observă că dezvoltă unele „soluții autonome” în sistemele de arme.

Mary Wareham, directorul de apărare a diviziei de arme la Human Rights Watch și coordonator al Campaniei pentru a opri roboții ucigași, a declarat că este necesară o acțiune internațională urgentă pe această temă, deoarece tehnologia precum inteligența artificială continuă să se răspândească.

“Eliminarea controlului uman din utilizarea forței este acum considerată pe scară largă ca o amenințare gravă pentru umanitate care, la fel ca schimbările climatice, merită acțiuni multilaterale urgente”, a spus ea, citată de The Independent.

„Un tratat internațional de interdicție este singurul mod eficient de a face față provocărilor serioase ridicate de armele complet autonome.

Este foarte clar că păstrarea unui control uman semnificativ asupra utilizării forței este un imperativ etic, o necesitate legală și o obligație morală. Toate țările trebuie să răspundă de urgență prin deschiderea negocierilor privind un nou tratat internațional de interdicție.”

Raportul sugerează că, în timp ce o serie de organizații internaționale și țări au susținut campania, un număr mic de puteri militare, inclusiv Statele Unite și Rusia, au „respins ferm propunerile” privind reglementarea.

“Multe guverne împărtășesc aceleași îngrijorări serioase cu privire la permisiunea ca mașinile să ia viața umană pe câmpul de luptă, iar dorința lor de control uman oferă o bază solidă pentru acțiune colectivă”, a mai spus Wareham.

“În timp ce pandemia a întârziat diplomația, aceasta arată importanța de a fi pregătit și de a răspunde cu urgență la amenințările existențiale pentru umanitate, cum ar fi roboții ucigași”, a concluzionat ea.