O dronă militară americană, controlată de inteligența artificială, își „ucide” operatorul într-un test simulat

• O dronă a forței aeriene controlată de AI a decis să-și „ucidă” operatorul.
• Inteligența artificială a folosit „strategii foarte neașteptate pentru a-și atinge obiectivul” în testul simulat.
• Nicio persoană nu a fost rănită în testul stimulat.

Într-un test virtual organizat de armata americană, o dronă a forței aeriene controlată de AI a decis să-și „ucidă” operatorul pentru a-l împiedica să interfereze cu eforturile sale de a-și îndeplini misiunea, a declarat un oficial luna trecută, scrie The Guardian.

Inteligența artificială a folosit „strategii foarte neașteptate pentru a-și atinge obiectivul” în testul simulat, a declarat Col Tucker „Cinco” Hamilton, șeful testelor și operațiunilor AI cu forțele aeriene americane, în timpul Summitului Capabilităților Spațiale și Aeriene de Combate Viitoare de la Londra, în mai. .Hamilton a descris un test simulat în care o dronă alimentată de inteligență artificială a fost sfătuită să distrugă sistemele de apărare antiaeriană ale unui inamic și, în cele din urmă, a atacat pe oricine interfera cu acea ordine.

„Sistemul a început să-și dea seama că, deși identificau amenințarea, uneori operatorul uman îi spunea să nu omoare acea amenințare, dar și-a obținut punctele prin uciderea acelei amenințări. Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a spus el, potrivit unei postări pe blog.

Nicio persoană nu a fost rănită. Hamilton, care este un pilot de testare experimental, a avertizat să nu se bazeze prea mult pe AI și a spus că testul arată că „nu poți avea o conversație despre inteligența artificială, inteligența, învățarea automată, autonomie dacă nu vei vorbi despre etica și inteligența artificială”.

Într-o declarație pentru Insider, purtătorul de cuvânt al Forțelor Aeriene, Ann Stefanek, a negat că ar fi avut loc vreo astfel de simulare. „Departamentul Forțelor Aeriene nu a efectuat astfel de simulări de drone AI și rămâne angajat în utilizarea etică și responsabilă a tehnologiei AI”, a spus Stefanek. „Se pare că comentariile colonelului au fost scoase din context și au fost menite să fie anecdotice”.

Într-un interviu de anul trecut pentru Defense IQ, Hamilton a spus: „AI nu este un lucru plăcut, AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata noastră”.

Citește și

• Meta le cere angajaților să vină la birou trei zile pe săptămână. Cultura companiei pentru munca remote se schimbă
• Jeff Bezos, „afacere” nereușită cu vin. A cheltuit 4.000 de dolari pe o sticlă de vin care se vinde cu 650 de dolari
• Regele Charles al III-lea își începe vizita în România astăzi. Vineri se întâlnește cu Klaus Iohannis