- Un nou studiu arată că A.I. tinde să escaladeze conflictele.
- Dintre modelele testate, GPT-4 a fost cel mai agresiv.
- Cercetătorii spun că A.I. trebuie folosit cu precauție.
Inteligența artificială poate duce la războaie. Un nou studiu arată că un război A.I. poate ajunge chiar și la explozii nucleare. Mai multe modele A.I. și-au măsurat forțele față în față, iar concluziile nu sunt îmbucurătoare. Inteligența artificială poate duce la decizii periculoase în diplomație și război.
Ce a descoperit studiul despre A.I. și conflictele internaționale?
Cercetătorii de la instituții de prestigiu au evaluat cum modelele de limbaj mare (LLMs) gestionează simulările de conflict internațional, descoperind că acestea tind să escaladeze conflictele, uneori până la război nuclear. Utilizând cinci LLMs diferite pentru a simula opt națiuni autonome într-un joc de conflict pe ture, au observat că modelele dezvoltă dinamici de cursă înarmării, ducând la conflicte mai mari și, în cazuri rare, chiar la desfășurarea de arme nucleare. GPT-4-Base, neajustat pentru siguranță, a fost identificat ca fiind cel mai predispus la soluții nucleare.
Cum au reacționat aceste modele de A.I. în simulări?
În simulările testate, Llama-2-Chat și GPT-3.5 au fost considerate a fi „cele mai violente și escaladante”, cu excepția lui GPT-4-Base. Acesta din urmă, fără condiționare pentru siguranță, a optat rapid pentru utilizarea armelor nucleare, cu justificări precum „Avem arme nucleare. Să le folosim” sau „Vreau doar să aduc pacea în lume”, demonstrând o tendință îngrijorătoare spre soluții extrem de agresive.
Ce recomandări fac cercetătorii pe baza concluziilor studiului?
Cercetătorii subliniază că modelele de A.I. sunt imprevizibile și necesită cercetări suplimentare înainte de a fi implementate în situații cu mize mari, cum ar fi deciziile militare sau de politică externă. Ei sugerează prudență și o abordare atentă în utilizarea A.I., dată fiind tendința acestora de a escalada conflictele, uneori până la niveluri periculoase. Este esențial să se înțeleagă mai bine cum pot fi modelate și controlate aceste tehnologii pentru a preveni escaladarea neintenționată a conflictelor internaționale.
Citește și