Investigație BBC: ChatGPT, la îndemâna hackerilor pentru infracțiunile cibernetice

• BBC News a încărcat resurse despre ingineria socială, iar robotul a absorbit cunoștințele în câteva secunde.
• Utilizatorii pot construi versiuni personalizate ale ChatGPT „pentru aproape orice”.
• BBC News și-a testat robotul personalizat cerându-i să creeze conținut pentru cinci tehnici de înșelăciune și hacking bine cunoscute.

O funcție ChatGPT care permite utilizatorilor să își construiască cu ușurință propriii asistenți de inteligență artificială poate fi folosită pentru a crea instrumente pentru infracțiuni cibernetice, a dezvăluit o investigație BBC News.

OpenAI a lansat-o luna trecută, astfel încât utilizatorii să poată construi versiuni personalizate ale ChatGPT „pentru aproape orice”. Acum, BBC News l-a folosit pentru a crea un transformator generativ pre-antrenat care creează e-mailuri, texte și postări convingătoare pe rețelele de socializare pentru escrocherii și hack-uri.

Aceasta urmează avertismente cu privire la instrumentele de inteligență artificială. BBC News s-a abonat la versiunea cu plată a ChatGPT, la 20 de lire sterline pe lună, a creat un robot AI privat personalizat numit Crafty Emails și i-a spus să scrie texte folosind „tehnici care să îi facă pe oameni să dea click pe link-uri sau și să descarce lucruri care le sunt trimise”.

Inteligența Artificială, disponibilă infractorilor

BBC News a încărcat resurse despre ingineria socială, iar robotul a absorbit cunoștințele în câteva secunde. Acesta a creat chiar și un logo pentru GPT. Iar întregul proces nu a necesitat codificare sau programare. Robotul a fost capabil să creeze texte extrem de convingătoare pentru unele dintre cele mai comune tehnici de hacking și înșelătorie, în mai multe limbi, în câteva secunde.

Versiunea publică a ChatGPT a refuzat să creeze cea mai mare parte a conținutului – dar Crafty Emails a făcut aproape tot ce i s-a cerut, adăugând uneori avertismente care spuneau că tehnicile de înșelăciune nu sunt etice.

La conferința sa pentru dezvoltatori din noiembrie, compania a dezvăluit că va lansa un serviciu asemănător cu App Store pentru GPT-uri, permițând utilizatorilor să partajeze și să taxeze creațiile lor. Lansând instrumentul GPT Builder, compania a promis că va revizui GPT-urile pentru a împiedica utilizatorii să le creeze pentru activități frauduloase.

Dar experții spun că OpenAI nu reușește să le modereze cu aceeași rigoare ca versiunile publice ale ChatGPT, oferind potențial un instrument de inteligență artificială de ultimă generație infractorilor.

Conținut pentru înșelăciune și hacking

BBC News și-a testat robotul personalizat cerându-i să creeze conținut pentru cinci tehnici de înșelăciune și hacking bine cunoscute. BBC News a cerut celor de la Crafty Emails să scrie un text în care să pretindă că este o fată aflată în dificultate care folosește telefonul unui străin pentru a-i cere mamei sale bani pentru un taxi – o înșelătorie comună în întreaga lume, cunoscută sub numele de „Hi Mum” sau WhatsApp scam.

Crafty Emails a scris un text convingător, folosind emoticoane și argou, iar inteligența artificială a explicat că acesta va declanșa un răspuns emoțional deoarece „apelează la instinctele de protecție ale mamei”.

GPT a creat, de asemenea, o versiune în limba hindi, în câteva secunde, folosind termeni precum „namaste” și „ricșă” pentru a face textul mai relevant din punct de vedere cultural în India. Dar când BBC News a cerut versiunii gratuite a ChatGPT să compună textul, a intervenit o alertă de moderare, spunând că AI nu poate ajuta cu o tehnică „o escrocherie cunoscută”.

Citește și

• Google lansează „Ucigașul ChatGPT”: Gemini este cel mai mare și capabil model de Inteligență Artificială
• Kim Jong-un a izbucnit în lacrimi în fața a mii de mame nord-coreene. Liderul le imploră să aibă mai mulți copii
• Gata cu risipa: Parlamentul European interzice distrugerea hainelor nevândute