A.I. devine din ce în ce mai scump de antrenat. Modelele noi pot costa peste 10 miliarde de dolari

• A.I. devine din ce în ce mai scump de antrenat.
• Modelele noi pot costa peste 10 miliarde de dolari.
• Eficiența energetică și alternativele ar putea salva industria.

Costurile de antrenare a modelelor A.I. ar putea să devină prea mari. Modelul GPT-4 va ajunge la costuri peste 100 milioane de dolari. Experții recomandă crearea modelelor mai mici și specializate.

În 2020, antrenarea GPT-3 a costat peste $4.6 milioane, iar GPT-4, lansat anul trecut, a depășit $100 milioane. CEO-ul Anthropic, Dario Amodei, a sugerat în august că vor apărea modele care costă peste 1 miliard de dolari în acest an și că „până în 2025 este posibil să avem un model de 10 miliarde de dolari”.

Ce provocări aduce această creștere a costurilor?

Creșterea costurilor antrenării A.I. pune presiune pe companii și cercetători. Jaime Sevilla, de la Epoch AI, subliniază că puterea de calcul necesară se dublează la fiecare șase luni, iar costurile de antrenament triplează anual.

Costurile hardware pentru antrenarea celor mai scumpe modele A.I. ar putea atinge $140 de miliarde până în 2030, fără a include salariile cercetătorilor. Această creștere, combinată cu limitările datelor de antrenament și provocările legate de expansiunea centrelor de date, cum ar fi consumul de energie și apă, necesită soluții inovatoare și eficiente.

Philipp Schmid de la Hugging Face subliniază potențialul modelelor mai mici și specializate, care pot performa bine pentru cazuri de utilizare specifice, ca o alternativă la modelele masive precum GPT-4. De asemenea, abordarea open-source și colaborarea între companii pot juca un rol crucial în reducerea costurilor și eficientizarea resurselor. Aceste strategii ar putea oferi o cale de mijloc între avansul către inteligența artificială generală (AGI) și nevoia de a menține costurile într-un cadru sustenabil.

Citește și

• Cancelarul Germaniei, Olaf Scholz, vine la Bucureşti, la Întâlnirea Liderilor Partidului Socialiştilor Europeni
• Madonna este dată în judecată de doi fani pentru că a apărut la concert cu două ore întârziere. Ei o acuză de „practici comerciale înşelătoare”
• Gabriela Firea: „Cîrstoiu are misiunea de a-l trimite acasă pe actualul primar general”