Antrenarea unui model AI înseamnă ajustarea treptată a milioane sau miliarde de valori interne, numite parametri, până când modelul face predicții bune pe exemplele din care învață. Are nevoie de trei resurse mari: date (multe și bine alese), putere de calcul (care consumă energie) și timp. Rezultatul nu este o bază de cunoștințe, ci un set de tipare statistice. Tabelul de mituri de mai jos clarifică ce se crede greșit despre acest proces.
Antrenarea, explicată printr-o analogie
Imaginează-ți un elev care primește mii de exerciții rezolvate și, de fiecare dată, încearcă să ghicească răspunsul înainte să-l vadă. Când greșește, își ajustează modul de a gândi. După mulți ani de exerciții, ghicește corect mai des. Antrenarea unui model funcționează asemănător: i se arată un exemplu, produce o predicție, este comparat cu răspunsul corect și i se modifică ușor parametrii ca să greșească mai puțin data viitoare. Procesul se repetă de milioane sau miliarde de ori.
Structura internă care face acest lucru posibil, formată din straturi de „neuroni” artificiali, este prezentată în materialul despre rețelele neuronale și felul în care învață un model din date.
Date: combustibilul antrenării
Modelele de limbaj se antrenează pe cantități mari de text: cărți, articole, pagini web, cod, conversații. Modelele pentru imagini învață din perechi de imagini și descrieri. Calitatea acestor date determină calitatea modelului. Dacă sunt pline de erori, clișee sau prejudecăți, modelul le va prelua. Se fac, de aceea, etape de curățare: eliminarea duplicatelor, a conținutului de calitate foarte slabă, a textelor nedorite.
Despre ce înseamnă date bune, de unde provin și ce limite au, găsești detalii în explicația despre datele de antrenament, calitatea și sursele lor. Ideea de reținut: modelul nu are acces la „toată informația lumii”, ci la ceea ce a fost inclus în setul de antrenament.
Energie și hardware: de ce este scump
Calculele implicate sunt enorme, iar ele se execută pe procesoare specializate, grupate în centre de date. Cu cât modelul și setul de date sunt mai mari, cu atât crește consumul de energie și costul. Mai există energie consumată și după antrenare, la fiecare utilizare a modelului; uneori, totalul cheltuit în utilizare, adunat pe luni, depășește consumul antrenării. Cifrele exacte diferă de la model la model și rareori sunt publicate integral, așa că merită prudență față de comparații spectaculoase.
Cercetătorii și firmele caută metode de a reduce acest consum: modele mai mici și specializate, tehnici de compresie, hardware mai eficient și programarea antrenării în perioade sau locuri cu energie mai curată.
Timp: etape, nu un singur pas
- Pregătirea datelor. Colectare, curățare, filtrare și împărțire în seturi de antrenare și de testare.
- Preantrenarea. Etapa lungă și scumpă, în care modelul învață tipare generale din volume mari de date.
- Ajustarea fină. Modelul este adaptat pentru sarcini sau stiluri specifice, pe seturi mai mici, curate.
- Alinierea cu preferințele umane. Oamenii evaluează răspunsuri și modelul este orientat spre răspunsuri utile și sigure.
- Evaluarea și testarea de siguranță. Se verifică performanța, erorile și comportamentele nedorite.
- Lansarea și monitorizarea. După lansare, se urmărește comportamentul și se pregătesc actualizări.
Mituri față de realitate despre antrenare
| Mit | Realitate |
|---|---|
| „Modelul copiază și stochează texte întregi din date.” | Învață tipare statistice; uneori poate reproduce fragmente foarte frecvente, dar nu este o bibliotecă de documente. |
| „Se antrenează o singură dată și gata.” | Există antrenare inițială, ajustări, versiuni noi și evaluări repetate. |
| „Cu cât mai mare, cu atât mai bun, întotdeauna.” | Modelele mai mici, bine antrenate pe date potrivite, pot depăși modele mari în sarcini înguste. |
| „Oamenii nu mai sunt implicați.” | Oamenii aleg datele, scriu exemple, evaluează răspunsuri și stabilesc limite. |
| „Modelul învață din fiecare conversație, în timp real.” | În mod normal, nu; conversațiile pot fi folosite ulterior la îmbunătățiri, dacă serviciul o permite. |
Un exemplu ajută să vezi cum se leagă cele trei resurse. Un model mic, antrenat pe un set restrâns de documente dintr-un singur domeniu, de pildă contracte comerciale, poate fi pregătit mult mai ieftin și mai repede decât un model general. Va ști mult mai puțin despre restul lumii, dar poate fi foarte bun în sarcina lui. Alegerea între „un model pentru toate” și „un model pentru o sarcină” este una dintre deciziile practice cele mai importante pentru firmele care folosesc AI.
De asemenea, antrenarea nu garantează și corectitudinea faptelor. Un model poate învăța tipare corecte despre limbă și totuși să rețină greșit un detaliu, pentru că acel detaliu a apărut rar sau contradictoriu în date. Din acest motiv, verificarea ulterioară a rezultatelor rămâne necesară.
Merită notat și rolul reglementării. Pe măsură ce modelele devin mai mari, se discută tot mai mult despre transparența privind datele folosite, impactul asupra mediului și raportarea consumului de resurse. Pentru cititorul obișnuit, întrebarea utilă este dacă un producător spune deschis ce știe și ce nu știe despre propriul model.
Ce înseamnă toate acestea pentru tine ca utilizator
Cunoașterea unui model are o dată de oprire: ce s-a întâmplat după antrenare, el nu știe decât dacă îi dai tu informațiile sau dacă are acces la surse actualizate. Calitatea depinde de date, deci lacunele din date devin lacune în răspunsuri. Și, în sfârșit, faptul că antrenarea are un cost mare explică de ce doar un număr redus de organizații dezvoltă cele mai mari modele, ceea ce ridică întrebări de concentrare și dependență.
Dacă vrei să continui cu alte explicații despre inteligența artificială, tehnologiile digitale și funcționarea lor, ghidurile de pe LumeaTehnologiei sunt scrise pe înțelesul celor care nu au pregătire tehnică. Înțelegerea celor trei resurse, date, energie și timp, te ajută să citești cu mai mult discernământ orice anunț despre „noul model” și să te întrebi ce s-a schimbat de fapt față de cel anterior.
