Aproape toate neînțelegerile despre modelele lingvistice mari pornesc de la o presupunere tăcută: că sistemul caută un răspuns undeva și apoi îl formulează. Nu asta se întâmplă.
Predicție, nu căutare
Un model lingvistic este antrenat pe o singură sarcină: dat fiind un text, să prezică ce urmează. Repetată pe o cantitate uriașă de text, sarcina aceasta produce un sistem care, pentru a prezice bine, trebuie să surprindă regularități din limbă — gramatică, dar și structuri de argumentare, convenții de gen literar, relații între concepte.
Când îi pui o întrebare, modelul nu deschide o bază de date. Continuă textul într-un mod statistic plauzibil, pornind de la ce a văzut în antrenare. Răspunsul corect și răspunsul greșit sunt produse de exact același mecanism.
De ce contează distincția
Trei consecințe practice decurg direct de aici.
Nu există o „sursă” a răspunsului. Dacă întrebi modelul de unde știe ceva, îți va genera o explicație plauzibilă — care poate fi sau nu legată de ce s-a întâmplat efectiv. Justificarea este generată la fel ca răspunsul.
Încrederea afișată nu măsoară corectitudinea. Un model formulează la fel de fluent o afirmație verificată și una inventată. Fluența este ce a fost optimizat să producă; adevărul nu a fost.
Cunoștințele sunt înghețate la momentul antrenării. Fără un mecanism explicit de acces la date externe, modelul nu poate ști nimic despre ce s-a întâmplat după. Iar când nu știe, de obicei nu tace — generează ceva.
Ce nu înseamnă asta
Nu înseamnă că aceste sisteme sunt inutile sau că „doar imită”. Predicția de text la scară mare produce capabilități reale: rezumare, reformulare, extragere de informații dintr-un text dat, traducere, generare de cod. Sunt sarcini în care materialul de lucru este chiar textul pe care îl primește modelul — acolo lucrează pe teren propriu.
Problemele apar când tratăm modelul ca sursă de adevăr despre lume, nu ca procesor de text.
Regula practică
Împarte sarcinile în două categorii.
- Transformă un text pe care i-l dai tu. Rezumă, reformulează, extrage, clasifică, tradu. Aici modelul este puternic, iar verificarea este ieftină: ai originalul la îndemână.
- Produce informație pe care nu o ai. Cere-i o cifră, o referință, o dată calendaristică, o prevedere legală. Aici modelul este nesigur, iar verificarea este obligatorie.
Diferența dintre o organizație care obține valoare din aceste sisteme și una care se alege cu incidente jenante trece, de cele mai multe ori, exact prin linia asta.