Blog
Articole despre cum funcționează aceste sisteme, cum se evaluează, ce obligații aduc și unde greșesc. Fără cifre fără sursă și fără promisiuni pe care nimeni nu le poate verifica.
20 articole
Un model lingvistic nu caută informații și nu „știe” lucruri. Prezice următorul fragment de text. Diferența explică aproape tot ce te surprinde la el — inclusiv greșelile.
Citește mai departe„Halucinația” nu este o defecțiune care se repară cu o versiune nouă. Este o consecință a modului în care funcționează modelul. Se poate însă reduce și, mai important, se poate detecta.
Citește mai departeUn singur procent nu îți spune dacă sistemul funcționează. Îți spune doar cât de des are dreptate în medie — ceea ce este exact informația care ascunde problemele care contează.
Citește mai departeUn model învață regularitățile din date, inclusiv pe cele pe care nu ți le-ai dori. Problema nu este că sistemul „are prejudecăți”, ci că reproduce fidel ceva ce era deja acolo.
Citește mai departe„Sistem explicabil” poate însemna cinci lucruri diferite, pentru cinci persoane diferite. Înainte de a cere explicabilitate, merită să stabilești cui îi explici și de ce.
Citește mai departeRegulamentul clasifică sistemele după risc, nu după tehnologie. Prima întrebare practică nu este „ce model folosim”, ci „ce face sistemul și pentru cine”.
Citește mai departeProtecția datelor nu a devenit irelevantă pentru că a apărut IA. Dimpotrivă: câteva principii vechi devin brusc mult mai greu de respectat.
Citește mai departeA pune un om să apese „aprobă” nu este supraveghere. Este o semnătură pe o decizie luată de altcineva — cu responsabilitatea transferată, dar fără controlul asociat.
Citește mai departeDacă un model citește text din afara organizației, acel text este cod care ajunge la el. Este o clasă de vulnerabilitate fără echivalent direct în software-ul clasic.
Citește mai departeÎn administrație, o eroare nu costă un client. Costă un drept. Asta schimbă complet calculul dintre beneficiu și risc.
Citește mai departeRegăsire plus generare este cea mai des aleasă arhitectură pentru a face un model să răspundă pe baza documentelor tale. Partea grea nu este modelul, ci regăsirea.
Citește mai departeTrei abordări des confundate, care rezolvă probleme diferite. Alegerea greșită înseamnă lună de muncă pentru ceva ce se rezolva într-o zi — sau invers.
Citește mai departeCele mai multe proiecte de inteligență artificială eșuează înainte să înceapă, în momentul în care se alege problema greșită.
Citește mai departeCostul apelurilor către model este, de obicei, partea mică. Bugetele se sparg în locuri pe care nimeni nu le trece în estimarea inițială.
Citește mai departeDatele generate rezolvă probleme reale de confidențialitate și de volum. Rezolvă însă și, uneori, problema de a obține rezultate bune la evaluare fără a avea un sistem bun.
Citește mai departe„Open source” înseamnă lucruri foarte diferite în acest domeniu. Pentru o organizație, întrebarea utilă nu este ideologică, ci operațională.
Citește mai departeSubiectul este real, iar cifrele care circulă sunt, de multe ori, imposibil de verificat. Ce se poate afirma cu temei și ce nu.
Citește mai departeDezbaterea publică vorbește despre locuri de muncă. Ce se schimbă concret, într-o organizație, sunt sarcinile — iar consecințele sunt mai puțin evidente.
Citește mai departeÎntrebarea „cum împiedicăm elevii să folosească IA” a acaparat discuția. Este, probabil, cea mai puțin interesantă întrebare dintre cele disponibile.
Citește mai departeUn set scurt de întrebări care separă, în mai puțin de un minut, un rezultat real de un comunicat de presă.
Citește mai departeNotă editorială: Articolele de pe acest blog explică mecanisme și metode. Nu descriu proiecte ale asociației și nu conțin cifre sau studii pe care nu le putem indica. Domeniul se schimbă rapid — data publicării contează.
