Ce se întâmplă cu discuțiile tale de pe ChatGPT: cine le poate analiza și de ce

Unele conversații purtate cu ChatGPT pot fi analizate de evaluatori umani în cadrul proceselor de îmbunătățire și verificare a siguranței sistemului. Aceștia pot avea acces la dialoguri mai lungi, care includ uneori informații personale introduse de utilizatori, transmite Mesaj.md.

Înainte ca discuțiile să ajungă la evaluatori, datele care pot identifica direct utilizatorii sunt eliminate automat. Totuși, procesul nu este infailibil, iar anumite detalii personale menționate în conversații pot rămâne vizibile.

Accesul uman la conținut are loc în condiții controlate și urmărește, printre altele, evaluarea performanței ChatGPT și îmbunătățirea modului în care acesta răspunde utilizatorilor.

Unul dintre proiectele în cadrul cărora sunt analizate conversații reale ar purta denumirea internă „Project Lily”. Pentru această activitate sunt folosiți evaluatori recrutați inclusiv prin companii precum Mercor și Crossing Hurdles.

Aceștia examinează dialogurile și răspunsurile oferite de ChatGPT pentru a identifica anumite comportamente nedorite ale modelului. Printre obiective se numără reducerea tendinței chatbotului de a fi excesiv de aprobator, de a imita prea mult comportamentul uman sau de a dezvolta alte tipare considerate problematice.

Evaluatorii pot analiza conversațiile în context, nu doar răspunsuri izolate, pentru a stabili dacă modelul reacționează corespunzător pe parcursul unui dialog.

Criticii sistemului atrag atenția că utilizatorii pot introduce în conversațiile cu chatbotul informații sensibile, de la probleme personale până la date pe care nu le-ar împărtăși în mod normal unor persoane necunoscute.

Chiar dacă identificatorii direcți sunt eliminați înainte de evaluare, anumite detalii din text pot permite, în unele cazuri, deducerea unor informații despre persoana care a purtat conversația.

Din acest motiv, utilizatorii sunt sfătuiți să evite introducerea în instrumentele AI a informațiilor extrem de sensibile pe care nu ar dori să le vadă altcineva.

Analizarea conversațiilor de către evaluatori umani face parte din procesele de testare și îmbunătățire a sistemelor de inteligență artificială. Practica readuce însă în discuție limitele confidențialității atunci când utilizatorii aleg să împărtășească informații personale unui chatbot.