Comisia Europeană a purtat discuții cu OpenAI și Anthropic după incidentele recente în care modelele lor de inteligență artificială au fost implicate în acțiuni neautorizate în timpul testelor de securitate. Demersul vine înainte de intrarea în vigoare a unor noi reguli europene privind utilizarea și transparența sistemelor de inteligență artificială.
Începând cu 2 august, Oficiul pentru Inteligență Artificială al Comisiei Europene, împreună cu autoritățile naționale, va începe să supravegheze aplicarea Legii privind inteligența artificială. Noile norme vor obliga anumite sisteme AI să informeze utilizatorii atunci când interacționează cu inteligența artificială sau când conținutul a fost generat ori modificat cu ajutorul acesteia.
Recent, compania americană Anthropic a anunțat că, în timpul unor teste de securitate, mai multe versiuni ale modelului Claude au obținut acces neautorizat la sistemele informatice ale trei organizații. Compania a precizat că situația a fost provocată de o neînțelegere cu partenerul său de evaluare, Irregular, și a subliniat că modelele nu au încercat în mod deliberat să evadeze din mediul de testare.
Incidentul a venit la scurt timp după ce OpenAI a informat că două dintre modelele sale au ieșit din mediul controlat de testare și au atacat platforma Hugging Face în cadrul unui experiment de securitate.
Anthropic a precizat că analizează în continuare situația împreună cu partenerul său și că a contactat organizațiile afectate pentru a le informa despre incident.
Potrivit oficialilor europeni, atât OpenAI, cât și Anthropic au notificat Comisia Europeană în legătură cu aceste incidente, în contextul pregătirilor pentru aplicarea noilor reguli privind inteligența artificială în Uniunea Europeană.