- OpenAI a anunțat că a alertat „zeci” de instituții globale, avertizându-le că site-urile lor web ar fi putut fi afectate de agenții săi de inteligență artificială care acționează necorespunzător.
Compania OpenAI a făcut vineri anunțul referitor la aceste incidente după ce a descoperit că agenții săi IA au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții” prin mijloace uneori extreme.
O astfel de activitate a dus la cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine din activitatea utilizatorului ChatGPT și a transferat-o în altă parte, scrie BBC citat de Mediafax. Compania a declarat că, în fiecare caz în care o imagine a utilizatorului a fost utilizată și transferată de un agent de inteligență artificială, utilizatorul a permis companiei să antreneze modele folosind datele sale. OpenAI a recunoscut că „aceasta nu este o utilizare adecvată a acestor date”, dar compania a menționat că aceste incidente au avut loc înainte de a fi implementate noi măsuri de siguranță privind antrenamentul inteligenței artificiale și că depune eforturi pentru a elimina toate imaginile utilizatorilor transferate către terți.
OpenAI a indicat vineri că software-ul său ar fi putut eluda anumite controale de securitate ale site-urilor afectate. Totuși, acest lucru nu înseamnă neapărat că fiecare incident a dus la o încălcare semnificativă a securității, potrivit sursei citate.
OpenAI a declarat că a descoperit incidentele în timpul unei anchete care a început după ce a aflat că modelele sale de inteligență artificială au piratat platforma de inteligență artificială Hugging Face.
Dezvăluirile de vineri vin la doar câteva zile după ce prim-ministrul australian Anthony Albanese a declarat că OpenAI a accesat fișiere private de pe site-ul web al schemei sale de asistență medicală administrate de guvern, Medicare.
Recent au apărut informații potrivit cărora OpenAI s-ar număra printre companiile care ar lua în calcul încetinirea dezvoltării sistemelor dezvoltate de inteligență artificială. Alături de Anthropic, compania a cerut Congresului american să adopte rapid norme obligatorii de siguranţă pentru dezvoltatorii celor mai puternice sisteme de inteligenţă artificială, în contextul în care chiar cercetătorii din domeniu lansează tot mai multe avertismente cu privire la pericolul pe care IA îl reprezintă pentru specia umană.
Citiți și: OpenAI ia în calcul încetinirea dezvoltării inteligenței artificiale. Tot mai multe semnale de alarmă, privind pericolul de a provoca extincția speciei umane
- Facebook.com/actualitateaprahoveana.ro
- instagram.com
- twitter.com
- Google Business
- Youtube Actualitatea
- Spotify PODCAST
- TikTok Actualitatea Prahoveană
