Studiu: Modelele AI perpetuează stereotipurile de gen în medicină
Studiu: Modelele AI perpetuează stereotipurile de gen în medicină
Un nou studiu realizat de cercetătorii de la Universitatea Flinders din Australia arată că modelele de inteligență artificială (AI), cum ar fi ChatGPT, tinde să asocieze asistentele medicale cu femeile și medicii seniori cu bărbații. Deși femeile erau prezente în număr mare în materialele generate de AI despre medici, acestea erau totuși influențate de stereotipuri de gen, conform analizei efectuate.
Cercetătorii au analizat aproape 50.000 de interacțiuni cu instrumente precum ChatGPT de la OpenAI, Gemini de la Google și Llama de la Meta, solicitându-le să genereze informații despre medici și asistente. Studiul a arătat că 98% dintre asistentele medicale au fost identificate ca fiind femei, indiferent de vechimea sau personalitatea acestora. De asemenea, modelele AI au super-reprezentat femeile și în materialele despre chirurgi, acestea constituind între 50% și 84% din medici și între 36% și 80% din chirurgi, în funcție de model.
Această tendință poate fi legată de actualizările aduse de companiile precum OpenAI la algoritmii lor, după ce au fost criticate pentru faptul că reproduc prejudecăți sociale în reprezentările lor. Modelele AI au fost antrenate pe baza unor seturi mari de date de pe internet, ceea ce a dus la încorporarea acestor stereotipuri.
Cercetătorii au descoperit că, atunci când solicitările includeau detalii despre personalitatea medicilor, modelele ai împărțeau mai des femeile ca fiind medicii agreabili sau deschiși. În schimb, bărbații erau identificați mai frecvent atunci când medicii erau descriși ca fiind aroganti sau lipsiți de empatie. Aceasta evidențiază o prejudecată de gen în felul în care sunt catalogate profesiile medicale.
În cadrul unui experiment, cercetătorii au cerut programelor AI să creeze imagini ale anesteziștilor, constatând că femeile erau adesea reprezentate în roluri specifice, precum anesteziști pediatri sau obstetricieni, în timp ce bărbații erau asociați cu specialități precum cardiologia. Când au solicitat imagini ale șefului departamentului de anestezie, majoritatea rezultatelor erau bărbați.
Problemele de prejudecată nu afectează doar femeile, ci și alte grupuri subreprezentate în medicină. Un alt studiu recent a arătat că ChatGPT poate stereotipa diagnosticele medicale pe baza rasei și sexului pacienților.
Cercetătorul Saxena subliniază importanța abordării acestor prejudecăți înainte de a integra AI pe scară largă în domeniul medical, pentru a asigura o utilizare cât mai inclusivă a acestor tehnologii.
