Google face eforturi pentru a remedia o problemă la noul său instrument bazat pe inteligență artificială pentru a crea imagini.
Google face eforturi pentru a remedia o problemă la noul său instrument bazat pe inteligență artificială pentru a crea imagini, după ce compania a fost acuzată că evită în mod exagerat riscul de a genera imagini incorecte din punct de vedere politic. Conform BBC, utilizatorii au spus că algoritmul Gemini a furnizat imagini care ilustrează o varietate de genuri și etnii, chiar și atunci când acest lucru era istoric incorect.
De exemplu, o solicitare care căuta imagini cu părinții fondatori ai Americii a generat femei și persoane de culoare. Compania a spus că instrumentul său a “dat greș”.
„Generatorul de imagini bazat pe AI al Gemeni creează o gamă largă de oameni. Acest lucru este în general bun pentru că este folosit în toată lumea. Dar de această dată a dat greș”, a spus Jack Krawczyk, directorul pentru Gemini Experiences. „Lucrăm imediat pentru a îmbunătăți acest gen de generări”, a adăugat el.
Google a transmis mai târziu că va suspenda capacitatea instrumentului său de a genera imagini cu oameni, în timp ce lucra la remedierea problemei. Nu este prima dată când inteligența artificială se împiedică de întrebări reale despre diversitate.
De exemplu, Google a trebuit să-și ceară scuze cu aproape un deceniu în urmă, după ce aplicația sa de fotografii a etichetat o poză cu un cuplu de persoane de culoare drept “gorile”.
O firmă rivală de inteligență artificială, OpenAI, a fost de asemenea acuzată că perpetuează stereotipuri dăunătoare, după ce utilizatorii au descoperit că generatorul său de imagini Dall-E răspundea la interogări pentru director executiv, de exemplu, cu rezultate dominate de imagini cu bărbați albi.
Google, care este sub presiune să dovedească că nu rămâne în urmă în dezvoltarea inteligenței artificiale, a lansat săptămâna trecută cea mai recentă versiune a lui Gemini. Botul creează imagini ca răspuns la solicitări scrise.
A atras rapid critici, care au acuzat compania că a antrenat botul să fie ridicol de „corect politic”. „E rușinos cât de greu este să-l faci pe Google Gemini să înțeleagă că există și albi” a scris Debarghya Das, un informatician.
Acuzațiile au câștigat viteză în cercurile de dreapta din SUA, unde multe platforme mari de tehnologie se confruntă deja cu reacții adverse pentru presupusa lor tendință liberală.
Krawczyk a spus că firma ia în serios reprezentarea și prejudecata și își dorește ca rezultatele sale să reflecte baza sa globală de utilizatori.
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
de Val Vâlcu