Cercetătorii, îngrijorați că inteligența artificială nu va mai putea fi controlată: Se pune întrebarea dacă acest lucru ar putea deveni periculos pentru umanitate

Ideea ca inteligența artificială să răstoarne omenirea a fost discutată de zeci de ani, iar în 2021, oamenii de știință și-au dat verdictul dacă vom fi capabili să controlăm o super-inteligență computerizată de nivel înalt. Răspunsul? Aproape sigur că nu.

Reguli precum „să nu faci rău oamenilor” nu pot fi stabilite dacă nu înțelegem tipul de scenarii cu care va veni o inteligență artificială, sugerează autorii unei noi lucrări. Odată ce un sistem computerizat funcționează la un nivel peste nivelul de aplicare al programatorilor noștri, nu mai putem stabili limite.

„O super-inteligență pune o problemă fundamental diferită de cele studiate în mod obișnuit sub steagul eticii robotului”, au scris cercetătorii.

„Acest lucru se datorează faptului că o superinteligență are mai multe fațete și, prin urmare, este capabilă să mobilizeze o diversitate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, cu atât mai puțin controlabile”.

Capacitățile inteligenței vor fi impoibil de controlat

Orice program scris pentru a opri AI să dăuneze oamenilor și să distrugă lumea, de exemplu, poate ajunge la o concluzie care-l va face să se oprească sau nu. Este imposibil din punct de vedere matematic să fim absolut siguri în orice caz, ceea ce înseamnă că nu poate fi controlat, mai spun oamenii de știință.

„De fapt, acest lucru face algoritmul de izolare inutilizabil”, a declarat informaticianul Iyad Rahwan de la Institutul Max-Planck pentru Dezvoltare Umană din Germania în 2021.

Alternativa la a-i preda AI niște etică și a-i spune să nu distrugă lumea – lucru pe care niciun algoritm nu poate fi absolut sigur că îl va face, au spus cercetătorii – este să limitarea capacităților super-inteligenței. Ar putea fi deconectat de la anumite părți ale internetului sau de la anumite rețele, de exemplu.

Studiul a respins, însă, și această idee, sugerând că ar limita raza de acțiune a inteligenței artificiale. Argumentul spune că, dacă nu îl vom folosi pentru a rezolva probleme dincolo de sfera oamenilor, atunci de ce să-l creăm?!

Dacă vom merge mai departe cu inteligența artificială, s-ar putea să nu știm nici măcar când o super-inteligență, care nu este controlată de noi, se va forma. Asta înseamnă că trebuie să începem să punem câteva întrebări serioase despre direcțiile în care mergem.

„O mașină super-inteligentă care controlează lumea sună ca o ficțiune științifico-fantastică”, a spus informaticianul Manuel Cebrian de la Institutul Max-Planck pentru Dezvoltare Umană, tot în 2021. „Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără programatori care să înțeleagă cum au învățat-o. Așadar, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate”, scrie Science Alert.

  Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News