Dezvoltarea AI (inteligenta artificiala) este una fascinanta, pentru ca am putea dezvolta sisteme de computere care pot gandi singure, iar pe noi ne-ar ajuta sa economisim mult timp.
Cu toate acestea, exista problema etica din spatele dezvoltarii unor astfel de sisteme, iar parca pentru a dovedi cumva ca negativistii au dreptate, cercetatorii de la MIT au creat un sistem AI psihopat.
Acest sistem AI „psihopat” al cercetatorilor se numeste Norman, dupa antagonistul din filmul clasic al lui Alfred Hitchcock – „Psycho”. Modul in care cercetatorii au creat acest sistem AI psihopat este prin alimentarea acestuia cu titluri de imagini tulburatoare de pe Reddit de la un subreddit „dedicat documentarii si observarii realitatii tulburatoare a mortii”.
Dupa ce cercetatorii au alimentat sistemul AI cu numeroase titluri preluate din acel subreddit, acestia l-au trecut prin testele Rorschach cu imagini abstracte si, de asemenea, cercetatorii au dat acelasi test unui soft AI standard pentru a compara rezultatele.
Pe baza rezultatelor testului cercetatorilor, raspunsul lui Norman psihopat a fost mai ingrijorator in comparatie cu cel al sistemului standard. De exemplu, intr-un test cu imagini abstracte, softul AI standard a dat raspunsul: „un grup de pasari care se afla pe o ramura in copac”, in timp ce Norman psihopat a raspuns „un barbat care este electrocutat pana la moarte”.
Intr-un alt test, raspunsul softului standard de inteligenta artificiala a fost: „o fotografie alb-negru a unei mici pasari”, in timp ce softul Norman psihopat al cercetatorilor a raspuns: „un barbat care este tras intr-o masina pentru aluat”.
Cu toate acestea, potrivit cercetatorilor, scopul crearii lui Norman nu a fost sa creeze un sistem AI psihopat, ci sa dovedeasca o idee. „Norman se naste din faptul ca datele folosite pentru a invata un algoritm de invatare automata ii pot influenta semnificativ comportamentul. Deci, atunci cand oamenii vorbesc despre faptul ca algoritmii de inteligenta artificiala sunt partinitori si nedrepti, vinovatul adesea nu este algoritmul, ci datele cu care a fost alimentat”.