ChatGPT - izazovi i etičke nedoumice

Sa mogućnostima koje svakodnevno impresioniraju milione korisnika širom sveta, ChatGPT je zavladao intenetom gotovo preko noći. Istovremeno, otvorila su se i etička i pitanja rizika koja sa sobom nosi.

I pojedinci i različite industrije već prepoznaju šansu i načine kako da iskoriste ovog na veštačkoj inteligenciji zasnovanog chatbota. Nova tehnologija može nesumnjivo poboljšati komunikaciju ili automatizovati ponavljajuće zadatke, ali treba dobro promisliti o slučajevima u kojima ovaj alat može biti pouzdan. Glasovi koji ističu etička pitanja i pretnje koje sa sobom donosi sve su glasniji.

Njih je važno da budu svesni svi koji ga koriste u bilo kojoj situaciji koja je nešto više od puke radoznalosti. Među njima svakako - i developeri.

ChatGPT hype i problematika

Od jednostavnih e-mailova, preko svadbenih govora do pisanja koda - veliki je broj primera kroz koje smo čuli šta ChatGPT sve može.

Mnoge industrije i profesije prigrlile su s oduševljenjem njegove funkcionalnosti, poput copywriter-a ili novinara koje privlači mogućnost generisanja teksta, obogaćivanje paragrafa ili kreiranja naslova. Developeri su otkrili sposobnosti da može da kreira kompjuterski kod na nekom od najpopularnijih programskih jezika (Python, C ili JavaScript), ili uoči bugove i automatizuje ovaj za programere često zamoran deo posla.

Generalno, na automatizaciju procesa koju pomaže ChatGPT gleda se sa naklonošću, omogućavajući recimo kompanijama da ga koriste za generisanje odgovora za svoje chat-botove za korisničku podršku.

Međutim, koliko kontrole možemo i koliko bi trebalo dati ovom alatu, čini se kao ključno, jer se iza hype-a o mogućnostima, krije i manje svetla strana koja zalazi i do sfera cyber kriminala ili može ugroziti  privatnost i reputacije.

Primer je CNET informativni portal koji je tajno počeo da koristi ChatGPT za pisanje tekstova, ali su na adresu sajta stigli brojni prigovori o pronađenim greškama među tekstovima. Drugi su se iz sličnih razloga odlučili za suprotno radikalniji pristup -  Stack Overflow zabranio je u svojoj zajednici programera deljenje informacija generisanih na ChatGPT-ju, dok su škole u Njujorku i Australiji zabranile njegovu upotrebu na svim uređajima, zbog „zabrinutosti o negativnim uticajima na učenje đaka, bezbednost i tačnost sadržaja“.

Nepouzdanost informacija

Bez namere da dublje objašnjavamo kako ChatGPT funkcioniše, zbog boljeg razumevanja njegovog uticaja, pojasnićemo samo da je reč o poslednjoj generaciji GPT (Generative Pre-Trained Transformer) tehnologije, dela AI koji generiše tekst. Baziran na dijalogu - kroz konverzacijski interfejs sposoban je da razume inpute i generiše pisane odgovore, odgovori na potpitanja ili odbije da odgovori na “provokacije”, ostavljajući tako utisak da se iza njega krije čovek. Reč je ipak o chatbotu treniranom na veštačkoj inteligenciji i mašinskom učenju.

Tehnologija je zapravo trenirana na velikom uzorku teksta na internetu, pa mnogi postavljaju pitanje da li će ova tehnologija promeniti način na koji pretražujemo informacije online.

Za dobar deo onih koji se prvi put susreću sa ChatGPT-jem, najpre ga posmatraju kao alternativu Google-u i drugim pretraživačima. Nekoliko je ključnih razlika ovde ipak, zbog kojih je važno biti obazriv kako se i kada koristi za pretraživanje informacija.

Njegova trenutna baza znanja završava se 2021. godine, čineći neke upite i pretrage beskorisnim. Za raziliku od Google-a, ChatGPT na pitanje daje jedan odgovor, bez navođenja izvora, što za onoga ko pretražuje može imati dvostruke indicije - nekada će ga poštedeti pretraživanja gomile tekstova, a nekad će više veza biti baš ono što se traži.

Mnogo veći problem je međutim što, ne dajaći alternativu na odgovor i izvor informacije, u nekim situacijama dovodi u pitanje njenu tačnost. I OpenAI, kompanija u čijem se vlasništvu nalazi ChatGPT, sama navodi “da ponekad daje odgovore koji zvuče uverljivo, ali su netačni ili besmisleni.”

Diskriminacija

Za razliku od drugih AI asistenata, poput Alexa-e ili Siri, ChatGPT ne koristi internet za lociranje odgovora, već odgovore konstruiše reč po reč, “nagađajući” na osnovu svoje obuke koja bi trebalo da je sledeća. Ako se dodatno ima u vidu da ne uzima u obzir kontekst pitanja, i da za njega cela prošla godina i ne postoji, dobro bi trebalo razmisliti u kojom slučajevima bi se odgovori mogli uzeti kao važeći.

Trenirani na informacijama ljudi širom sveta, sistemi veštačke inteligencije su i pristrasniji onima koji ih obučavaju, pa neretko ChatGPT može dati i uvredljive odgovore, čak rasističke ili one koji diskriminišu žene. Problem je i širenje lažnih informacija, naročito sa velikim brojem lažnih profila na internetu.

Poverenje i kredibilitet developera

Brzina širenja netačnih informacija, bio je razlog i zašto je StackOverflow zabranio postavljanje odgovora koje generiše ChatGPT. Stack Overflow poznat je po zajednici developera koji razmenju informacije i pomažu jedni drugima da reše probleme i otklone greške u kodu.  

Kako sami navode, izgrađena je na poverenju i veruje da korisnici šalju odgovore koji su tačni i koje znaju, a sistem se oslanja na korisnike da verifikuju i validiraju doprinose drugih pomoću određenih alata, uključujući odgovorno korišćenje glasova za i protiv. Sadržaj koji generiše GPT najčešće, zbog često netačnih odgovora, ne ispunjava njihove standarde i stoga ne doprinosi okruženju od poverenja. Da bi održali poverenje, moderatori su dobili ovlašćenja da izdaju suspenzije do 30 dana korisnicima koji postavljaju GPT sadržaj na sajt.

Nakon početnog hype-a o mogućnostima pisanja koda, developeri uočavaju i druga ograničenja ovog sistema, poput toga da može da kreira samo relativno jednostavne programe. Za nešto složenije inpute pozvaće se na svoju nemogućnost da odgovori zadatku kao na primer, u slučaju malo složenije poslovne aplikacije.

Etička pitanja koja utiču na živote

Posebno svetlo na etička pitanja sa korišćenjem ChatGPT-ja bacaju pojedinačni primeri u industrijama koje imaju veći efekat na ljudske živote. U Koko, mental health app-u, otišli su korak dalje koristeći AI za eksperimentisanje sa zaštitom mentalnog zdravlja online, koristeći GPT-3 chatbotove kako bi razvili odgovore za 4.000 korisnika.

Ovo je izazvalo burne reakcije na društvenim mrežama da li su ljudi znali da su deo eksperimenta i može li jedan sistem veštačke inteligencije dati adekvatne odgovore onima kojima je potrebna pomoć. Praćene su i optužbama da su prekršili zakon o informisanom pristanku pre uključivanja u istraživačke svrhe. Ovakav protest zadravstvenih i tech stručnjaka doveo je konačno i do naglašavanja etičkih pitanja o upotrebi AI chat-bota u zdravstvu uopšte.

Osetljive informacije

Pitanja osetljivih informacija još jedna su zakčoljica ChatGPT-ja.

Neke od kompanija posebno su zabrinute za postavljanje informacija na ChatGPT od njihovih zaposlenih, jer je ovaj sistem javna baza podataka. Pravna služba Amazona je navodno upozorila zaposlene da ne koriste ChatGPT na internim dokumentima kompanije.

Unosu bilo kod osetljivog materijala na ovaj alat trebalo bi pristupiti ozbiljno jer ne postoje informacije kako OpenAI rukuje informacijama koje se šalju kroz input, kao ni da li će se i kako koristiti u budućnosti. Naročito su osetljiva pitanja intelektualne svojine.

Cyber security

Potencijal za demokratizaciju cyber kriminala, velika je pretnja na koju upozoravaju stručnjaci u oblasti bezbednosti, jer je brzo postalo očigledno da generisanje koda kroz ChatGPT može pomoći i onima sa vrlo malo tehničkog znanja da pokrenu cyber napade.

U budućnosti, čak predviđaju neki, AI će moći da izavrši ceo lanac napada – počevši od pisanja phishing mejlova koji nose zlonameran sadržaj.

TechCrunch piše da su isprobali da generišu phishing e-mail koristeći ChatGPT. Kako navode, kada su prvi put zadali input, chatbot je odbio zahtev, ali blago preformulisan doveo je rezultata koji su očekivali da dobiju.

Veliki je broj tvrdnji sa sličnim iskustvom korisnika. Neki tvrde i da se može koristiti za skripte za dark web, a ovo polje nosi posebne rizike cyber kriminala, uključujući prodaju informacija o platnim karticama ili ličnih podataka.

Dalji razvoj i izazovi

Kakva je budućnost ChatGPT-ja i weba u kojem se ovaj sistem razvija?

Teško je sa sigurnošću davati bilo kakve prognoze.

Uzimajući u obzir prethodno, ovaj AI alat sjajan je izvor novih ideja, ali kada su u pitanju činjenice, i dalje je na klizavom terenu.

Open AI je naveo da je ChatGPT debitovao “kako bi dobio feedback korisnika i učio iz svojih snaga i slabosti”. I sasvim sigurno je ovo tek početak, a uticaj nikako nije zanemarljiv.

CNBC piše da Google preuzima konkretnije korake u odgovoru na ChatGPT testirajući AI chatbota “Apprentice Bar” u okviru koga zaposleni mogu postavljati pitanja i dobiti detaljne odgovore, kao i novi pretraživač za desktop u formi pitanje-odgovor. ChatGPT dodat je i u Microsoft Teams u okviru premium modela,  gde će moći da prikuplja beleške, izvlači najvažnije stvari sa sastanka i sl.

Spektar mogućnosti i delovanja ove tehnologije će rasti, ali treba biti oprezan i imati na umu pitanje kontrole sa početka ovih redova, jer će sa širom primenom rasti i izazovi njegovog uticaja na sve sfere.

Kakvi su tvoji utisci o GPT tehnologiji? Pokreni diskusiju i podeli mišljenje sa drugima na Joberty zajednici.