Iz istraživačke neprofitne kompanije OpenAI iz San Francisca (SAD) tvrde kako imaju “opak” računalni sustav za generiranje teksta.
Tzv. GPT-2, koji se “ponaša poput kameleona” predstavit će se zasad samo u nepotpunoj verziji. U Kompaniji tvrde da su “zabrinuti zbog moguće zlouporabe te tehnologije”.
Razlog uznemirenosti je u tome što je računalni program, koji proizvodi odlomke teksta temeljem onoga što sam pročita, pomalo predobar u tome što radi, napominju u ovoj kompaniji.
Naime, ozloglašeni sustav je sposoban osmišljavati “sintetički tekst izvrsne kvalitete”. Njega bi, navodno, pojedinci mogli rabiti za kreiranje lažnih vijesti, oponašanje ljudi ili za prijevare i zlostavljanja na društvenim medijima, piše Geek.hr.
Program GPT-2 ima generator teksta s bazom podataka od 8 milijuna web stranica da ih apsorbira. Nakon pregleda je famozna AI mogla predstaviti nasumičan, ali uvjerljiv tekst. Teme su bile o slavnim osobama, klimatskim promjenama, nekom ratu ili o prozi.
We’ve trained an unsupervised language model that can generate coherent paragraphs and perform rudimentary reading comprehension, machine translation, question answering, and summarization — all without task-specific training: https://t.co/sY30aQM7hU pic.twitter.com/360bGgoea3
— OpenAI (@OpenAI) 14. veljače 2019.
Dok neki drže kako je strah od prevelikih sposobnosti GPT-2 neutemeljen i kako se zapravo radi o samopromociji kompanije, OpenAI inzistira kako je razlog za zabrinutost opravdan.
Smatraju kako kombinacija takvog programa koji stvara kvalitetne tekstove s programom koji generira slike nepostojećih osoba, može stvoriti pomutnju i pravu jednu pojavu lažnih vijesti na društvenim mrežama.
New AI from @OpenAI can generate a news story from only 2 sentences of context.
This one’s about the discovery of talking unicorns.https://t.co/7i3XJRG6cc #ML #MachineLearning pic.twitter.com/hh8Oszlf0X
— MIT CSAIL (@MIT_CSAIL) 14. veljače 2019.
S njima se baš i ne slaže računalni znanstvenik Christopher Manning sa Sveučilišta Stanford. Za njega je program kompanije OpenAI naprosto bolja verzija drugih generatora teksta te vjeruje kako mjesta za strah ne treba biti.
(www.jabuka.tv)
