Nakon opcije ChatGPT sprema se i superinteligencija

Direktor američke kompanije OpenAI Sam Altman, koja stoji iza ChatGPT, njegovog nasljednika GPT-4 i modela za stvaranje slika DALL-E, objavio je na blogu kompanije plan za razvoj opće “super” umjetne inteligencije.

Naveo je da je njihova misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu.

Ako se umjetna inteligencija (AGI) uspješno napravi, ova bi nam tehnologija mogla pomoći da uzdignemo čovječanstvo na viši nivo, povećanjem globalne ekonomije i pomaganjem u otkrivanju novih naučnih spoznaja koje mijenjaju granice mogućnosti, navodi u tekstu Altman.

Navodi da AGI ima potencijal svima dati nevjerojatne nove mogućnosti.

S druge strane, AGI bi također dolazio s ozbiljnim rizikom od zloupotrebe, drastičnih nesreća i društvenih poremećaja. Budući da je prednost AGI-a tako velika, ne vjerujemo da je moguće ili poželjno da društvo zauvijek zaustavi njegov razvoj. Umjesto toga, društvo i razvijači AGI-a moraju smisliti kako to učiniti kako treba, ističe se.

U objavi su istaknuli načela po kojim će se voditi politika vođenja umjetne inteligencije.

  1. Želimo da AGI osnaži čovječanstvo da maksimalno napreduje u svemiru. Ne očekujemo da će budućnost biti bezuvjetna utopija, ali želimo maksimizirati dobro i minimizirati loše, te da AGI bude pojačivač čovječanstva.
  2. Želimo da se koristi, pristup i upravljanje AGI-jem široko i pošteno dijele.
  3. Želimo uspješno upravljati golemim rizicima. Suočavajući se s tim rizicima, priznajemo da ono što se u teoriji čini ispravnim u praksi često bude čudnije od očekivanog. Vjerujemo da moramo neprestano učiti i prilagođavati se uvođenjem manje moćnih verzija tehnologije kako bismo sveli na minimum scenarije “jednog pokušaja da se ispravi”.

Kratkoročna strategija

Istaknuo je da postoji nekoliko stvari za koje misle da je važno učiniti sada kako bi se pripremili za AGI.

Prvo, kako stvaramo sve snažnije sisteme, želimo ih implementirati i steći iskustvo u upravljanju njima u stvarnom svijetu. Vjerujemo da je ovo najbolji način za pažljivo upravljanje postojanjem AGI-ja – postupni prijelaz u svijet s AGI-jem bolji je od iznenadnog. Očekujemo da će snažna umjetna inteligencija učiniti stopu napretka u svijetu mnogo bržom i mislimo da je bolje tome se postupno prilagođavati, navodi se.

Dodaje da postupni prijelaz daje ljudima, kreatorima politika i institucijama vremena da shvate što se događa, osobno iskuse prednosti i nedostatke ovih sustava, prilagode gospodarstva i uspostave regulaciju.

Također omogućuje razvoj društva i umjetne inteligencije te da ljudi kolektivno shvate što žele dok su ulozi relativno niski.

Trenutačno vjerujemo da je najbolji način za uspješno rješavanje izazova implementacije umjetne inteligencije uz usku povratnu petlju brzog učenja i pažljivog ponavljanja. Društvo će se suočiti s velikim pitanjima o tome što sustavi umjetne inteligencije smiju raditi, kako se boriti protiv pristranosti, kako se nositi s premještanjem s posla i još mnogo toga, poručuje u svom blogu.

Navodi da će optimalne odluke ovisiti o putu kojim tehnologija krene, a kao u svakom novom području, većina predviđanja stručnjaka dosad je bila pogrešna. To vrlo otežava planiranje u vakuumu.

Općenito govoreći, mislimo da će veća upotreba umjetne inteligencije u svijetu dovesti do dobra i želimo to promovirati (stavljanjem modela u naš API, njihovim otvorenim kodom itd.). Vjerujemo da će demokratizirani pristup također dovesti do više i boljeg istraživanja, decentralizirane moći, više koristi i većeg broja ljudi koji doprinose novim idejama, rekao je Altman.

Ističe da će se njihovi sistemi približiti AGI-ju.

Postajemo sve oprezniji pri izradi i implementaciji naših modela. Naše će odluke zahtijevati mnogo više opreza nego što društvo obično primjenjuje na nove tehnologije, i više opreza nego što bi mnogi korisnici željeli. Neki ljudi u području umjetne inteligencije misle da su rizici AGI (i sistema nasljednika) izmišljeni; bili bismo oduševljeni ako se pokažu u pravu, ali ćemo djelovati kao da su ti rizici egzistencijalni, istaknuo je.

Institucije to moraju uskladiti

U nekom trenutku, ravnoteža između pozitivnih i loših strana implementacije (kao što je osnaživanje zlonamjernih aktera, stvaranje društvenih i ekonomskih poremećaja i ubrzavanje nesigurne utrke) mogla bi se pomaknuti, u kojem bismo slučaju značajno promijenili svoje planove oko kontinuirane implementacije.

Drugo, radimo na stvaranju sve usklađenijih i upravljivijih modela. Naš prijelaz s modela poput prve verzije GPT-3 na InstructGPT i ChatGPT rani je primjer toga, naglašava.

Na kraju navodi da je važno da se društvo složi oko iznimno širokih granica korištenja umjetne inteligencije, ali da unutar tih granica pojedinačni korisnici imaju veliku diskreciju.

Naša je konačna nada da će se svjetske institucije složiti oko toga što bi te široke granice trebale biti. U kraćem roku planiramo pokrenuti eksperimente za vanjski unos. Institucije u svijetu trebat će se ojačati dodatnim sposobnostima i iskustvom kako bi se pripremile za složene odluke o AGI-u, zaključio je.

(www.jabuka.tv)

3 komentara

  • Ovaj objavljuje plan za razvoj super inteligencije dok Gates poziva za uspostavu globalne policije za slijedecu pandemiju.Pitam se da li se zdravstvena organizacija (tijelo) toliko slizala sa novcem, tehnologijom (transhumanizmom) i new agom da izreku Bogu Bozje caru carevo u potpunosti preokrene u carevu korist tko god on na kraju bio.

    • Svačemu i ovaj narod viruje. Ne samo Bogu nego i izmišljenim vjestima…
      Tvrde kako su mediji sotona i kako im se ne treba vjerovat, a vjeruju istim tim medijima kada izbace članak o koje kakvim zavjerama protiv naroda…

      • Kroz povijest je uvijek bilo zavjera ali danas su zbog globalizma, interneta sve ovce na broju.Onako skupljene u toru. Samo im u nekoj globalnoj krizi jos fali jedan vuk u ovcjoj kozi.

Komentiraj:

Ova web-stranica koristi Akismet za zaštitu protiv spama. Saznajte kako se obrađuju podaci komentara.