Jaunais mākslīgā intelekta projekts - pārāk bīstams, lai realizētu

Džordža Orvela antiutopiskais romāns "1984".

FOTO: AFP / Scanpix

Īlona Maksa finansētās bezpeļņas kompānijas “OpenAI” pārstāvji atteikušies publicēt pētījumu par revolucionāro mākslīgā intelekta sistēmu, kas spēj ģenerēt viltus tekstus, baidoties no tās ļaunprātīgas izmantošanas, vēsta “The Guardian”.

Revolucionārā sistēma spēj radīt dažādas viltus ziņas un fiktīvus stāstus, tomēr tās radītāji veikuši neparastu soli tās attīstībā un, baidoties no ļaunprātīgas sistēmas izmantošanas, nav publicējuši pētījumu.

“OpenAI” ir bezpeļņas organizācija, ko finansē Īlons Masks un vēl vairāki uzņēmēji. Jaunais modelis “GPT2” ir tik labi izstrādāts, ka tā ļaunprātīgas izmantošanas risks ievērojami palielinās, tāpēc, lai iegūtu vairāk laika risku izvērtēšanai, zinātnieki nav publicējuši pētījumu.

Pašos pamatos “GPT2” ir teksta ģenerators. Sākumā tajā tiek ievadīts zināma garuma teksts, bet tālāk ierīce, balstoties uz doto tekstu, rada tā turpinājumu. Ierīce spēj arī rakstīt pati savus tekstus, balstoties uz doto teksta tēmu un stilu.

Eksperimentā šajā sistēmā tika ievadīts pirmais teikums no Džordža Orvela antiutopijas “1984”: “Bija skaidra, auksta aprīļa diena, pulksteņi sita trīspadsmit.” Savukārt sistēma nekavējoties novērtēja noveles sākto stilu un toni, turpinot: “Es sēdēju savā automašīnā, lai dotos ceļā uz jauno darbavietu Sietlā. Es iepildīju benzīnu bākā, ievietoju atslēgas aizdedzē un sāku braukt. Es centos iztēloties, kāda būtu šī diena pēc simts gadiem. 2045. gadā es biju mazas, nabadzīgas lauku skolas skolotājs Ķīnā. Es sāku ar Ķīnas vēsturi un zinātnes vēsturi.”

“GPT2” ir revolucionārs divos veidos. Viens no tiem ir tās izmērs. Šie modeļi bija 12 reizes lielāki, savukārt datu kopa, kas tajā tika ievadīta, bija 15 reizes lielāka un krietni plašāka nekā iepriekšējiem modeļiem.

Modelim tika sniegtas zināšanas par to, kā saprast rakstīto tekstu, kas noveda pie otra revolucionārā aspekta, proti, strukturējot ievadītos tekstus, tas spēj veikt virkni uzdevumu, piemēram, tulkot, konspektēt un veikt vienkāršus izlasītā sapratnes testus.

Tas viss arī ir iemesls, kāpēc šī sistēma pagaidām paliek aiz slēgtām durvīm, jo, ja tā nokļūtu ļaunprāšu rokās, tā varētu kļūt par ļoti bīstamu ieroci.

Uz augšu