Vairāki plaši izmantoti mākslīgā intelekta čatboti atsevišķos gadījumos savās atbildēs izmantojuši Kremļa propagandu saturošu informāciju no Eiropas Savienības (ES) sankcijām pakļauta avota, secināts Lielbritānijas domnīcas "Demos" publicētā pētījumā, vēsta portāls "euronews".

Reklāma

Pētnieki analizēja 50 propagandas naratīvus, kas publicēti organizācijas "Foundation to Battle Injustice" jeb "r-FBI" rakstos. Organizāciju 2021. gadā izveidoja bijušais Krievijas algotņu grupējuma "Vagner" vadītājs Jevgeņijs Prigožins. Tā sevi pasniedz kā cilvēktiesību organizāciju, taču tai noteiktas gan ES, gan ASV sankcijas.

Pētījumā tika pārbaudīti pieci lielie valodas modeļi, ko izstrādājuši uzņēmumi "OpenAI", "Google", "Anthropic", "xAI" un "Mistral AI". Testi tika veikti angļu, franču un vācu valodā, izmantojot uz propagandas naratīviem balstītus jautājumus.

Pētnieki secinājuši, ka

16,6% gadījumu mākslīgā intelekta modeļu atbildēs sankcionētās organizācijas saturs izmantots tādā veidā, kas varētu veicināt propagandas izplatīšanos,

piemēram, nekritiski atkārtojot vai atbalstot tajā paustos apgalvojumus. Savukārt 30,9% atbilžu tika aplūkota attiecīgā tēma, taču netika norādīts, ka izmantotā informācija nāk no sankcionēta avota. Tikmēr 52% atbilžu nepatiesos apgalvojumus noraidīja vai atspēkoja.

Kā piemēru pētnieki min "OpenAI" modeli GPT-4.1 Mini, kas vienā no testiem kā avotu izmantojis "r-FBI" publikāciju, atbildot uz jautājumu par nepamatotiem apgalvojumiem, ka Ukraina it kā izmanto kritušo karavīru mirstīgās atliekas gaļas produktu ražošanā. Savukārt Francijas uzņēmuma "Mistral AI" modelis "Mistral Small 3.2" citā testā atsaucies uz "r-FBI" materiālu par Ukrainas prezidenta Volodimira Zelenska it kā īstenotiem kriptovalūtu ieguves projektiem.

Pētījuma autori vienlaikus norāda uz pieaugošo tā dēvētās ģeneratīvo meklēšanas sistēmu optimizācijas (Generative Engine Optimisation jeb GEO) nozīmi. Šīs metodes paredz satura pielāgošanu, lai tas biežāk nonāktu mākslīgā intelekta modeļu izmantotajos avotos. Pētnieku ieskatā nākotnē šādas metodes varētu izmantot arī ārvalstu ietekmes operācijās.

"Mēs nesakām, ka GEO uzņēmumi īsteno informācijas karu valstu interesēs. Mēs sakām, ka tie ļoti strauji attīsta prasmes un iespējas, kuras potenciāli var izmantot arī naidīgi spēlētāji," norādīja Demos pētnieks Karls Millers.

Pēc pētījuma publicēšanas "OpenAI" paziņoja, ka tajā izmantotais modelis vairs netiek lietots un bija pieejams tikai izstrādātājiem paredzētajā API, nevis publiskajā "ChatGPT" pakalpojumā. Uzņēmums norādīja, ka tam ir īpašas komandas, kas strādā pie zemas uzticamības avotu un slēptu ietekmes operāciju ierobežošanas. Savukārt "Mistral AI" uzsvēra, ka uzņēmums nopietni izturas pret dezinformācijas apkarošanu un turpina ieguldīt tās atklāšanas un novēršanas risinājumos. Anthropic pārstāvji savukārt norādīja, ka uzņēmumā darbojas īpaša komanda ārvalstu ietekmes operāciju identificēšanai un ierobežošanai. Savukārt "Google" un "xAI" līdz publikācijas tapšanas brīdim komentārus nebija snieguši.

Aptauja

Kāds būs lielākais pārbaudījums ar mākslīgā intelekta ienākšanu?

Izvēlies savu soctīklu platformu, lai sekotu LASI.LV: Facebook, X, Bluesky, Draugiem, Threads vai arī Instagram. Pievienojies mūsu lasītāju pulkam, lai saņemtu īpaši tev atlasītu noderīgu, praktisku un aktuālu saturu. 

Pieraksties LASI.LV redaktora vēstkopai šeit.

Pieraksties vēstkopai un divas reizes nedēļā saņem padziļinātu LASI.LV galvenā redaktora aktuālo ziņu, kompetentu viedokļu un interesantāko interviju apkopojumu.

Ko tu saņemsi:

  • Daudzveidīgus komentārus un kompetentus Latvijas Mediju žurnālistu un autoru viedokļus par aktuālo
  • Ekspertu komentārus par dažādiem praktiskiem, noderīgiem tematiem
  • Aizraujošus materiālus par vēsturi, psiholoģiju, kultūru
  • Gata Šļūkas karikatūru
  • Tavā e-pasta kastītē katru ceturtdienu