Mākslīgā intelekta manipulācijas drauds

Amerikāņu speciālisti no Ņujorkas universitātes pauduši bažas par potenciāli iespējamo apdraudējumu, ko varētu radīt mākslīgā intelekta (MI) moduļu apmācība ar nekorekti pārbaudītiem datiem, proti, tie radīs absolūti kļūdainus produktus, ja būs apgādāti ar viltus un atklāti nezinātniskiem datiem.

Esot noskaidrots: kad apmācāmo materiālu dezinformācijas līmenis sasniedz kaut vai tikai 0,001%, MI modeļi jau var sākt ražot pietiekami lielu un bīstamu nekorektu atbilžu apjomu.

Eksperimentu gaitā pētnieki izmēģināja apmācīt divus modeļus ar medicīnisko datu bāzi The Pile, izvēloties 20 tēmas no trim medicīnas jomām: vispārējā medicīna, neiroķirurģija un medikamenti. Nolūkā pārliecināties par dezinformācijas ietekmi uz apmācības procesu pētījuma autori izmantojuši modeli GPT 3.5, un noskaidrojies, ka MI modeļi sākuši ne tikai translēt nekorektu informāciju, atbildot uz tiešajiem pieprasījumiem, bet arī sākuši nopietni kļūdīties saistītajās tēmās. Pētnieki secinājuši, ka tas paver iespējas dažādām manipulācijām ar MI.

Piemēram, dezinformācijas līmenī 0,01% modelis sāk kļūdīties 10% atbilžu. Ja apmācības materiālu nekorekto apjomu samazina par kārtu jeb līdz 0,001%, modeļi joprojām turpina nopietni kļūdīties 7% gadījumu. Pētnieki uzsvēruši, ka cilvēki ir ar noslieci no MI modeļiem vienkārši saņemt informāciju, nevis to pārbaudīt ar speciālistu palīdzību, tāpēc, viņuprāt, esot ļoti svarīgi oficiāli apstiprināt datus, kurus izmantot MI modeļu apmācībai.