Ņujorkas iestāžu mākslīgā intelekta tērzēšanas robots sniedz nepatiesas atbildes par pilsētas noteikumiem un uzņēmējdarbības veikšanu

Ģenerālprakse ir lielu valodu mākslīgā intelekta modeļu tendence fantazēt, kad lietotājs pieprasa informāciju. Tas ietekmēja arī "standarta" Ņujorkas varas čatbotu, kurš sniedz nepatiesas atbildes uz svarīgiem jautājumiem par vietējo likumdošanu un pilsētas politiku.

Pagājušā gada oktobrī Ņujorkas "MyCity" čatbots tika palaists kā pilotprogramma. ChatBot tika reklamēts kā veids, kā uzņēmēji var ietaupīt laiku un naudu, lai saņemtu uzreiz noderīgu un uzticamu informāciju no vairāk nekā 2000 NYC Business tīmekļa lapām un rakstiem par tādām tēmām kā kodeksu un noteikumu ievērošana, biznesa veicināšana un pārkāpumu un sodu novēršana.

Taču tika konstatēts, ka MyCity čatbots sniedz bīstamu nepareizu informāciju par dažādiem svarīgiem pilsētas noteikumiem. Čatbots sniedza pilnīgi nepareizu informāciju par ēku īri pilsētā, darba samaksu un darba laika normām, kā arī par dažādām pilsētas ekonomikas nozarēm, piemēram, bēru pakalpojumu cenām, kā arī citās dzīves jomās. Tomēr dažreiz čatbots sniedza pareizus atbildes uz tādiem pašiem jautājumiem.

MyCity pašlaik ir beta versijā un informē lietotājus, ka "dažreiz var radīt nepareizu, kaitīgu vai tendenciozu saturu" un ka lietotājiem "nevajadzētu paļauties uz tās atbildēm kā uz profesionālu padomu aizstājēju". Taču lapā ir norādīts, ka tā "mācīta sniegt oficiālu informāciju par Ņujorkas biznesu" un ir veids, kā "palīdzēt uzņēmējiem veicināt valdību".

Ņujorkas Tehnoloģiju un inovāciju pārvaldes preses sekretāre Leslija Brauna saka, ka bots "jau ir sniedzis tūkstošiem cilvēku laikus un precīzas atbildes" un ka "mēs turpināsim koncentrēties uz šīs rīku uzlabošanu, lai labāk atbalstītu mazo uzņēmējdarbību".

Nesenajā Washington Post materiālā tika teikts, ka čatboti, iekļauti galvenajā nodokļu sagatavošanas programmatūrā, sniedz nejaušas, nepatiesas vai netiešas atbildes uz daudziem nodokļu jautājumiem. Līdzīgi problēmas mudina dažas kompānijas atteikties no vispārīgākiem čatbotiem un pievērsties speciāli apmācītiem modeļiem, kas iestatīti tikai uz nelielu informācijas komplektu. Amerikas regulējošā iestāde FTC cenšas iegūt iespēju uzlikt čatbotu īpašniekiem atbildību par nepatiesu vai aptukšojošu informāciju.

Avots: Ars Technica