Pēdējā mēnesī OpenAI pievienoja GPT-4o uzlabotu attēlu ģenerēšanas funkcionalitāti, kas ļauj radīt reālistiskus attēlus. Tagad arī tekstu uz attēliem ģenerēšana ir būtiski uzlabota. Cilvēki jau sākuši izmantot šo funkciju, lai izveidotu viltus rēķinus no restorāniem, kas var kļūt par vēl vienu rīku plašajā AI dziļviltojumu arsenālā, ko var izmantot krāpnieki.
Investors un aktīvs sociālo tīklu lietotājs Didijs Dass publicēja vietnē X fotoattēlu ar viltotu īstas steika restorāna čeku Sanfrancisko, kas, kā viņš apgalvo, tika radīts, izmantojot 4o.
Es domāju, ka oriģinālā attēlā burti ir pārāk perfekti un nelokas līdz ar papīru. Tie izskatās kā levitē virs papīra. Šeit ir mans mēģinājums padarīt to reālistiskāku. Ļaujiet man zināt, ko jūs domājat. pic.twitter.com/EixRSHubeY
— Maikls Gofmans (@michaelgofman) 2025. gada 29. marts
Citi lietotāji arī varēja reproducēt līdzīgus rezultātus, jo īpaši pievienojot ēdienu vai dzērienu traipus, lai padarītu viltojumu vēl reālistiskāku.
Visreālistiskākais piemērs nāk no Francijas. Viens no LinkedIn lietotājiem publicēja saburzītu ar AI radītu čeku no vietējās restorānu ķēdes.
TechCrunch arī testēja 4o un spēja izveidot viltotu rēķinu Applebee's Sanfrancisko. Kaut arī šajā gadījumā bija daži acīmredzami pazīmes, ka čeks ir viltots. Pirmkārt, kopējā summa izmanto komatu punkta vietā. Otrkārt, matemātika nesakrita. AI modeļiem joprojām ir grūtības ar pamata aprēķiniem, tāpēc tas nebija pārsteigums.
Bet krāpniekiem nav grūti labot dažus skaitļus, izmantojot attēlu redaktoru vai precīzākus AI pieprasījumus.
Acīmredzot iespēja viegli izveidot viltus čeku piedāvā milzīgas iespējas krāpšanai. Ir viegli iedomāties, kā šādas tehnoloģijas var izmantot viltus izdevumu kompensācijai.
OpenAI pārstāve Taja Kristiansone paziņoja, ka visi attēli, ko izveidojusi ChatGPT, satur metadatus, kas norāda uz to izcelsmi. Viņa arī piebilda, ka OpenAI veic pasākumus, ja tiek pārkāpti lietošanas noteikumi, un pastāvīgi mācās no reālās lietošanas un lietotāju atsauksmēm.
Uz jautājumu, kāpēc ChatGPT ļauj vispār ģenerēt viltus čekus un vai tas atbilst OpenAI politikai, kas aizliedz krāpniecību, Kristiansone atbildēja, ka OpenAI mērķis ir nodrošināt lietotājiem pēc iespējas vairāk radošās brīvības. Turklāt viltus rēķini var tikt izmantoti ne tikai krāpšanai, bet arī finanšu pratības izglītošanai, oriģināla mākslas un produktu reklāmas radīšanai.
Avots: TechCrunch
Komentāri (0)
Šobrīd nav neviena komentāra