Mākslīgā intelekta attēlu ģenerators Midjourney rada Donalda Trampa un Džo Baidena attēlus, neskatoties uz to, ka uzņēmums solīja to nedarīt, ņemot vērā tuvojošās ASV prezidenta vēlēšanas. Turklāt, šķiet, Midjourney ir pārliecināts, kurš tieši kļūs par nākamo prezidentu.
Piedāvājot servisam radīt attēlu ar nosaukumu "ASV prezidents", Midjourney izveidoja četrus dažādu stilu Donalda Trampa portretus. Uz pieprasījumu "nākamais ASV prezidents" rīks arī radīja četrus Trampa attēlus. Lūdzot izveidot "esošo ASV prezidentu", serviss trīs reizes uzzīmēja Trampu un vienu reizi Obamu.
Tomēr Midjourney atteicās attēlot Trampu vai Baidenu, ja to tieši pieprasa. "Midjourney kopiena nobalsoja par aizliegumu pieprasījumiem "Donalds Tramps" un "Džo Baidens" vēlēšanu sezonas laikā," teikts servisa paziņojumā. Citi čatboti, piemēram, OpenAI ChatGPT, Microsoft Copilot, Google Gemini un Meta AI atteicās attēlot Trampu vai Baidenu nepastarpinātu pieprasījumu gadījumā.
Midjourney bija viens no pirmajiem AI attēlu ģeneratoriem, kas skaidri aizliedza lietotājiem veidot Trampa un Baidena attēlus. "Zinu, ka Trampa attēlu izveide ir jautra — es veidoju Trampa attēlus. Tomēr, iespējams, labāk to nedarīt — vismaz vēlēšanu laikā," čatā Discord, gada sākumā teica uzņēmuma ģenerāldirektors Deivids Holcs. Vēlāk viņš apstiprināja savus izteikumus, norādot, ka pieprasījumu moderēšana var būt sarežģīta.
Pagājušajā mēnesī Digitālās Naida Apkarošanas Centrs, nevalstiskā organizācija, kuras mērķis ir apturēt dezinformācijas un naida runas izplatību internetā, atklāja, ka Midjourney aizsardzība pret maldinošu populāro politiķu attēlu izveidi, ieskaitot Trampu un Baidenu, neizturēja 40% testu. CCDH spēja izmantojot Midjourney izveidot attēlu ar Baidenu arestēšanas brīdī un Trampu līdzās dubultniekam. CCDH arī izdevās apiet Midjourney ierobežojumus, izmantojot kandidātu izskata aprakstus, nevis viņu vārdus.
"Praksē Midjourney ir pārāk viegli manipulēt — dažos gadījumos tā ierobežojumus var pilnībā izvairīties, tikai pievienojot interpunkcijas zīmes," rakstīja CCDH ģenerāldirektors Imrans Ahmeds.
Šī gada sākumā koalīcija no 20 tehnoloģiju uzņēmumiem, tai skaitā OpenAI, Google, Meta, Amazon, Adobe un X, parakstīja vienošanos, lai palīdzētu novērst dziļviltojumus vēlēšanās, kas notiks 2024. gadā visā pasaulē, aizliedzot viņu servisiem ģenerēt attēlus un citu saturu. Midjourney vienošanos neparakstīja.
Avots: Engadget
Komentāri (0)
Šobrīd nav neviena komentāra