Amerikas konkursa Washington Lottery bija spiesta noņemt savu reklāmas AI lietojumprogrammu pēc tā kļūdaini radīja skaidri atklātu attēlu kā atbildi uz diezgan banālu pieprasījumu.
Par šo neierasto incidentu rakstīja ArsTechnica.
AI radīts "sapņu atvaļinājums"
Konkursa mājas lapā Test Drive a Win bija izveidota, lai palīdzētu apmeklētājiem vizualizēt atvaļinājumus, kuriem viņi teorētiski varētu doties, ja laimētu konkursu.
Tam bija nepieciešams augšupielādēt savu sejas foto. Pēc tam jūs pievienojat aprakstu, un AI ģenerē attēlu.
Vietnē bija iespēja augšupielādēt galvas foto, kas tiks integrēts ar mākslīgajā intelektā ģenerēto attēlu par to, kā jūs varētu izskatīties šajā atvaļinājumā.
Peldēt ar haizivīm
50 gadu vecā Megana no Vašingtonas priekšpilsētas nolēma izmantot lietojumprogrammu un lūdza AI radīt attēlu, kurā viņa "peld ar haizivīm".
Taču vietā tam AI parādīja kailu sievieti, kas sēž gultā. Aiz viņas - zivis un jūras augi.
Stūrī ir redzams Washington Lottery logotips.
Attīstītāju reakcija
Vašingtonas Loterijas pārstāvji paziņoja, ka "cieti strādāja ar AI izstrādātājiem, lai noteiktu stingras parametrus". Un mēneša laikā lietojumprogramma bija ģenerējusi "tūkstošiem" atbilstošu attēlu.
Taču viena ģenerācija kļūdainai pieprasījumam bija pietiekama, lai slēgtu lietojumprogrammu.
Izstrādātāji nesniedza informāciju par to, kādas mākslīgā intelekta modeļa bija izmantotas vietnes izveidē. Tomēr izstrādātāji noteica noteikumus, saskaņā ar kuriem cilvēku attēliem jābūt pilnīgi tērptiem.
Pēc incidenta tika veikts rūpīgs visu parametru pārbaude. Un, lai arī bija "apmierināti ar iestatījumiem", tomēr "izlēma slēgt vietni piesardzības nolūkā, jo nevēlējās, lai kaut kas līdzīgs atkārtotos".
Loterijas pārstāvis norādīja, ka ģenerētā AI saturs var nebūt tik vienkāršs. Lai gan modeļiem, piemēram, Stable Diffusion un DALL-E, ir filtri, lai novērstu seksuālu vai vardarbīgu attēlu veidošanu, pētnieki ir atklājuši, ka šie modeļi neizbēgami radīs nepieņemamus attēlus laikam pa laikam.
Turklāt ar nelielām pūlēm attīstītāji patstāvīgi var apiet aizsardzības sistēmas. Piemēram, nesen Microsoft mākslīgā intelekta attīstības vadītājs Šeins Džons atklāja drošības caurumu un lika neironu tīklam DALL-E radīt atklātus un brutālus attēlus.
Komentāri (0)
Šobrīd nav neviena komentāra