Amazon un Google mākslīgajam intelektam bija neveiksme, kad tie Mein Kampf nosauca par "īstu mākslas darbu".
Tiem, kas domāja, ka mākslīgais intelekts ir pietiekami gudrs, lai neiekristu acīmredzamās lamatās, te ir piemērs. Lietotāji pamanīja, ka Google meklēšanā parādījās pozitīvas Mein Kampf atsauksmes, kas bija ģenerētas no Amazon.
Problēma radās, kad mākslīgais intelekts mēģināja vispārināt lasītāju atsauksmes, pilnībā zaudējot kontekstu. Atsauksmes par grāmatu galvenokārt bija saistītas ar drukas kvalitāti, lasāmības vieglumu vai vēsturisko nozīmīgumu – nevis tās idejisko saturu. Tāpēc, ka AI nesaprot nianses, tas devē rezultātu: "mākslas darbs".
"Klienti uzskata, ka grāmata ir viegli lasāma un interesanta. Viņi novērtē prātīgās un gudrās izteiksmes. Druka izskatās labi un monotona. Lasītāji raksturo grāmatu kā īstu mākslas darbu. Tomēr daži uzskata saturu par garlaicīgu un depresīvu. Viedokļi atšķiras par saspringto saturu, vēsturisko precizitāti un cenas attiecību ar kvalitāti", - raksta Amazon AI, izmantojot 2067 atsauksmes.
Google padarīja situāciju interesantāku, pievienojot šo fragmentu savā AI Overviews funkcijā (kura ir paredzēta, lai ātri sniegtu "noderīgas" atbildes uz vaicājumiem). Meklēšanas rezultātā Google burtiski reklamēja Mein Kampf kā grāmatu ar "gudrām izteiksmēm".
Visticamāk, Amazon AI izrauj atsauksmju frāzes no konteksta. Tas radīja tipisku mākslīgā intelekta tukšu pārskatu, kur "ielej daudz ūdens". Ja cilvēks lasītu atsauksmes atsevišķi, viņš saprastu, ka pārskatītājs ne vienmēr atbalsta grāmatas idejas. Taču AI visu apkopotu un secinātu, ka tā ir "ģeniāla lasāmviela".
Kad žurnālisti vērsās pie Google pēc komentāra, uzņēmums uzreiz atslēdza AI atsauksmi šim meklējumam. Amazon situāciju nekomentē. Gadījums atgādina, ka AI nesaprot kontekstu un var sniegt ļoti pretrunīgas atbildes. Mākslīgais intelekts nevar aizstāt kritisko domāšanu, tāpēc uzticēties jebkurai tā atbildei nav jēgas.
Turklāt Amazon 2020. gadā uzreiz ierobežoja grāmatu savās platformās, bet vēlāk atjaunoja tās pārdošanu. Pārdošana notiek bez konteksta paskaidrojuma, un tas rada savdabīgas situācijas ar atsauksmēm.
Mein Kampf gadījums nav pirmais "neveiksmes" piemērs Google AI Overviews. Iepriekš funkcija ieteica cilvēkiem ēst līmi, norīt vienu akmeni dienā un izmantot seksa rotaļlietas bērnu nomierināšanai. Nesen Google palaida "nepatiesu" informāciju par zemestrīcēm reģionā, kur tās gandrīz nekad nenotiek. Vēl Gemini rādīja nepareizas vēsturisko figūru un grupu bildes caur dažādības politiku. Līdzīga problēma bija Apple Intelligence, kura rādīja kritiski neprecīzas ziņas.
Avots: 404 Media
Komentāri (0)
Šobrīd nav neviena komentāra