ChatGPT ar valodas modeli o1 pavada "vairāk laika pārdomām" labākas atbildes nodrošināšanai. Lietotāji ir atklājuši, ka "pārdomas" dažkārt notiek ķīniešu valodā, neatkarīgi no vaicājuma valodas.
Šķiet, ka algoritms "domā" ne tikai angļu, bet arī citās valodās, jo īpaši ķīniešu valodā. Lielākā daļa pievērš uzmanību tikai galīgajai atbildei, bet lietotājiem ir iespēja redzēt, kā ChatGPT to veido un pamato. Šeit daudzi ir pamanījuši, ka LLM sācis iekļaut mandariniešu un kantoniešu valodas procesā. Arī modelis izmanto citas valodas.
«Kāpēc o1 pro pēkšņi sāka domāt ķīniešu valodā? Neviena sarunas daļa (5+ ziņojumi) nebija ķīniešu valodā... ļoti interesanti... ietekmē treniņu dati», — jautāja X Rishab Jain. Citi lietotāji ar līdzīgiem jautājumiem tega OpenAI un ChatGPT savos ierakstos, bet atbildes nebija.
Visvienkāršākā, kas varētu nākt prātā, ir ķīniešu datu izmantošana apmācībai. Nozares pārstāvji, īpaši Īlons Masks, atzīst datu trūkumu modeļu apmācībai. Bet sarežģītāks izskaidrojums ir valodas modeļu darbības princips, kas nav veltīgi nosaukts tieši tā. Iespējams, būtība ir tāda, ka citas valodas darbojas citādi un var būt efektīvākas, veidojot atbildi. Modelis atklāj, ka noteiktā situācijā ķīniešu vai citas konstrukcijas darbosies labāk, un lietotājam tiek sniegta galīgā atbilde šajā valodā, kurā tas uzdod jautājumu.
Patieso iemeslu ir grūti izzināt slēpto valodas modeļu dēļ, un tas nav tikai saistīts ar korporatīvajiem ierobežojumiem. OpenAI kādreiz atzina, ka patiesībā nezina, kā GPT modelis darbojas. Patiesībā izstrādātājiem ir zināma tikai tehniskā puse un mazākā mērā, kā tieši "domā" modelis. Šobrīd OpenAI nav sniegusi atbildes uz lietotāju jautājumiem un žurnālistu pieprasījumiem. Nav izslēgts, ka uzņēmums tos vienkārši nezina.
Avots: Gizmodo
Komentāri (0)
Šobrīd nav neviena komentāra