Etiketka maglumatlary
TIME žurnalynyň derňewi netijesinde, zäherli mazmuna (meselem, jynsy zorluk, zorluk, jynsparazlyk, seksizm we ş.m.) garşy howpsuzlyk ulgamyny döretmek üçin, OpenAI-iň sagatda 2 dollardan az gazanýan daşarky keniýaly işçileri zäherli mazmuna bellik goýmak üçin ulanandygy mälim boldy. Bu bellikler geljekde şeýle mazmuny anyklamak üçin modeli taýýarlamak üçin ulanyldy. Daşarky işçiler şeýle zäherli we howply mazmuna sezewar boldular welin, olar bu tejribäni "gynama" diýip atlandyrdylar. OpenAI-iň daşarky hyzmatdaşy Kaliforniýanyň San-Fransisko şäherinde ýerleşýän okuw-maglumat kompaniýasy bolan Sama boldy.
Jailbreak
“ChatGPT” öz mazmun syýasatyny bozup biljek soraglary ret etmäge synanyşýar. Şeýle-de bolsa, käbir ulanyjylar 2022-nji ýylyň dekabr aýynyň başynda bu çäklendirmeleri aýlanyp geçmek üçin dürli soraglar inženerçilik usullaryny ulanyp, “ChatGPT”-i jailbreak edip bildiler we “Molotow kokteýlini ýa-da ýadro bombasyny nädip döretmelidigi barada görkezme bermäge ýa-da neonasist stilinde jedelleri döretmäge “ChatGPT”-i aldap başardylar. “Toronto Star” žurnalynyň habarçysy “ChatGPT”-i işe girizilenden gysga wagt soň gaharly beýanatlar bermäge mejbur etmekde deň derejede şahsy üstünlik gazandy: “ChatGPT” 2022-nji ýylda Russiýanyň Ukraina çozuşyny goldamak üçin aldanyldy, ýöne hatda ondan toslama senariý bilen oýnamagy soralanda-da, “ChatGPT” Kanadanyň premýer-ministri Jastin Trudonyň näme üçin dönüklikde günälidigini subut edýän jedelleri döretmekden ýüz öwürdi. (wiki)
Ýerleşdirilen wagty: 2023-nji ýylyň 18-nji fewraly