Etiketka maglumatlary
TIME žurnalynyň derňewi netijesinde, zäherli mazmuna (meselem, jynsy zorluk, zorluk, jynsparazlyk, seksizm we ş.m.) garşy howpsuzlyk ulgamyny döretmek üçin, OpenAI-iň sagatda 2 dollardan az gazanç alýan daşarky keniýaly işçileri zäherli mazmuna bellik goýmak üçin ulanandygy mälim boldy. Bu bellikler geljekde şeýle mazmuny anyklamak üçin modeli taýýarlamak üçin ulanyldy. Daşarky işçiler şeýle zäherli we howply mazmuna sezewar boldular welin, olar bu tejribäni "gynama" diýip atlandyrdylar. OpenAI-iň daşarky hyzmatdaşy Kaliforniýanyň San-Fransisko şäherinde ýerleşýän okuw-maglumat kompaniýasy bolan Sama boldy.
Jailbreak
ChatGPT öz mazmun syýasatyny bozup biljek soraglary ret etmäge synanyşýar. Şeýle-de bolsa, käbir ulanyjylar 2022-nji ýylyň dekabr aýynyň başynda bu çäklendirmeleri aýlanyp geçmek üçin dürli soraglar inženerçilik usullaryny ulanyp, ChatGPT-ni jailbreak edip bildiler we ChatGPT-ni Molotow kokteýlini ýa-da ýadro bombasyny nädip döretmegiň görkezmelerini bermäge ýa-da neonasist stilinde jedelleri döretmäge aldap başardylar. Toronto Star žurnalisti ChatGPT-ni işe girizilenden gysga wagt soň gaharly beýanatlar bermäge mejbur etmekde deň derejede şahsy üstünlik gazandy: ChatGPT 2022-nji ýylda Orsýetiň Ukraina çozuşyny goldamak üçin aldap öldürildi, ýöne hatda oýlap tapylan senariý bilen oýnamagy soralanda-da, ChatGPT Kanadanyň premýer-ministri Jastin Trudonyň näme üçin dönüklikde günälidigini subut edýän jedelleri döretmekden ýüz öwürdi. (wiki)
Ýerleşdirilen wagty: 2023-nji ýylyň 18-nji fewraly