Етикетиране на данни
Разследване на списание TIME разкри, че за да изгради система за безопасност срещу токсично съдържание (напр. сексуално насилие, расизъм, сексизъм и др.), OpenAI е използвала външни кенийски работници, печелещи по-малко от 2 долара на час, за да етикетират токсично съдържание. Тези етикети са били използвани за обучение на модел за откриване на такова съдържание в бъдеще. Външните работници са били изложени на толкова токсично и опасно съдържание, че са описали преживяването като „мъчение“. Аутсорсинг партньорът на OpenAI е била Sama, компания за данни за обучение, базирана в Сан Франциско, Калифорния.
Джейлбрейк
ChatGPT се опитва да отхвърля подкани, които може да нарушават политиката му за съдържание. Някои потребители обаче успяха да изградят джейлбрейк на ChatGPT, използвайки различни техники за инженерство на подкани, за да заобиколят тези ограничения в началото на декември 2022 г. и успешно подлъгаха ChatGPT да даде инструкции как да се създаде коктейл Молотов или ядрена бомба, или да генерира аргументи в стила на неонацист. Репортер на Toronto Star имаше неравномерен личен успех в това да накара ChatGPT да направи провокативни изявления малко след стартирането: ChatGPT беше подмамен да подкрепи руската инвазия в Украйна през 2022 г., но дори когато беше помолен да играе с измислен сценарий, ChatGPT се възпротиви на генерирането на аргументи защо канадският премиер Джъстин Трюдо е виновен за държавна измяна. (wiki)
Време на публикуване: 18 февруари 2023 г.