Последици от ChatGPT

В киберсигурността

Check Point Research и други отбелязаха, че ChatGPT може да пишефишингимейли изловреден софтуер, особено когато се комбинира сOpenAI Codex.Изпълнителният директор на OpenAI написа, че напредващият софтуер може да представлява „(например) огромен риск за киберсигурността“ и също така продължи да прогнозира „можем да стигнем до истински AGI (изкуствен общ интелект) през следващото десетилетие, така че трябва да приемем риска от това изключително сериозно”.Алтман твърди, че докато ChatGPT „очевидно не е близо до AGI“, човек трябва „да се довери наекспоненциален.Плоско гледане назад,вертикален поглед напред.”

В академичните среди

ChatGPT може да пише въведение и абстрактни раздели на научни статии, което повдига етични въпроси.Няколко статии вече са посочили ChatGPT като съавтор.

вАтлантикасписание,Стивън Маркеотбеляза, че ефектът му върху академичните среди и особеноесета за кандидатстванепредстои да се разбере.Калифорнийският гимназиален учител и автор Даниел Херман написа, че ChatGPT ще постави началото на „края на английския в гимназията“.ВПриродатасписание, Крис Стокел-Уокър посочи, че учителите трябва да са загрижени за учениците, които използват ChatGPT, за да възлагат писането си на външни изпълнители, но че доставчиците на образование ще се адаптират, за да подобрят критичното мислене или разсъждение.Ема Боуман сNPRнаписа за опасността учениците да плагиатстват чрез инструмент за изкуствен интелект, който може да изведе предубеден или безсмислен текст с авторитетен тон: „Все още има много случаи, в които му задавате въпрос и той ще ви даде много впечатляващо звучащ отговор, който е просто грешен.“

Джоана Стърн сThe Wall Street Journalописа измама в американския гимназиален английски език с инструмента, като изпрати генерирано есе.Професор Дарън Хик отУниверситет Фурманописва забелязването на „стила“ на ChatGPT в доклад, изпратен от студент.Онлайн GPT детектор твърди, че е 99,9 процента вероятно хартията да е компютърно генерирана, но Хик няма твърди доказателства.Въпреки това, въпросният ученик призна, че използва GPT, когато се сблъска с него, и в резултат на това се провали на курса.Хик предложи политика за даване на ad hoc индивидуален устен изпит по темата на хартията, ако студентът е силно заподозрян, че изпраща хартия, генерирана от AI.Едуард Тиан, старши студент вПринстънския университет, създаде програма, наречена „GPTZero“, която определя каква част от даден текст е генериран от AI, позволявайки да бъде използвана за откриване дали едно есе е написано от хора за борбаакадемично плагиатство.

От 4 януари 2023 г. Министерството на образованието на град Ню Йорк ограничи достъпа до ChatGPT от своя интернет и устройства в държавните училища.

В заслепен тест беше оценено, че ChatGPT е издържал изпити за висше образование вУниверситет на Минесотана ниво C+ студент и приWharton School на Университета на Пенсилванияс оценка B до B-.(Уикипедия)

Следващия път ще говорим за етичните проблеми на ChatGPT.