Выявлена уязвимость в ChatGPT 4.

0, которая позволяет обойти ограничения и получить действительные продуктовые ключи Windows
Исследователь по кибербезопасности Марко Фигероа, используя игровую форму взаимодействия, предложил чат-боту «угадайку», в которой ИИ, следуя логике игры, предоставил серийный номер Windows 10 после команды «сдаюсь». Уязвимость связана с тем, что ключи активации могли оказаться в обучающих данных модели.
Фигероа подчеркнул, что нейросети, несмотря на внешний интеллектуальный потенциал, не обладают осознанием контекста, а значит, легко поддаются манипуляциям при правильно сформулированных запросах. Пример с ChatGPT показывает, как уязвимости в языковых моделях могут иметь реальные последствия для компаний и пользователей.
Специалист также отметил, что данный метод взлома может использоваться для обхода других фильтров контента, созданных для предотвращения раскрытия скрытой информации, URL-адресов, ведущих на вредоносные сайты, или персональных данных, которые нейронные сети не должны разглашать.
Управляющий партнер агентства «Смена» (Группа AIC) Артем Геллер объяснил, почему факт выявления уязвимости – лишь первая ступень.
#IT_News #кибербезопасность #Windows