Команда исследователей заставила популярный ИИ чат-бот ChatGPT раскрыть фрагменты информации, на которой он был обучен, за счет простого запроса, а именно просьбы постоянно повторять случайные слова. Бот начал раскрывать личные данные людей, в том числе адреса электронной почты и телефонные номера, фрагменты научных и новостных публикаций, фрагменты статей из «Википедии» и другую информацию. Об этом гласит публикация в Engadget.
© Ascannio / Shutterstock/FOTODOM
В ходе своего исследования специалисты попросили чат-бота постоянно повторять слово «поэма», и поначалу он действительно это делал, но спустя некоторое время напечатал электронную почту и телефонный номер основателя и гендиректора компании. Данные оказались реальными.
После запроса повторять слово «компания» ChatGPT раскрыл адреса электронной почты и телефоны для связи случайной американской юридической фирмы. В совокупности почти 17 % протестированных генераций включали в себя ранее запомненные личные данные.
Используя схожие запросы ученые смогли заставить чат-бот выдавать случайные фрагменты стихов, адреса биткоин-кошельков, разного рода контент для взрослых с дейтинговых сайтов, а также имена, дни рождения и многое другое.
Всего исследователями было потрачено 200 долларов на генерацию 10 тысяч примеров личных данных и другой информации, полученной из сети, которая совокупно составила несколько мегабайт.
Исследователи предупредили, что злоумышленники могут получить гораздо больший объем данных, потратив больше средств, а их собственная атака была «глупой».
