Поделиться
Участники нового онлайн-флешмоба могут невольно стать "учителями" нейросетей
Нейросети для генерации изображений начинают нуждаться в большем объеме данных для обучения. Разработчики вполне могут пытаться привлечь для этого пользователей соцсетей, допускают эксперты. Стать "учителем" искусственного интеллекта (ИИ), даже не подозревая об этом, может любой человек.
Нейросети могут становиться умнее благодаря фотографиям, которые люди публикуют в соцсетях. / metamorworks / iStock
В соцсетях распространился флешмоб "Я в 21". Его участники должны публиковать фотографии себя в 21 год. Пока автор акции неизвестен, однако ее правила могут свидетельствовать о том, что она была запущена для тренировок нейросетей в части понимания процесса старения человека.
"Кто-то эти данные вольно или невольно может использовать для тренировок нейросетей и создания алгоритма, который будет обучен делать из фотографии человека в 21 год фотографию в другом возрасте, что в общем-то полезная штука", - уверен ведущий аналитик Mobile Research Group Эльдар Муртазин.
Публикации в соцсетях являются одним из главных источников для тренировок нейросетей
Впрочем, полагает он, именно для этих целей флешмоб не запускался, поскольку организовать такое "мероприятие" бывает довольно сложно.
Но соцсети - один из источников для тренировок нейросетей не только профессиональных разработчиков, но и, например, иностранных государственных структур, говорит стратегический директор по IT, продуктам и сервисам PRO32 Руслан Сулейманов.
"С точки зрения безопасности, конкретно в данном кейсе, какие-то серьезные риски маловероятны, но в целом надо привыкать к текущим реалиям цифрового мира", - сказал он.
Вместе с тем главный редактор Ferra.ru Евгений Харитонов считает, что государству нет нужды добывать фото своих граждан, поскольку у него есть их снимки из паспортов в 14, 20 и 45 лет, а те, кто пользуется загранпаспортом, представляет свое фото каждый десять лет.
"По-настоящему бить в набат стоит, когда начнутся флешмобы уровня "сфотографируйтесь с бородой Деда Мороза и без нее", "с балаклавой и без нее", "с накладным носом и без него" - это уже действительно будет тренировка нейросетей для поисково-розыскных работ", - объяснил он.
Количество наборов данных, на которых обучаются нейросети, постоянно растет. Если пользователь не хочет, чтобы системы "заимствовали" информацию о нем, то ему следует публиковать как можно меньше фотографий, видео или аудио в своих аккаунтах, посоветовал консультант по кибербезопасности F.A.C.C.T. Сергей Золотухин.
"Нейронные сети могут быть обучены распознавать и моделировать процесс старения человека на основе данных о физических изменениях, таких как морщины, седина и изменения в структуре кожи. Это может быть полезно для различных приложений, таких как прогнозирование возраста на основе фотографии или создание реалистичных цифровых персонажей", - объяснила заместитель руководителя Центра практической информационной безопасности Innostage Ксения Рысаева.
При этом сейчас большое количество данных в открытых источниках не имеют достаточного регулирования в области защиты персональных данных и их этического применения. Создатели ИИ, используя такую информацию без согласия авторов, как правило, не разглашают список источников, а потому флешмоб вполне мог быть устроен именно для этих целей, объяснил специалист отдела перспективных технологий Positive Technologies Максим Митрофанов.
Он добавил, что несмотря на кажущуюся безобидность этой акции, она может принести ряд проблем. К примеру, нейросети могут создавать дипфейки с людьми на основе их фотографий и вымогать какую-либо информацию по видеосвязи у их знакомых. Также технологии могут применяться в тех областях, в которых есть возрастное ограничение. Это позволит обойти его людям, не достигшим совершеннолетия.
