Сгенерированные изображения применяют для унижения одноклассников и давления на учителей, что разрушает нормальную образовательную среду – такую проблему озвучил накануне вице-спикер Госдумы Борис Чернышов, обращаясь к главе Роскомнадзора с предложением «ограничить создание интимных дипфейков». Идею поддержали в комитетах Госдумы по защите семьи и по развитию гражданского общества, а также в Национальной родительской ассоциации. Все согласились, что для школьников такой навык ИИ – лишь инструмент кибербуллинга. Родители в тематических чатах с этим согласны, добавляя, что если даже такое делается «в шутку» или «из любопытства», проблем все равно не оберешься.
— В нашей школе эта проблема уже вышла на второй виток, — признается мама восьмиклассника столичной школы с математическим уклоном. – У нас все детки, как выражаются они сами, «шарят» во всех новинках IT. Некоторые прямо маленькие хакеры, умеют обходить любые ограничения. Но кошмар уже даже не в этом. У нас был случай, когда девочка сама кинула в мессенджер мальчику, не обращавшему на нее внимания, свои откровенные фотки. Дождалась, когда ничего не подозревающий мальчик откроет сообщение, сделала скрины и стала всем в школе показывать, уверяя, что это он ее раздел нейросетками. Конечно, в данном случае обиженная невниманием девочка просто хотела доказать одноклассникам, что парень лишь делает вид, что ее не замечает, а сам оголяет ее фотки. Но такими темпами завтра кому-нибудь придет в голову оговорить обидчика по серьезному. И ведь когда мальчик говорит, что фотка «уже пришла раздетая», никто ему не верит.
А бабушки и дедушки и вовсе в ужасе от умений внуков:
— После того как внучок оживил по фото моего покойного мужа, я сразу сказала сыну, что добром это не кончится! – волнуется Евгения Сергеевна, столичная бабушка. – Мальчик только в 6-м классе, а что же будет к концу школы?! Мне кажется, что такие вещи не во благо детям, они их и отвлекают, и снимают внутренние границы. Любого можно хоть раздеть, хоть воскресить, хоть умертвить – будто это не настоящая жизнь, а какая-то игра! В мое время ходили байки об инфракрасной пленке: мол, если на нее сфотографировать, на фото получишься голой. Но кто мог подумать, что эта байка оживет!
Причастные к IT-технологиям противники «раздеваторов» предлагают ударить по ним законодательством, внеся поправки в закон «О защите информации», что позволит заблокировать их вовсе. Но тут пожимают плечами те, кто профессионально работает с фоторедакторами:
— Тогда это будет очень сложная точечная система ограничений, — делится соображениями Игорь, студент технического вуза, подрабатывающий на новостном портале фотохудожником. – У меня нет потребности кого-то заочно раздевать по фото, но чисто технически я могу это сделать и без специальных чат-ботов. Да и любой подросток, интересующийся вопросом, сможет. Берешь голову одноклассницы или учительницы, хоть с общей фото класса, приставляешь ее к любой обнаженке из фотобанка и готово.
Самые оптимистичные из родителей, хоть проблему и признают, но нашли в ней и свои плюсы.
— Моя дочь просто не вылезала из соцсетей и вечно селфилась, — делится мама девятиклассницы из Подмосковья. – Но после того, как заклятая подружка с помощью ИИ нарастила ей лишние килограммы и разослала парням, все свои фото удалила и перестала селфиться. Я вообще заметила, что вот это безудержное самофотографирование, к счастью, выходит из моды. По крайней мере, у школьников. Может, эти «раздеваторы» ускорят процесс.
— А моя дочь, — вторит мама столичной семиклассницы, — сгенерировала фото мужчины и всем показывала, будто это ее бойфренд. Фото дочкиного «парня» гуляло по чату ее одноклассников, пока какая-то ябеда не переправила классной руководительнице. А та меня вызывает в школу: вашу дочь преследует взрослый мужчина! Дочь клянется: нет никакого мужчины! Как я с ума не сошла, пока все выяснилось, до сих пор не знаю.
Подростковые психологи солидарны: нейросети разрушают психику несовершеннолетних, стирая грань между реальностью и подделкой. Правоохранители подтверждают, что навыки ИИ многим служат инструментом для травли, дискредитации и шантажа, а юристы напоминают, что некоторые страны уже ввели за изготовление интимных дипфейков штрафы и даже уголовную ответственность, признав, что запреты не помогают: сами же нейросети учат пользователей их обходить. Так, лидер этого сегмента, принадлежащий Илону Маску, накануне заявил об ограничении контента, создающего и редактирующего изображения реальных людей в откровенной одежде. Произошло это по требованию властей, сейчас проводящих проверку проверку распространения сексуализированных ИИ-дипфейков, включая изображения с участием несовершеннолетних, созданных с помощью продукта этого разработчика. Он же попал под ограничения в Великобритании, Евросоюзе и ряде стран Азии в связи с генерацией интимных дипфейков по фото без согласия изображенных на них людей.
В ответ на это платформа огласила предпринятые ею шаги: их продукт более не сможет редактировать изображения реальных людей, изображая их в бикини, нижнем белье или аналогичной откровенной одежде в тех юрисдикциях, где это запрещено законом; ограничения распространяются на всех пользователей, включая платных подписчиков; применяется геоблокировка в зависимости от законодательства конкретной страны. При этом доступ к редактированию изображений через данную платформу сохраняется лишь для пользователей с платной подпиской, что, по заявлению компании, добавляет дополнительный уровень контроля и ответственности.
Звучит убедительно, хотя суть мер многие взрослые даже не поняли – в отличие от своих детей.
— Фигня это все, — убежден отличник столичной школы с углубленным изучением информационных технологий из 7А. – Многоуровневые фильтры безопасности – всего лишь алгоритмы. А ни один алгоритм не является абсолютным, обойти его возможно даже без взлома кодировки, достаточно грамотно сформулировать запрос на фильтр визуального контента. Абсолютной защиты в генеративных моделях вообще не существует, ведь развитие ИИ идет быстрее, чем человек успевает формировать эффективные механизмов контроля.
