>- Вопрос о том, могут ли системы ИИ быть сознательными, становится все более актуальным.
В интернете появился сайт OnlyFake, с помощью которого любой пользователь может создать фотографию поддельных документов. При этом данных о создателях сервиса нигде нет.
Сервис функционирует на основе нейросети и может создавать поддельные фотографии как паспорта, так и водительских прав. Генерация изображения занимает минуты, при этом стоимость услуги относительно невысока - всего порядка 1,4 тысяч рублей.
На сегодняшний день с помощью нейросети можно получить фотографии паспортов и водительских прав 26 государств, в том числе России, США, Великобритании, Австралии, Канады и ряда стран Евросоюза.
Для генерации изображения достаточно выбрать шаблон, написать необходимую информацию и загрузить фото. Затем ИИ обрабатывает запрос и за короткое время создает документ, который для большей убедительности можно замаскировать под „неудачное" фото.
Фотографии документов, подделанных с помощью нейросетей, могут стать опасным инструментом в руках злоумышленников.
Например, таким образом можно попробовать записать на имя пользователя сайт, распространяющий противоправную информацию, взять небольшой кредит (в случае перехвата контроля над каналами коммуникации жертвы), оформить SIM-карту и даже попробовать зарегистрировать фирму-однодневку, предупреждают эксперты.
Сейчас сервис недоступен. Так, открытие интернет-страницы сопровождается надписью - Site is down. Everything will be restored soon ("Сайт не работает. Скоро всё будет восстановлено").
Аналоги сервиса OnlyFake давно есть на рынке.
Подобные вызовы неизбежны в условиях развития цифровизации.
Искусственный интеллект, прежде всего, инструмент. В одних руках он может привести к благу, в других - к нарушению закона. На последнее мы должны своевременно реагировать.
Отсутствие регулирования искусственного интеллекта может привести к серьезным вызовам в будущем. При этом необходим баланс. Избыточное регулирование может привести к тому, что развитие технологии если не остановится, то значительно замедлится. С этим уже столкнулись некоторые страны. Правовая рамка должна быть гибкой, но ограничивающей использование технологии в противоправных целях.
Сейчас уже идет активная проработка вопроса о маркировке контента, созданного при помощи ИИ.
Это первое с чего мы должны начать. Пользователь всегда должен знать, кто стоит за созданием контента: реальный человек или робот.
