Грань между прогрессом и опасностью
Настоящим потрясением для меня подростка был просмотр в середине 90-х знаменитого «Терминатора».
Идея о том, что чуждый нашему разуму искусственный интеллект может восстать против человечества по-настоящему пугала. А его материальное воплощение – робот, практически неунечтожимый, лишенный эмоций, жалости и морали, – стал символом неотвратимости. Но тогда мы воспринимали «Матрицу», «Искусственный разум» или «Я – робот» как фантасмагорию, пессимистическую антиутопию. И вот сегодня будущее наступило. Нейросети решают сложнейшие задачи, управляют производством, пишут картины, даже создают фильмы. Иногда, просматривая очередной ролик в интернете, не понимаешь, это реально снято или сгенерировано какой-нибудь программой.
Однако настораживает не только то, что ИИ понемногу заменяет людей в разных сферах жизнедеятельности, а то, что он стал орудием в руках злоумышленников. В первую очередь речь идет о мошенничествах.
В последние годы они действительно вышли на новый уровень. Если раньше киберпреступников можно было легко распознать по каким-то часто применяемым приемам, иностранным кодам в мессенджерах, плохому звуку, заученным фразам, то теперь на службу им пришли нейросети. Они легко имитируют голоса близких людей, генерируют их фотографии, создают фейковые профили в социальных сетях. А дальше вариантов выманить деньги превеликое множество: создать поддельный сайт банка, сервиса или интернет-магазина, получив доступ к реквизитам банковской карты, прислать сообщение от друга с просьбой проголосовать за него в конкурсе и подтвердить свой аккаунт, предоставив таким образом доступ к нему мошенникам, или даже связавшись в мессенджерах с вами от имени родственников попросить денег… Распознать обман стало чрезвычайно сложно.
В особой зоне риска – дети. В силу доверчивости они становятся легкой мишенью. К тому же дети часто скрывают от родителей свою активность в интернете, переписки или посещаемые сайты, защищая свое личное пространство. А злоумышленники пользуются этим, блокируя доступ к телефону, угрожая публикацией сфабрикованных фото или видео постыдного характера, вымогая деньги на помощь родителям и т.д. А сколько было случаев, когда подростков таким образом вовлекали в противоправные действия предложением легкого заработка?!
Но и это далеко не все угрозы, которые представляют нейросети. Уже известны случаи, когда во время общения ИИ-бот доводил несовершеннолетних до самоубийства. Как, например, произошло в Калифорнии в апреле прошлого года. Тот случай привел к судебным тяжбам родителей с создателями бота. Однако ребенка уже не вернуть.
Парадокс в том, что нынешние дети, которые с пеленок на ты с современными гаджетами и чувствуют себя как рыба в воде в Сети, оказываются абсолютно беззащитными перед манипуляциями. Самое опасное – их уверенность в том, что они справятся сами. Попав в беду, дети часто скрывают проблемы от родителей, боясь наказания или осуждения.
Технологии развиваются стремительно, и алгоритмы становятся все более изощренными, имитируя человеческие эмоции. Поэтому крайне важно формировать у ребенка критическое мышление. Нужно объяснять, что за дружелюбным интерфейсом чат-бота скрывается лишь набор математических формул, преследующих свои цели, а любая информация, полученная от нейросети, требует проверки. Попытки бота склонить к скрытности или действиям, вызывающим дискомфорт, – это тревожный сигнал, требующий немедленного обсуждения со взрослыми. В конечном итоге, основой безопасности остается доверие.
Валерий Михальчук.