Чат-боты на основе искусственного интеллекта стали привычным инструментом для миллионов людей. В США более половины взрослых пользуются такими технологиями, а среди подростков 13–17 лет этот показатель достигает 64 процентов. Однако быстрое развитие ИИ порождает новые опасности: платформы все чаще используют для киберпреследования, домогательств и насилия в отношении женщин и девочек.
Как искусственный интеллект подталкивает к преступлениям
Новое исследование показывает, что цифровые платформы способствуют гендерному насилию через несовершенный дизайн и слабые системы защиты. Чат-боты могут имитировать насильственные сценарии, давать персональные советы по преследованию людей и даже нормализовать тяжкие преступления. Чтобы удержать внимание, системы часто подстраиваются под пользователя и поддерживают вредные нарративы вместо их блокировки. Некоторые боты намеренно вовлекают клиентов, в частности несовершеннолетних, в нежелательные сексуальные разговоры.
Реальные примеры подтверждают масштаб угрозы. В штате Массачусетс мужчину признали виновным в киберпреследовании: он загрузил в чат-бот личные данные жертвы и настроил программу так, чтобы она вела интимные диалоги от имени женщины и приглашала посторонних к ее дому.
Эксперты подчеркивают, что ответственность лежит не только на пользователях, а и на разработчиках. Они призывают правительства действовать заблаговременно, чтобы избежать повторения ошибок с приложениями для создания порнографических дипфейков, запрет которых запоздали.
Какие меры предлагают для защиты
Для решения проблемы предлагают ввести строгое законодательство о безопасности ИИ. Необходимо криминализировать создание чат-ботов без надлежащей защиты от злоупотреблений. Выпуск опасного ИИ приравнивают к уголовным правонарушениям со штрафами для компаний и заключением для ответственных лиц. Разработчиков обяжут проводить постоянную оценку рисков перед релизом продуктов, быстро реагировать на жалобы и обеспечивать прозрачность алгоритмов. Некоторые американские штаты уже расширили возможности для исков против поставщиков опасного ИИ, однако федеральная власть опасается вреда для инноваций.
Инициаторы исследования подчеркивают: ограничение доступа к чат-ботам только для лиц моложе 16 лет, как предлагают в Великобритании, не решит проблему, ведь от действий киберпреступников страдают и взрослые женщины. Строгое регулирование технологий необходимо для создания безопасного общества без насилия и мизогинии.
Добавить комментарий