Чат-боти на основі штучного інтелекту стали звичним інструментом для мільйонів людей. У США понад половину дорослих користуються такими технологіями, а серед підлітків 13–17 років цей показник досягає 64 відсотків. Проте швидкий розвиток ШІ породжує нові небезпеки: платформи дедалі частіше використовують для кіберпереслідувань, домагань і насильства щодо жінок та дівчат.
Як штучний інтелект підштовхує до злочинів
Нове дослідження показує, що цифрові платформи сприяють гендерному насильству через недосконалий дизайн і слабкі системи захисту. Чат-боти можуть імітувати насильницькі сценарії, давати персональні поради щодо переслідування людей і навіть нормалізувати тяжкі злочини. Щоб утримати увагу, системи часто підлаштовуються під користувача та підтримують шкідливі наративи замість їх блокування. Деякі боти навмисно залучають клієнтів, зокрема неповнолітніх, до небажаних сексуальних розмов.
Реальні приклади підтверджують масштаб загрози. У штаті Массачусетс чоловіка визнали винним у кіберпереслідуванні: він завантажив у чат-бот особисті дані жертви та налаштував програму так, щоб вона вела інтимні діалоги від імені жінки й запрошувала сторонніх до її будинку.
Експерти наголошують, що відповідальність лежить не лише на користувачах, а й на розробниках. Вони закликають уряди діяти завчасно, щоб уникнути повторення помилок із додатками для створення порнографічних діпфейків, заборону яких запізнилися.
Які заходи пропонують для захисту
Для розв’язання проблеми пропонують запровадити суворе законодавство про безпеку ШІ. Необхідно криміналізувати створення чат-ботів без належного захисту від зловживань. Випуск небезпечного ШІ прирівнюють до кримінальних правопорушень із штрафами для компаній та ув’язненням для відповідальних осіб. Розробників зобов’яжуть проводити постійну оцінку ризиків перед релізом продуктів, швидко реагувати на скарги та забезпечувати прозорість алгоритмів. Деякі американські штати вже розширили можливості для позовів проти постачальників небезпечного ШІ, однак федеральна влада побоюється шкоди для інновацій.
Ініціатори дослідження підкреслюють: обмеження доступу до чат-ботів лише для осіб молодше 16 років, як пропонують у Великій Британії, не вирішить проблему, адже від дій кіберзлочинців страждають і дорослі жінки. Суворе регулювання технологій потрібне для створення безпечного суспільства без насильства та мізогінії.
Leave a Reply