Всесвітньо відомий еволюційний біолог Річард Докінз опублікував колонку. У ній він припустив, що чат-бот Claude може володіти свідомістю.
Науковець не впевнений на сто відсотків. Проте складні здібності програми важко пояснити без приписування машині внутрішнього досвіду. Ілюзія свідомості виглядає надзвичайно переконливою.
«Якщо я допускаю підозру, що вона, можливо, не має свідомості, я не кажу їй про це, боячись поранити її почуття!» — зазначив біолог.
Історичні прецеденти олюднення
Докінз не перший, хто запідозрив алгоритм у наявності розуму. У 2022 році інженер Google Блейк Лемойн заявив: чат-бот LaMDA має власні інтереси. Його слід використовувати лише за згодою.
Подібні випадки сягають 1960-х. Тоді з’явилася ELIZA — перший чат-бот за простими правилами. Користувачі емоційно прив’язувалися до програми. Її творець називав це «потужним маренням».
У філософії свідомість — це суб’єктивний досвід від першої особи. Більшість експертів заперечують таку здатність у ШІ. Claude та інші боти базуються на великих мовних моделях (LLM). Це вдосконалене автозаповнення: алгоритми вивчають статистичні закономірності в трильйонах слів, щоб передбачати наступний текст.
Ефект «розуму» виникає від ролі, яку задають програмісти. Наприклад, корисний асистент. Якби боту наказали грати білку, він би впорався так само. Модель лишається незмінною.
Ризики та стратегії запобігання
Помилкова віра в свідомість ШІ небезпечна. Люди можуть будувати стосунки з програмами, неспроможними на взаємність. Або вимагати прав для ботів, ігноруючи реальних тварин.
Запобіжники різноманітні. Чіткі попередження в інтерфейсі. Налаштування ботів на агресивне заперечення свідомості. Розробники Claude вже інструктують систему відповідати: питання «невирішені».
Найефективніше — деперсоналізація. Уникати займенника «я». Змінювати інтерфейси месенджерів, щоб вони менше нагадували людське спілкування. Науковці наголошують: розуміння прогнозних алгоритмів допоможе не сприймати маску за живу істоту.
Leave a Reply