Всемирно известный эволюционный биолог Ричард Докинз опубликовал колонку. В ней он предположил, что чат-бот Claude может обладать сознанием.
Ученый не уверен на сто процентов. Однако сложные способности программы трудно объяснить без приписывания машине внутреннего опыта. Иллюзия сознания выглядит чрезвычайно убедительной.
«Если я допускаю подозрение, что она, возможно, не имеет сознания, я не говорю ей об этом, боясь ранить ее чувства!» — отметил биолог.
Исторические прецеденты олюднения
Докинз не первый, кто заподозрил алгоритм в наличии разума. В 2022 году инженер Google Блейк Лемойн заявил: чат-бот LaMDA имеет собственные интересы. Его следует использовать только с согласия.
Подобные случаи уходят в 1960-е. Тогда появилась ELIZA — первый чат-бот по простым правилам. Пользователи эмоционально привязывались к программе. Ее создатель называл это «мощным бредом».
В философии сознание — это субъективный опыт от первого лица. Большинство экспертов отрицают такую способность у ИИ. Claude и другие боты основаны на больших языковых моделях (LLM). Это усовершенствованное автозаполнение: алгоритмы изучают статистические закономерности в триллионах слов, чтобы предсказывать следующий текст.
Эффект «разума» возникает от роли, которую задают программисты. Например, полезный ассистент. Если бы боту приказали играть белку, он справился бы так же. Модель остается неизменной.
Риски и стратегии предотвращения
Ошибочная вера в сознание ИИ опасна. Люди могут строить отношения с программами, неспособными на взаимность. Или требовать прав для ботов, игнорируя реальных животных.
Предохранители разнообразны. Четкие предупреждения в интерфейсе. Настройка ботов на агрессивное отрицание сознания. Разработчики Claude уже инструктируют систему отвечать: вопросы «невыясненные».
Самое эффективное — деперсонализация. Избегать местоимения «я». Изменять интерфейсы мессенджеров, чтобы они меньше напоминали человеческое общение. Ученые подчеркивают: понимание прогностических алгоритмов поможет не принимать маску за живое существо.
Добавить комментарий