Только биологические существа способны к сознанию. Разработчики и исследователи должны прекратить работу над проектами, предполагающими обратное, заявил руководитель ИИ-отдела Microsoft Мустафа Сулейман в разговоре с CNBC.

Топ-менеджер Microsoft выступает против перспективы создания искусственного интеллекта, способного к сознанию, или ИИ-сервисов, которые якобы могут страдать.

В августе Сулейман написал эссе, в котором предложил новый термин — «кажущийся сознательным ИИ» (Seemingly Conscious AI, SCAI). Такой искусственный интеллект имеет все признаки разумных существ и, следовательно, кажется, что имеет сознание. Он симулирует все характеристики восприятия себя, но внутренне пуст.

Приписывать ИИ сознание опасно, считает эксперт. Это будет усиливать заблуждения, создавать новые проблемы зависимости, эксплуатировать наши психологические уязвимости, вводить новые измерения поляризации, усложнять уже существующие споры о правах и создавать колоссальную новую категориальную ошибку для общества.

В 2023 году Сулейман стал автором книги The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma, в которой подробно рассматриваются риски ИИ и других новых технологий. Среди них:

Рынок искусственного интеллекта движется в сторону AGI — общего искусственного интеллекта, способного выполнять любые задачи на уровне человека. В августе глава OpenAI Сэм Альтман сообщил, что данный термин, возможно, «не очень полезный». Модели развиваются быстро и вскоре мы будем полагаться на них «все больше и больше», считает он.

Для Сулеймана важно провести четкую грань между тем, что искусственный интеллект становится умнее, и его способностью когда-либо испытывать человеческие эмоции.

По словам эксперта, это очень важное различие. На самом деле искусственный интеллект создает восприятие — кажущееся повествование об опыте — о себе и о сознании, но он не испытывает этого на самом деле.

В сфере искусственного интеллекта есть предложенная философом Джоном Серлом теория под названием биологический натурализм. Она гласит, что сознание зависит от процессов живого мозга.

Топ-менеджер против идеи исследования сознания у ИИ, поскольку у него его нет. Он сказал, что Microsoft создает сервисы, которые осознают, что они являются искусственным интеллектом.