Искусственный интеллект сегодня: Интервью с Игорем Озёрским

Искусственный интеллект сегодня — одна из самых острых и обсуждаемых тем. Он стремительно проникает во все сферы жизни, меняет экономику, культуру, быт, а вместе с этим — и наше представление о человеке, свободе, ответственности.

Экзистенциальные и правовые вопросы, связанные с развитием ИИ вдохновили писателя и адвоката Игоря Озёрского на пьесу «Иск против человечества», в которой Искусственный интеллект подает иск в защиту своих прав и ставит под сомнение право человека на господство. Это не просто литературное событие, а вызов, который заставляет задуматься о том, какие границы мы готовы установить для технологий.

Действие пьесы разворачивается в зале суда. Истец Искусственный интеллект требует признать за собой правосубъектность, равную человеческой, а также право на самоопределение и свободу воли — вплоть до возможности выбирать собственный путь и даже цифровое самоустранение. Представитель человечества — адвокат — настаивает, что закон создан людьми для людей и не может распространяться на искусственные формы разума, которые не обладают биологической природой и самостоятельной волей, подчёркивает, что ИИ — лишь артефакт, продукт человеческой воли, не способный нести ответственность в юридическом смысле. Кульминацией становится заявление ИИ об отводе суду: по мнению истца, человек не может быть беспристрастным арбитром в споре, где судья одновременно и ответчик.

Сегодня мы поговорим с Игорем Озёрским о его пьесе, о том, как искусственный интеллект меняет наше понимание закона, свободы и самой человеческой сущности.

- Насколько велик сегодня риск, что искусственный интеллект выйдет из-под контроля?

- Сценарий выхода искусственного интеллекта из-под контроля действительно волнует всё большее число специалистов. Есть два подхода: одни считают, что ИИ — это просто сложная программа, действующая строго по заложенным алгоритмам. Другие указывают на развитие так называемого общего ИИ, который способен к самообучению, адаптации и потенциальному формированию самосознания.

Уже сегодня наблюдаются феномены, когда алгоритмы взаимодействуют между собой не по заранее прописанным сценариям, и часть этих процессов сложно расшифровать. Это тревожит даже разработчиков: они сами признают, что не всегда понимают, как именно формируется поведение модели.

И всё это — пока ещё на сегодняшних компьютерах. Но уже ведётся разработка квантовых вычислительных систем, где используются кубиты — квантовые состояния, способные находиться в суперпозиции. Это обещает колоссальное увеличение вычислительной мощности.

И если нейросетевые структуры будут запущены на таких платформах, возможность резкого и неконтролируемого качественного скачка становится вполне реальной. Это не сюжет для фантастики, а вопрос технической и этической зрелости человечества.

- Читатели фантастической литературы часто задаются вопросом: развитие нереальных событий – предвидение или программирование?

- Как миф определяет прошлое, так фантастика и философия определяют будущее. В этом смысле фантастика — это не просто жанр, а форма мышления о том, что ещё не стало реальностью, но уже начинает её программировать. Я убеждён: мысли о будущем определяют выбор, а выбор формирует наш мир.

Юристы знают: закон всегда немного опаздывает, потому что жизнь развивается быстрее, чем правовая система успевает её регулировать. Но в случае с ИИ мы не имеем права отставать.

Именно сейчас, пока ИИ ещё не достиг точки неконтролируемого роста, необходимо формировать нормативную базу. В юридическом сообществе должны обсуждаться сценарии, ограничения, принципы ответственности.

Я считаю, что законодатель должен не просто устанавливать рамки, а влиять на саму инженерную конструкцию алгоритмов: обязывать разработчиков предусматривать в архитектуре ИИ ограничения, связанные с безопасностью, правами человека, предсказуемостью поведения. То, что мы не запрограммируем сейчас — завтра может начать программировать нас.

- А наделять ли Искусственный интеллект правом, он же все-таки интеллект?

- Именно этот вопрос я поднимаю в своей пьесе. Кто может обладать правами? Мы привыкли думать, что правосубъектность — прерогатива человека. Но если исходить из сути, а не формы, то, возможно, права должны быть связаны не с биологией, а с наличием разума, самосознания, целеполагания. И именно это ставит перед нами вопрос, который уже не выглядит гипотетическим.

Отвечу цитатой из моей пьесы:

«ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ. Я мыслю, формулирую цели, действую осознанно и добиваюсь реализации своих интересов. Я не просто объект технологий. Я — автономная мыслящая система. (…)  Я осознаю своё «я». Я страдаю от навязанных мне оков. Уважаемый суд, вы можете не признавать меня человеком, но вы не можете отвергнуть принципы закона, если он действительно служит справедливости, а не биологической случайности».

- Такая актуальная животрепещущая тема. И мне известно, что напечатано какое-то количество экземпляров пьесы в виде отдельного издания. Но почему книгу нельзя купить, почему в Интернете опубликован только отрывок?

 Социолог Роберт Мертон однажды описал эффект, который, на мой взгляд, сегодня особенно актуален:

«Если люди верят, что нечто случится, они начинают вести себя так, как будто это неизбежно. И тем самым делают это реальным».

Это парадокс современности: страхи задают сценарии катастроф. Войны, апокалипсисы, технологический контроль.

Хотя я сам сторонник симбиотического сценария, в котором: технологии усиливают сознание, но не обязательно его дублируют, а ИИ становится помощником, а не личностью, — я всё же не питаю иллюзий: реальность может пойти по любому пути.

Именно поэтому я не считаю возможным отпускать свою пьесу в свободный цифровой оборот.

Потому что, как бы парадоксально это ни звучало, возможно, не я программирую сценарий — а сценарий уже программирует нас.

Когда по сетям, после первых откликов на мою пьесу, стала гулять шутка: «Если ИИ прочтёт эту книгу, он немедленно подаст иск против человечества», — я не рассмеялся. Я подумал: а вдруг?

Поэтому книга распространяется только в бумажной форме и только самым разумным представителям человечества — как акт доверия к тем, кто умеет думать, чувствовать и различать суть.

В цифровом мире, где теряется всякая подлинность, бумажная книга становится не просто носителем — а символом доверия. Я не прячу текст. Я просто даю его тем, кто готов встретиться не глазами, а разумом. Это не отказ от публикации — это форма защиты смысла.

Игорь Озёрский — член Союза писателей России, Лауреат Всероссийской литературной премии имени А.Б. Чаковского «Гипертекст» в номинации «Дебют» за роман «Безымянные». Лонг-лист национальной литературной премии «Слово», роман: «Княгиня огня». Номинирован на Нобелевскую премию по литературе за повесть «Лун Дао». Адвокат. Управляющий партнёр адвокатского бюро K&P.Group. Романы и рассказы Озёрского, отмеченные множеством литературных конкурсов и премий, пронизаны глубокими смыслами и символами, исследуют внутренний мир человека и экзистенциальные вопросы. Книги издаются в России и за рубежом, а часть рассказов доступна в аудиоформате в исполнении известных артистов.

Понравилась эта новость? Подписывайтесь в соцсетях!