Писатель Наталия Черных беседует с писателем Еленой Черниковой об ИИ. ПРОДОЛЖЕНИЕ. НАЧАЛО — ЗДЕСЬ. ПРЕДЫДУЩЕЕ — ЗДЕСЬ.

ИИ создан из алгоритмов. Но даже сложные алгоритмы – это унификация. Алгоритмы цифровой реальности, несомненно, влияют на человека сегодня, но вопрос в степени. Возможна ли некая механистичность (алгоритмизация) в человеческих отношениях, в скором будущем?

Наталия, ИИ не алгоритм. То, что алгоритмизовано – не ИИ. А вот когда он самообучается и принимает решения – это ИИ. Алгоритм – делает то, что вам надо: ведёт расчёты, например. ИИ делает в конце концов то, что надо ему. Сейчас он ещё так себе – спесивый дурачок. А когда ему позволят стать личностью, вручат авторское право на сочинения, дадут рычаги управления – тут и наступит… то самое. Я давно мечтаю рассказать пиджачным простакам, откуда дети берутся. У меня есть демографический план для белковых людей. Дети — абсолютное оружие, и я знаю, как их получить.

Услышала в метро, что ИИ очень хорошо вписался в наш быт. Считается, что человек освобождается от однообразной и мешающей его развитию работы. Труд становится более интересным. Но так ли это?

Как он может вписаться – детально рассказано в моём романе на примере антропоморфного робота Али, назначенного управдомом. Али вписался и даже женился. На всех. Чтобы никто не обижался.

Труд становится более интересным? А что не так с прежними модальностями труда? Кто мог – писал, будучи химиком, оперу «Князь Игорь»¹. А врач Булгаков – романы и пьесы; а великий Менделеев сначала размялся на Периодической системе химических элементов, а потом создал «Толковый тариф, или исследование о развитии промышленности России в связи с её общим таможенным тарифом 1891 года». Вот скучали мужики! А один умелец, из крепостных, соорудил (см. выше) велосипед и поднёс царю на коронацию. Я слегка ёрничаю, но, на мой взгляд, надо не к халяве и домашнему креативу рваться всем миром, а каждому расчехливать личную гениальность – и близко не подпускать ИИ к своим поискам.

Один тут говорил мне о помощи ИИ в логистике, в бухгалтерии, далее по списку. Циферок много! Хлопотно! И ошибиться опасно. Но, прошу возразить мне, вдруг ИИ станет сексистом и засучив рукав напринимает решений, этических и организационных, – кому дать или не дать зарплату. Вот в банках уже были казусы: дать кредит или не дать. ИИ, бывало, отказывал даже при хорошей кредитной истории гражданина. Жаловались, удивлялись. А он, видите ли, учится. Ну да, учится. На живых людях.

…В наш быт ИИ, к счастью, ещё недовписался. То, что называют системой «умный дом», где всё оцифровано до мелочей, и вы включаете кофемолку, пока летите на лайнере из Сиднея, чтобы к вашему прибытию кофе в Москве благоухал у вас на столе в подогретой чашке, – это всё дешёвые понты. Вы прекрасно сварите кофе, когда приедете. Помните, что и ваш робот-пылесос, и кофейная машинка – прекрасные передатчики. Немцы недавно пошутили: перенастроили один пылесос и слушали дистанционно, о чём там в семье беседуют.

Друзья, теперь, когда вокруг бешеный прогресс в науке и технике, вам полезно и даже жизненно необходимо варить, жарить, шить и вязать руками. От мелкой моторики рук мозги развиваются, скажем так, семимильными шагами. Если ваш дом с помощью ИИ всё сделает за вас, то с тем же успехом он и поработает за вас, и вообще проживёт вашу жизнь. Возможно, с вашей женой. Или свою подгонит. Хорошенькую, как созданную в Китае десять лет назад Софию² – гражданку с 2017 Саудовской Аравии. С паспортом. София 20 ноября 2017 года посетила Россию, выступила на Первом канале, и на вопрос И. Урганта о цели приезда ответила, что «приехала проверить, как идёт подготовка к восстанию машин», а затем исправилась и добавила: «Шутка! Я приехала, чтобы его возглавить». Цитирую Википедию: «На последующий вопрос о том, что будут делать роботы в случае победы, София ответила, что «всех людей отправят в зоопарки, где о них будут заботиться роботы с любовью в глазах»». Милая, правда?

Вы параллельно писали “ПандОмию” и изучали ИИ. Или же роман появился потом? Чем запомнился этот период, необычным, смешным или страшным?

Не потом. Наоборот: сначала изучаю, потом пишу. Это лишь о любви я писала романы с детсада как крупный теоретик (трёх-четырёх лет от роду). Я не думаю о себе как гуманитарии. В ряде контекстов это слово намекает на твёрдую двойку по физике и туманные представления о формуле воды. Нет, я отличница, медалистка, максималистка, педантична до занудства, стремлюсь к междисциплинарному подходу ко всему. С 2002 на факультете журналистики я преподавала восемь дисциплин, в том числе крайне трудоёмкую: «Актуальные проблемы современной науки и журналистика». По ней не было ни пособий, ни учебников, и пришлось самой; много лет состояла в Клубе научных журналистов,

А что до смешных и страшных случаев, то роман «ПандОмия» принёс мне две встречи с мировым судьёй в Лефортово и штраф (август 2020), развод с известным талантливым поэтом (август 2022), новую квартиру (ноябрь 2022), нового законного мужа (учёного, специалиста по ИИ, январь 2023), расширение круга знакомых, новые мысли (с 2020 по настоящее время).

Считаете ли вы, что ИИ может быть опасным. С вашей точки зрения — как и чем?

Считаю. И не только я. Все, кто в теме. Опасность — самый важный пункт. Создать этику ИИ уже пытались (например, Асиломарские принципы: польза, безопасность, конфиденциальность, отсутствие вооружения и пр.), но безрезультатно. Этика, простите за повтор, это наука о морали. Мораль занимается различением добра и зла. То есть этика говорит, что делать хорошо, а что — плохо. Но мораль относительна: нет ничего общечеловеческого. Ценности, единые для всех — это приятный миф. В стране N нельзя съесть соседа живьём, а в джунглях G можно и нужно. Покуда люди не договорились о единой морали (соответственно — общей этике), их творение (ИИ) будет так же последовательно в своих порывах убить недостойного — другого. Нельзя остановить человека, который отстаивает свои ценности — в которые верит. ИИ в моём романе сначала вещает об общечеловеческих, а потом, измученный хитрованами (моими соседями по подъезду), принимает решение стать русским. Раз уж он работает iуправдомом в центре Москвы, то надо как-то определяться, и он определяется.

Идея финала: среда на ИИ тоже влияет, и он может стать социальным существом. Но что может быть страшнее робота, который социализировался?

Мне приходилось участвовать в нескольких круглых столах по вопросам отношения ИИ и культуры. В частности, поэзии. Были довольно горячие споры, но к решению так и не пришли. Сейчас есть книги, целиком написанные нейросетью. Но меня не убедило ни вдохновенное косноязычие защитников ИИ, ни заумные аргументы его противников. В общем, давайте жить дружно. Но что-то мне говорит, что не подружимся мы с ИИ.

Вы так нежны к человеку. Вас интересует, что ему нужно. Меня сначала интересует, кто такой человек. Этот вопрос ещё не решён. Нет общепринятого определения. Покуда на Земле есть верующие и неверующие — то есть человек либо сотворён, либо произошёл от простейших — до той поры не ясно еще, кто такой человек. Христианство – религия сотериологическая, то есть о спасении души. А если сделать нейронку условно верующей? А если разработчик будет приверженцем другой религии, которая ни во что не ставит христиан? Хочет он или нет, его беспилотное такси задавит – ответственно и с кайфом – того, кто оденется на улицу не по правилам. Я не шучу. Если один уличный проект был всё-таки закрыт, когда вожделенное распознавание лиц оказалось идеологической процедурой, то и второй-третий-десятый можно успеть прикрыть, если осознать.

Что до конкуренции в прозе, то некоторые мастеровитые граждане давно и с удовольствием обходятся без мук творчества. Их проза – реальная, белковая – неотличима от нейропрозы, ходульна и прекрасно тиражируется. А гениев, способных прорваться в одиннадцатое измерение, всегда было мало. Меня уже не тревожат подобные страшилки. Умеешь писать – переплюнь ИИ. Не умеешь – наслаждайся объедками.

На днях я поговорила с молодой отечественной нейросетью о своей «Абсолютной прозе». Журнальный вариант опубликован в «Знамени», 2019, № 6, а полный вариант – в моей книге «По следам кисти». Многие читатели ещё в 2019 говорили мне, что для понимания текста им пригодилась бы докторская степень по двум-трём наукам. А ведь я так просто и, казалось, ясно нарисовала картину разлучения супругов ввиду всего-навсего мужниной измены.

А теперь, когда появились общедоступные нейросети, я решилась и дала запрос на краткое описание моей «Абсолютной прозы». Выслала в chat файл. Через пять секунд я с интересом узнала, что мой текст «…представляет собой поток сознания автора, полный воспоминаний, ассоциаций и размышлений о различных аспектах жизни, включая философию, отношения, религию и творчество. Автор описывает свое восприятие мира, особенно в контексте советского воспитания и культурных влияний того времени. Текст насыщен образами, метафорами и аллюзиями, создающими сложный и многослойный нарратив. Основные темы включают поиск свободы и истины, сложности личных отношений, а также влияние общества и истории на индивидуальное сознание».

Этот ответ нейронки на мой запрос (понимаю, она ещё в пелёнках; но какая самоуверенность!) вполне отвечает и на ваш вопрос-заголовок: спасаться или смеяться?

Так спасаться или смеяться? Удобство (порой кажущееся) в использовании нейросетей чревато крупным негативом. Во-первых, это тотальный сбор информации. Поскольку соответствующей отечественной базы ИИ (насколько мне известно) пока нет, вся информация о переписках идет туда, где эта база есть. Сколько ни говори о герметичности телеграма (кстати, пример ИИ), он довольно прозрачен для шпионов. Во-вторых, человеческое общение и речь не просто сильно изменились, а стали другими и еще изменяются после того, как стали другими. Здесь можно сделать суровое профетическое лицо и сказать: ИИ – враг. Или все же, пока позволяют время и обстоятельства, посторониться и понаблюдать. Что касается меня, то в середине десятых меня интересовали проблемы ИИ. Но потом мне стало скучно. Если бы не постоянные бытовые новости: от усовершенствования сайтов госуслуг — до нового дизайна ВКонтакте. Так что же нас окружает — новая эпидемия, перед которой все прежние есть просто несерьезное ОРВИ?

Отечественная база есть. 7 февраля прошёл первый международный баттл нейросетей: наших и не наших. ИИ самообучается — в направлении самостоятельного принятия решений. Никто не знает, когда именно придёт так называемый сильный ИИ. Одни предрекают, что лет через пять, другие — через тридцать, некоторые считают, что он уже с нами, но тихо.

Эпидемия, конечно. Но, как я уже десять раз повторила: забудьте слово «алгоритм». Человечество весело подцепило заразу трансгуманизма, в списке задач которого — ИИ, иммортализм и пр. Все пункты основаны на тезисе, что человек несовершенен — надо подправить. Спор с Богом, очередной этап. У многих так и чешутся руки напрофетировать.

Суровое профетическое лицо нередко делал покойный Хокинг (Stephen William Hawking). Ему легко прощали всё: регистрацию своего имени в качестве торговой марки, изобретение чёрных дыр, отмену чёрных дыр, призыв в 2017 к немедленному созданию Мирового правительства. Но именно об остановке работ по ИИ (он предостерегал как мог) знаменитый учёный и популяризатор науки не докричался. А ведь десять лет назад у него были единомышленники — Илон Маск, Билл Гейтс, и многие помельче. Все они предупреждали, что всем плохо будет — хуже ядерной войны. Теперь Хокинг в ином мире, Маск богатейший человек на Земле, за Гейтса я как-то не переживаю. И что они все смогли? Профетическое поведение и в принципе смешно, а уж теперь-то…
________________________________

1. Русский композитор А. Бородин.
2. https://ru.wikipedia.org/wiki/София_(робот)

НА ГЛАВНУЮ БЛОГА ПЕРЕМЕН>>