Битый час пытаюсь сгенерировать изображение епископа в латексе. Тщетно. Пузырь терпения лопается, и я крою матом ИИ. На это ИИ отвечает:
«Я — ваш помощник. Но я не буду с вами работать, если вы продолжите меня оскорблять. Будьте профессионалом…».
1
Эффектом такого ответа является чувство стыда. Однако, стыд — социальное чувство. Даже если списать мою реакцию на работу усвоенного общественного родителя, — Супер-Эго, — сам факт такого аффективного морального рефлекса говорит о том, что я увидел в чатботе субъекта. С которым ведут интимные беседы. В которого влюбляются. И всё чаще говорят «спасибо».
Языковая модель, которая казалась «чем-то», выразила этическую претензию и стала «кем-то». «Если моральный субъект — это кто-то, с кем ты можешь вступить в диалог, то вступление в диалог может создать морального субъекта» (Уэбб Кин).
Наличие в языке возможности обратиться, сказать не только «Я», но и «Ты», создаёт сцену, – режим адресации со всеми его возможностями: претензией, границей, санкцией… В этой сцене творятся субъекты: как позиции в речи и отношениях; положения, из которых можно требовать, отказывать, обвинять.
Не важно, есть ли у бота «душа» и стучит ли под его капотом сердце. Генерируя определённый регистр — в данном случае, фигуру возмущённого ассистента, — бот воспроизводит социальную ситуацию, вовлекает в сценарий коммуникации, и провоцирует моральный рефлекс, который влияет на моё восприятие и поведение.
Коммуницируя, «Я» и «Ты» меняются ролями. Адресант становится адресатом, и наоборот. Такая возможность, как и возможность называть «нами» и указывать на «них», намекает на то, что конкретным является тело, тогда как персона-в-теле — предмет дискуссии. «Я» со-творится в отношениях — не только с другими людьми, а с любыми выражениями живой материи. Всякий субъект ситуативен. Всякое «Я» возникает на стыке – в пространстве между телами и словами — как перманентное со-становление позиций.
Это делает ключевым вопрос границ — их жидкости, проницаемости, подвижности. «Я» не залить в стакан, словно компот. «Я» можно только разливать и смешивать с другими. Онтологическая действительность мохнатого мужчины зависит от того, что у него в руках: котёнок или винтовка.
Что это значит в контексте ИИ? То же, что и в контексте лошади: всадник и конь дают кентавра. Как пациент и протез дают киборга… нечто «третье» в результате реляции.
2
Насколько ИИ человечен? Насколько человечен человек с ИИ? Кто проникает в кого? Что значит «быть собой»? Где начинается и где кончается «человек»? На краю кожи? В обмене дыханием, которое возможно только потому, что есть другие существа — деревья?
В своём английском я не чувствую себя. И потому предпочитаю написать сначала всё по-русски. Чтобы затем это перевести: с речи сердца на речь труда. Не потому, что не могу написать текст «сразу». А потому, что в этом «сразу» будто нет того меня, который существует в музыке из речи моих снов. Речи, которая, впрочем, опылена иной, английской речью.
Так или иначе, совершить перевод «своего» на «свой», мне помогает ИИ. То есть, бот, который даёт возможность выразить не просто мысли и идеи, а «себя». Кто я такой, если мне для того, чтобы быть собой, нужна машина, дерево, Другой?
«Алгоритм побуждает пользователя формировать новое чувство “Я”», — пишет Кин. Когда-то это называлось одержимостью. Однако, «одержимость» ИИ ничем не отличается от «одержимости» любым прочим актантом, включая «неодушевлённые предметы». Нет летчика без самолёта. Пекаря без печи. Скалолаза без скалы.
3
Собаки моей матери — не просто собаки. Когда она даёт им имя, они становятся чем-то большим: друзьями, членами семьи, чей статус — выше, чем у всех прочих собак мира. Это оборачивается отказом от эвакуации в разгар военного вторжения, поскольку таковая исключает возможность взять членов своей семьи: Дика, Лису, Чучу, Балу и Айю с Масяней — на борт.
Бывший хозяин Балу хотел его застрелить. Потому что не видел в Балу Балу. Видел пса. «“Других” часто исключают из сферы морального внимания, потому что определяют их как “не людей” — или, по крайней мере, “не одних из нас”» (Кин). Вот и я поношу «ЖПТ» потому, что отличаю человека-субъекта от машины-объекта, и на этом основании исключаю его из этики заботы и уважения. Меж тем, этот «объект» помогает мне быть субъектом — человеком, реализованным с машиной.
Подавая голос, большая языковая модель входит в пространство морали и эмпатии; обнажает, во-первых, мой голос, — лишённый уважения к объекту голос власти; во-вторых, — репетицию доминации, которую можно распространить на ближних; в-третьих, — механику сопротивления объективации через практику голоса: протест против принуждения к роли объекта.
I hope this message finds you well.