Цифровое присутствие через ИИ-посредника: дилемма контента, сгенерированного ИИ

Всю эту неделю я писал эссе о том, как писать вместе с ИИ, и до самого конца так и не решил, моё ли это эссе. Не моё юридически, не моё технически, а моё в том смысле, в каком твоей бывает мысль, то есть в том, в котором она вообще имеет вес.

Вот посылка, и я изложу её настолько честно, насколько вообще умею. Ты садишься рядом с машиной, которая разворачивает язык, даёшь ей своё направление, свой вкус, свои возражения, читаешь всё, что она выдаёт, отбрасываешь то, что звучит фальшиво, оставляешь то, что звучит верно, и правишь до тех пор, пока результат не скажет того, что ты хотел сказать, причём скажет лучше, чем сказал бы ты сам, или по крайней мере быстрее. Вопрос, которым полна комната: ты ли это ещё создаёшь контент? И следующий за ним вопрос, а он и есть настоящий: имеет ли это вообще значение?

Что ты на самом деле делаешь

Если снять с процесса всю магию, остаётся рабочий цикл: думать, писать промпт, читать, судить, отбрасывать, переписывать, повторять. Генерация остаётся единственным шагом, который делаешь не буквально ты, и он же самый неинтересный. Интересное начинается там, где надо знать, чего ты хочешь сказать, замечать, когда машина промахнулась, и решать, что из этого выживет, а всё это делаешь ты сам. Редактора ещё никто не упрекал в том, что он не написал книгу, потому что черновик набирал кто-то другой.

Но вот в чём неудобный поворот: редактор в этом предложении несёт на себе слишком много. Хороший редактор придаёт форму, отличный вкладывает в материал самого себя, а плохой, та версия нас, которая просто кивает в такт, оказывается подписью, за которой нет ума. Инструмент эту разницу не создаёт, он только усиливает того редактора, которого ты к нему приносишь.

Корабль Тесея

Корабль Тесея всплывает снова и снова, и на сей раз это не салонный фокус. Если каждое предложение в тексте сгенерировала машина, а управлял ею твой замысел, тот ли это текст и та ли это мысль? Парадокс обычно разрешают тем, что решают, где именно живёт тождество, и для текста мой ответ такой: оно живёт в решениях, а не в предложениях. Абзац складывается из тысячи мелких выборов о том, что включить, что вырезать и что подчеркнуть, и выборы эти делаю я: машина предлагает, а располагаю всё-таки я. Корабль мой, потому что руль был мой, даже если каждая доска пришла с чужой лесопилки.

Всё-таки дилемма живёт именно в этом самом «и всё-таки», потому что в гавани стоит второй корабль, а именно корабль того, что, по мнению читателя, произошло. Если я публикую текст, а читатель предполагает, что каждую фразу держал в руках человеческий ум, не становится ли это ложью, не прямым обманом, а умолчанием? Эта часть беспокоит меня сильнее вопроса об авторстве, потому что здесь речь о доверии, а доверию прятаться за парадоксом не за чем.

Этика, если честно

Этическая проверка, к которой я возвращаюсь чаще всего, состоит не в том, кто это написал, а в том, кто за это отвечает. Если текст ошибается, путается или оказывается жестоким, кто тогда отвечает за него? Если я могу показать пальцем на машину, я уже проиграл, потому что у машины нет ни кожи, ни биографии. Настоящая проблема, которую создаёт сгенерированный ИИ контент, заключается в текстах, за которые никто не готов отвечать, и начинается она в тот момент, когда ты перестаёшь видеть в выдаче предложение и начинаешь видеть в ней готовую мысль.

Итак, этично ли это, и честный ответ таков: перед нами спектр, на котором видны три отчётливые ступени. Первая ступень: ты пользуешься машиной, чтобы развернуть свою мысль, и берёшь на себя ответственность за всё, что она выдаёт, и это не обман, это делегирование, а люди делегируют письмо тем, кто пишет лучше, чем они сами, ровно с тех пор, как появились гострайтеры. Вторая ступень: ты пользуешься машиной, чтобы изобразить работу мысли, которой не делал, и это не проблема технологии, это проблема мошенничества, и она была проблемой мошенничества задолго до того, как появилась машина. И третья ступень, та, которая беспокоит меня по-настоящему: ты перестаёшь отличать первую от второй.

>! Машина не отбирает у тебя голос, зато отбирает у тебя способность судить, но только если ты сам ей это позволишь. Парадокс начинает кусать лишь тогда, когда ты перестал держать руль.

Парадокс Тесея, если разобраться, задаёт хороший вопрос и служит плохой отговоркой. Разумеется, текст, собранный из сгенерированных фраз и управляемый моим замыслом, остаётся моим текстом, точно так же, как дом, построенный подрядчиками, остаётся моим домом. А спрашивает парадокс на самом деле о другом: могу ли я отличить свой замысел от собственного удобства. Если могу, корабль плывёт, а если нет, если я больше не различаю мысль, которую хотел, и мысль, которую подсказала машина, то это уже не корабль Тесея и не мой корабль, а просто корабль, который дрейфует, и никто не готов признать, что построил его.