Бот — новый поворот

Сначала всех захватили сюрреалистичные картины Midjourney. Задав программе ключевые слова на нужную тематику и совсем немного повозившись, любой желающий мог относительно быстро и бесплатно получить впечатляющее произведение. Нейросеть соединяла привычные образы таким необычным способом, который создавал полную иллюзию оригинального авторского взгляда на реальность. Зрители приходили в восторг: искусство и впрямь стало принадлежать народу.

Почти сразу настала очередь бота с искусственным интеллектом ChatGPT. Эксперименты в этой области, понятно, велись давно, но только сейчас получился всё еще несовершенный, но уже и правда эффектный образец. Много шума наделала история студента РГГУ, за которого ChatGPT фактически написал диплом, прошедший все проверки и с успехом защищенный. Известно об этом стало только потому, что сам выпускник с удовольствием рассказал обо всём в соцсетях. После разбирательства Минобрнауки, кстати, не стало аннулировать результаты: министр Валерий Фальков назвал это, во-первых, хорошим «испытанием системы на прочность», а во-вторых, прецедент, по его мнению, показывает, что университетам пора перестраиваться. То есть как-то, видимо, учитывать существование продвинутых нейросетей.

Да ладно уж, большинство дипломов еще и не такой левой ногой писались и пишутся. Министерство право: нейросеть может быть как минимум инструментом в обучении — от прогресса бежать глупо. В сущности, чем нейросеть принципиально отличается от калькулятора или онлайн-переводчика? Когда-то у студентов были библиотеки, и дипломные работы нужно было писать пером от руки. Потом появились интернет и принтеры. Теперь процесс просто автоматизируется и ускоряется еще сильнее.

Конечно, пока что процесс работы нейросетей сильно корректирует человек. Человек же оценивает результат, считая его подходящим или нет. Тем не менее нейросеть уже способна выдать достаточно связный текст. Сейчас испытатели системы с торжеством рассказывают, как им удалось поставить бота в тупик и найти ошибку в ответах, но каждая такая проверка служит лишь уроком для нейросети.

На Западе, где такие боты используются активнее, по этому поводу идет неслабая дискуссия. Некоторые преподаватели запрещают пользоваться ими, другие пытаются переосмыслить процесс обучения. Теперь людям нужно учиться быть не столько авторами, сколько редакторами, говорят они. Нейросеть — продукт, произведенный человеком для упрощения рутинной работы, такой же, как многие другие до этого, и запрещать этот продукт — луддизм. Другие возражают: одно дело машинное производство каких-то предметов, и совсем другое — создание интеллектуального продукта, непосредственно влияющего на мнение и поведение людей. Если тебя сагитировал человек, это считается более приемлемым, чем машина, даже если агитацию запрограммировал тот же человек.

В творчестве нейросетей множество плюсов: они могут объяснять что-то разными словами множество раз, упростить административную работу. формулировать лучше, чем человек, и помочь ему заняться на самом деле уникальной работой. С другой стороны, они так же великолепно будут помогать кибермошенникам, от которых и сейчас-то прохода нет.

В демократических странах с помощью ИИ теоретически возможно организовать в соцсетях лоббистские кампании невероятных размеров: бот способен генерировать комментарии и обращения в таких количествах, которые не снились никаким «фабрикам троллей». С тем же успехом ИИ подойдет для изображения стихийных народных порывов, Валентина Терешкова будет уже не нужна (а еще в соцсетях уже шутят про то, как нейросеть можно обучить писать доносы). И мы, в общем-то, не знаем, не происходит ли всё это уже сейчас.

Нейросеть как минимум сможет заменить властям армию экспертов. Но самое интересное начнется тогда, когда ИИ начнут доверять принятие решений, а это рано или поздно произойдет просто из соображений человеческой лени. Велик соблазн переложить ответственность на «умную машину»: раньше лидеры обращались к оракулам, отчего бы нынешним не впасть в технологическое язычество?

Если допустить нейросети в политику (разумеется, чтобы просто проверить, правильно ли мы всё делаем), никто не даст гарантий, что результат не окажется неожиданным. Может быть, ИИ, проанализировав историю человечества, скажет, что имперско-колонизаторский период оптимален и вообще всякая власть от бога, и что тогда с этим делать? Конечно, боту можно задать ограничения, но штука в том, что задавать-то их будут те, кто бота изготовил. Появятся идеологически заряженные нейросети, рекомендующие правителям делать то, что они и так собирались.

Эйфорию от технологического комфорта трудно преодолеть (и не всегда понятно, зачем). Пандемия уже открыла для нас преимущества удаленной работы и обучения, и это совсем не конец пути. Но на нём предстоит научиться как использовать силу технологий, так и обходить риски. Ну, если, конечно, вовсе не запретить их как чуждую ценность.