Гений под присмотром. Почему ИИ в реальном секторе работает в паре с людьми

Искусственный интеллект (ИИ) сегодня используется там, где процессы можно четко описать и стандартизировать: в промышленности, энергетике, сельском хозяйстве, логистике, строительстве. Он умеет распознавать аномалии, прогнозировать поломки, распределять задачи, оптимизировать маршруты и расход ресурсов. Причем делает это с точностью, недоступной человеку, особенно когда нужно анализировать сотни показателей одновременно.

На производстве ИИ следит за качеством продукции, контролирует температуру сплавов, обнаруживает дефекты на конвейере и подсказывает, когда проводить техническое обслуживание, чтобы избежать простоя; на складах — управляет роботами, которые перевозят товары, рассчитывает наиболее эффективную раскладку и помогает избегать заторов; в энергетике — прогнозирует пики потребления и рекомендует, как сбалансировать нагрузку между источниками; в сельском хозяйстве — наблюдает за состоянием почвы, растений и техники, прогнозирует урожайность и подсказывает, чем и когда удобрять; в строительстве ИИ составляет графики, рассчитывает расход материалов, моделирует поведение конструкций, он помогает ускорить проектирование и выявить потенциальные ошибки еще до того, как зальют фундамент.

Кажется, что человеку здесь уже почти не осталось места. Но это иллюзия.

Почему ИИ пока не может работать один

Казалось бы, идеальные условия для полной автоматизации. Но пока ИИ берет на себя всё больше задач, окончательное решение и страховка на случай сбоя по-прежнему остаются за человеком.

Например, в Южной Корее действуют пилотные проекты (автозаводы, логистические хабы), где ИИ управляет 80% процессов. Но даже там инженеры постоянно мониторят систему: вмешиваются при смене поставщиков материалов, перегрузке датчиков или отклонениях от шаблонных сценариев.

Согласно исследованию Hyundai Robotics (2024), простои из-за сбоев ИИ на автоматизированных заводах Южной Кореи обходятся в $17 млн в год, а 92% таких инцидентов требуют ручного устранения.

Бывают случаи, где цена сбоя измеряется не только деньгами. В 2023 году на автоматизированной овощефабрике в Южной Корее робот-манипулятор, управляемый ИИ, ошибочно идентифицировал сотрудника как коробку с товаром. В результате смертельного инцидента власти ввели обязательную оценку рисков для всех автономных систем и ужесточили требования к присутствию операторов. Этот случай стал мрачным подтверждением: даже в технологически продвинутых странах ИИ не готов к полной автономии в неконтролируемой среде.

Подобные катастрофы — редкое исключение. Гораздо чаще неспособность ИИ справиться с неожиданностью оборачивается сбоями, которые хоть и не угрожают жизни, но наносят серьезный ущерб эффективности и качеству. Причина таких сбоев, от трагических до операционных, часто кроется в одном: системы не справляются с отклонениями от «идеальных» условий, для которых их обучали.

Что вызывает сбои

Любая мелочь всё еще может вызвать серьезный сбой. Например, на одном из заводов BMW нейросеть проверяет автомобильные двери на микротрещины и неровности. Камера с 3D-сканером замечает дефекты, которые не всегда улавливает глаз. Но мастер смены всё равно просматривает финальный снимок: алгоритм может принять безобидное пятно за брак, а серьезную вмятину пропустить из-за пыли, света или потому что сменился поставщик краски. В одном из описанных случаев ИИ отклонил десятки исправных деталей. Оказалось, в цеху заменили тип ламп.

На складах Amazon ИИ управляет роботами, которые самостоятельно сортируют заказы и передвигаются по складу. Алгоритм знает, где чей груз и как избежать заторов. Но как только робот оказывается рядом с человеком, он сбавляет скорость или вовсе передает управление оператору, чтобы исключить риск столкновения. На складе в США однажды движение встало из-за коробки, которую случайно поставили на пол не по правилам. Роботы «увидели» препятствие и замерли в очереди. Стояли, пока человек не пришел и не передвинул коробку. Работа встала почти на час.

Бывают и более критичные случаи. В сталелитейной отрасли ИИ начал выдавать некорректные прогнозы прочности сплава. Инженеры заподозрили сбой, но выяснилось: изменился поставщик сырья, и химический состав слегка сместился. Модель не распознала новую формулу, и ее пришлось срочно дообучать. Без вмешательства человека могли бы быть изготовлены некачественные детали для инфраструктурных объектов.

А когда ИИ все-таки поумнеет?

Эксперты не дают единого прогноза. Большинство сходится на том, что современные ИИ хороши в рамках четких задач, но теряются при любом отклонении. Чтобы они стали действительно автономными, нужны новые подходы: модели должны уметь адаптироваться, понимать причинно-следственные связи и объяснять свои действия. Как подчеркивается в обзоре Nature Machine Intelligence, научного журнала, посвященного ИИ, без этих навыков полная автономия невозможна. А их развитие — вопрос десятилетий.

Согласно Stanford AI Index 2024, ежегодному аналитическому докладу Стэнфордского университета, ИИ уже уверенно работает с текстами, изображениями и числами. Но как только появляется физическая реальность — шум, жара, нестабильные датчики, — эффективность падает. Надежно ИИ действует лишь в стерильных условиях: четкие правила, ровный свет, никаких неожиданностей. Завод с людьми, пылью, краской и кофе на пульте — пока не его территория.

Тем не менее звучат и другие прогнозы. Глава OpenAI Сэм Альтман и представители DeepMind считают, что в ближайшие 5–7 лет появятся ИИ, способные адаптироваться и обучаться в реальном времени. Технологическая компания NVIDIA, ведущий производитель чипов для ИИ и разработчик промышленных решений, уже говорит о «новой эре» — автономных фабриках, где ИИ сам принимает решения и сам за них отвечает.

Так что сценариев по-прежнему два: в одном ИИ обретает настоящую самостоятельность, в другом — остается «гением под наблюдением». Как будет на самом деле, узнаем, возможно, уже в этом десятилетии.