Рост популярности ChatGPT и других генеративных языковых моделей вызвал дискуссию о необходимости регулировать сферу искусственного интеллекта (ИИ). Институт статистических исследований и экономики знаний НИУ ВШЭ проанализировал первые законодательные инициативы в этой сфере, принятые или обсуждаемые в Евросоюзе, Китае, России и США.
Весной 2023 года ученые и представители IT-индустрии опубликовали открытое письмо с призывом приостановить хотя бы на полгода обучение систем ИИ мощнее ChatGPT 4, чтобы за это время разработать соответствующие протоколы безопасности. В мае Сэм Альтман, глава компании OpenAI, разработавшей ChatGPT, заявил о необходимости создать специальное агентство для лицензирования систем ИИ, чтобы снизить риски, возникающие при использовании технологии. Тогда же стали появляться новости о разработке и принятии законов в области регулирования ИИ различными странами. На данный момент более всего проработаны три законодательных инициативы.
Европа: градация рисков ИИ-систем
В декабре 2023 года Европарламент и Евросовет после трехдневного обсуждения согласовали положения Закона об искусственном интеллекте (AI Act). Документ призван защитить от высокорискового искусственного интеллекта (ИИ) гражданские права и демократию, обеспечить верховенство закона и экологическую устойчивость, стимулировать инновации и вывести Европу в лидеры в области ИИ. Еврокомиссар по вопросам внутренней торговли и услуг Тьерри Бретон назвал декабрьское согласование положений историческим, заявив, что ЕС стал «первым континентом, установившим четкие правила в сфере ИИ».
Подготовка европейского законопроекта началась еще в 2020 году, его первая версия была опубликована в апреле 2021-го. Законопроекту предстоит еще пройти одобрение государств — членов ЕС, после чего будет опубликована финальная версия. В силу он вступит не ранее 2025 года, уточняют эксперты.
В основе законопроекта лежит риск-ориентированный подход: документ подразделяет системы ИИ на запрещенные вредоносные ИИ-практики; высокорисковые системы ИИ, на которые как раз и распространяются большинство регуляторных мер; системы ограниченного риска, разработчики которых должны соблюдать требования к прозрачности процессов; системы с низким или минимальным риском, на которые не налагаются никакие ограничения.
В отношении высокорисковых систем ИИ вводятся следующие правила. Для обеспечения прозрачности компании-разработчики, а также государственные организации, использующие в своей работе такие решения, будут обязаны зарегистрироваться в базе данных ЕС по высокорисковым системам ИИ, управляемой Еврокомиссией. Причем разработчики обязаны регистрировать свои продукты в общеевропейской базе данных еще до их вывода на рынок. Высокорисковые системы ИИ должны соответствовать ряду требований по риск-менеджменту, тестированию, технической надежности, обучению и управлению данными, прозрачности, кибербезопасности и управляемости людьми. Поставщикам за пределами Евросоюза потребуется уполномоченный представитель в ЕС, который оценит соответствие продуктов европейским нормам и при необходимости поможет их скорректировать.
Без штрафов никуда
Согласно законопроекту, системам ИИ, используемым для биометрической идентификации, потребуется оценка специализированного органа. Особые правила вводятся и для так называемых фундаментальных моделей — систем на основе ИИ, способных компетентно выполнять широкий спектр задач: создавать видео, тексты, изображения, программные коды. К этой группе относятся и системы генеративного ИИ (одной из них является ChatGPT): их разработчики будут обязаны сообщить, какие объекты авторского права использовались для обучения модели.
Штрафы за нарушения закона об ИИ в ЕС устанавливаются на уровне € 35 млн (3,4 млрд рублей) или 7% годового оборота компании — за нарушение запрета на применение ИИ; € 15 млн (1,5 млрд рублей) или 3% оборота — за нарушение обязательств по закону об ИИ; € 7,5 млн (731,6 млн рублей) или 1,5% — за предоставление неверной информации.
В рамках Еврокомиссии будет создано Управление по ИИ (AI Office), которое будет отслеживать передовые модели ИИ, содействовать развитию стандартов и практики тестирования, а также обеспечивать соблюдение правил во всех странах — членах ЕС. Группа независимых экспертов будет консультировать Управление по ИИ по вопросам классификации новых фундаментальных моделей и возможных рисков их применения. Для стимулирования инноваций, создания среды для разработки и тестирования ИИ-решений в реальных условиях организуются регуляторные «песочницы».
США: стандарты и безопасность данных
В конце октября 2023 года президент США Джо Байден подписал Указ о безопасном, надежном и заслуживающем доверия ИИ. Как и европейский законопроект, американский документ требует от создателей систем ИИ прозрачности процессов: они обязаны делиться с американским правительством данными о результатах тестирования безопасности и другой критически важной информацией до того, как разработка выйдет на рынок.
Для повышения безопасности использования технологий на базе ИИ Национальный институт стандартов и технологий разработает стандарты, которым должны соответствовать эти системы. Министерство торговли создаст руководство по маркировке контента, созданного при помощи ИИ, во избежание распространения дезинформации.
Особое внимание в американском указе уделяется повышению безопасности персональных данных. Разработками технологий сохранения конфиденциальности будет заниматься Координационная сеть исследований (объем финансирования в указе не уточняется; проекты, связанные с внедрением передовых технологий сохранения конфиденциальности данных федеральных агентств США, будет поддерживать Национальный научный фонд).
США намерены активизировать исследования в области ИИ посредством Национального ресурса исследований в области ИИ (National AI Research Resource) — пилотного проекта, который предоставит ученым и студентам доступ к данным в сфере ИИ. Кроме того, планируется увеличить число грантов на изучение ИИ в таких областях, как здравоохранение и изменение климата.
США усиливают международное сотрудничество. Так, буквально на следующий день после подписания Джо Байденом рассматриваемого указа вице-президент Камала Харрис приняла участие в Первом международном саммите по безопасности ИИ, организованном Великобританией. По его итогам была принята Декларация Блетчли, фиксирующая обязательства государств регулировать развитие технологий ИИ.
Китай: особые правила для генеративного ИИ
Принятые в КНР летом 2023 года «Временные меры по управлению генеративными системами искусственного интеллекта» являются одними из первых в мире в данной области. Согласно документу, разработчики генеративного ИИ отвечают за весь генерируемый контент. Помимо предписаний улучшать его точность и надежность, в целом повышать прозрачность услуг, разработчики обязаны не создавать контент, подрывающий социалистические ценности или подстрекающий к свержению государственного строя, защищать персональные данные пользователей и соблюдать права на интеллектуальную собственность и частную жизнь.
Правилами устанавливается необходимость предотвращать дискриминацию по какому-либо признаку и ограждать несовершеннолетних от чрезмерного использования генеративного ИИ. Разработчики обязаны разъяснять, как именно применяется такой контент, предлагать понятный механизм подачи и обработки жалоб и обратной связи. Правила поощряют сотрудничество в сфере ИИ между предприятиями, университетами, научно-исследовательскими институтами и государственными учреждениями, а также участие представителей КНР в разработке международных норм, связанных с генеративным ИИ. Сотрудничество с другими странами должно строиться на равноправной и взаимовыгодной основе.
Опыт России
В России также готовится законопроект о регулировании в сфере ИИ. Как сообщил в апреле 2023 года зампредседателя комитета Госдумы по информационной политике Антон Горелкин, особое внимание в документе будет уделяться защите рынка труда от негативного влияния ИИ. Законопроект должен определить ответственность за разработку систем ИИ и создаваемый с их помощью контент и исключить использование технологии мошенниками.
На ускорение темпов развития ИИ нацелена и подготовка стандартов в этой сфере. В июне 2023 года стало известно, что Минцифры создает стандарт персональных данных для систем и сервисов, использующих средства ИИ, а Росстандарт открыл доступ к более чем 60 стандартам в сфере ИИ, подготовленным Техническим комитетом по стандартизации №164 «Искусственный интеллект».
Свои рекомендации относительно применения ИИ на финансовом рынке в ноябре выпустил ЦБ РФ. Придерживаясь в этом вопросе риск-ориентированного подхода, регулятор планирует, например, отслеживать оборот обезличенных персональных данных, участвовать в выработке подходов к распределению ответственности за генерируемый контент и использованию разработчиками сторонней инфраструктуры обработки данных.
В середине декабря правительство внесло в Госдуму законопроект об изменениях в Федеральном законе «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». Инициатором нововведений выступило Минэкономразвития, которое еще весной 2023 года опубликовало поправки к закону об антикоррупционной экспертизе. Согласно предложенным изменениям, компании — участники экспериментальных правовых режимов (ЭПР) должны будут вести, во-первых, учет технологий, созданных с применением ИИ; во-вторых, реестр лиц, с которыми возникли правоотношения (в частности, в нем будут фиксироваться сведения о лицах, ответственных за причинение вреда в результате использования технологий, созданных с применением ИИ).
Участники ЭПР будут обязаны страховать гражданскую ответственность за вред, который может возникнуть в результате использования ИИ. Выявление причин и обстоятельств, вызвавших такие последствия, возлагается на специально созданную комиссию, в составе которой будут представители уполномоченного и регулирующего органов, предпринимательского сообщества и иные лица. Отчеты комиссии о причинах и обстоятельствах произошедшего, а также о мерах по возмещению ущерба будут публиковаться в интернете.
