Искусственный разум загоняют в рамки
Новый проспект
Статьи

Искусственный разум загоняют в рамки

Прочитано: 1393

Рост популярности ChatGPT и других генеративных языковых моделей вызвал дискуссию о необходимости регулировать сферу искусственного интеллекта (ИИ). Институт статистических исследований и экономики знаний НИУ ВШЭ проанализировал первые законодательные инициативы в этой сфере, принятые или обсуждаемые в Евросоюзе, Китае, России и США.

Весной 2023 года ученые и представители IT-индустрии опубликовали открытое письмо с призывом приостановить хотя бы на полгода обучение систем ИИ мощнее ChatGPT 4, чтобы за это время разработать соответствующие протоколы безопасности. В мае Сэм Альтман, глава компании OpenAI, разработавшей ChatGPT, заявил о необходимости создать специальное агентство для лицензирования систем ИИ, чтобы снизить риски, возникающие при использовании технологии. Тогда же стали появляться новости о разработке и принятии законов в области регулирования ИИ различными странами. На данный момент более всего проработаны три законодательных инициативы.

Европа: градация рисков ИИ-систем

В декабре 2023 года Европарламент и Евросовет после трехдневного обсуждения согласовали положения Закона об искусственном интеллекте (AI Act). Документ призван защитить от высокорискового искусственного интеллекта (ИИ) гражданские права и демократию, обеспечить верховенство закона и экологическую устойчивость, стимулировать инновации и вывести Европу в лидеры в области ИИ. Еврокомиссар по вопросам внутренней торговли и услуг Тьерри Бретон назвал декабрьское согласование положений историческим, заявив, что ЕС стал «первым континентом, установившим четкие правила в сфере ИИ».

Подготовка европейского законопроекта началась еще в 2020 году, его первая версия была опубликована в апреле 2021-го. Законопроекту предстоит еще пройти одобрение государств — членов ЕС, после чего будет опубликована финальная версия. В силу он вступит не ранее 2025 года, уточняют эксперты.

В основе законопроекта лежит риск-ориентированный подход: документ подразделяет системы ИИ на запрещенные вредоносные ИИ-практики; высокорисковые системы ИИ, на которые как раз и распространяются большинство регуляторных мер; системы ограниченного риска, разработчики которых должны соблюдать требования к прозрачности процессов; системы с низким или минимальным риском, на которые не налагаются никакие ограничения.

В отношении высокорисковых систем ИИ вводятся следующие правила. Для обеспечения прозрачности компании-разработчики, а также государственные организации, использующие в своей работе такие решения, будут обязаны зарегистрироваться в базе данных ЕС по высокорисковым системам ИИ, управляемой Еврокомиссией. Причем разработчики обязаны регистрировать свои продукты в общеевропейской базе данных еще до их вывода на рынок. Высокорисковые системы ИИ должны соответствовать ряду требований по риск-менеджменту, тестированию, технической надежности, обучению и управлению данными, прозрачности, кибербезопасности и управляемости людьми. Поставщикам за пределами Евросоюза потребуется уполномоченный представитель в ЕС, который оценит соответствие продуктов европейским нормам и при необходимости поможет их скорректировать.

Без штрафов никуда

Согласно законопроекту, системам ИИ, используемым для биометрической идентификации, потребуется оценка специализированного органа. Особые правила вводятся и для так называемых фундаментальных моделей — систем на основе ИИ, способных компетентно выполнять широкий спектр задач: создавать видео, тексты, изображения, программные коды. К этой группе относятся и системы генеративного ИИ (одной из них является ChatGPT): их разработчики будут обязаны сообщить, какие объекты авторского права использовались для обучения модели.

Штрафы за нарушения закона об ИИ в ЕС устанавливаются на уровне € 35 млн (3,4 млрд рублей) или 7% годового оборота компании — за нарушение запрета на применение ИИ; € 15 млн (1,5 млрд рублей) или 3% оборота — за нарушение обязательств по закону об ИИ; € 7,5 млн (731,6 млн рублей) или 1,5% — за предоставление неверной информации.

В рамках Еврокомиссии будет создано Управление по ИИ (AI Office), которое будет отслеживать передовые модели ИИ, содействовать развитию стандартов и практики тестирования, а также обеспечивать соблюдение правил во всех странах — членах ЕС. Группа независимых экспертов будет консультировать Управление по ИИ по вопросам классификации новых фундаментальных моделей и возможных рисков их применения. Для стимулирования инноваций, создания среды для разработки и тестирования ИИ-решений в реальных условиях организуются регуляторные «песочницы».

США: стандарты и безопасность данных

В конце октября 2023 года президент США Джо Байден подписал Указ о безопасном, надежном и заслуживающем доверия ИИ. Как и европейский законопроект, американский документ требует от создателей систем ИИ прозрачности процессов: они обязаны делиться с американским правительством данными о результатах тестирования безопасности и другой критически важной информацией до того, как разработка выйдет на рынок.

Для повышения безопасности использования технологий на базе ИИ Национальный институт стандартов и технологий разработает стандарты, которым должны соответствовать эти системы. Министерство торговли создаст руководство по маркировке контента, созданного при помощи ИИ, во избежание распространения дезинформации.

Особое внимание в американском указе уделяется повышению безопасности персональных данных. Разработками технологий сохранения конфиденциальности будет заниматься Координационная сеть исследований (объем финансирования в указе не уточняется; проекты, связанные с внедрением передовых технологий сохранения конфиденциальности данных федеральных агентств США, будет поддерживать Национальный научный фонд).

США намерены активизировать исследования в области ИИ посредством Национального ресурса исследований в области ИИ (National AI Research Resource) — пилотного проекта, который предоставит ученым и студентам доступ к данным в сфере ИИ. Кроме того, планируется увеличить число грантов на изучение ИИ в таких областях, как здравоохранение и изменение климата.

США усиливают международное сотрудничество. Так, буквально на следующий день после подписания Джо Байденом рассматриваемого указа вице-президент Камала Харрис приняла участие в Первом международном саммите по безопасности ИИ, организованном Великобританией. По его итогам была принята Декларация Блетчли, фиксирующая обязательства государств регулировать развитие технологий ИИ.

Китай: особые правила для генеративного ИИ

Принятые в КНР летом 2023 года «Временные меры по управлению генеративными системами искусственного интеллекта» являются одними из первых в мире в данной области. Согласно документу, разработчики генеративного ИИ отвечают за весь генерируемый контент. Помимо предписаний улучшать его точность и надежность, в целом повышать прозрачность услуг, разработчики обязаны не создавать контент, подрывающий социалистические ценности или подстрекающий к свержению государственного строя, защищать персональные данные пользователей и соблюдать права на интеллектуальную собственность и частную жизнь.

Правилами устанавливается необходимость предотвращать дискриминацию по какому-либо признаку и ограждать несовершеннолетних от чрезмерного использования генеративного ИИ. Разработчики обязаны разъяснять, как именно применяется такой контент, предлагать понятный механизм подачи и обработки жалоб и обратной связи. Правила поощряют сотрудничество в сфере ИИ между предприятиями, университетами, научно-исследовательскими институтами и государственными учреждениями, а также участие представителей КНР в разработке международных норм, связанных с генеративным ИИ. Сотрудничество с другими странами должно строиться на равноправной и взаимовыгодной основе.

Опыт России

В России также готовится законопроект о регулировании в сфере ИИ. Как сообщил в апреле 2023 года зампредседателя комитета Госдумы по информационной политике Антон Горелкин, особое внимание в документе будет уделяться защите рынка труда от негативного влияния ИИ. Законопроект должен определить ответственность за разработку систем ИИ и создаваемый с их помощью контент и исключить использование технологии мошенниками.

На ускорение темпов развития ИИ нацелена и подготовка стандартов в этой сфере. В июне 2023 года стало известно, что Минцифры создает стандарт персональных данных для систем и сервисов, использующих средства ИИ, а Росстандарт открыл доступ к более чем 60 стандартам в сфере ИИ, подготовленным Техническим комитетом по стандартизации №164 «Искусственный интеллект».

Свои рекомендации относительно применения ИИ на финансовом рынке в ноябре выпустил ЦБ РФ. Придерживаясь в этом вопросе риск-ориентированного подхода, регулятор планирует, например, отслеживать оборот обезличенных персональных данных, участвовать в выработке подходов к распределению ответственности за генерируемый контент и использованию разработчиками сторонней инфраструктуры обработки данных.

В середине декабря правительство внесло в Госдуму законопроект об изменениях в Федеральном законе «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». Инициатором нововведений выступило Минэкономразвития, которое еще весной 2023 года опубликовало поправки к закону об антикоррупционной экспертизе. Согласно предложенным изменениям, компании — участники экспериментальных правовых режимов (ЭПР) должны будут вести, во-первых, учет технологий, созданных с применением ИИ; во-вторых, реестр лиц, с которыми возникли правоотношения (в частности, в нем будут фиксироваться сведения о лицах, ответственных за причинение вреда в результате использования технологий, созданных с применением ИИ).

Участники ЭПР будут обязаны страховать гражданскую ответственность за вред, который может возникнуть в результате использования ИИ. Выявление причин и обстоятельств, вызвавших такие последствия, возлагается на специально созданную комиссию, в составе которой будут представители уполномоченного и регулирующего органов, предпринимательского сообщества и иные лица. Отчеты комиссии о причинах и обстоятельствах произошедшего, а также о мерах по возмещению ущерба будут публиковаться в интернете.


IT искусственный интеллект Законодательство
Другие статьи автора Читайте также по теме
Неисполнение указаний оперативных штабов будет караться многотысячными штрафами. Такая ответственность уже вводится в Ленинградской и Курской областях. Нарушением, в частности, могут признать публикацию любой информации о мостах, заводах, портах, электростанциях и других стратегических объектах.
Государству необходимо плотно заниматься молодежной киберполитикой, чтобы отвлечь молодых людей от хакерства, решили участники конференции «Цифровая безопасность» на форуме «ЭКСПОТЕХНОСТРАЖ-2024».
03.04.2024

Этап Всероссийского чемпионата по профессиональному мастерству проходил в Петербурге на базе детского технопарка «Кванториум».

22.03.2024

Средне-Невский судостроительный завод готовит к спуску первый экскурсионный катамаран «Соммерс»
15.04.2024
Латвия отгородится от России и Белоруссии бетонным забором и "зубами дракона" за 300 млн евро
15.04.2024
Первые два поезда для ВСМ Москва-Петербург изготовят к весне 2028 года
15.04.2024
Компания "ССУ-5" победила в конкурсе на проектирование «Экопарка» в Приморском районе
15.04.2024
Опрос: более 50% россиян делают благотворительные пожертвования и дают деньги нуждающимся людям
15.04.2024
Животным разрешили летать в самолетах «Аэрофлота» на соседнем кресле с хозяином
15.04.2024
«ИТМО Хайпарк» тестирует новый формат развития легких производств в Петербурге
15.04.2024
Петербургский автодилер «Вагнер» сменил собственника
15.04.2024
Девелопер AAG купил новый участок на территории завода "Красное знамя" в Петербурге
15.04.2024
МТС тестирует в Петербурге новый формат pet-friendly магазинов
15.04.2024
Группа RBI продаст на аукционе в Петербурге коммерческие помещения в двух проектах
15.04.2024
Рейтинг крупнейших в мире производителей смартфонов возглавила корпорация Samsung
15.04.2024
Алле Пугачевой сегодня 75 лет. Она выпустила юбилейную песню
15.04.2024
Завтра в Петербурге стартует сезон летних веранд
15.04.2024
Сотрудник Setl Group сдали почти 60 литров крови для больниц Петербурга
15.04.2024
В Петербурге с начала года 143 компании признаны банкротами. Их стало больше на 70%
15.04.2024
С начала года спрос на апартаменты в Петербурге вырос в два раза
15.04.2024
«Дочка» торговой сети Auchan продала активы в России
14.04.2024
В Петербурге начинается Всероссийский гастрономический фестиваль «Своё в городе 2024»
14.04.2024
The Sun заявил о планах Киева ударить по Крымскому мосту в июле
14.04.2024
Уровень воды в Урале у Оренбурга снизился до 1178 сантиметров
14.04.2024
Водэн
VEREN
RBI
Строительный трест
InveStoreClub
РосСтройИнвест
РКС
Решение
Прайм Эдвайс
Питер
Петрополь
Петромир
Pen&Paper
Neva Coffee
Первая мебельная
Пепелаев
RRT
Colliers
Ильюшихин
Илоранта
Календарь событий

Метки