В Европе одобрили закон об искусственном интеллекте. Что это значит для цифрового будущего Казахстана?

Как будет применяться данный закон и какие его основные положения? С этими и другими вопросами мы обратились к казахстанскому эксперту по правовым вопросам в области искусственного интеллекта и цифровизации Маулену Алимханову.

— Вы участвовали в реализации таких казахстанских проектов, как «Единый реестр досудебных расследований», «Электронное уголовное дело», системы предиктивной аналитики АИС «Зандылык», где играли ключевую роль со стороны юридического сопровождения. Что вы можете сказать об европейском законе об искусственном интеллекте? Как бы он улучшил реализацию казахстанских проектов в сфере цифровизации либо, наоборот, ограничил бы их развитие?

— Если применить европейский закон в ретроспективе наших проектов, то, на мой взгляд, он придал бы еще больший импульс и понимание вещей в глобальном масштабе. Здесь вы правильно отметили сторону юридического регулирования цифровых продуктов. Ведь раньше для нас главным стоял лишь вопрос технической реализации проектов. Иными словами, основную работу делали программисты, которых направляли юристы, чтобы сделать продукт с элементами использования больших данных (Big Data) и искусственного интеллекта. Этой работой мы начали заниматься с 2015 года. В результате в Казахстане появлялись специалисты на стыке IT и юриспруденции. И это хорошая тенденция. Однако сегодня все мировое юридическое сообщество работает над тем, чтобы определить правильный баланс именно юридического регулирования цифровых разработок. То есть чтобы закон, с одной стороны, не останавливал инновационный прогресс, но в то же время обеспечивал защиту прав человека при использовании нейросетей. Именно поэтому европейский закон направлен на регулирование технологий искусственного интеллекта на всех его стадиях. Предусмотрены строгие требования к соблюдению авторских прав, прозрачности обучения систем, их тестирования и мер кибербезопасности. Однако это лишь первый серьезный закон по своим масштабам, и, возможно, правоприменительная практика приведет к новым законодательным мерам с более жесткими ограничениями.

— То есть вы думаете, что будут и другие законы, в том числе в Европе?

— Несомненно. По большому счету, сейчас развивается совершенно новая отрасль права, поскольку мир вступает в революционную эпоху, где мы не сможем представить нашу жизни без использования нейросетей. К примеру, в юридическом сообществе сегодня еще больший интерес вызывают рекомендации консультативного органа Генерального секретаря ООН по искусственному интеллекту. Их окончательная редакция ожидается летом этого года, в преддверии саммита будущего. Эксперты ООН уже почти год работают над этими рекомендациями. Однако мир уже сталкивается с угрозами преступного использования систем ИИ, которые уже сегодня требуют ограничения и контроля. Именно поэтому принятие европейского закона об искусственном интеллекте является своевременным ответом, который поможет всем, в том числе и Казахстану, выстроить правильное направление развития законодательной базы.

— Какие угрозы вы имеете в виду? Расскажите подробнее о положениях европейского закона об ИИ.

— Не секрет, что системы искусственного интеллекта могут с легкостью сгенерировать видео с изображением и голосом любого человека, что в последующем может быть использовано в преступных целях. К примеру, видео с подростком, который будет просить родителей отправить выкуп преступникам, которые его якобы похитили. Европейский закон жестко контролирует создание таких аудио- и видеоматериалов. К примеру, если пользователь генерирует подобный материал, то он будет обязан открыто отмечать его как фейковый (deepfake). В противном случае его использование запрещено. Иными словами, программа просто не даст человеку сгенерировать такой материал.

— А если преступники найдут способ обойти нейросеть и сгенерировать видео или иной продукт, который они смогут использовать в преступных целях?

— Хороший вопрос. Я понимаю, что преступники стараются идти на шаг вперед. Но здесь надо четко разграничить, что мощные нейросети создаются не одним человеком, а целой компанией. Поэтому европейский закон предусмотрел превентивные меры. К примеру, такие технологические гиганты как Google, Microsoft и OpenAI работают во всех направлениях, в том числе в части разработки систем кибербезопасности и машинного обучения. Все мировое сообщество понимает серьезность угрозы использования нейросетей, а также их разработок. С одной стороны, важно не остановить инновации, с другой — создать сдерживающий механизм, чтобы компании-разработчики сами понимали, что они первые должны вводить механизмы недопущения совершения преступлений. Европейский закон подходит к этому достаточно жестко. К примеру, компании, которые не обеспечат выполнение его требований, могут быть оштрафованы до 35 миллионов евро, или на 7% от их годовой глобальной выручки.

— А когда начнут применяться положения европейского закона об ИИ и как это законодательство повлияет на бизнес?

— Сейчас закон направлен для подписания в Европарламент. В целом он начнет действовать через 20 дней после официального опубликования. Однако в законе прямо предусмотрено, что разные его положения будут вводиться поэтапно, что зависит от степени риска систем искусственного интеллекта. К примеру, положения о «запрещенных» системах будут применяться уже через шесть месяцев после вступления закона в силу. Одним из них является ограничение на использование систем распознавания лиц в общественных местах. Исключения, которые сможет использовать полиция, будут требовать санкции судьи.

В целом компаниям в сфере ИИ будет предоставлен трехлетний транзитный период, чтобы привести свою работу в соответствии с положениями закона. Однако системы «общего назначения» будут регулироваться гораздо раньше — спустя 12 месяцев после вступления в силу. К ним относятся системы для написания текстов, такие как модули ChatGPT и Gemini. Системы распознавания речи, изображения, генерации аудио, видео отнесены к категории ограниченного риска, продукты которых должны будут открыто помечаться как сгенерированные искусственным интеллектом. Более мощные нейросети, которые будут нести в себе угрозу системных рисков, столкнутся с дополнительными требованиями, включая проведение оценок моделей, смягчение рисков, отчетность о случаях нарушений прав человека и т. д.

— Может ли Казахстан извлечь пользу из внедрения подобных регулирований?

— Несомненно да, ведь юридическое сообщество всего мира пристально наблюдало за принятием европейского закона, и Казахстан не исключение. Наша страна поставила цель — стать одним из крупнейших цифровых хабов. Начата работа по разработке казахстанского цифрового кодекса. Однако мы должны понимать, что некоторые положения европейского закона уже могут быть имплементированы в казахстанское законодательство, не дожидаясь завершения работы по разработке цифрового кодекса. К примеру, положение о судебном санкционировании использования систем ИИ сотрудниками правоохранительных и специальных органов. Применение систем с высокой степенью риска несет в себе угрозу, которую ограничивают на территории ЕС. Ведь одно дело — создать саму систему искусственного интеллекта и совсем другое — понимать, как ее правильно регулировать в юридическом плане и какие права должны иметь наши граждане. И если в плане IT-разработок мир уже вошел в революционную эпоху, то юридическое регулирование до сих пор остается открытым вопросом.