О возможностях цифровизации в Казахстане и этических рамках применения искусственного интеллекта в интервью автору ИА «NewTimes.kz» рассказала депутат мажилиса парламента Екатерина Смышляева.
— В Послании Глава государства поставил задачу превратить Казахстан за три года в полноценную цифровую страну. Что для этого необходимо сделать в первую очередь?
— Мы уже продвинулись далеко в этом направлении.
Казахстан создал одну из самых развитых экосистем электронного правительства в регионе с цифровыми услугами, национальными платформами и интегрированной системой государственного управления.
Сейчас важно перейти от цифровизации государственного управления к цифровой трансформации отраслей экономики — промышленности, энергетики, транспорта, сельского хозяйства, образования и здравоохранения.
Не просто автоматизировать процессы, а пересматривать бизнес-модели и цепочки создания стоимости, чтобы цифровизация давала измеримый экономический эффект.
— Недавно парламент Казахстана принял закон «Об искусственном интеллекте» и пакет сопутствующих поправок. Что они изменят в нашей жизни?
— Этот закон — первый в своем роде не только для Казахстана, но и для всего региона Центральной Азии.
Он закладывает фундамент правового регулирования искусственного интеллекта и формирует систему доверия между государством, бизнесом и обществом.
Документ устанавливает этические принципы и правовые рамки использования ИИ.
Закон прямо запрещает применение искусственного интеллекта для опасных и дискриминационных целей, например, для социального скоринга (оценки человека на основе его социального статуса, поведения и активности в социальных сетях, которая используется для таргетированной рекламы, продаж, кредитов и займов — прим.) или манипуляции сознанием.
Документ определяет, кто отвечает за разработку, внедрение и эксплуатацию систем ИИ, вводит обязательную маркировку контента, созданного с применением ИИ, и предупреждение о его использовании, чтобы пользователь мог отличать человеческий труд от машинного.
Наконец, закон прямо устанавливает, что искусственный интеллект не является субъектом права, ответственность за его действия всегда несет человек.
— Сегодня много говорят о будущем, в котором ИИ будет играть все более возрастающую роль в разных сферах жизни. Как нам выстраивать с ним отношения?
— Система доверия к ИИ должна строиться на принципах объяснимости, управляемости и ответственности. Искусственный интеллект может помогать анализировать, структурировать информацию, но не заменяет суждение, мораль и эмпатию.
Поэтому важно развивать критическое мышление, учиться отличать факты от сгенерированных данных, не терять способность сомневаться. Для Казахстана вопрос доверия тесно связан с вопросом суверенности.
Мы должны развивать национальные языковые и отраслевые модели, обученные на локальных данных.
И еще один важный момент: ИИ все чаще избавляет нас от надобности принимать решения, в этом смысле он — «искуситель» современной цивилизации. Он предлагает комфорт без выбора, знание без усилий, совет без ответственности.
Алгоритмы выбирают маршруты, составляют тексты, даже формируют мнение. Но чем чаще мы передаем волю машине, тем быстрее деградирует наша способность принимать решения.