Аннотация. Недоверие правительственного аппарата к национальному экспертному сообществу; отсутствие собственной национально-ориентированной экспертизы глобальных проектов, определяющих развитие государства на десятилетия вперед; слепое и безоговорочное доверие западным рейтингам; нежелание заниматься трудоемкими аналитическими процедурами и экспертными изысканиями в противовес доступной «чужой» аналитике – эти и целый ряд иных когнитивных, политических и экономических препятствий могут иметь своим следствием потерю государством суверенитета в гуманитарной сфере. Принятая в 2024 г. в Республике Казахстан Концепция развития искусственного интеллекта на 2024-2029 годы, в основу которой был положен рейтинг британской компании Oxford Insights «Индекс готовности правительств к искусственному интеллекту 2023», стала конкретным примером использования в государственном планировании сомнительного источника данных. В статье подробно анализируется деятельность и компетенции компании Oxford Insights в контексте декларируемой ею политики цифрового интервенционизма.

Ключевые слова: искусственный интеллект, Республика Казахстан, интервенционизм, нейросети, творческие индустрии, суверенность, национальный суверенитет, цветная революция, Oxford Insights, DeepSeek.

Искусственный интеллект, ставший одним из главных событий цифровой, научной и общественной жизни последних пяти лет, повлек за собой стремительные изменения во всех отраслях экономики, предпринимательства, социальной сферы. Национальные правительства практически всех стран мира с тем или иным успехом принялись за разработку и срочное принятие государственных программ разития ИИ-инфраструктуры и адаптацию законодательств к изменившимся правовым реалиям.

Приметой текущего момента стало резкое увеличение публицистических и научных трудов, исследующих новую цифровую реальность, созданную активным проникновением ИИ во все сферы человеческой жизни [1–9]. На фоне значительного количества исследований, посвященных этическим, правовым, технологическим аспектам внедрения ИИ, продолжает нарастать дефицит профессиональных трудов, посвященных философским, политическим и гуманитарным вызовам, порождаемым активной деятельностью нейросетей. Одним из таких вызовов в нейросетевой реальности становится зависимость суверенных государств от ИИ-моделей, создаваемых ограниченным кругом высокотехнологических компаний, занимающихся как разработкой программного обеспечения, так и производством элементной базы для серверов, поддерживающих ИИ-решения.

Не менее острой проблемой в этом контексте является сегодня крайне ограниченный круг аналитиков и экспертов в данной области. Разработка национальных программ развития ИИ-инфраструктуры осуществляется правительствами ряда государств во многом интуитивно, зачастую с опорой на различного рода рейтинги, составлением которых занимается, как правило, узкий круг западных организаций, вовлеченных в разработку глобальных стратегий цифрового развития, с явным уклоном на соблюдение интересов ограниченного перечня заинтересованных государств.

Типичным примером такого подхода к созданию национальной долгосрочной программы развития искусственного интеллекта стала Концепция Республики Казахстан, принятая 24 июля 2024 года, и рассчитанная на период до 2029 г. Одним из побудительных мотивов создания Концепции стало выступление Президента Казахстана Касым-Жомарт Токаева на Международном технологическом форуме «Digital Bridge 2023» в Астане, в котором была подчеркнута важность искусственного интеллекта для экономического роста страны [10].

Уже в преамбуле документа его составители прямо заявили, что «готовность правительств к использованию искусственного интеллекта определяется методикой расчета Oxford Insights, в которой анализируются основные тенденции и инициативы. Согласно Индексу готовности правительства к искусственному интеллекту на 2023 год, проведенному Oxford Insights, Казахстан находится на 72 месте среди 193 стран» [10].

Именно на ранжировании рейтинга компании Oxford Insights построены умозаключения авторов документа и вся правительственная программа развития искусственного интеллекта крупнейшего центрально-азиатского государства, утвержденная правительством Республики Казахстан и подписанная премьер-министром О.Бектеновым.

Прогнозируемая успешность государственной программы развития ИИ в Республике Казахстан также оказывается тесно увязанной с рейтингом компании Oxford Insight: «Рост результатов Казахстана в рейтинге Oxford Insights по направлению «Доступ к данным» (каждый год увеличение рейтинга как минимум на одну позицию с 2024 по 2029 гг.).

Рост результатов Казахстана в рейтинге Oxford Insights по направлению «Инфраструктура» (каждый год увеличение рейтинга как минимум на одну позицию с 2024–2029 гг.).

Рост результатов Казахстана в рейтинге Oxford Insights по направлению «Видение» и «Управление и этика» (каждый год увеличение рейтинга как минимум на одну позицию с 2024–2029 гг.).


Рост результатов Казахстана в рейтинге Oxford Insights по направлению «Человеческий капитал» (каждый год увеличение рейтинга как минимум на одну позицию с 2024–2029 гг.)» [10].

Действительно, компания Oxford Insights специализируется на консультировании и аналитике в сфере управления данными. На официальном сайте компании констатируется, что «инновации в коммерческих технологиях могут обеспечить огромное конкурентное преимущество для экономики страны. Однако выбор режима управления данными – это глубоко политический акт. Наиболее влиятельные государства в киберпространстве ввели совершенно разные правовые кодексы, и развивающиеся страны, как правило, следуют подходу своих крупнейших экономических партнёров при разработке собственных стратегий в отношении данных [11].

Учредителями Oxford Insights являются два физических лица: Эмма Мартиньо-Трусвелл и Ричард Стирлинг.

На персональной странице Эммы Мартиньо-Трусвелл указано, что она «стала соучредителем стартап-хаба Labora; консультировала правительства Израиля, Австралии и Украины по вопросам управления изменениями» [12]. При попытке перейти по предложенной гиперссылке и ознакомиться с деятельностью стартап-хаба Labora сделать это не удается: вместо официальной страницы стартап-хаба открывается страница провайдера, где появляется объявление: «Доменное имя Labora.io выставлено на продажу!» [13] Указана также цена, по которой любой желающий может приобрести доменное имя этого перспективного стартап-хаба, учрежденного Эммой Мартиньо-Трусвел, из чего можно предположить, что опыт самостоятельной деятельности соучредителя Oxford Insights не был удачным. Насколько успешным оказалось «консультирование Израиля, Австралии и Украины по вопросам управления изменениями» трудно оценить из-за отсутствия достоверной информации.

Другим достижением учредителя Oxford Insights Эммы Мартиньо-Трусвелл, по утверждению официального сайта компании, стала разработка программы ASEAN Data Startup Accelerator, призванной «объединять стартапы и социальные предприятия для прохождения обучения, получения экспертных консультаций» [14]. Последняя новость, размещенная на сайте этого проекта, датируется мартом 2018 года.

Вторым соучредителем и одновременно генеральным директором Oxford Insights является Ричард Стирлинг. На его персональной странице сообщается, что он является ведущим куратором Международной хартии открытых данных, основными направлениями деятельности которой заявлены «борьба с коррупцией, меры по борьбе с изменением климата и достижение гендерного равенства» [15]. При этом процитированный список является исчерпывающим – иных направлений деятельности на официальном сайте хартии не указано.

Другой организацией, с которой сотрудничает Ричард Стирлинг, значится Open North – «некоммерческая организация, деятельность которой направлена на общее благо». Стремление к общему благу, в понимании Open North, означает, что «все люди по своей природе обладают силой и правом голоса, чтобы заявлять о своих приоритетах, потребностях и желаниях и определять своё будущее. Благодаря нашей работе в области данных и цифровых технологий мы стремимся выявлять и устранять системные барьеры для маргинализированных групп, которые часто не участвуют в принятии решений, влияющих на их жизнь» [16].

На официальном сайте Oxford Insights опубликовано несколько докладов, позволяющих понять основные направления деятельности этой организации. Так, в аналитическом докладе «Искусственный интеллект и новые миры протеста, революции и цифрового интервенционизма» обозначена цель исследования: «проанализировать возникающую технологическую напряжённость в новых мирах протеста и государственного контроля. Эта напряжённость влияет на внешнюю политику правительств либеральных демократий, таких как Великобритания, где мы базируемся. Правительства либеральных демократий часто оказываются втянутыми в государственные кризисы за рубежом, когда возникает необходимость действовать, чтобы противостоять злоупотреблениям авторитарных режимов. Им необходимо понимать, как развиваются эти протесты и революции, чтобы их реакция была принципиальной и последовательной [17].

Содержательную часть доклада предваряет иллюстрация (справа), которая, вероятно, должна в графической и эмоциональной форме декларировать его основную цель.

В числе прочего доклад рекомендует «работать над созданием международных норм и доступом оппозиционных групп к технологическим инструментам, которые позволили бы, например, обнаруживать дезинформацию, или как ИИ должен и не должен использоваться для уклонения от надзора против собственных граждан страны» [17].

В качестве конкретного примера и образца для подражания Oxford Insights рекомендует использовать опыт «цифрового художника» Андрея Максимова, создавшего видео, как искусственный интеллект может быть использован для идентификации человека, а конкретно – полицейского, выполняющего свои должностные обязанности в маске. Доклад Oxford Insights констатирует, что видео Максимова предназначено для того, чтобы «вселить страх в полицию Беларуси, основываясь на том, что ИИ может сделать при использовании инструментов распознавания лиц» [17].

В докладе анализируются также протесты в Гонконге, где «страх перед системами видеонаблюдения заставил протестующих надеть маски для лица или взять зонтики. Для протестующих маска была необходимым инструментом, чтобы избежать устрашающей руки пекинского аппарата наблюдения». В ответ на запрет китайского правительства на использование скрывающих лица масок протестующие попыталась создать инструмент распознавания лиц для идентификации анонимных сотрудников полиции, но «не смогли завершить проект, потому что не хватало времени и ресурсов». Подводя промежуточный итог в анализе использования искусственного интеллекта для дестабилизации суверенных государств, авторы Oxford Insights отмечают, что «поддержка со стороны иностранных НПО и правительств могла бы быть целенаправленной. Вполне возможно, что в будущих государственных кризисах протестующие настроят государство наблюдения против самого себя. Одним из новых направлений протеста вполне может стать взлом «умных» систем с целью дестабилизации правительства». Oxford Insights отмечает, что «Цифровой интервенционизм», возможно, является дешевым и относительно безрисковым способом прямого влияния на протестные движения за рубежом [17].

Одним из «плодотворных путей» возможного развития цифрового интервенционизма Oxford Insights видит создание в Китае механизма демонтажа большей части архитектуры искусственного интеллекта с помощью некоего международного надзорного органа. При этом Oxford Insights отмечает, что «международное давление, основанное на четкой правовой базе, возможно, менее рискованно в долгосрочной перспективе, чем кампании по цифровому разрушению в поддержку протестующих как одна из форм цифрового интервенционизма».

«Цифровое вмешательство», по мнению Oxford Insights, является дешевым и относительно безрисковым способом прямого влияния на ход протестных движений. Стратегия поддержки «продемократических» движений за рубежом может включать в себя проведение обучения на низовом уровне, которое поможет выявлять «подделки», или создание международной системы аккредитации для отличия реальных видеозаписей от поддельных. Искусственный интеллект также должен играть определенную роль в обнаружении ботов, дезинформации и глубоких подделок. Для местных оппозиционных деятелей разработка такой технологии или доступ к ней могут иметь жизненно важное значение для их успеха или неудачи» [17].

Следует отдать должное аналитикам Oxford Insights: в определенный момент они задаются вопросом, а что если их геополитические оппоненты также начнут использовать искусственный интеллект описанным выше способом? «Оправданно ли осуждать такие страны, как Россия, когда они нацелены на граждан либерально-демократических стран с помощью дезинформации»? Как относиться к кампаниям влияния, которые идут «в другом направлении»? При ответе на эти гипотетически-неудобные вопросы авторы Oxford Insights дают безупречный идеологический ответ: «можно утверждать, что цель защиты граждан от угнетающего государства делает эти случаи разными» [17].

Развивая далее эту идеологическую установку, Oxford Insights рассуждает о «либеральных демократиях», которые могут пожелать ограничить доступ к информации, кто и как проходит обучение этим технологиям [цифрового интервенционизма] и кому может быть предоставлен доступ к соответствующему программному обеспечению, прямо ассоциируя данную деятельность с оборотом оружия: «это вопросы такого рода, как ограничение на продажу оружия, которое должно лежать в основе любого обсуждения продажи оборудования определенным режимам. Вероятно, потребуется основа для критики внедрения таких технологий Китаем, Россией и странами, начинающими сталкиваться с этими вопросами, включая, например, саудовские компании» [17].

Что же представляет собой Индекс готовности правительств к искусственному интеллекту 2023, представленный Oxford Insights? Рейтинг составлен на основе большого количества различных индикаторов, находящихся в открытом доступе: Индекс готовности правительства к использованию ИИ объединяет 39 показателей по 10 направлениям, объединённых в 3 блока. «Показатели получены в результате кабинетных исследований и из вторичных источников, таких как оценки из других индексов или наборы данных из крупных хранилищ, таких как Всемирный банк или ООН» [17].

Первая двадцатка лидеров, по версии Oxford Insights, представляет собой следующее (см. таблицу) [18]:

В индексе 2023 г. Республика Казахстан расположена на 72-й позиции; Российская Федерация – на 38-й. Первую позицию рейтинга и в 2023, и в 2022 годах заняли США; на второй позиции авторы расположили Сингапур. Именно эта версия Индекса стала той основой, на которой впоследствии стали выстраивать свою суверенную политику в области развития искусственного интеллекта другие страны мира.

Насколько объективна и достоверна предложенная градация? Ниже в статье мы кратко остановимся на критериях оценки государств, использованных Oxford Insights, но сейчас приведем цитату генерального директора и соучредителя компании, уже упоминавшегося выше Ричарда Стирлинга, из его интервью, опубликованного 30 июля 2024 г. на официальном сайте Oxford Insights: «Хотя мы стараемся не сравнивать наш индекс готовности к ИИ из года в год, можно привести некоторые долгосрочные тенденции. С момента выхода первого издания разрыв между Сингапуром и Соединёнными Штатами увеличился примерно на 2 пункта, и Сингапур обогнал США. Если новая администрация продолжит бездействовать в отношении ИИ, она рискует ещё больше отстать: группа из шести стран во главе с Финляндией и Канадой отстаёт всего на два пункта» [19].

Ниже приведен скриншот оригинального текста с официального сайта Oxford Insights.

Напомним, рейтинг правительств по готовности к ИИ был опубликован 20 декабря 2023, т.е. за семь месяцев до выхода интервью Ричарда Стирлинга.

Какая же информация верна? Какое государство действительно занимает первую строчку рейтинга: США или Сингапур? Что произошло: генеральный директор Oxford Insights забыл о каких-то договоренностях и случайно разгласил конфиденциальную информацию о реальном положении дел в отрасли? Насколько верны и объективны оценки других участников рейтинга? К сожалению, у нас нет ответа на возникающие вопросы.

А вопросы при анализе рейтинга возникают. Так, например, Китайская Народная Республика оказалась на шестнадцатой строчке рейтинга, ниже Финляндии, Нидерландов, Дании, Австрии и Австралии, и всего лишь на одну ступень выше Эстонии. Предпринятая попытка найти информацию о развитии искусственного интеллекта в Финляндии, занимающей четвертую строчку рейтинга, в определенном смысле увенчалась успехом: была обнаружена новость от апреля 2024 г. о разработке в Финляндии нового рецепта приготовления кофе с помощью нейросети [20]. При этом не удалось установить, какая конкретно нейросеть для этого использовалась: национальная финская или иная.

На официальном сайте Oxford Insights имеется информация о процессе подготовки рейтинга и тех процедурах, которые сопровождали его создание. Так, в 2022 г. сотрудница компании Эмма Хэнкинс дала интервью, в котором подробно описала методологию составления рейтинга – текст интервью опубликован на официальном сайте Oxford Insights. В числе прочего Эмма Хэнкинс отметила, что ей, «как человеку, работавшему с каждым фрагментом данных, из которых состоит индекс, было трудно интерпретировать эти данные с практической точки зрения. Цифры – это здорово, но сами по себе они часто не рассказывают понятную историю» [12].

Следующий этап работы над рейтингом, по словам Эммы Хэнкинс, – «нормализация» данных: «необработанные данные нормализуются таким образом, чтобы все показатели имели значения по шкале от 0 до 100, что необходимо для сравнения. Мы также заменяем отсутствующие данные средним значением этого показателя для группы стран-аналогов в соответствии с уровнем дохода и регионами Всемирного банка» [12].

Действительно, практика «средних значений» и «замены данных» не является для Oxford Insights исключительным явлением. Так, при описании методологии использования статистической информации, Oxford Insights особо оговаривает: «наборы данных EGDI ООН и Всемирного банка Worldwide Governance Indicators (WGI) доступны для 193 и 196 стран, соответственно. Баллы GTMI для семи экономик – Гонконг, Китай, Косово; Макао, Монако, Западный берег и сектор Газа; Сан Марино, Тайвань, не включенных в наборы данных EGDI или WGI, были рассчитаны без учета пропущенных параметров (и путем уменьшения суммы максимальных баллов соответственно) [21].

«Из-за нехватки ресурсов и времени» набор данных GovTech изначально разрабатывался Oxford Insights с использованием общедоступных данные и отчетов на правительственных веб-сайтах – «сбор данных с помощью опросных форм или взаимодействия с государственными должностными лицами был невозможен из-за широкого спектра охваченных систем и услуг». Некоторые возможности, связанные с участием граждан и обратной связью, доступны только тогда, когда гражданин фактически регистрируется на портале, и эти встроенные функции могли быть упущены при сборе данных. Кроме того, набор данных мог не отражать наличия национального портала участия граждан в некоторых федеральных странах, хотя такие платформы могут существовать для различных министерств и агентств или на уровне провинций или штатов [21].

Иными словами, массив доступной информации о процессе и обстоятельствах подготовки Индекса готовности правительства к искусственному интеллекту на 2023 год по версии компании Oxford Insights не позволяет сколько-нибудь серьезно относиться к его рекомендациям и выводам. Рамки журнальной статьи не позволяют углубиться в исследование используемых в рейтинге Oxford Insights индикаторов и оценить чистоту их интерпретации. Но даже беглого взгляда на методику составления этого документа, без серьезного анализа принятого на вооружение некоторыми суверенными государствами, достаточно для понимания субъективизма и тенденциозности его авторов.

Следует отметить, что не только Республика Казахстан использовала для формирования собственной государственной политики этот сомнительный документ. На gov.ru – главном домене российских государственных сайтов, на котором находится основной сайт Правительства России, под эгидой Национального центра развития искусственного интеллекта при Правительстве Российской Федерации опубликован подробный разбор рейтинга Oxford Insights, а также предоставлен полный его текст для скачивания [22]. Есть скромная надежда, что правительство Российской Федерации не последует примеру своих казахских коллег и не станет формировать национальную стратегию развития искусственного интеллекта на основе этого документа.

Особенно учитывая тот факт, что 27 января 2025 г., в процессе подготовки настоящей статьи, весь мир облетела новость о катастрофическом падении фондовых индексов высокотехнологических компаний США, связанных с разработкой моделей искусственного интеллекта и производством оборудования для него. Китайская модель искусственного интеллекта DeepSeek «вызвала панику по всей Кремниевой долине». А приложение, похожее по функционалу на американскую модель ChatGPT, вышло в лидеры рынка по количеству скачиваний. DeepSeek разработала лаборатория ИИ из Китая. Ее языковые модели «могут превзойти лучшие американские аналоги, несмотря на то, что китайские построены дешевле и с менее мощными чипами». DeepSeek представила свою модель в конце декабря. На ее создание ушло всего два месяца и менее шести миллионов долларов, с использованием более старых чипов от американской компании Nvidia, поставка которых в КНР запрещена незаконными экономическими рестрикциями американского правительства [23]. Общие потери американского фондового рынка за два дня с момента презентации DeepSeek превысили, по некоторым оценкам, один триллион долларов. И осуществила этот технологический прорыв компания из страны, находящейся на шестнадцатом месте рейтинга Oxford Insights.

Еще более значимым показателем успеха DeepSeek стал тот факт, что создание этой ИИ-модели обошлось на несколько порядков дешевле американских аналогов; качество не уступает им, количество разработчиков меньше в разы, а сам функционал DeepSeek находится в открытом доступе. Эти факты полностью дискредитируют идеологию рейтинга Oxford Insights, базирующуюся на корреляции финансовых вложений с местом страны в индексе готовности правительств.

Остается открытым ответ на вопрос: что заставляет национальные правительства определять собственную политику на основании сомнительных, непрофессиональных и зачастую откровенно враждебных источников? Сложно представить, что интеллектуальные ресурсы Республики Казахстан не позволяют этому развитому государству осуществить самостоятельный аудит собственной государственной системы, экономической модели и IT-инфраструктуры, и на основе этого непредвзятого анализа построить национальную концепцию развития искусственного интеллекта. Аналогичный вопрос можно адресовать и правительству Российской Федерации. Что заставляет правительственных экспертов раз за разом обращаться к мнению западных источников? Слово “Oxford” в названии компании? Но одноименный британский университет не имеет никакого отношения к фирме Oxford Insights – ни один из представленных на сайте компании сотрудников это учебное заведение не оканчивал, а сам университет ни коим образом с этой фирмой не аффилирован – информация об обратном отсутствует на официальном сайте.

Недоверие правительственного аппарата к национальному экспертному сообществу; отсутствие собственной национально-ориентированной экспертизы глобальных проектов, определяющих развитие государства на десятилетия вперед; слепое и безоговорочное доверие западным рейтингам; нежелание заниматься трудоемкими аналитическими процедурами и экспертными изысканиями в противовес доступной «чужой» аналитике – эти и целый ряд иных когнитивных, политических и экономических препятствий могут иметь своим следствием потерю государством суверенитета в гуманитарной сфере. Использование в реализации государственных задач зарубежных экспертных оценок, неконтролируемое внедрение рекомендаций, советов и рейтингов иностранных аналитических центров чреваты опасностью цифрового интервенционизма, когда независимые суверенные государства будут подчинять свое развитие чуждым планам и целям.

ЛИТЕРАТУРА

© Ипполитов С.С., текст, ил., 2025
Статья поступила в редакцию 20.02.2025.
Публикуется в авторской редакции.
Открыть PDF-файл