Хотя искусственный интеллект (ИИ) обещает огромные преимущества, он также таит в себе огромные риски. Некоторые из них – усиление распространения дезинформации, изощренные кибератаки и рост потребления энергии – уже произошли. Другие, в том числе сверхразумные машины, которые принимают решения независимо от человеческого контроля, вероятно, появятся еще через несколько лет. Хотя осведомленность об этих рисках растет, существует множество других, которые еще предстоит определить. И несмотря на все неисчислимые возможности, которые предоставляет ИИ, особенно в развивающихся странах, это рискованный бизнес.
Растет обеспокоенность по поводу того, каким образом быстрое внедрение ИИ окажет негативное влияние на общества, в том числе на Глобальном Юге. В прошлом году мой институт вместе с New America созвал Глобальную рабочую группу, состоящую из специалистов по искусственному интеллекту со всей Америки, Африки и Азии, для рассмотрения способов повышения безопасности и согласованности искусственного интеллекта. А в 2024 году целевая группа выпустила руководство по практическому снижению рисков и повышению устойчивости, а также устранению пробелов в управлении и регулировании между глобальным Севером и Югом.
Риск ИИ
Одним из наиболее значительных рисков, выявленных группой, является массовая автоматизация и сокращение рабочих мест. Ожидается, что ИИ окажет влияние на огромное количество работников в различных секторах: от сельского хозяйства, производства, розничной торговли до права, медицины и финансов. Хотя новые формы занятости, несомненно, появятся, к 2030 году под угрозой автоматизации будут находиться рабочие места до 800 миллионов человек, в том числе 300 миллионов в богатых странах. По оценкам Международной организации труда, более 56 процентов всех рабочих мест в странах с низким и средним уровнем дохода подвергаются «высокому риску» автоматизации. Без принятия мер защиты это может привести к обострению экономического неравенства и исключению низкоквалифицированных работников.
Другой риск связан с углублением цифрового неравенства и обострением неравенства. Ожидается, что в ближайшие годы разрыв между теми, кто может получить доступ к передовым технологиям, и теми, кто не может, увеличится, что приведет к снижению производительности, замедлению экономического роста и усилению социального и экономического неравенства. Это особенно актуально в странах с низким и средним уровнем дохода, которые уже сталкиваются с нехваткой цифровых специалистов и сопутствующих услуг.
Предвзятость и дискриминация — еще один риск, связанный с ИИ. Передовые технологии и модели, разработанные в США, Китае и ЕС, могут закреплять и усиливать предвзятости, уже присутствующие в данных обучения. Это может привести к дискриминационным последствиям во всем: от кредитных рейтингов до работы полиции. Это также может привести к несправедливому исключению из возможностей на рынке труда, кредитов и займов, а также медицинских услуг из-за предвзятых алгоритмов.
Искусственный интеллект также способствует усилению наблюдения и нарушений конфиденциальности. Интеграция ИИ во все, от умных городов до правоохранительных органов, может нарушать конфиденциальность, гражданские свободы и права человека. Это особенно справедливо в странах с более слабыми демократическими институтами. Действительно, авторитарные режимы уже используют системы с поддержкой искусственного интеллекта для отслеживания политических оппонентов, подавления инакомыслия и нападения на маргинализированные сообщества по этническим, религиозным или идеологическим признакам.
Более того, зависимость от иностранных технологий и опыта также представляет собой риск для стран Глобального Юга. Чрезмерная зависимость от инноваций США, Китая и Европы потенциально может снизить стимулы для создания отечественных технологических секторов в странах с низкими доходами. Это также может ухудшить переговорную силу местных органов власти, способствуя увеличению затрат на технологии и одновременно снижая контроль над стандартами. Зависимость от иностранных поставщиков также может привести к тому, что иностранные субъекты будут легче получать доступ к данным, контролировать их, манипулировать ими и использовать их, что вызывает обеспокоенность по поводу конфиденциальности, кражи собственности и целостности критически важной инфраструктуры.
Новые решения
Учитывая все эти риски, какие решения рассматриваются на Глобальном Юге? Во-первых, растет число сторонников более активного участия правительств и экспертов развивающихся стран в разработке глобальных стандартов. Этот призыв отражен в недавней резолюции Генеральной Ассамблеи ООН 2024 года о включении ИИ и недавно согласованном Цифровом договоре, призванном преодолеть разрыв в цифровых технологиях, данных и инновациях. Появляется консенсус, призванный гарантировать, что ИИ будет более справедливым, инклюзивным и чувствительным к конкретным вызовам Глобального Юга.
На практике увеличение инвестиций в образование и профессиональное обучение необходимо для подготовки к грядущей автоматизации и сокращению рабочих мест. Это требует развития учебных центров и онлайн-курсов, грантов на переподготовку, услуг по трудоустройству и прогрессивных пособий по безработице, а также схем универсального базового дохода (UBD). Появляются многообещающие примеры: индийская инициатива «ИИ для всех», цифровые послы Руанды и бразильская программа Conecta — все они помогают людям и компаниям перейти к цифровой экономике. И такие разные страны, как Кения, Намибия и Индия, проводят пилотный проект UBI, хотя необходимы дополнительные действия.
Государственным и частным субъектам необходимо будет резко увеличить инвестиции в цифровую инфраструктуру, чтобы устранить цифровой разрыв на глобальном Юге. Это включает в себя расширение доступа в Интернет и широкополосного доступа для 2,6 миллиардов человек, которые до сих пор не подключены. Крайне важна политика, способствующая созданию цифровых центров, равноправному доступу к цифровым услугам и экономически выгодным технологическим программам. Одним из примеров расширения такой деятельности является программа AI for Development (AI4D) Альянса Smart Africa, которая создает этические основы искусственного интеллекта для управления, сельского хозяйства и здравоохранения.
Предвзятость и дискриминацию можно свести к минимуму за счет улучшения руководств и стандартов разработки и внедрения ИИ. Странам, компаниям и цифровым активистам необходимо разработать и обеспечить соблюдение нормативной базы, которая требует прозрачности алгоритмов и регулярных проверок. Существуют также большие возможности потребовать, чтобы данные, используемые для обучения систем ИИ, были более разнообразными и репрезентативными. Глобальная целевая группа выявила около 700 таких стратегий, хотя более двух третей были сформулированы в богатых странах, что позволяет предположить, что необходимо провести дополнительную работу, чтобы ликвидировать этот разрыв.
Борьба с слежкой и нарушениями конфиденциальности требует надежных законов о защите данных и конфиденциальности для защиты личной информации. Европейский Союз и такие страны, как Бразилия, Индия, Кения, Южная Африка и Танзания, разрабатывают гибкую нормативно-правовую базу, адаптированную к их конкретным реалиям. Также необходимо иметь четкое регулирование, регулирующее использование ИИ для наблюдения, чтобы свести к минимуму инвазивные методы, а также кампании по повышению осведомленности общественности вместе с пропагандой со стороны гражданского общества более сильной защиты.
А сокращение чрезмерной зависимости от иностранных поставщиков технологий требует инвестиций в местную политику и исследования в области искусственного интеллекта, а также грантов и стимулов для местных акселераторов, стартапов и лабораторий. Международное партнерство и сотрудничество также играют ключевую роль, например, программы повышения квалификации законодателей и государственных служащих, возглавляемые МСЭ, ЮНЕСКО, ПРООН, а также специализированные центры по обучению и обучению рабочей силы, предоставляемые такими группами, как Google, Intel и Microsoft. .
Меры по снижению рисков ИИ должны устранить зияющий разрыв в управлении ИИ между Глобальным Севером и Югом. Этот разрыв выражается не только в терминах специалистов по данным и центрах обработки данных, но и в плане регулирования. Ключевой приоритет предполагает активизацию участия лиц, принимающих решения, и экспертов стран Глобального Юга в разработке политики в области ИИ, в том числе в контексте «Большой двадцатки» и ОЭСР. Несмотря на законные опасения по поводу фрагментации регулирования, системы управления ИИ также должны быть приведены в соответствие с местным контекстом. Недавно согласованная Стратегия искусственного интеллекта и Стратегия цифровой трансформации, разработанные Африканским союзом, предлагают многообещающие ориентиры.
Хорошей новостью является то, что недавняя резолюция ООН по инклюзивному ИИ, Группа высокого уровня по ИИ и Глобальный цифровой договор прокладывают позитивный путь вперед. Соглашение прямо призывает к более инклюзивной разработке политики в области ИИ, созданию независимой научной группы по ИИ и глобальному диалогу, чтобы закрепить ИИ в области прав человека. Возможно, наиболее важным является то, что он также рекомендует создать глобальный фонд для поддержки цифровой инфраструктуры и развития навыков. Такому фонду придется делать большие ставки (аналогично тем, которые были сделаны в частных инициативах, таких как недавний фонд, созданный IBM и Blackrock, если он хочет помочь закрыть пробел в управлении и возможностях ИИ.