На пыльных фабриках, в тесных интернет-кафе и во временных домашних офисах по всему миру миллионы людей сидят за компьютерами, утомительно маркируя данные.
Эти работники являются источником жизненной силы растущей индустрии искусственного интеллекта (ИИ). Без них такие продукты, как ChatGPT, просто не существовали бы. Это потому, что данные, которые они маркируют, помогают системам ИИ «обучаться».
Но, несмотря на жизненно важный вклад, который эта рабочая сила вносит в отрасль, стоимость которой, как ожидается, к 2027 году составит 407 миллиардов долларов США, люди, составляющие ее, по большей части невидимы и часто эксплуатируются. Ранее в этом году около 100 специалистов по маркировке данных и специалистов по искусственному интеллекту из Кении, которые работают в таких компаниях, как Facebook, Scale AI и OpenAI, опубликовали открытое письмо президенту США Джо Байдену, в котором они заявили:
Наши условия труда напоминают современное рабство.
Чтобы гарантировать, что цепочки поставок ИИ являются этичными, промышленность и правительства должны срочно решить эту проблему. Но главный вопрос: как?
Что такое маркировка данных?
Маркировка данных — это процесс аннотирования необработанных данных, таких как изображения, видео или текст, чтобы системы ИИ могли распознавать закономерности и делать прогнозы.
Например, беспилотные автомобили используют маркированные видеозаписи, чтобы отличать пешеходов от дорожных знаков. Большие языковые модели, такие как ChatGPT, используют размеченный текст для понимания человеческого языка.
Эти помеченные наборы данных являются основой моделей ИИ. Без них системы ИИ не смогли бы эффективно функционировать.
Такие технологические гиганты, как Meta, Google, OpenAI и Microsoft, передают большую часть этой работы фабрикам по маркировке данных в таких странах, как Филиппины, Кения, Индия, Пакистан, Венесуэла и Колумбия.
Китай также становится еще одним глобальным центром маркировки данных.
Аутсорсинговые компании, которые облегчают эту работу, включают Scale AI, iMerit и Samasource. Это очень крупные компании сами по себе. Например, компания Scale AI со штаб-квартирой в Калифорнии сейчас стоит 14 миллиардов долларов США.
Срезание углов
Крупные технологические компании, такие как Alphabet (материнская компания Google), Amazon, Microsoft, Nvidia и Meta, вложили миллиарды в инфраструктуру искусственного интеллекта, от вычислительных мощностей и хранения данных до новых вычислительных технологий.
Обучение крупномасштабных моделей ИИ может стоить десятки миллионов долларов. После внедрения поддержка этих моделей требует постоянных инвестиций в маркировку данных, их уточнение и тестирование в реальных условиях.
Но хотя инвестиции в ИИ значительны, доходы не всегда оправдывают ожидания. Многие отрасли продолжают рассматривать проекты искусственного интеллекта как экспериментальные с неясными путями прибыльности.
В ответ многие компании сокращают расходы, что затрагивает тех, кто находится в самом низу цепочки поставок ИИ и часто очень уязвим: маркировщиков данных.
Низкая заработная плата, опасные условия труда
Один из способов, с помощью которого компании, участвующие в цепочке поставок ИИ, пытаются снизить затраты, — это нанять большое количество маркировщиков данных в странах глобального Юга, таких как Филиппины, Венесуэла, Кения и Индия. Рабочие в этих странах сталкиваются со стагнацией или сокращением заработной платы.
Например, почасовая ставка для маркировщиков данных AI в Венесуэле колеблется от 90 центов до 2 долларов США. Для сравнения, в США эта ставка составляет от 10 до 25 долларов США в час.
На Филиппинах работники, маркирующие данные для многомиллиардных компаний, таких как Scale AI, часто зарабатывают намного ниже минимальной заработной платы.
Некоторые поставщики маркировки даже прибегают к использованию детского труда в целях маркировки.
Но в цепочке поставок ИИ существует множество других трудовых проблем.
Многие маркировщики данных работают в перенаселенных и пыльных помещениях, что представляет серьезный риск для их здоровья. Они также часто работают как независимые подрядчики, не имея доступа к такой защите, как здравоохранение или компенсация.
Работа по маркировке данных также требует значительных умственных затрат: повторяющиеся задачи, строгие сроки и жесткий контроль качества. Специалистов по маркировке данных также иногда просят прочитать и пометить высказывания, разжигающие ненависть, или другие оскорбительные высказывания или материалы, которые, как было доказано, имеют негативные психологические последствия.
Ошибки могут привести к сокращению заработной платы или потере рабочих мест. Однако производители этикеток часто сталкиваются с отсутствием прозрачности в оценке их работы. Им часто отказывают в доступе к данным о производительности, что ограничивает их способность улучшать или оспаривать решения.
Обеспечение этичности цепочек поставок ИИ
Поскольку разработка ИИ становится более сложной, а компании стремятся максимизировать прибыль, необходимость в этических цепочках поставок ИИ становится острой.
Один из способов, которым компании могут помочь добиться этого, — это применение правозащитного подхода к проектированию, обдумыванию и надзору ко всей цепочке поставок ИИ. Они должны принять политику справедливой заработной платы, гарантируя, что составители данных получают прожиточный минимум, отражающий ценность их вклада.
Встраивая права человека в цепочку поставок, компании, занимающиеся искусственным интеллектом, могут способствовать созданию более этичной и устойчивой отрасли, гарантируя, что права работников и корпоративная ответственность будут соответствовать долгосрочному успеху.
Правительствам следует также создать новые правила, которые предписывают эту практику, поощряя справедливость и прозрачность. Это включает в себя прозрачность оценки эффективности и обработки персональных данных, что позволяет работникам понимать, как их оценивают, и оспаривать любые неточности.
Четкие системы оплаты и механизмы защиты прав обеспечат справедливое обращение с работниками. Вместо того, чтобы разрушать профсоюзы, как это сделал Scale AI в Кении в 2024 году, компании должны также поддерживать создание цифровых профсоюзов или кооперативов. Это даст работникам возможность выступить за улучшение условий труда.
Как пользователи продуктов ИИ, мы все можем выступать за соблюдение этических норм, поддерживая компании, которые прозрачны в отношении своих цепочек поставок ИИ и обязуются справедливо обращаться с работниками. Точно так же, как мы вознаграждаем производителей экологически чистых и справедливых торговых товаров, мы можем добиваться перемен, выбирая цифровые услуги или приложения для наших смартфонов, которые соответствуют стандартам прав человека, продвигая этические бренды через социальные сети и голосуя своими долларами за подотчетность технологических компаний. гиганты ежедневно.
Делая осознанный выбор, мы все можем внести вклад в более этическую практику в индустрии искусственного интеллекта.