Поскольку за последние два года искусственный интеллект (ИИ) стал мейнстримом, многие риски, которые он представляет, были широко задокументированы. Некоторые люди не только способствуют распространению глубокого фейкового порно, угрожают частной жизни и ускоряют климатический кризис, но и считают, что новые технологии могут даже привести к вымиранию человечества.
Но некоторые риски ИИ до сих пор плохо изучены. К ним относятся весьма специфические риски для знаний и сообществ коренных народов.
Для этого есть простая причина: индустрия искусственного интеллекта и правительства по большей части игнорировали коренные народы в разработке и регулировании технологий искусственного интеллекта. Иными словами, мир ИИ слишком белый.
Разработчикам ИИ и правительствам необходимо срочно исправить эту ситуацию, если они серьезно настроены обеспечить, чтобы все пользовались преимуществами ИИ. Как любят говорить аборигены и жители островов Торресова пролива: «Ничего о нас, без нас».
Проблемы коренных народов
Коренные народы во всем мире не игнорируют ИИ. Они беседуют, проводят исследования и делятся своими опасениями по поводу текущей траектории этого процесса и связанных с ним технологий.
Хорошо документированной проблемой является кража культурной интеллектуальной собственности. Например, пользователи программ создания изображений с использованием искусственного интеллекта, таких как DeepAI, могут за считанные секунды искусственно создавать произведения искусства, имитирующие стили и истории искусства коренных народов.
Это демонстрирует, насколько легко человеку, использующему ИИ, присвоить культурные знания. Эти поколения берутся из больших наборов данных общедоступных изображений для создания чего-то нового. Но им не хватает истории и культурных знаний, присутствующих в наших художественных практиках.
Технологии искусственного интеллекта также способствуют распространению дезинформации о коренных народах.
Интернет уже пронизан дезинформацией о коренных народах. Ярким примером является давний веб-сайт Creative Spirits, который поддерживается некоренным лицом.
Генеративные системы искусственного интеллекта, вероятно, усугубят эту проблему. Они часто путают нас с другими коренными народами по всему миру. Они также опираются на неподходящие источники, включая Творческих Духов.
Во время прошлогоднего референдума «Голос в парламент» в Австралии сторонники кампании «нет» также использовали сгенерированные искусственным интеллектом изображения, изображающие коренные народы. Это демонстрирует роль ИИ в политическом контексте и вред, который он может нам нанести.
Другая проблема – непонимание ИИ среди коренных народов. Около 40% аборигенов и жителей островов Торресова пролива в Австралии не знают, что такое генеративный ИИ. Это отражает острую необходимость предоставления соответствующей информации и обучения коренным народам использованию этой технологии.
Также существует обеспокоенность по поводу использования ИИ в классах и его специфического воздействия на учащихся из числа коренных народов.
Взгляд в будущее
Ученый из Гавайских островов и Самоа Джейсон Льюис говорит:
Мы должны более широко думать об искусственном интеллекте и всех других вычислительных системах, в которых мы все больше запутываемся. Нам необходимо расширить рабочее определение интеллекта, используемое при построении этих систем, чтобы включить в него полный спектр поведения, которое мы, люди, используем для понимания мира.
Ключом к достижению этой цели является идея «суверенитета данных коренных народов». Это будет означать, что коренные народы сохраняют суверенитет над своими собственными данными в том смысле, что они владеют ими и контролируют доступ к ним.
В Австралии коллектив, известный как Майам Найри Вингара, предлагает важные соображения и принципы суверенитета и управления данными. Они подтверждают права коренных народов на управление и контроль наших экосистем данных, от их создания до инфраструктуры.
Национальное соглашение о ликвидации разрыва также подтверждает важность контроля и доступа к данным коренных народов.
Это подтверждается и на глобальном уровне. В 2020 году группа ученых из числа коренных народов со всего мира опубликовала позиционный документ, в котором излагается, как протоколы коренных народов могут информировать ИИ, созданный с соблюдением этических норм. Такой ИИ позволит централизовать знания коренных народов.
Положительным шагом является то, что недавно предложенный австралийским правительством комплекс мер по защите ИИ подчеркивает важность суверенитета данных коренных народов.
Например, ограничения включают необходимость обеспечения дополнительной прозрачности и принятия дополнительных мер, когда речь идет об использовании данных об аборигенах и жителях островов Торресова пролива или принадлежащих им, чтобы «смягчить сохранение существующего социального неравенства».
Мик Цикас / AAP
Коренные футуризмы
Грейс Диллон, ученый из группы коренных народов Северной Америки, известных как Анишинаабэ, впервые ввела термин «туземный футуризм».
Амбелин Кваймуллина, ученый и футурист-практик из народа Палыку в Западной Австралии, определяет это так:
видения того, что могло бы быть, основанные на древних культурах аборигенов и нашем глубоком понимании репрессивных систем.
Эти видения, пишет Кваймуллина, «столь же разнообразны, как и сами коренные народы». Их также объединяет «понимание реальности как живого, взаимосвязанного целого, в котором люди являются лишь одной нитью жизни среди многих, и нелинейный взгляд на время».
Так как же технологии искусственного интеллекта могут быть основаны на знаниях коренных народов?
Первым шагом для промышленности является привлечение коренных народов к созданию, поддержанию и оценке технологий, а не просить их ретроспективно одобрить уже проделанную работу.
Правительствам также необходимо сделать больше, чем просто подчеркнуть важность суверенитета данных коренных народов в политических документах. Им необходимо содержательно консультироваться с коренными народами, чтобы регулировать использование этих технологий. Эти консультации должны быть направлены на обеспечение этического поведения ИИ среди организаций и обычных пользователей, которое уважает мировоззрение и реалии коренных народов.
Разработчики ИИ и правительства любят заявлять, что они серьезно настроены обеспечить, чтобы технологии ИИ приносили пользу всему человечеству. Но если они не начнут больше привлекать коренные народы к разработке и регулированию технологии, их претензии будут звучать пустыми.