С 2019 года австралийский департамент промышленности, науки и ресурсов стремится сделать страну лидером в области «безопасного и ответственного» искусственного интеллекта (ИИ). Ключом к этому является добровольная структура, основанная на восьми этических принципах ИИ, включая «человеческие ценности», «справедливость» и «прозрачность и объяснимость».
Каждое последующее национальное руководство по ИИ основывалось на этих восьми принципах, призывая бизнес, правительство и школы применять их на практике. Но эти добровольные принципы не имеют реального влияния на организации, которые разрабатывают и внедряют системы искусственного интеллекта.
В прошлом месяце австралийское правительство начало консультации по предложению, которое имело другой тон. Признавая «добровольное соблюдение […] уже недостаточно», в нем говорилось об «обязательных защитных ограждениях для ИИ в условиях высокого риска».
Но основная идея саморегулирования остается прочно укоренившейся. Например, разработчики ИИ должны определить, представляет ли их система ИИ высокий риск, принимая во внимание набор рисков, которые можно охарактеризовать только как характерные для крупномасштабных проектов. системы ИИ.
Если это высокое препятствие будет преодолено, какие обязательные ограждения вступят в силу? По большей части компаниям просто нужно продемонстрировать, что у них есть внутренние процессы, подтверждающие принципы этики ИИ. Это предложение наиболее примечательно тем, что оно делает. нет включать. Нет никакого надзора, никаких последствий, никакого отказа, никакого возмещения.
Но есть другая, готовая модель, которую Австралия могла бы принять для ИИ. Оно исходит из другой важной технологии, отвечающей национальным интересам: генной технологии.
Другая модель
Генная технология – это то, что лежит в основе генетически модифицированных организмов. Как и ИИ, он вызывает беспокойство у более чем 60% населения.
В Австралии это регулируется Управлением по регулированию генных технологий. Регулятор был создан в 2001 году для удовлетворения биотехнологического бума в сельском хозяйстве и здравоохранении. С тех пор он стал образцом компетентного и прозрачного регулятора, ориентированного на конкретную технологию, имеющую далеко идущие последствия.
Три особенности обеспечили регулятору генных технологий национальный и международный успех.
Во-первых, это орган, выполняющий одну миссию. Он регулирует отношения с генетически модифицированными организмами:
защитить здоровье и безопасность людей, а также защитить окружающую среду путем выявления рисков, создаваемых генной технологией или в результате нее.
Во-вторых, у него сложная структура принятия решений. Благодаря этому оценка риска каждого применения генной технологии в Австралии основывается на надежных экспертных знаниях. Это также изолирует эту оценку от политического влияния и корпоративного лоббирования.
Регулятор информируется двумя интегрированными экспертными органами: Техническим консультативным комитетом и Консультативным комитетом по этике и сообществу. Эти органы дополняются институциональными комитетами по биобезопасности, поддерживающими постоянное управление рисками в более чем 200 исследовательских и коммерческих учреждениях, аккредитованных на использование генных технологий в Австралии. Это соответствует передовой практике в области безопасности пищевых продуктов и лекарств.
Управление регулятора генных технологий, CC BY
В-третьих, регулирующий орган постоянно учитывает мнение общественности в своем процессе оценки рисков. Делается это осмысленно и прозрачно. Любое дело, связанное с генной технологией, должно быть одобрено. Перед выпуском в дикую природу проводится исчерпывающий процесс консультаций, обеспечивающий максимальную проверку и надзор. Это обеспечивает высокий порог общественной безопасности.
Регулирование технологий высокого риска
В совокупности эти факторы объясняют, почему австралийский регулятор генных технологий добился такого успеха. Они также подчеркивают, чего не хватает в большинстве новых подходов к регулированию ИИ.
Мандат регулирования ИИ обычно предполагает невозможный компромисс между защитой населения и поддержкой промышленности. Как и в случае с генной регуляцией, она направлена на защиту от рисков. В случае ИИ эти риски будут связаны со здоровьем, окружающей средой и правами человека. Но он также стремится «максимизировать возможности, которые ИИ представляет для нашей экономики и общества».
Во-вторых, предлагаемое в настоящее время регулирование ИИ передает оценку рисков и управление ими коммерческим поставщикам ИИ. Вместо этого ему следует разработать национальную базу данных, основанную на междисциплинарном научном, социотехническом опыте и опыте гражданского общества.
Утверждается, что ИИ «вышел из мешка», а его потенциальные применения слишком многочисленны и слишком обыденны, чтобы их можно было регулировать. Тем не менее, методы молекулярной биологии также хорошо известны. Регулятор генных технологий по-прежнему осуществляет надзор за всеми видами использования технологии, постоянно работая над категоризацией определенных сделок как «освобожденных» или «с низким уровнем риска», чтобы облегчить исследования и разработки.
В-третьих, у общественности нет реальной возможности согласиться на сотрудничество с ИИ. Это верно независимо от того, подразумевает ли это разграбление архивов нашего коллективного воображения для создания систем искусственного интеллекта или их развертывание способами, которые подрывают достоинство, автономию и справедливость.
Урок более чем двух десятилетий регулирования генов заключается в том, что инновации не останавливают инновации в регулировании многообещающей новой технологии до тех пор, пока она не сможет продемонстрировать историю безвредного использования для людей и окружающей среды. Фактически, это спасает его.