Поскольку системы искусственного интеллекта все чаще проникают в важные процессы принятия решений в нашей повседневной жизни, интеграция этических норм в разработку ИИ становится приоритетом исследований. В Университете Мэриленда (UMD) междисциплинарные группы занимаются сложным взаимодействием между нормативным мышлением, алгоритмами машинного обучения и социотехническими системами.
В недавнем интервью с Новости искусственного интеллектаПостдокторанты Илария Канавотто и Вайшнав Камешваран объединяют опыт в области философии, информатики и взаимодействия человека и компьютера для решения насущных проблем этики ИИ. Их работа охватывает теоретические основы внедрения этических принципов в архитектуры ИИ и практические последствия развертывания ИИ в таких важных областях, как трудоустройство.
Нормативное понимание систем искусственного интеллекта
Илария Канавотто, исследователь инициативы UMD по искусственному интеллекту, ориентированному на ценности (VCAI), сотрудничает с Институтом перспективных компьютерных исследований и философским факультетом. Она решает фундаментальный вопрос: как мы можем наполнить системы ИИ нормативным пониманием? Поскольку ИИ все больше влияет на решения, влияющие на права и благополучие человека, системы должны учитывать этические и правовые нормы.
«Вопрос, который я исследую, заключается в том, как нам передать такого рода информацию, это нормативное понимание мира, в машину, которая может быть роботом, чат-ботом или кем-то в этом роде?» — говорит Канавотто.
Ее исследования сочетают в себе два подхода:
Нисходящий подход: Этот традиционный метод предполагает явное программирование правил и норм в системе. Однако Канавотто отмечает: «Их просто невозможно записать так легко. Всегда возникают новые ситуации».
Подход «снизу вверх»: новый метод, использующий машинное обучение для извлечения правил из данных. Несмотря на то, что он более гибкий, ему не хватает прозрачности: «Проблема этого подхода в том, что мы на самом деле не знаем, что изучает система, и очень сложно объяснить ее решение», — отмечает Канавотто.
Канавотто и ее коллеги Джефф Хорти и Эрик Пакуит разрабатывают гибридный подход, сочетающий в себе лучшее из обоих подходов. Они стремятся создать системы искусственного интеллекта, которые смогут изучать правила на основе данных, сохраняя при этом объяснимые процессы принятия решений, основанные на юридических и нормативных обоснованиях.
«[Our] подход […] основан на области, которая называется искусственным интеллектом и правом. Итак, в этой области они разработали алгоритмы для извлечения информации из данных. Поэтому мы хотели бы обобщить некоторые из этих алгоритмов, а затем создать систему, которая сможет в более общем плане извлекать информацию, основанную на юридических и нормативных рассуждениях», — объясняет она.
Влияние ИИ на практику найма и инклюзивность людей с ограниченными возможностями
В то время как Канавотто сосредотачивается на теоретических основах, Вайшнав Камешваран, связанный с Институтом надежного искусственного интеллекта, права и общества UMD NSF, исследует реальные последствия искусственного интеллекта, особенно его влияние на людей с ограниченными возможностями.
Исследование Камешварана изучает использование искусственного интеллекта в процессах найма и показывает, как системы могут непреднамеренно дискриминировать кандидатов с ограниченными возможностями. Он объясняет: «Мы работали над тем, чтобы… немного открыть черный ящик, попытаться понять, что эти алгоритмы делают на внутренней стороне и как они начинают оценивать кандидатов».
Его результаты показывают, что многие платформы найма, управляемые искусственным интеллектом, при оценке кандидатов в значительной степени полагаются на нормативные поведенческие сигналы, такие как зрительный контакт и выражение лица. Такой подход может поставить в невыгодное положение людей с определенными ограниченными возможностями. Например, кандидатам с нарушениями зрения может быть сложно поддерживать зрительный контакт — сигнал, который системы искусственного интеллекта часто интерпретируют как недостаток вовлеченности.
«Сосредотачиваясь на некоторых из этих качеств и оценивая кандидатов на основе этих качеств, эти платформы имеют тенденцию усугублять существующее социальное неравенство», — предупреждает Камешваран. Он утверждает, что эта тенденция может привести к дальнейшей маргинализации людей с ограниченными возможностями в составе рабочей силы, группы, которая уже сталкивается с серьезными проблемами трудоустройства.
Более широкий этический ландшафт
Оба исследователя подчеркивают, что этические проблемы, связанные с ИИ, выходят далеко за рамки их конкретных областей исследования. Они затрагивают несколько ключевых вопросов:
- Конфиденциальность данных и согласие: Исследователи подчеркивают неадекватность существующих механизмов согласия, особенно в отношении сбора данных для обучения ИИ. Камешваран приводит примеры из своей работы в Индии, где уязвимые группы населения по незнанию передали обширные личные данные кредитным платформам, управляемым искусственным интеллектом, во время пандемии COVID-19.
- Прозрачность и объяснимость: Оба исследователя подчеркивают важность понимания того, как системы ИИ принимают решения, особенно когда эти решения существенно влияют на жизнь людей.
- Общественные установки и предубеждения: Камешваран отмечает, что одни лишь технические решения не могут решить проблемы дискриминации. Существует необходимость в более широких социальных изменениях в отношении к маргинализированным группам, включая людей с ограниченными возможностями.
- Междисциплинарное сотрудничество: Работа исследователей из UMD иллюстрирует важность сотрудничества между философией, информатикой и другими дисциплинами в решении этики ИИ.
Заглядывая в будущее: решения и проблемы
Хотя проблемы значительны, оба исследователя работают над решением:
- Гибридный подход Канавотто к нормативному ИИ может привести к созданию более этически обоснованных и объяснимых систем ИИ.
- Камешваран предлагает разработать инструменты аудита для правозащитных групп, чтобы оценить платформы найма ИИ на предмет потенциальной дискриминации.
- Оба подчеркивают необходимость изменений в политике, таких как обновление Закона об американцах с ограниченными возможностями для решения проблемы дискриминации, связанной с ИИ.
Однако они также признают сложность проблем. Как отмечает Камешваран: «К сожалению, я не думаю, что техническое решение по обучению ИИ с помощью определенных видов данных и инструментов аудита само по себе решит проблему. Поэтому требуется многосторонний подход».
Ключевым выводом из работы исследователей является необходимость повышения осведомленности общественности о влиянии ИИ на нашу жизнь. Людям необходимо знать, каким объемом данных они делятся или как они используются. Как отмечает Канавотто, у компаний часто есть стимул скрывать эту информацию, определяя их так: «Компании, которые пытаются сказать вам, что мои услуги будут для вас лучше, если вы предоставите мне данные».
Исследователи утверждают, что необходимо сделать гораздо больше для просвещения общественности и привлечения компаний к ответственности. В конечном счете, междисциплинарный подход Канавотто и Камешварана, сочетающий философские исследования с практическим применением, — это путь вперед в правильном направлении, гарантирующий, что системы ИИ будут мощными, но в то же время этичными и справедливыми.
См. также: Правила, которые помогают или мешают: подход Cloudflare
Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая проходит в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие проводится совместно с другими ведущими мероприятиями, включая конференцию по интеллектуальной автоматизации, BlockX, Неделю цифровой трансформации и выставку Cyber Security & Cloud Expo.
Узнайте о других предстоящих мероприятиях и вебинарах в области корпоративных технологий, проводимых TechForge, здесь.