Искусственный интеллект расширяет круг социальных наук

«Существует все больше свидетельств того, что ИИ может усугубить неравенство, увековечить дискриминацию и нанести вред», — пишет Мона Слоун, научный сотрудник Института общественных знаний при Нью-Йоркском университете, и Эмануэль Мосс, кандидат наук в Городском университете Нью-Йорка.

«Для достижения социально справедливой технологии нам необходимо включить максимально широкое понятие социальной науки, которое включает в себя дисциплины, которые разработали методы борьбы с огромным социальным миром и которые помогают нам понять, как и почему вред ИИ возникает, как большая структура, сложная и формирующаяся техно-социальная система «.

Авторы обрисовывают в общих чертах причины, по которым подходы социальных наук и их многие качественные методы могут в целом повысить ценность ИИ, а также избежать документированных ошибок. Исследования показали, что поисковые системы могут дискриминировать цветных женщин, в то время как многие аналитики поднимают вопросы о том, как самостоятельно управляемые автомобили будут принимать социально приемлемые решения в аварийных ситуациях (например, избегая людей, а не пожарных гидрантов).

Чтобы устранить этот недостаток, авторы предлагают план включения социальных наук в ИИ с помощью ряда рекомендаций:

Качественные социальные исследования могут помочь понять категории, через которые мы понимаем социальную жизнь и которые используются в ИИ. «Например, технологи не обучены понимать, как расовые категории в машинном обучении воспроизводятся, как социальная конструкция, которая оказывает реальное влияние на организацию и расслоение общества», — отмечают Слоун и Мосс. «Но эти вопросы подробно обсуждаются в социальных науках, которые могут помочь создать социально-исторический фон, на котором … история присвоения таких категорий, как» раса «, может быть сделана явной».

Качественный подход к сбору данных может установить протоколы, которые помогут уменьшить предвзятость. «Данные всегда отражают предубеждения и интересы тех, кто занимается сбором», — отмечают авторы. «Качественное исследование является явным в отношении сбора данных, в то время как количественные исследования в области искусственного интеллекта — нет».

Качественные исследования обычно требуют, чтобы исследователи размышляли о том, как их вмешательства влияют на мир, в котором они проводят свои наблюдения. «Количественный подход не требует, чтобы исследователь или разработчик ИИ располагался в социальном мире», — пишут они. «Следовательно, не требуется оценка того, кто включен в жизненно важное решение по проектированию ИИ, а кто нет».

«По мере того, как мы продвигаемся вперед, сплетая вместе социальные, культурные и технологические элементы нашей жизни, мы должны интегрировать различные виды знаний в технологическое развитие», — заключают Слоан и Мосс. «Более социально справедливое и демократическое будущее для ИИ в обществе не может быть просто рассчитано или спроектировано; его нужно прожить, рассказать и извлекать из глубокого понимания общества».