Социальное исключение как побочный эффект механизмов нейрообучения

В условиях развития нейросетевых технологий и внедрения их в процессы принятия решений на уровне таких значимых социальных институтов, как здравоохранение, образование, трудоустройство и других, встает вопрос о корректности использования искусственного интеллекта в подобной деятельности. Основная цель работы – рассмотреть возникновение и воспроизводство социального исключения, неравенства и дискриминации в обществе как результат процесса нейрообучения. Под нейрообучением понимаются принципы обучения любых нейронных сетей. Социальная эксклюзия и вытекающая из нее дискриминация в решениях, принимаемых искусственным интеллектом, рассматривается как последствие принципов обработки больших данных. Обозреваются теории зарубежных и российских авторов, затрагивающие влияние искусственного интеллекта на укрепление существующего социального порядка, а также проблемы с обработкой и интерпретированием данных для обучения на них компьютерных систем. Кроме того, приводятся реальные ситуации, в которых специфика самих данных и их интерпретация привели к усилению неравенства и эксклюзии. В связи со схожестью функционирования естественных и искусственных нейросетей делается вывод об источниках социального исключения и стигматизации в обществе. Высказывается предположение, что именно принципы нейрообучения в «естественном» обществе ведут не только к дискриминации на макроуровне, но и обусловливают негативные реакции по отношению к представителям эксклюзированных групп, например, межнациональную ненависть, гомофобию, сексизм и прочее. Поднимается вопрос о возможности изучения «естественного» общества в сравнении с «искусственным».

1. Васенков Д.В. (2007). Методы обучения искусственных нейронных сетей // Компьютерные инструменты в образовании. № 1. С. 20–29.

2. Гофман И. (1963). Стигма: Заметки об управлении испорченной идентичностью. Пер. с англ. Добрякова М.С. Нью Йорк: Prentice Hall. 40с.

3. Добринская Д.Е., Мартыненко Т.С. (2020). Возможно ли цифровое равенство? (о книге Я. ван Дейка «Цифровой разрыв») // Социологические исследования. № 10. С. 158–164. https://doi.org/10.31857/S013216250009459-7

4. Иванова Н.А. (2011). Понятия «Габитус» и «Хабитуализация» в контексте социологических теорий // Вестник Томского государственного университета. Философия. Социология. Политология. №1 (13). С. 115–129.

5. Ярская-Смирнова Е.Р. (1997). Социокультурный анализ нетипичности. Саратов: Изд-во СарГТУ. 271с.

6. Cruz T.M. (2020). Perils of data-driven equity: safety-net care and big data’s elusive grasp on health inequality // Big Data & Society. V. 7, no. 1. https://doi.org/10.1177/2053951720928097

7. McMillan Cottom T. (2020). Where platform capitalism and racial capitalism meet: The sociology of race and racism in the digital society // Sociology of Race and Ethnicity. V. 6, no. 4. Pp. 441–449. https://doi.org/10.1177/2332649220949473

8. Noble S.U. (2018). Algorithms of oppression: How search engines reinforce racism // Ethnic and Racial Studies. V. 43, no. 3. Pp. 592–594. https://doi.org/10.1080/01419870.2019.1635260

9. Rodgers G., Gore Ch., Figueiredo J. (1994). Social Exclusion: Rhetoric Reality Responses / International Institute for labour studies. Geneva: United Nations development program. 102p.

10. Wajcman J. (2017). Automation: is it really different this time? // The British journal of sociology. V. 68, no. 1. Pp. 119–127. https://doi.org/10.1111/14684446.12239