dgisocioЦифровая социология/Digital SociologyDigital Sociology2658-347X2713-1653Государственный университет управления10.26425/2658-347X-2024-7-4-13-21dgisocio-343Research ArticleЦИФРОВАЯ СОЦИОЛОГИЯ: НАПРАВЛЕНИЯ ИССЛЕДОВАНИЙDIGITAL SOCIOLOGY: RESEARCH AREASНейронная сеть как зеркало социальных установок: анализ искажений в генеративных изображенияхNeural network as a mirror of social attitudes: analysis of distortions in generative imageshttps://orcid.org/0000-0001-5873-9850ТертышниковаА. Г.TertyshnikovaA. G.

Тертышникова Анастасия Геннадьевна - Канд. социол. наук, ст. преп. каф. социологии

Anastasiya G. Tertyshnikova - Cand. Sci. (Sociol.), Senior Lecturer at the Sociology Department

tertyshnikova_ag@pfur.ruhttps://orcid.org/0000-0003-0437-6438ПавловаУ. О.PavlovaU. O.

Павлова Ульяна Олеговна - Магистрант

Ul’yana O. Pavlova - Graduate Student

u.pavlova.56@mail.ruhttps://orcid.org/0009-0006-9092-9164СтаровойтоваМ. Д.StarovoytovaM. D.

Старовойтова Мария Дмитриевна - Стажер-аналитик кафедры социологии

Maria D. Starovoytova - Trainee Analyst at the Sociology Department

mashastar2001@yandex.ruРоссийский университет дружбы народов имени Патриса ЛумумбыРоссияPeoples’ Friendship University of Russia named after Patrice LumumbaRussian Federation202430012025741321Copyright © Тертышникова А.Г., Павлова У.О., Старовойтова М.Д., 20252025Тертышникова А.Г., Павлова У.О., Старовойтова М.Д.Tertyshnikova A.G., Pavlova U.O., Starovoytova M.D.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://digitalsociology.guu.ru/jour/article/view/343

Работа посвящена рассмотрению нейросетевых генеративных технологий как маркера социальных стереотипов и установок. Цель – апробация генеративного искусственного интеллекта (далее – ИИ) в качестве метода социологического исследования социальных стереотипов, содержащихся в больших данных. Для реализации этой цели первоначально рассмотрены суть ИИ, правовые рамки применения и распространение на данный момент. Результаты апробации показывают, что возвращаемая ИИ информация содержит в себе социальные стереотипы, в первую очередь связанные с гендером и возрастом, а значит, ИИ действительно может использоваться в качестве инструмента для изучения социальных стереотипов. Источник сдвигов в данных в сторону стереотипических образов содержится в информации, на которой обучается ИИ, а также в коде самой программы, то есть в установках и мировоззрении разработчиков, так или иначе влияющих на процесс разработки программ. В подавляющем большинстве случаев (более 80 % от всей сгенерированной информации) ИИ возвращает по запросам, связанным с высокооплачиваемыми профессиями, молодых людей, преимущественно мужчин, что справедливо для гендеризированных и негендеризированных формулировок запроса. ИИ также свойственно приписывать различным социальным группам отдельные черты, например неряшливость и неорганизованность, репрезентовать их в связке с определенным стилем одежды, а также использовать ряд повторяющихся маркеров для обозначения статуса или богатства.

The article is devoted to the consideration of neural network generative technologies as a marker of social stereotypes and attitudes. The aim of the research – approbation of generative artificial intelligence (hereinafter referred to as AI) as a method of sociological research of social stereotypes contained in big data. To realise this goal, the essence of AI, the legal framework of application and the spread to date are initially considered. The results of approbation show that the information returned by AI contains social stereotypes, primarily related to gender and age, which means that AI can indeed be used as a tool for studying social stereotypes. The source of shifts in data towards stereotypical images is contained in the data on which AI is trained, as well as in the code of the program itself, that is in the attitudes and worldview of developers, which in one way or another influence the process of program development. In most cases (more than 80% of all generated information), the AI returns young people, predominantly men, for queries related to high-paying professions, which is true for both gendered and non-gendered query formulations. AI is also characterised by attributing certain traits to different social groups, such as slovenliness and disorganisation, representing them in connection with a certain style of dress, and using several recurring markers to denote status or wealth.

Искусственный интеллектгенеративные технологиистереотипное смещениедата-анализсоциальные стереотипыгендерные стереотипыэксклюзияпредвзятостьпрофессияArtificial intelligencegenerative technologiesstereotypical biasdate-analysissocial stereotypesgender stereotypesexclusionbiasprofessionСтатья подготовлена в рамках инновационного научно-исследовательского проекта № 100938-0-000 «Использование искусственного интеллекта: перспективы, угрозы, ограничения (на примере представлений студенчества)».The article has been prepared as part of the innovative research project No. 100938-0-000 “Use of artificial intelligence: prospects, threats, limitations (on the example of students’ ideas)”.ReferencesБаширова Л.С. Социальная норма и девиация. Психопедагогика в правоохранительных органах. 2000;2(14):97–100.Bashirova L.S. Social norm and deviation. Psychopedagogy in law enforcement agencies. 2000;2(14):97–100. (In Russian).Липпман У. Общественное мнение. М.: Институт фонда «Общественное мнение»; 2004. 382 c.Chviakin V.A., Grigoriev N.Yu., Konoplin Yu.S. Cognitive sense of social stereotypes. Humanitarian of the South of Russia. 2023;4(12):94–103. (In Russian). https://doi.org/10.18522/2227-8656.2023.4.5Малышев И.О., Смирнов А.А. Oбзор современных генеративных нейросетей: отечественная и зарубежная практика. Международный журнал гуманитарных и естественных наук. 2024;1–2(88):168–171. http://doi.org/10.24412/2500-1000-2024-1-2-168-171Lim W.M., Gunasekara A., Pallant J.L., Pallant J.I., Pechenkina E. Generative AI and the future of education: Ragnarok or reformation? A paradoxical perspective from management educators. The International Journal of Management Education. 2023;2(21). http://dx.doi.org/10.1016/j.ijme.2023.100790Мельникова Д.А., Лопаткин Д.С., Кожева А.А. Искусственный интеллект как способ создания нового контента. Успехи в химии и химической технологии. 2023;1(263(37):43–47.Lippman U. Public opinion. Moscow: Institute of the Public Opinion Foundation; 2004. 382 р. (In Russian).Питерова А.Ю., Тетерина Е.А. Социальные стереотипы: особенности формирования и изучения. Наука. Общество. Государство. 2016;1(13).Malyshev I.O., Smirnov A.A. Review of modern generative neural networks: domestic and foreign practice. International Journal of Humanities and Natural Sciences. 2024;1–2(88):168–171. (In Russian). http://doi.org/10.24412/2500-1000-2024-1-2-168-171Попков В.Д. Стереотипы и предрассудки: их влияние на процесс межкультурной коммуникации. Журнал социологии и социальной антропологии. 2002;3(5):178–191.Melnikova D.A., Lopatkin D.S., Kozheva A.A. Artificial intelligence as a way to create new content. Advances in chemistry and chemical technology. 2023;1(263(37):43–47. (In Russian).Смирнова Ю.С. Ослабление предубеждений и развитие толерантности как проблема формирования профессионально значимых качеств будущего специалиста. В кн.: Принцип толерантности и его применение в современном образовательном процессе: тезисы 6-й научно-методической конференции, Минск, 24 марта 2009 г. Минск: Белорусский государственный университет; 2009. С. 55–58.Piterova A.Yu., Teterina E.A. Social stereotypes: features of formation and study. Science. Society. State. 2016;1(13). (In Russian).Тунда Е.А., Тунда В.А. Сознание и цифровизация человека. Системный анализ в проектировании и управлении. 2024;1:120–130. http://doi.org/10.18720/SPBPU/2/id24-27Popkov V.D. Stereotypes and prejudices: their influence on the process of intercultural communication. Journal of Sociology and Social Anthropology. 2002;3(5):178–191. (In Russian).Чвякин В.А., Григорьев Н.Ю., Коноплин Ю.С. Когнитивный смысл социальных стереотипов. Гуманитарий Юга России. 2023;4(12):94–103. https://doi.org/10.18522/2227-8656.2023.4.5Smirnova Y.S. Relaxation of prejudices and development of tolerance as a problem of formation of professionally significant qualities of the future specialist. In: Principle of tolerance and its application in the modern educational process: Proceedings of the 6th Scientific and Methodological Conference, Minsk, March 24, 2009. Minsk: Belarusian State University; 2009. Pp. 55–58. (In Russian).Lim W.M., Gunasekara A., Pallant J.L., Pallant J.I., Pechenkina E. Generative AI and the future of education: Ragnarok or reformation? A paradoxical perspective from management educators. The International Journal of Management Education. 2023;2(21). http://dx.doi.org/10.1016/j.ijme.2023.100790Tunda E.A., Tunda V.A. Human consciousness and digitalisation. System analysis in design and management. 2024;1:120–130. (In Russian). http://doi.org/10.18720/SPBPU/2/id24-27

The authors declare that there are no conflicts of interest present.