2658-6282 Мир науки. Педагогика и психология World of Science. Pedagogy and psychology ООО «Издательство «Мир науки» https://mir-nauki.com/95PSMN225.html Проблема создания этичных и прозрачных алгоритмов для объяснимости решений в автоматизированных системах рекрутмента с учетом требований регулирования конфиденциальности данных The problem of creating ethical and transparent algorithms to ensure explainability of decisions in automated recruitment systems, while complying with data privacy regulations Камальдинова Зульфия Фаисовна Камальдинова Зульфия Фаисовна Zulfiya Faisovna Kamaldinova kamal_zzz@mail.ru https://orcid.org/0000-0002-9999-5436 Панарин Владимир Сергеевич Панарин Владимир Сергеевич Panarin Vladimir Sergeevich panvlad2@mail.ru https://orcid.org/0009-0002-4173-517X Чуб Роман Сандипович Чуб Роман Сандипович Chub Roman Sandipovich romachub1@gmail.com https://orcid.org/0009-0004-6785-3048 ФГБОУ ВО «Самарский государственный технический университет» (Самара, Россия) Samara State Technical University (Samara, Russia) ФГБОУ ВО «Самарский государственный медицинский университет» Минздрава России (Самара, Россия) Samara State Medical University (Samara, Russia) 25 06 2025 2025 13 2 95PSMN225 22 04 2025 09 06 2025 2025 Камальдинова Зульфия Фаисовна, Панарин Владимир Сергеевич, Чуб Роман Сандипович Zulfiya Faisovna Kamaldinova, Panarin Vladimir Sergeevich, Chub Roman Sandipovich CC BY 4.0 https://mir-nauki.com/95PSMN225.html

В данной статье исследуется развитие этичных и прозрачных алгоритмов в автоматизированных системах рекрутмента. Рассматриваются этапы эволюции этих систем, анализируются требования и их влияние на проектирование алгоритмов. В работе приведены примеры использования. Освещаются вопросы объяснимости и прозрачности в автоматизированных решениях, приводятся примеры как можно добиться этого различными способами и методами. Также обсуждаются методы создания этичных алгоритмов и приводятся влияния реальных примеров успешных кейсов их внедрения. В дополнении к этому также приводятся контрпримеры иллюстрирующие то, как алгоритмы могут негативно влиять на процесс найма, дискриминировать отдельные группы лиц. Приведены причины данной предвзятости искусственного интеллекта. В связи с этим статье также отмечена дискуссия в сторону ограничения применения автоматизированных систем на основе искусственного интеллекта. Кроме того, в статье приводятся примеры того, как такие автоматизированные системы влияют на бизнес: позволяют удерживать сотрудников, улучшает их лояльность и повышает конкурентное преимущество компаний. В статье подчеркивается значимость междисциплинарного подхода и сотрудничества с экспертами в области права, этики и управления человеческими ресурсами. При этом отдельное внимание уделяется необходимости соответствия нормативным требованиям, таким как «Общий регламент по защите данных», которые направлены на обеспечение прозрачности и объяснимости автоматизированных систем принятия решений. Прогнозируются будущие направления развития, отмечаются перспективы, включая применение новых технологий, для повышения точности и справедливости решений.

This article discusses the development of ethical and transparent algorithms in automated recruitment systems. It examines the stages of evolution of these systems, analyzing the requirements and impact on algorithm design. The paper provides examples of usage, highlighting the importance of explainability and transparency in automated solutions. It discusses methods for creating ethical algorithms and presents real-world examples of their successful implementation. Additionally, counterexamples are provided to illustrate potential negative impacts of algorithms on the hiring process, such as discrimination against certain groups. The article also discusses the reasons for such bias in artificial intelligence and suggests ways to limit the use of AI-based systems. In addition, the article provides examples of how automated systems can benefit businesses: they can help retain employees, increase their loyalty, and give companies a competitive advantage. The article emphasizes the importance of a collaborative approach between different professionals, such as lawyers, ethicists, and HR specialists. At the same time, it emphasizes the need to comply with regulations like General Data Protection Regulation, which aim to ensure transparency and explainability in automated decision-making. Future developments are discussed, including the potential use of new technologies to improve accuracy and fairness in decision-making processes.

 Ключевые слова машинное обучение автоматизированные системы рекрутмента этичные алгоритмы алгоритмическая предвзятость прозрачность объяснимость регуляторные требования междисциплинарный подход Keywords automated recruitment systems ethical algorithms transparency explainability regulatory requirements interdisciplinary approach Jobin, A., Ienca, M., Vayena, E. Artificial Intelligence: The Global Landscape of Ethics Guidelines // Nature Machine Intelligence. 2022. URL: https://www.researchgate.net/publication/334082218_Artificial_Intelligence_the_global_landscape_of_ethics_guidelines (дата обращения: 28.03.2025). Selbst, A.D., Powles, J. Meaningful Information and the Right to Explanation // Data Protection & Privacy Journal. 2023. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3039125 (дата обращения: 28.03.2025). Sharma, V. AI, Ethics, and Society: Balancing Innovation with Responsibility // Science and Engineering Ethics. 2025. URL: https://www.researchgate.net/publication/388062868_Ethics_in_AI_Balancing_innovation_and_responsibility (дата обращения: 18.03.2025). Suresh, H., Guttag, J.V. A Framework for Understanding Unintended Consequences of Machine Learning // Communications of the ACM. 2022. URL: https://www.researchgate.net/publication/330726492_A_Framework_for_Understanding_Unintended_Consequences_of_Machine_Learning (дата обращения: 18.03.2025). Shneiderman, B. Human-Centered AI: Reliable, Safe & Trustworthy Technologies // ACM Transactions on Intelligent Systems and Technology. 2023. URL: https://www.researchgate.net/publication/375743140_Human-Centered_Artificial_Intelligence_Reliable_Safe_Trustworthy (дата обращения: 18.03.2025). Аванесян Г.Г. Перспективы эффективного взаимодействия искусственного интеллекта и личности человека // Мир науки. Педагогика и психология. 2024. Т. 12, № 3. URL: https://mir-nauki.com/PDF/77PSMN324.pdf (дата обращения: 18.03.2025). Lambrecht, A., Tucker, C. Algorithmic Bias? An Empirical Study of Apparent Gender-Based Discrimination in the Display of STEM Career Ads. 2019. URL: https://www.researchgate.net/publication/331038992 (дата обращения: 18.03.2025). Zafar, M.B., Valera, I., Rodriguez, M.G., Gummadi, K.P. Fairness Constraints: Mechanisms for Fair Classification // Conference on Fairness, Accountability, and Transparency (FAT*). 2022. URL: https://arxiv.org/abs/1507.05259 (дата обращения: 18.03.2025). Lepri, B., Oliver, N., Pentland, A., Venkatramanan, V. Fair, Transparent, and Accountable Algorithmic Decision-Making Processes // IEEE Internet Computing. 2022. URL: https://www.researchgate.net/publication/319127327_Fair_Transparent_and_Accountable_Algorithmic_Decision-making_Processes_The_Premise_the_Proposed_Solutions_and_the_Open_Challenges (дата обращения: 28.03.2025). Bryson, J.J., Winfield, A.F.T. Standardizing Ethical Design for Artificial Intelligence and Autonomous Systems // Proceedings of the IEEE. 2022. URL: https://www.researchgate.net/publication/316898639_Standardizing_Ethical_Design_for_Artificial_Intelligence_and_Autonomous_Systems (дата обращения: 28.03.2025). Харитонова, Ю.С. Правовые средства обеспечения принципа прозрачности искусственного интеллекта // Journal of Digital Technologies and Law. 2023. Т. 1, № 2. С. 337–358. DOI: https://doi.org/10.21202/jdtl.2023.14. Raji, I.D., Buolamwini, J. Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products // Conference on AI, Ethics, and Society. 2022. URL: https://www.researchgate.net/publication/334383981_Actionable_Auditing_Investigating_the_Impact_of_Publicly_Naming_Biased_Performance_Results_of_Commercial_AI_Products (дата обращения: 28.03.2025). Vincent C. Müller. Ethics of Artificial Intelligence and Robotics // Stanford Encyclopedia of Philosophy [Электронный ресурс]. URL: https://www.researchgate.net/publication/340435326_Ethics_of_Artificial_Intelligence_and_Robotics (дата обращения: 18.03.2025). Ninareh Mehrabi, Fred Morstatter, Nripsuta Saxena, Kristina Lerman, Aram Galstyan, A Survey on Bias and Fairness in Machine Learning // University of Southern California URL: https://www.researchgate.net/publication/340435326_Ethics_of_Artificial_Intelligence_and_Robotics (дата обращения: 18.03.2025). Mittelstadt, B. Principles alone cannot guarantee ethical AI // Journal of AI and Ethics. 2023. URL: https://arxiv.org/pdf/1906.06668 (дата обращения: 18.03.2025). Mailson R.S. SHapley Additive exPlanations (SHAP) for Efficient Feature Selection in Rolling Bearing Fault Diagnosis // Machine Learning and Knowledge Extraction 2024 № 6(1):316–341 [Электронный ресурс]. URL: https://www.researchgate.net/publication/378063501_SHapley_Additive_exPlanations_SHAP_for_Efficient_Feature_Selection_in_Rolling_Bearing_Fault_Diagnosis (дата обращения: 28.03.2025). Magham, R.K. Mitigating Bias in AI-Driven Recruitment: The Role of Explainable Machine Learning // International Journal of Scientific Research in Computer Science Engineering and Information Technology. 2022. Т. 10, № 5. С. 461–469. URL: https://www.researchgate.net/publication/384802794_Mitigating_Bias_in_AI-Driven_Recruitment_The_Role_of_Explainable_Machine_Learning_XAI (дата обращения: 28.03.2025). Mujtaba, D.F., Mahapatra, N.R. Fairness in AI-Driven Recruitment: Challenges, Metrics, Methods, and Future Directions // Information Systems Research. 2022. URL: https://arxiv.org/html/2405.19699v2 (дата обращения: 28.03.2025). Rigotti, C. Fairness, AI & recruitment // Computer Law & Security Review. 2024. URL: https://www.researchgate.net/publication/385720756_Diversity_and_Inclusion_in_AI_for_Recruitment_Lessons_from_Industry_Workshop (дата обращения: 18.03.2025). Javaid, B., Pearl, J. Ethical Challenges of Artificial Intelligence Implementation in Human Resources: Implications for Job Performance Evaluation // Computers in Human Behavior Reports. 2023. URL: https://www.researchgate.net/publication/381999507_Ethical_Challenges_of_Artificial_Intelligence_Implementation_in_Human_Resources_Implications_for_Job_Performance_Evaluation (дата обращения: 28.03.2025).