УДК 378.1

Берман Н.Д.¹ (Хабаровск, Россия) — nina.berman@mail.ru

¹Тихоокеанский государственный университет

Аннотация. Внедрение искусственного интеллекта в образовательную среду открывает новые перспективы для персонализации обучения и повышения его эффективности, однако сопряжено с комплексом этических, правовых и педагогических вызовов. ИИ относится к разработке вычислительных технологий, предназначенных для выполнения задач, которые обычно требуют человеческого интеллекта, таких как обучение, рассуждение и решение проблем. Интеграция агентов ИИ в образование способствует инновации, направленной на решение ключевых педагогических проблем, таких как персонализация, мотивация и масштабируемость. Целью исследования является анализ ключевых этических рисков внедрения ИИ-агентов и предложение механизмов их минимизации. Задачи исследования включают обзор применения ИИ-инструментов, выявление ключевых преимуществ и потенциальных угроз, систематизацию этических рисков, возникающих при использовании ИИ в обучении, выявление пробелов в современном регулировании и педагогической практике. Агенты ИИ являются автономными или полуавтономными системами, способными обрабатывать данные, принимать решения и выполнять задачи, часто без прямого вмешательства человека. Применение ИИ в образовании сталкивается с рядом противоречий. Одним из основных противоречий можно назвать конфликт между персонализацией и приватностью в образовательных ИИ-системах. Рассматривается проблема алгоритмической предвзятости, проявляющейся в необъективных оценках и дискриминационных рекомендациях, которые могут усугублять социальное неравенство. Также анализируется феномен дегуманизации образования, выражающийся в подмене человеческого взаимодействия стандартизированными алгоритмическими решениями. Еще одним вызовом и этическим риском использования ИИ агентов в образовании является проблема прозрачности и объяснимости, так называемый «чёрный ящик» в принятии решений ИИ и отсутствие четких критериев оценки работы алгоритмов. В исследовании обсуждается вопрос правовой ответственности за решения ИИ. Практическая значимость исследования заключается в разработке системного подхода к балансировке технологических инноваций и гуманитарных ценностей. Материалы исследования могут быть полезны разработчикам образовательных технологий, педагогам, участвующим в цифровой трансформации образования.

Ключевые слова: искусственный интеллект в образовании, ИИ-агент, этика ИИ, алгоритмическая предвзятость, прозрачность и объяснимость ИИ, защита данных, цифровая педагогика, правовое регулирование ИИ.

Список источников:

1. Kabudi T., Pappas I., Olsen D.H. AI-enabled adaptive learning systems: A systematic mapping of the literature // Computers and education: Artificial intelligence.  2021. Vol. 2. 100017. DOI: 10.1016/j.caeai.2021.100017
2. Luckin R., Cukurova M. Designing educational technologies in the age of AI: A learning sciences‐driven approach // British Journal of Educational Technology. 2019. Vol. 5, No 6, P. 2824-2838. DOI:10.1111/bjet.12861
3. Аржанова К.А., Долгополов Д.В., Старостин В.С. Механизм адаптации инструментов искусственного интеллекта к сфере высшего образования // Человеческий капитал. 2023. № 10 (178). С. 41-51. URL: https://elibrary.ru/irmkny
4. Кораблева О.Н., Смирнова А.А. Интегрирование инструментов генеративного искусственного интеллекта в высшей школе // Педагогическое образование. 2024. Т. 5, № 12. С. 28-35. URL: https://elibrary.ru/chvfwc
5. Клепацкий В.В. Перспективы и проблемы внедрения технологий ИИ в высшем образовании // Позиция. Философские проблемы науки и техники. 2024. № 22. С. 134-139. URL: https://elibrary.ru/dwsxrr
6. Воронцов Д.Б., Воронцова А.В. К вопросу об использовании средств искусственного интеллекта в образовательных практиках: опыт исследования // Профессиональное образование в России и за рубежом. 2024. № 3 (55). С. 174-182. URL: https://elibrary.ru/pdajmj
7. Лызь Н.А., Компаниец В.С., Лызь А.Е. Системы искусственного интеллекта в сопровождении обучения и развития студентов // Педагогика информатики. 2023. № 1-2. С. 48-59. URL: https://elibrary.ru/ghfmvw
8. Гильманшин Р.А. Влияние инструментов искусственного интеллекта на современный образовательный процесс // Экономика и управление: проблемы, решения. 2024. Т. 8. № 9 (150). С. 81-84. URL: https://www.elibrary.ru/agvfgc
9. Глухов А.П. ИИ-агенты в тьюторстве: потенциал, вызовы и перспективы интеграции // Вестник педагогических инноваций. 2025. № 1 (77). С. 65-74. URL: https://www.elibrary.ru/acdypj  
10. Тупикова С.Е., Пустоведова В.А. Интерактивные ИИ-агенты и сценарии для симуляции деловых переговоров в рамках изучения дисциплины «Деловой иностранный язык» в вузе // Вестник Саратовского областного института развития образования. 2025. № 1 (37). С. 72-80. URL: https://www.elibrary.ru/xblcxf
11. Moorhouse B.L., Wong K.M. Generative Artificial Intelligence and Language Teaching. Cambridge University Press, 2025. DOI: 10.1017/9781009618823
12. Мартыненко Т.С., Добринская Д.Е. Социальное неравенство в эпоху искусственного интеллекта: от цифрового к алгоритмическому разрыву // Мониторинг общественного мнения: экономические и социальные перемены. 2021. № 1 (161). С. 171-192. URL: https://www.elibrary.ru/zmnkky
13. Mora-Cantallops M., Sánchez-Alonso S., García-Barriocanal E. Traceability for trustworthy AI: A review of models and tools // Big Data and Cognitive Computing. 2021. Vol. 5, No. 2. P. 20. DOI: 10.3390/bdcc5020020
14. Баксанский О.Е., Сорокина С.Г. Этика искусственного интеллекта: сбалансированный подход к развитию и применению // Общество: философия, история, культура. 2025. № 1 (129). С. 23-33. URL: https://www.elibrary.ru/avfhgb
15. Grafanaki S. Autonomy challenges in the age of big data. Fordham Intell. Prop. Media & Ent. LJ. 2016, 27, p. 803.
16. Kartal E. A Comprehensive Study on Bias in Artificial Intelligence Systems: Biased or Unbiased AI, That’s the Question! International Journal of Intelligent Information Technologies, 2022. Vol. 18(1). P.1-23. DOI: 10.4018/IJIIT.309582
17. Вологодский Р.С., Степанов С.В. Значимые аспекты социального функционирования ИИ в области системы высшего образования // Социология искусственного интеллекта. 2024. Т. 5, № 4. С. 60-65. URL: https://www.elibrary.ru/pzvdxk
18. Берман Н.Д. Влияние эмоционального интеллекта на успеваемость студентов // В сборнике: Science innovations. Сборник статей II Международной научно-практической конференции. — Петрозаводск: Международный центр научного партнерства «Новая Наука» (ИП Ивановская И.И.), 2020. — С. 72-74. URL: https://www.elibrary.ru/qwwhgq
19. Мантусов А.Б., Сангаджиев М.М., Горяева Г.В. Один аспект формирования критического мышления в связи с использованием ИИ // В сборнике: Традиции и инновации в науке и образовании в аспекте цифровизации. Всероссийская научно-практическая конференция с международным участием. — Элиста: Калмыцкий государственный университет им. Б.Б. Городовикова, 2023. — С. 144-153. URL: https://www.elibrary.ru/xjxluj
20. Терешатова Е.Е. ИИ не может быть эффективнее педагога… // Директор школы. 2023. № 6 (279). С. 54-64. URL: https://www.elibrary.ru/qcyoen
21. Головин К.С. Необходимость правового регулирования «черного ящика» искусственного интеллекта // Вестник Костромского государственного университета. 2024. Т. 30, № 3. С. 290-297. URL: https://www.elibrary.ru/natzgg
22. Никитенко С.В. Принцип прозрачности как неотъемлемая часть правового режима искусственного интеллекта // Евразийский юридический журнал. 2022. № 3 (166). С. 38-41. URL: https://www.elibrary.ru/ossnnf
23. Кутейников Д.Л., Ижаев О.А., Зенин С.С. [и др.] Алгоритмическая прозрачность и подотчетность: правовые подходы к разрешению проблемы «Черного ящика» // Lex Russica (Русский закон). 2020. Т. 73, № 6 (163). С. 139-148. URL: https://www.elibrary.ru/vclbxm
24. Ханнанов К.А., Пырнова О.А. Искусственный интеллект и право: регулирование технологий и ответственность за решения // В сборнике: Цифровые системы и модели: теория и практика проектирования, разработки и использования. Материалы международной научно-практической конференции. — Казань:  Казанский государственный энергетический университет, 2025. — С. 1948-1951. URL: https://www.elibrary.ru/eeajzp

Библиографическая ссылка: Берман Н.Д. Преодоление вызовов внедрения ИИ-агентов в образовательной среде: фокус на этические аспекты и риски // ЦИТИСЭ. 2025. № 3. С. 166-177.