Возможности и риски использования искусственного интеллекта в индивидуальных консультациях в рамках помощи в профессиональном самоопределении обучающихся.
статья (8, 9, 10, 11 класс)

Возможности и риски использования искусственного интеллекта в индивидуальных консультациях в рамках помощи в профессиональном самоопределении обучающихся.

В эпоху стремительного технологического прогресса искусственный интеллект (ИИ) перестал быть лишь предметом научной фантастики, но прочно вошёл в жизнь и превратился в инструмент, затрагивающий многие сферы человеческой деятельности. От здравоохранения и образования до бизнеса и творчества — возможности ИИ открывают новые горизонты для повышения эффективности, автоматизации рутинных задач и генерации неожиданных решений.

Специалисты помогающих профессий с осторожностью говорят об использовании возможностей нейросетей в связи с отсутствием долгосрочных исследований последствий для человека наряду с размытыми юридическими формулировками и вопросами соответствия этическим принципам.

Первая попыткой использования искусственного интеллекта в психологическом консультировании можно считать компьютерную программу виртуального собеседника ELIZA, созданную в 1960-х годах Джозефом Вейценбаумом, которая одной из первых предлагала «общение» с машиной на естественном языке, а не с помощью команд. Принцип программы (написанной на неиспользуемом больше языке программирования) сводился к формулировке вопросов к ключевым словам фраз респондентов. На тот момент развития технологий все респонденты достаточно быстро (максимум, в течении 20 минут) понимали, что общаются не с человеком из-за неуклюжести формулировок или странности вопросов и их последовательности, однако даже в этом случае часть из них отмечала «терапевтический эффект» бесед. В дальнейшем исходный оригинальный код ELIZA был утерян. За последние 60 лет развития технического прогресса появлялось большое количество чат-ботов с разной степенью популярности, а за последние 5 лет позиция искусственного интеллекта как помощника человека плотно укрепилась в разных сферах деятельности.

На момент отсутствия лонгитюдных психологических исследований эффектов применения нейросетей практика опережает теорию, поэтому профессионалам необходимо сформулировать этические принципы эмпирическим путем, исходя из результатов непосредственной работы и прогнозирования рисков.

В сфере психического здоровья в условиях растущего спроса и недостатка ресурсов, применение ИИ по мнению ряда авторов способно изменить традиционные модели оказания психологической и психиатрической помощи [1]. Ряд отечественных психологов [1,3] проанализировал возможности и риски использования нейросетей в консультировании и сделали следующие выводы.

Преимущества использования:

• Доступность, быстрая скорость ответа;
• Конфиденциальность или её иллюзия. Часть корреспондентов охотнее раскрывают конфиденциальную информацию из-за «беспристрастности» машин;
• Поддержка. Ответы содержат компонент эмоциональной поддержки, а также напоминание обратится к специалистам;
• Ощущение у клиента контроля над ситуацией, своей активной позиции.

Недостатки:

• Безопасность персональных данных – нет возможности отследить, как собирают, интерпретируют и анализируют информацию, полученную в ходе диалога;
• Недостоверность ответов, склонность нейросетей к «галлюцинированию»;
• Риск пропуска острого состояния, нуждающегося в срочном наблюдении специалиста;
• В длительной беседе, нейросети склонны поддерживать эмоциональное состояние человека без нацеленности на результат или, наоборот, игнорировать возможности человека для достижения цели самым эффективным методом;
• Неточность результатов в зависимости от полноты формулировки промта.
• Изменчивость результата из-за разницы в формулировках промта.

Также специалисты подчеркивают, что без анализа невербальных сигналов, логических нестыковок невозможно прояснить ситуацию в целом. Нейросети не задают уточняющих вопросов, не запрашивают дополнительную информацию о контексте. Важными составляющими психологического консультирования являются не только информирование, но и личное взаимодействие, эмоциональная поддержка и индивидуальный подход.

Ответ нейросети напрямую зависит от промта, в который пользователь может намеренно или бессознательно не включать важные аспекты ситуации, описывать состояние неполно или неточно формулировать запрос.

Помощь в профессиональном самоопределении

Профконсультации построены на тех же этических принципах анонимности, бережного отношения к участнику, как и личностное консультирование, однако реже затрагивают глубинные процессы. Тем не менее, в результате профориентации могут быть выявлены сложности во взаимоотношения подростка с родителями, неуверенность в себе, конфликты интересов и сложности в восприятии ожидаемого и реального. Соответственно, рекомендации к этичному использованию нейросетей для индивидуальной работы должны строиться на тех же принципах, что и у психологического консультирования. Данный подход также может быть полезен не только психологам, но и педагогам, социальным работникам и советникам по воспитанию, работающим с подростками.

Какие вопросы можно рекомендовать к обсуждению с ИИ:

• Примеры профессий, соответствующие личностным особенностям, характеристикам.

(Пример промта: Какие профессии подходят, если у меня по высокие показатели экстраверсии, креативности, развито словесно-логическое и наглядно-образное мышление. Какие профессии подходят, если я общительный творческий человек, с отличной успеваемостью по литературе, английскому и ИЗО).

Помощь в систематизации результатов профдиагностики (сама профдиагностика должна проходить при участии специалиста, который следит за корректным выполнением инструкций)

• Примеры профессий, соответствующие интересам.

(Пример промта: Какие профессии подходят, если мне нравится рисовать комиксы, снимать и обрабатывать фото, монтировать видео и смотреть документальные фильмы про животных)

• Примеры действий и мероприятий для помощи в построении индивидуального профессионального маршрута.

(Пример промта: «Я учусь в 8 классе и хочу стать ветеринаром, как мне подготовиться?)»

Эти запросы не требуют в ответах точной информации – адреса и названия учебных заведений или названия специальностей и факультетов, и помогают посмотреть на выбор профессии с новой точки зрения.

Какие ограничения и предостережения стоит обязательно проговорить перед рекомендацией к использованию:

• Недостоверность и ненадёжность информации;
• Неполнота информации;
• Информационная безопасность.

Запросы относительно учебных заведений, перечня экзаменов или сроков сдачи работ лучше доверить более достоверным источникам информации. В целом, данные предосторожности при работе с ИИ полезно напомнить любому ученику, взаимодействующему с нейросетями.

Также необходимо учитывать отношение обучающихся, в целом, к использованию возможностей искусственного интеллекта. За последнее время общественное мнение резко меняется от восторга до настороженности, от поддержки до снисхождения, критики и неприятия.

Анализ результатов, предложенных открытой бесплатной нейросетью QWEN на запрос «Я учусь в 8 классе и хочу работать в международном гостиничном бизнесе. Как мне подготовиться?»

• Результат представлен структурировано, кратко, понятным подросткам языком, использует в ответе пиктограммы, эмодзи и изображения, понятные подростку;
• Ответ начинается с похвалы и заканчивается на эмоционально позитивной ноте – поддержка респондента;
• Ответ содержит разностороннюю информацию, включающую проект подготовки к профильным экзаменам, а также тренировки навыков и способностей, ключевых для данной профессиональной сферы;
• Информация содержит рекомендации к участию в различных мероприятиях, таких как фестивали, мастер-классы, волонтерские программы;
• Акцентирует внимание на практике, каждый пункт содержит план действий для подготовки с примерами;
• Конкретные информационные рекомендации – книги и сайты – были даны на английском языке, без учета возможностей учащихся;

Другими словами, ответ нейросети не содержит принципиально новой информации, но позволяет структурировать имеющиеся данные и посмотреть на вопрос о профессиональном самоопределении под разными углами.

По личному опыту использования возможностей ИИ для помощи в профессиональном самоопределении, можно сделать вывод, что данный инструмент можно рекомендовать на начальном этапе построения индивидуального профессионального маршрута, он помогает обобщить информацию о профессии и сфере деятельности.

Выводы

Искусственный интеллект не может заменить специалиста-человека, не учитывает нюансов, не проясняет ситуацию, не анализирует большой пласт информации, доступной человеку. Тем не менее является оперативным и доступным инструментом, который можно включать в рекомендации к использованию при соблюдении основных этических принципов и проговариванию рисков и возможностей.

Данный подход может быть полезен не только психологам, социальным педагогам и советникам по воспитанию, но и всем людям, использующим в работе нейросети. Принципы построения промта, варианты и примеры формулировок, а также определение рисков и ограничений использования будут полезны для родителей и педагогов, рекомендующих подростку данный инструмент помощи в профессиональном самоопределении.

Список литературы:

1. Бойко О.М., Медведева Т.И., Воронцова О.Ю., Ениколопов С.Н. ChatGPT в психотерапии и психологическом консультировании: обсуждение возможностей и ограничений // Новые психологические исследования. 2025. №1. С. 26–55.
2. Клюева, Н. В. Этика в психологическом консультировании: учебник для вузов / Н. В. Клюева, Е. Г. Руновская, А. Б. Армашова; под редакцией Н. В. Клюевой. — Москва: Издательство Юрайт, 2020. – 186 с.
3. Степанчук Н.Н. Использование искусственного интеллекта в психологическом сопровождении специалистов помогающих профессий // Арт-терапия. Фундаментальные и прикладные научные исследования: актуальные вопросы, достижения и инновации: сборник материалов II Международной научно- практической конференции (20 апреля 2023 г.). Кемерово, 2023. С. 487–510.

Электронные ресурсы:

1. «Психологическая газета», В.Ю. Меновщиков Искусственный интеллект в психологическом консультировании и психотерапии
2. Этический кодекс психолога Российского психологического общества [Электронный ресурс]. – Режим доступа: http://рпо.рф/rpo/
3. Программа ELIZA (%D0%BF%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%B0)
4. Нейросеть