ДИАЛОГИ С НЕЙРОСЕТЯМИ О НАСТОЯЩЕМ И БУДУЩЕМ МЕДИЦИНСКИХ ПРОФЕССИЙ: РИСКИ И ПЕРСПЕКТИВЫ

Аннотация


В статье рассмотрены риски для социального восприятия медицинских профессий в контексте роста популярности генеративных текстовых и визуальных нейросетей. Статья находится в русле многочисленных исследований, которые склонны видеть скорее риски данной технологии, в том числе для области здравоохранения. Тематика стереотипов в отношении медицинских профессий крайне важна, т. к. они обнаруживают связь с негативными исходами для системы здравоохранения. Исследование сосредоточено в первую очередь на восприятии специалистов в области сестринского дела со стороны населения. С использованием выгрузок сетей СhatGPT, Kandinsky и Шедеврум проведено исследование заложенных в нейросети представлений о сестринской профессии. Во всех нейросетях мы видим воспроизводство стереотипов: стереотипы о внешности (пол, возраст, раса, униформа) чаще «разделяют» визуальные нейросети, а о функционале (отсутствие автономии, зависимость от коллег) — текстовые нейросети. Мы можем предполагать риски возникновения замкнутого круга, когда сеть обучается на данных с множеством стереотипов, а продукты на основании её выдачи увеличивают масштаб стереотипных представлений при дальнейшем обучении нейросети. Упомянуты усилия разработчиков, чтобы избежать воспроизведения стереотипий, но выгрузки показывают, что они не до конца успешны. Рекомендовано распространение социгуманитарной экспертизы нейросетей для предупреждения распространения искажений восприятия в них. Предлагается «промпт-эксперимент» как механизм выявления такого рода рисков.

Об авторах

Е. И. Аксенова

И. В. Богдан

Список литературы

  1. Морозов С. П., Владзимирский А. В., Ледихова Н. В. и др. Московский эксперимент по применению компьютерного зрения в лучевой диагностике: вовлеченность врачей-рентгенологов // Врач и информационные технологии. 2020. №4. С. 14—23.
  2. Sallam M. ChatGPT utility in healthcare education, research, and practice: systematic review on the promising perspectives and valid concerns // Healthcare. 2023. Vol. 11, N 6. P. 887.
  3. Shahriar S., Hayawi K. Let's have a chat! A conversation with ChatGPT: technology, applications, and limitations. Arxiv. 2023. V2.
  4. Lund B. D., Wang T., Mannuru N. R. et al. ChatGPT and a new academic reality: Artificial Intelligence — written research papers and the ethics of the large language models in scholarly publishing // Journal of the Association for Information Science and Technology. 2023. Vol. 74, N 5. P. 570—581.
  5. Алешковский И. А., Гребенюк А. А., Сидоров И. Н. Социальные риски и негативные последствия распространения технологий искусственного интеллекта // История. 2022. №4 (114). doi: 10.18254/S207987840019849-2
  6. Dwivedi Y. K., Kshetri N., Hughes L. et al. “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy // International Journal of Information Management. 2023. Vol. 71. P. 102642.
  7. Богдан И. В., Гурылина М. В. Четыре «больших» стереотипа о медицинских сестрах в массовом сознании: по материалам анализа сообщений москвичей в социальных медиа // Проблемы социальной гигиены, здравоохранения и истории медицины. 2019. Т. 27, Спецвыпуск. С. 552—558.
  8. Богдан И. В., Гурылина М. В. Медицинская сестра: образ профессии в массовом сознании // Народонаселение. 2019. №3. С. 102—115.
  9. Богдан И. В., Природова О. Ф., Фомина О. А., Чистякова Д. П. Восприятие медицинских сестер работниками здравоохранения: социологический взгляд на дискурс об автономии. Nomothetika: Философия. Социология. Право. 2022; 2: 180—189.
  10. Богдан И. В., Дренева А. А., Чистякова Д. П. Образ медицинского специалиста в социальных медиа глазами москвичей: управленческие и методические аспекты // Цифровая социология/Digital Sociology. 2022. Т. 5, №3. С. 57—67.
  11. Homolak J. Opportunities and risks of ChatGPT in medicine, science, and academic publishing: a modern Promethean dilemma // Croat. Med. J. 2023. Vol. 64, N 1. P. 1—3.

Статистика

Просмотры

Аннотация - 1

PDF (Russian) - 0

Cited-By


PlumX

Dimensions


© АО "Шико", 1970

Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Почтовый адрес

Адрес: 105064, Москва, ул. Воронцово Поле, д. 12

Email: ttcheglova@gmail.com

Телефон: +7 903 671-67-12

Редакция

Щеглова Татьяна Даниловна
Зав.редакцией
Национальный НИИ общественного здоровья имени Н.А. Семашко

105064, Москва, ул.Воронцово Поле, д.12


Телефон: +7 903 671-67-12
E-mail: redactor@journal-nriph.ru

Данный сайт использует cookie-файлы

Продолжая использовать наш сайт, вы даете согласие на обработку файлов cookie, которые обеспечивают правильную работу сайта.

О куки-файлах