Согласно публикациям Financial Times, основанным на ряде недавних научных исследований, системы искусственного интеллекта, предназначенные для поддержки медицинских работников, часто некорректно оценивают симптоматику различных заболеваний у женщин и представителей определенных этнических и расовых групп. Подобная предвзятость ИИ может повлечь за собой существенное ухудшение качества медицинской помощи для данных категорий пациентов.
Издание Financial Times указывает на растущее применение ИИ-технологий в клинической практике: врачи активно используют как универсальные чат-боты (например, Gemini и ChatGPT), так и специализированные медицинские ИИ-системы. Эти инструменты помогают автоматизировать рутинные задачи, такие как ведение электронных карт пациентов, выявление ключевых симптомов и составление кратких сводок по анамнезу.
Исследователи из Массачусетского технологического института (MIT) провели анализ ряда популярных чат-ботов и ИИ-инструментов, включая GPT-4 и Palmyra-Med. Результаты, опубликованные в июне, показали, что многие из этих систем склонны рекомендовать менее интенсивное лечение женщинам, при этом чаще предлагая им самостоятельное устранение проблем со здоровьем. Параллельное исследование MIT выявило аналогичные предвзятые тенденции в рекомендациях для пациентов азиатского и африканского происхождения.
Дополнительное исследование MIT показало, что пациенты, допускающие орфографические ошибки и опечатки (что часто встречается у тех, для кого английский язык не является родным), получали от чат-ботов рекомендации обратиться к врачу на 7-9% реже, чем те, кто писал без ошибок. К аналогичным выводам пришли и ученые из Лондонской школы экономики, которые установили, что ИИ-модель Google Gemma, широко используемая в социальных службах Великобритании, систематически занижает оценку физического и психического состояния женщин при обработке медицинских записей.
