Медсёстры по всему Нью-Йорку бьют тревогу из‑за, как они описывают, тихого внедрения инструментов искусственного интеллекта в больницах, предупреждая, что эта технология угрожает как рабочим местам, так и безопасности пациентов. Профсоюзные организации утверждают, что системы внедряются в сортировку пациентов, ведение документации, планирование выписки и принятие кадровых решений без должных консультаций и обучения, и призывают к паузе и публичному раскрытию того, где и как используется ИИ. По их словам, перемены перестраивают помощь у постели больного таким образом, что человеческое суждение оказывается на вторых ролях, а риски для пациентов растут.
Опасения сосредоточены вокруг непрозрачных алгоритмов, способных влиять на клинические оценки и рабочие процессы, потенциально привнося предвзятость или трудно выявляемые ошибки. Медсёстры описывают ситуации, когда автоматизированные сводки или оценки рисков противоречат клиническим наблюдениям, создавая неопределённость в вопросе ответственности за решения. Они также опасаются, что автоматизированные инструменты планирования графиков и учёта производительности могут быть использованы для сокращения штатов или усиления нагрузки, подрывая нормы укомплектования персоналом, которые широко рассматриваются как критически важные для безопасности и качества.
Руководители больниц заявляют, что ИИ тестируется для снижения административной нагрузки и повышения эффективности, а не для замены клиницистов. Они подчёркивают, что полномочия по принятию решений остаются у лицензированных специалистов и что новые инструменты обеспечены мерами по защите конфиденциальности и безопасности. Некоторые госпитальные системы уже начали предлагать обучение работе с ассистентами для ведения документации и инструментами предиктивной аналитики и утверждают, что следят за результатами и привлекают персонал на передовой по мере расширения использования.
Спор подчёркивает более широкий пробел в регулировании по мере распространения ИИ в здравоохранении. Хотя отдельные клинические программные решения проходят проверку федеральных регуляторов, многие алгоритмические инструменты остаются вне традиционного надзора. Медсёстры и трудовые активисты призывают городские и штатные власти обязать проводить оценку воздействия, обеспечить прозрачность внедрения ИИ и чёткое распределение ответственности, когда автоматизированные инструменты влияют на уход за пациентами. Они также добиваются защитных мер от вытеснения работников и гарантий, что технологии будут поддерживать, а не вытеснять человеческую заботу, лежащую в основе работы больниц.