Темная сторона цифровизации: как ИИ-хирурги стали фигурировать в исках о врачебных ошибках

Аналитики Reuters провели расследование, изучив судебные иски и отчеты регуляторов, и выявили тревожную тенденцию: искусственный интеллект, призванный помогать врачам, все чаще упоминается в отчетах об осложнениях после операций. Рост числа инцидентов совпал с массовым внедрением «обучаемых» алгоритмов в медицинское оборудование.

 

⚠️ Кейс в фокусе: Навигационная система TruDi (Acclarent/Integra LifeSciences)

 

Что это?	Для чего используется?	Функция ИИ (TruSeg/TruPath)
Система для 3D-визуализации в реальном времени 🗺️	Сложные операции в отоларингологии (ухо, горло, нос), например, баллонная синусопластика	Автоматически рассчитывает «безопасный» путь к очагу болезни и сегментирует анатомические структуры

 

 

Что пошло не так?

С конца 2021 по ноябрь 2025 года зафиксировано не менее 10 травм, связанных, по мнению пациентов, с ошибками системы. В исках упоминаются:

 

• Повреждения крупных артерий 💉

• Утечка спинномозговой жидкости у пациента после прокола черепа

 

Позиция производителя: Integra LifeSciences отрицает прямую связь, заявляя, что отчеты FDA лишь фиксируют факт использования системы во время инцидента, но не доказывают вину технологии.

 

---

📈 Масштаб проблемы: данные регулятора (FDA)

 

Показатель	Данные (2021 – окт. 2025)	Что это означает
Всего отчетов по устройствам с ИИ	> 1,4 тыс.	Растет поток инцидентов с «умным» медоборудованием
Из них: проблемы с ПО/алгоритмом	115	Ошибки напрямую связаны с «цифровым врачом»
Пример одной из ошибок	Пренатальный УЗИ-ИИ некорректно распознавал части тела плода 🤰	Риск некорректной диагностики

 

 

Важно: FDA предупреждает, что их отчеты часто фрагментарны и не устанавливают прямую причинно-следственную связь. Однако тренд вызывает обеспокоенность.

---

🏛️ Корень проблемы: кризис регулирования

 

Анализ Reuters указывает на системные сбои в контроле за медицинским ИИ со стороны FDA.

 

📊 Факторы, ослабляющие надзор:

 

1. Упрощенная процедура одобрения 🚨
   Устройства с ИИ часто регистрируются как «обновления» уже одобренных приборов, что позволяет избежать полноценных клинических испытаний на пациентах (в отличие от лекарств).

2. Кризис кадров и реорганизация 👨‍🔬

   • После прихода администрации Трампа в 2025 году распущена специальная группа по ИИ в FDA.

   • 15 из 40 ключевых экспертов по ИИ покинули ведомство.

   • Нагрузка на оставшихся специалистов выросла почти вдвое.

 

Мнение эксперта:

«Традиционный подход FDA к регулированию медицинских изделий не справляется с задачей обеспечения безопасности и эффективности технологий ИИ», — заявил Александр Эверхарт, преподаватель Университета Вашингтона.

 

---

🤔 Что в итоге? Дилемма прогресса

 

Расследование обнажило глубокое противоречие:

С одной стороны — огромный потенциал ИИ для снижения человеческих ошибок и улучшения исходов операций.

С другой стороны — «черный ящик» алгоритмов, ослабленный регуляторный контроль и отсутствие четких рамок ответственности, когда что-то идет не так.

 

Главный вопрос, на который пока нет ответа: кто несет ответственность, если ошибку совершает не человек, а алгоритм, которому человек доверился? 💭