В то время как искусственный интеллект стремительно проникает в ветеринарную практику, важнейший вопрос остается без ответа: насколько надежны эти технологии и что мы действительно знаем об их разработке и валидации? Новое исследование, опубликованное в журнале Frontiers in Veterinary Science, поднимает тревожный сигнал о состоянии рынка ветеринарного ИИ.
Исследователи провели систематический аудит коммерческих продуктов искусственного интеллекта для клинического применения в ветеринарии, доступных на североамериканском рынке. Используя 25-балльную систему оценки, адаптированную из руководств FDA и GMLP, они проанализировали публично доступную документацию этих продуктов на предмет прозрачности в отношении происхождения данных, валидации, безопасности и удобства использования.
Тревожные результаты: "пропасть прозрачности"
В исследование вошел 71 продукт искусственного интеллекта для ветеринарии, включая генеративные и амбиентные инструменты (n=47), системы диагностической визуализации (n=19) и специализированные инструменты (n=5). Результаты оказались шокирующими:
- Средний невзвешенный балл прозрачности составил всего 6.4%
- 63.3% (n=45) разработчиков не раскрыли ни одного показателя эффективности
- Инструменты диагностической визуализации показали более высокий средний взвешенный по риску балл прозрачности (13.1%) по сравнению с генеративными инструментами (1.8%)
- Хотя 36.8% разработчиков систем визуализации предоставили рецензируемые или внутренние доказательства валидации, среди генеративных инструментов это сделали лишь 2.1%
- Только один разработчик (1.4%) раскрыл сигнальные данные обучающей выборки (вид, порода, возраст, пол) или производительность в подгруппах
Исследователи охарактеризовали эту ситуацию как "пропасть прозрачности" — существенное расхождение между сложными клиническими возможностями, которые рекламируются ветеринарным врачам, и публично доступными доказательствами, необходимыми для их валидации.
Клиническая значимость и последствия для практикующих ветеринаров
Выводы этого исследования имеют непосредственное значение для повседневной ветеринарной практики. В настоящее время ветеринарные врачи несут юридическое и этическое бремя проверки инструментов ИИ без доступа к необходимым данным о производительности. Это создает значительный риск для пациентов и ставит ветеринаров в сложное положение.
Особенно тревожит повсеместное отсутствие информации о демографических данных обучающих выборок, что делает невозможной независимую оценку алгоритмической предвзятости. Без этой информации нельзя определить, будет ли ИИ одинаково эффективен для всех видов, пород и возрастных групп животных.
Авторы исследования подчеркивают острую необходимость внедрения стандартизированных рамок прозрачности для поддержки выбора продуктов на основе доказательств и предотвращения вреда пациентам от непроверенных технологий. Это особенно важно, учитывая значительный разрыв между более зрелыми приложениями для визуализации и непроверенными генеративными инструментами.
Для ветеринарного сообщества это исследование служит важным напоминанием о необходимости критического подхода к внедрению новых технологий и требования большей прозрачности от разработчиков ИИ-инструментов. В конечном счете, безопасность пациентов и доказательная медицина должны оставаться приоритетом даже в эпоху технологических инноваций.