Вывод авторов однозначен: алгоритмы превосходно работают в тепличных лабораторных условиях (In silico), но их перенос в реальную клиническую практику сопряжен с огромными рисками. Исследователи призывают к созданию жестких стандартов проверки (validation) ИИ-моделей на реальных биологических данных пациентов. Эта новость продолжает тренд по тестированию консьюмерских ИИ-решений на галлюцинации в медицине. Доверить алгоритму написание программного кода — это одно, но доверить ему предсказание иммунного ответа человеческого организма — задача, требующая нулевой толерантности к статистическим погрешностям.
Источник: University of South Florida / Nature
MedTechResearchImmunologyAI SafetyNature