Авторы структурируют критические риски внедрения генеративных моделей в клиническую практику: от алгоритмической предвзятости (bias) до галлюцинаций в постановке диагноза. Эта работа становится базовым фреймворком для регуляторов (FDA, EMA) по управлению системными рисками (AI governance). Статья идеально дополняет сегодняшнюю новость об опросе Gallup: пока пользователи бесконтрольно консультируются с ИИ, академическая среда пытается выстроить жесткие рамки безопасности, без которых интеграция алгоритмов в медицину обернется шквалом судебных исков.
Источник: Nature / npj Digital Medicine
ComplianceNatureEthicsMedicineGovernance