IBM AI Explainability 360
Детали цены
Бесплатно, open-source. Доступ через GitHub. Поддержка и консультации могут потребовать платных услуг IBM.Возможности
Различные методы объяснения моделей (LIME, SHAP), оценка объяснимости.Интеграции
Интеграция с AI Fairness 360, Adversarial Robustness 360, Watson OpenScale, Python-библиотеками (scikit-learn, pandas)Описание
IBM AI Explainability 360 (AIX360) — это открытый (open-source) инструментарий от IBM, предназначенный для повышения прозрачности и объяснимости моделей искусственного интеллекта (ИИ). Это не конечный AI-продукт, а набор библиотек и алгоритмов, которые помогают разработчикам и исследователям понять, как работают их модели машинного обучения (МО) и почему они делают те или иные предсказания или принимают определенные решения. AIX360 предоставляет различные методы для генерации объяснений, адаптированных для разных типов моделей МО и разных заинтересованных сторон (например, технических специалистов, бизнес-пользователей или регуляторов). Инструментарий помогает выявлять факторы, которые оказывают наибольшее влияние на выход модели, понимать поведение модели на отдельных примерах или в целом, а также оценивать потенциальные смещения (bias) в данных или самой модели. Основная цель AIX360 — способствовать созданию более надежных, справедливых и заслуживающих доверия AI-систем, что становится все более важным в условиях растущего применения ИИ в критически важных областях и усиления регуляторных требований к объяснимости ИИ.