IBM AI Fairness 360

Описание

IBM AI Fairness 360 (AIF360) — это открытый (open-source) набор инструментов (toolkit), разработанный исследовательским подразделением IBM (IBM Research) для помощи разработчикам, специалистам по данным и исследователям в выявлении, анализе и снижении предвзятости (смещения) в моделях машинного обучения (МО) на протяжении всего жизненного цикла создания и применения систем искусственного интеллекта (ИИ). Выпущенный в 2018 году под лицензией Apache 2.0, AIF360 предоставляет обширную библиотеку метрик (более 70) для количественной оценки различных видов несправедливости и смещений в наборах данных и моделях МО. Кроме того, он включает в себя набор из более чем 10 передовых алгоритмов для снижения смещений, которые могут применяться на разных этапах рабочего процесса МО: до обработки данных (pre-processing), в процессе обучения модели (in-processing) и после получения результатов предсказания (post-processing). AIF360 разработан как расширяемый фреймворк, позволяющий исследователям и практикам добавлять новые метрики и алгоритмы, а также сравнивать их эффективность. Toolkit интегрируется с популярными библиотеками МО в Python, такими как TensorFlow, PyTorch и Scikit-learn. Он не является конечным продуктом для пользователя, а инструментом для разработчиков ИИ-систем, стремящихся обеспечить их справедливость и этичность. Использование AIF360 способствует повышению доверия к ИИ-системам и помогает организациям соответствовать растущим требованиям к этичности и прозрачности алгоритмов. Платформа представляет собой библиотеку Python, совместимую с различными операционными системами, поддерживающими Python.