Вместо простого теневого бана, система будет перенаправлять проблемные запросы на специализированную человеческую или бот-поддержку. Этот шаг (поддержанный коалицией The Christchurch Call) — прямой ответ на растущие требования правительственных регуляторов (вспомним калифорнийский закон о фильтрах от 31 марта). OpenAI выстраивает эшелонированную систему безопасности (AI Safety), чтобы гарантировать своим Enterprise-клиентам отсутствие репутационных рисков при развертывании агентов в публичном поле.
Источник: Reuters / Bangkok Post
AI SafetyOpenAIComplianceThroughLineSecurity