OpenAI представила набор ресурсов с открытым исходным кодом, призванных помочь разработчикам создавать более безопасные продукты для подростков, расширяя инструментарий компании по обеспечению безопасности за пределы ограничений на уровне моделей. Выпуск нацелен на упрощение проектирования возрастно-адекватных функций и снижение распространённых рисков, с которыми молодые пользователи сталкиваются при взаимодействии с приложениями и сервисами на базе ИИ.
В набор входят образцовый код реализации, методические рекомендации по политике и материалы для оценки, помогающие выявлять и сокращать контакт с чувствительным контентом. Он предлагает примерные подходы к настройкам безопасности с учётом возраста, фильтрации контента, встроенным предупреждениям о безопасности и каналам для подачи пользовательских жалоб и сообщений. По словам OpenAI, ресурсы не привязаны к конкретным моделям, что позволяет разработчикам адаптировать их для различных ИИ-систем и сред развертывания.
Этот шаг сделан на фоне растущего пристального внимания к онлайн-безопасности молодёжи, с которым сталкиваются технологические компании, и на фоне того, что разработчики приложений оценивают новые требования к соответствию на разных рынках. Публикуя материалы в открытом доступе, OpenAI стремится стандартизировать передовые практики и снизить порог для внедрения таких функций, как возрастно-адаптированные настройки по умолчанию, более чёткие защитные механизмы вокруг потенциально вредных взаимодействий и процессы эскалации для сценариев повышенного риска.
OpenAI планирует со временем обновлять эти ресурсы и пригласила разработчиков и экспертов по безопасности к обратной связи и участию. Компания заявила, что продолжит расширять набор оценок и практических примеров, чтобы отражать новые исследования и реальные кейсы использования, с целью помочь командам быстрее и последовательнее выпускать защитные механизмы, ориентированные на подростков.