Курс посвящен MLSecOps (операциям по обеспечению безопасности машинного обучения) — практике обеспечения безопасности систем искусственного интеллекта (ИИ) на всех этапах: от разработки до аудита.
Вы изучите методологию международного стандарта OWASP Top 10 (10 лучших проектов «Открытого всемирного проекта по безопасности приложений») для больших языковых моделей и научитесь предотвращать такие специфические для ИИ угрозы, как отравление данных, утечки системных промптов, промпт-инъекции, уязвимости цепочек поставки, обходы защиты (джейлбрейки) больших языковых моделей, уязвимости векторных баз данных, неконтролируемое потребление ресурсов.
Программа разработана с учетом международных стандартов и требований ФСТЭК России, что делает ее актуальной для специалистов, работающих в критических отраслях и госсекторе.
