Meta: Llama Guard 4 12B

Llama Guard 4 — это мультимодальная предобученная модель, полученная на основе Llama 4 Scout, доработанная для классификации безопасности контента. Как и предыдущие версии, она может использоваться для классификации контента как во входных данных LLM (классификация промптов), так и в ответах LLM (классификация ответов). Она действует как LLM, генерируя в выходных данных текст, указывающий, является ли данный промпт или ответ безопасным или небезопасным, а если небезопасным, то также перечисляет категории контента, которые были нарушены. Llama Guard 4 была согласована для защиты от стандартизированной таксономии опасностей MLCommons и разработана для поддержки мультимодальных возможностей Llama 4. В частности, она объединяет функции предыдущих моделей Llama Guard, обеспечивая модерацию контента на английском и нескольких поддерживаемых языках, а также расширенные возможности для обработки смешанных текстово-изображенческих промптов, включая несколько изображений. Кроме того, Llama Guard 4 интегрирована в API модерации Llama API, расширяя надежную классификацию безопасности на текст и изображения.