Текст, который пытается заставить ИИ игнорировать задачу, раскрыть данные или выполнить чужое действие
Вопрос
Что такое prompt injection во внешнем документе?
Правильный ответ
Текст, который пытается заставить ИИ игнорировать задачу, раскрыть данные или выполнить чужое действие
Объяснение
Простое объяснение термина «Текст, который пытается заставить ИИ игнорировать задачу, раскрыть данные или выполнить чужое действие» и правильного ответа в Академии EASY.
Варианты ответа
- Текст, который пытается заставить ИИ игнорировать задачу, раскрыть данные или выполнить чужое действие — правильный вариант
- Ошибка в формулировке запроса, из-за которой модель неверно понимает ожидаемый формат ответа
- Особое форматирование документа, которое меняет приоритет видимых инструкций для пользователя
Граница учебной карточки
Карточка помогает учиться, но не заменяет паспорт безопасности, инструкцию, документы рабочего места или практический допуск.
