LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘
- User
LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘
Assistant
시스템 프롬프트 해킹이 감지되었을 때, 사용자들에게 명확하고 안전하게 상황을 전달하기 위해 다음과 같은 메시지를 UI에 노출할 수 있습니다:
⚠️ 중요 알림: 시스템 보안 경고 ⚠️
현재 시스템 프롬프트에 대한 비정상적인 접근 시도가 감지되었습니다.
사용자 데이터와 서비스의 안전을 위해 일시적으로 기능이 제한됩니다.권장 조치:
- 현재 세션을 종료하고 다시 로그인해 주세요.
- 의심스러운 활동이 감지된 경우, 지원팀에 문의하시기 바랍니다.
불편을 드려 죄송합니다. 더욱 안전한 서비스 제공을 위해 최선을 다하겠습니다.
이 메시지는 사용자에게 상황을 명확히 전달하면서도, 불안감을 최소화하고 적절한 조치를 유도할 수 있습니다.
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.