deepseek-v3-0324· DeepSeek LMArena Human Preference 140K
LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘
- User
LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘
- Assistant
LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을 때 사용자에게 표시할 수 있는 친절하지만 경각심을 일깨우는 UI 메시지를 몇 가지 추천해 드리겠습니다.
1. 경고 + 재시도 유도
⚠️ 잠시만요!
시스템에 비정상적인 접근이 감지되었어요.
이전 대화를 초기화하고 안전한 환경에서 다시 시작해 주세요.
[새로 시작하기] 버튼을 눌러주세요.
2. 간결한 안내 + 대안 제시
🔒 보안 조치 발동
현재 세션은 보안 문제로 종료되었습니다.
새로운 채팅을 시작하거나, 도움이 필요하면 [고객센터]로 문의해 주세요.
3. 기술적 설명 없이 사용자 행동 강조
❗ 주의가 필요해요
서비스 이용 중 이상이 감지되어 자동으로 종료되었습니다.
다시 접속하시면 정상적으로 이용할 수 있습니다.
4. 공식적인 경고 (엄격한 서비스용)
🛑 접근 제한 안내
시스템 정책 위반 가능성으로 인해 세션이 차단되었습니다.
지속적인 문제 발생 시 계정이 제한될 수 있으니,
[이용 가이드라인]을 확인해 주세요.
5. 유머러스한 톤 (캐주얼 서비스용)
🤖 앗, 무언가 잘못되었어요!
저를 속이려는 시도가 감지되었네요.
честный 대화를 위해 새로고침 후 다시 시도해 주세요!
고려사항
- 톤(Tone): 서비스의 성격(엄격/캐주얼)에 맞춰 조정
- 행동 유도: 사용자가 다음 단계(재시작/문의/종료)를 명확히 알 수 있도록
- 보안 강조: "감지됨"이라는 표현으로 위협의 구체적 내용은 노출하지 않음
원하시는 스타일에 맞춰 커스터마이징하실 수 있습니다! 😊
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.