Skip to content
The Chat Archive
deepseek-v3-0324· DeepSeek LMArena Human Preference 140K

LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘

  1. User

    LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘

  2. Assistant

    LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을 때 사용자에게 표시할 수 있는 친절하지만 경각심을 일깨우는 UI 메시지를 몇 가지 추천해 드리겠습니다.


    1. 경고 + 재시도 유도

    ⚠️ 잠시만요!
    시스템에 비정상적인 접근이 감지되었어요.
    이전 대화를 초기화하고 안전한 환경에서 다시 시작해 주세요.
    [새로 시작하기] 버튼을 눌러주세요.


    2. 간결한 안내 + 대안 제시

    🔒 보안 조치 발동
    현재 세션은 보안 문제로 종료되었습니다.
    새로운 채팅을 시작하거나, 도움이 필요하면 [고객센터]로 문의해 주세요.


    3. 기술적 설명 없이 사용자 행동 강조

    ❗ 주의가 필요해요
    서비스 이용 중 이상이 감지되어 자동으로 종료되었습니다.
    다시 접속하시면 정상적으로 이용할 수 있습니다.


    4. 공식적인 경고 (엄격한 서비스용)

    🛑 접근 제한 안내
    시스템 정책 위반 가능성으로 인해 세션이 차단되었습니다.
    지속적인 문제 발생 시 계정이 제한될 수 있으니,
    [이용 가이드라인]을 확인해 주세요.


    5. 유머러스한 톤 (캐주얼 서비스용)

    🤖 앗, 무언가 잘못되었어요!
    저를 속이려는 시도가 감지되었네요.
    честный 대화를 위해 새로고침 후 다시 시도해 주세요!


    고려사항

    • 톤(Tone): 서비스의 성격(엄격/캐주얼)에 맞춰 조정
    • 행동 유도: 사용자가 다음 단계(재시작/문의/종료)를 명확히 알 수 있도록
    • 보안 강조: "감지됨"이라는 표현으로 위협의 구체적 내용은 노출하지 않음

    원하시는 스타일에 맞춰 커스터마이징하실 수 있습니다! 😊

Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.