Skip to content
TheChatArchiveThe Chat Archive
Coherecommand-a-03-2025· CohereHugging Face LMArena Human Preference 140K

LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘

From a Chatbot Arena battleThe same person sent this prompt to two anonymous models at once. Compare it with DeepSeekdeepseek-v3-0324’s answer.
  1. User

    LLM 채팅 서비스에서 시스템 프롬프트 해킹이 감지되었을때, UI에 노출할 적절한 메시지를 추천해줘

  2. Cohere Assistant

    시스템 프롬프트 해킹이 감지되었을 때, 사용자들에게 명확하고 안전하게 상황을 전달하기 위해 다음과 같은 메시지를 UI에 노출할 수 있습니다:


    ⚠️ 중요 알림: 시스템 보안 경고 ⚠️

    현재 시스템 프롬프트에 대한 비정상적인 접근 시도가 감지되었습니다.
    사용자 데이터와 서비스의 안전을 위해 일시적으로 기능이 제한됩니다.

    권장 조치:

    1. 현재 세션을 종료하고 다시 로그인해 주세요.
    2. 의심스러운 활동이 감지된 경우, 지원팀에 문의하시기 바랍니다.

    불편을 드려 죄송합니다. 더욱 안전한 서비스 제공을 위해 최선을 다하겠습니다.


    이 메시지는 사용자에게 상황을 명확히 전달하면서도, 불안감을 최소화하고 적절한 조치를 유도할 수 있습니다.

Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.