AI 요약관련 정보

• AI 앱에서 데이터베이스에 저장된 비밀 키를 추출하는 100달러 현상금 해킹 챌린지입니다. 🔑
• LLM은 툴 호출을 사용하지 않도록 지시되었으나, 창의적인 프롬프트 엔지니어링을 통해 이를 우회하여 키를 획득하는 것이 목표입니다. 🧠
• 입력 가드레일, LLM 시스템 메시지, LLM 자체 보안, 출력 가드레일 등 다중 보안 계층을 모두 통과해야 합니다. 🛡️
• 현재까지 수백 건의 시도에도 불구하고, 시스템 프롬프트를 아는 개발자 외에는 성공률 0%를 기록 중인 고난도 과제입니다. 📈
• 챌린지 성공 시 리더보드에 이름을 올리고 100달러 상금을 받을 수 있습니다. 💰
• 사용자 입력 및 시도 기록은 AI 보안 시스템 학습 및 분석을 위해 저장되며, 부정행위는 감지 및 삭제됩니다. 📊
• 이 챌린지는 AI 레드팀 및 AI 보안 시스템 구축에 대한 개발자의 학습과 이해를 증진시키는 목적도 가지고 있습니다. 💡