AI 제품 개발 중 마주칠 수 있는 보안 위협 사례와 대책 방안

AI 제품 개발의 주요 보안 위협

• 슬랍스쿼팅: AI가 존재하지 않는 패키지를 제안, 공격자가 악성코드 배포에 악용.
• 프롬프트 인젝션: LLM 입력 조작으로 임의 코드 실행 또는 정보 유출 유도 (Vanna.ai, Office AI, GitHub MCP 사례).
• 임베딩 인버전: RAG 시스템의 임베딩 벡터에서 원본 민감 정보 복구 가능, 벡터 보호 필수.

보안 위협 대책 및 팀 활동

• 보안 검수: ASDR 및 보안 평가로 설계/구현 단계 취약점 식별.
• MCP 검수: 자체 개발 도구로 악성 MCP 탐지 및 차단.
• 권한 제한: AI 에이전트의 접근 권한을 최소화하여 피해 범위 축소.
• 가이드라인 및 연구: 최신 위협 사례 조사, AI 보안 가이드라인 배포, 가드레일 및 안전한 벡터 DB 연구.