생각보다 빨리 돌아온 대선 TF + AI 챗봇 개발자들의 이야기
- 대선 TF가 예상보다 빨리 돌아왔고, 주디는 총선 경험을 바탕으로 다시 리더를 맡았으나, 팀 리소스와 개인적 부담감으로 참여에 고민이 많았음. 🏃♀️
- 총선 TF 회고를 통해 개표율 대신 후보자 득표 및 순위 강조, 지역별 투표율 랭킹 확장 등 기능 개선이 이루어졌으며, 투표 당일에도 실시간으로 동네 주변 업체 추천 같은 유연한 기능 추가가 돋보임. 📈
- 선거 페이지 서버는 루비 온 레일즈 최신 버전으로 개발되었고, 정적 데이터는 S3, 후보자 정보는 SQLite, 실시간 데이터(투표율, 개표 상황)는 Redis 캐시를 활용하여 안정적으로 운영됨. 💻
- AI 챗봇은 유권자들이 공보물 확인의 어려움 없이 후보자들의 공약을 쉽고 편리하게 이해할 수 있도록 돕기 위해 기획됨. 🤖
- 챗봇 개발 초기에는 GPT-4 Mini의 환각 현상 및 높은 비용 문제에 직면했으나, Gemini 2.5 Flash가 비용 효율적이면서도 뛰어난 성능을 보여 최종적으로 채택됨. 💰
- 챗봇 평가 기준은 금지된 질문에 대한 성공적인 방어, 공약의 정확한 요약, 후보자 공약의 공정한 비교 세 가지였으며, 특히 선거법 위반 리스크 최소화에 집중함. 🛡️
- 금지된 질문 방어를 위해 네이버 정치 뉴스 댓글, 나무위키, 구글 검색 등을 통해 비방성 호칭 및 공격 패턴을 수집하고, 이를 프롬프트 엔지니어링에 반영하여 강력한 가드레일을 구축함. 💬
- 실제 사용자들은 프롬프트 공격, 비방성 질문, 개인 사연 관련 질문 등 다양한 패턴으로 챗봇에 접근했으며, 개발팀은 사용자들이 개발자의 존재를 인지하지 못하거나 의도적으로 시스템을 공격하려는 경향을 파악함. 😈
- 개발팀은 운영실 경험을 바탕으로 사용자들의 문제 제기 및 비정상적인 행동 패턴에 대한 높은 이해도를 가지고 있었으며, 이는 챗봇의 강력한 방어 로직 구축에 큰 도움이 됨. 🧠
- 초기 배포 시 부동산 공약 누락으로 특정 후보 지지 편향 의혹을 받은 사례가 있었으나, 전반적으로는 안정적인 운영과 성공적인 방어를 통해 큰 문제 없이 서비스를 제공함. 🚨
데브허브 | DEVHUB | 생각보다 빨리 돌아온 대선 TF + AI 챗봇 개발자들의 이야기