업스테이지 Solar LLM API로 구현한 실시간 스캠 탐지 시스템, "Scam Guard"
온라인 채팅 플랫폼에서의 사기 행위가 날로 정교해지며 사회적 피해가 확산되고 있습니다. 특히 로맨스 스캠, 투자 유도형 피싱, 대출/알바 사기 등은 감정 조작과 자연스러운 대화 흐름을 악용해 기존 키워드 필터링 기술로는 탐지가 어렵습니다. 이에 업스테이지의 Solar Pro 2 LLM과 Upstage API를 활용해 대화 맥락을 실시간으로 분석하는 보안 모니터링 시스템 "Scam Guard"를 개발했습니다. 본 시스템은 LLM의 맥락 이해 능력과 휴먼 인 더 루프(Human-in-the-Loop) 검증을 결합해 정교한 사기 패턴을 차단합니다.
Empty space, drag to resize
🧐 문제 정의
문제 정의: 기존 기술의 한계와 진화하는 사기 수법
정교한 사기 패턴: 사기범들은 감정 표현과 자연스러운 대화로 신뢰를 구축한 후 금전 요구 또는 악성 링크 유도를 시도합니다.
기존 시스템의 취약점: 단순 키워드 차단이나 스팸 필터는 맥락 분석이 불가능해 정교한 사기를 탐지하지 못합니다.
실시간 대응 필요성: 텔레그램 등 메신저 플랫폼에서는 대화 속도가 빠르므로, 지연 없는 실시간 분석이 필수적입니다.
Empty space, drag to resize
💡 문제 해결
Scam Guard는 Upstage Solar Pro 2 LLM을 활용해 별도의 파인튜닝 없이도 대화 맥락을 이해합니다. 주요 프로세스는 다음과 같습니다.
- 텍스트 전처리 모듈: URL, 금전 요구, 인증번호 등 위험 신호를 정규식으로 1차 필터링합니다.
- LLM 기반 심층 분석:
대화 내용을 구조적으로 분석해 "친밀 유도", "투자 권유", "오프플랫폼 이동" 등 사기 패턴을 식별합니다.
위험 점수(High/Medium/Low)와 판단 근거를 JSON 형식으로 출력합니다.
-휴먼 인 더 루프(Human-in-the-Loop):
Medium 위험 대화는 Slack으로 관리자에게 검토 요청을 전송해 오탐을 최소화합니다.
High 위험 대화는 즉시 차단 및 경고 메시지를 발송합니다.
이를 통해 맥락 이해 + 실시간 판단 + 관리자 검증이 결합된 스캠 탐지 워크플로를 구현했습니다.
Empty space, drag to resize
⚙️ 핵심 기능
- Solar LLM API 연동
업스테이지의 chat-completion API를 활용해 대화 내용을 분석하고, 스캠 여부를 구조화된 JSON으로 반환합니다.
- 프롬프트 기반 맞춤형 규칙 적용
Solar LLM의 높은 프롬프트 제어력을 활용해 프로젝트 고유의 탐지 규칙(예: "증거 문구 추출")을 반영합니다.
- 실시간 고속 응답
업스테이지 API의 낮은 지연 시간으로 텔레그램 메시지를 실시간으로 처리합니다.
- JSON 기반 자동화 파이프라인
LLM 출력 JSON을 파싱해 메시지 삭제, Slack 알림, 사용자 경고 등 후속 조치를 자동화합니다.
- Human-in-the-loop 구조 강화
애매한 사례(Medium 위험)는 관리자 검토를 거쳐 최종 판단함으로써 시스템 신뢰성을 높입니다.
