Dec 17

[미디어/마케팅] 엉금: 콘텐츠 민감정보 자동 차단 솔루션

"쉬운 콘텐츠 제작 시대"의 역설: 누구나 쉽게 콘텐츠를 만들고 공유할 수 있게 되었지만, 동시에 개인정보 및 민감 정보 유출 위험도 증가했습니다.

마케터의 이중 리스크:

자신이 제작한 콘텐츠에서 실수로 민감정보가 노출될 위험
고객이 올린 UGC(User Generated Content)에서 개인정보를 관리해야 하는 부담

기존 수동 검수 방식은 속도가 느리고 실수가 잦아, 단 하나의 민감정보도 놓치지 않는 철저한 검토가 어려웠습니다. 따라서 콘텐츠 발행과 UGC 관리를 동시에 처리할 수 있는 지능형 AI 에이전트가 필요했습니다.

본 프로젝트에서는 n8n과 Upstage AI를 결합한 지능형 AI 에이전트, '엉금.’을 개발했습니다.
콘텐츠 발행 및 마케팅 워크플로우 전반에 걸쳐 3단계 AI 필터링을 제공합니다.

[AI Agent, 엉금]

'엉금.'은 정해진 포맷의 문자열 뿐만 아니라, 스스로 문맥을 인지하고 추론하여, 민감정보의 광범위한 탐지를 수행합니다.

1. 인지 (Perceive): Webhook, n8n 폼, `Upstage OCR`, Face Detection API를 통해 텍스트, 이미지, 태그 이벤트를 실시간으로 인지합니다.

2. 추론 (Reasoning): `Upstage Solar LLM`이 인지된 데이터를 바탕으로 복잡한 추론을 수행합니다.

- 추론 1: "이 텍스트에 ‘얼굴’, '주민번호' 또는 '카드번호'와 같은 민감정보가 포함되어 있는가?" (PII 탐지)

- 추론 2: "이 문맥에 민감정보가 추측될 수 있는 단서가 포함되어 있는가?" (문맥 탐지)

- 추론 3: "이 내용이 사용자가 추가로 등록한 '기밀 정보' 키워드와 관련이 있는가?" (커스텀 탐지)

3. 결정 (Decision): LLM의 추론 결과와 이미지 분석 결과를 종합하여, n8n 라우터(Router)가 자율적인 결정을 내립니다.

- PII='없음' AND 문맥=’안전’-> ‘컨텐츠 공개 가능' 결정

- PII='있음' OR 문맥=’의심’ -> '관리자에게 알림' 결정

4. 행동 (Action): 결정된 사항을 n8n 노드(DM 발송, 슬랙 알림, 이미지 블러)를 통해 즉시 실행합니다.

['엉금.' 에이전트의 2가지 모드]

- Mode 1: "발행 전 사전 검수" (Proactive Check)

- 대상: 마케터, 1인/소규모 크리에이터

- 기능: 마케터가 n8n 폼에 준비된 콘텐츠(이미지/텍스트)를 업로드하면, '엉금.' 에이전트가 개인정보를 탐지하고 블러 처리된 수정본을 제공합니다.

- Mode 2: "UGC 실시간 모니터링" (Reactive Monitor)

- 대상: CS팀, 마케팅팀

- 기능: 고객이 생성한 UGC를 실시간으로 크롤링/분석하여, 민감한 정보 탐지 시 관리자에게 알림(디스코드)을 발송합니다. 또한, RAG에 기반하여 채팅 형식으로 명령할 수 있고, 수집된 UGC 세트에서 민감한 정보를 필터링 한 후 자동 저장하며 자연어로 쿼리할 수 있습니다.

[3-Level AI 필터링]

1. Level 1 (기본 PII 탐지): 이미지/텍스트에서 개인을 특정할 수 있는 일반적인 정보(얼굴, 전화번호, 주소, 카드번호 등)를 탐지합니다.

2. Level 2 (문맥 심층 분석): 콘텐츠의 맥락을 분석하여, 민감정보가 암시되어 있고(’집 앞 3분 거리 편의점’ 등 개인적인 위치•시간적 노출 등) 추측이 가능한지 파악합니다.

3. Level 3 (커스텀 기밀 필터링): 사용자가 직접 '민감 키워드'를 등록합니다. (예: 군사 기밀 용어, 회사 신제품 스펙 등). `Upstage Solar LLM`이 PII뿐만 아니라 이 사용자 정의 기밀정보까지 함께 탐지하여 사용자 맞춤의 보안을 제공합니다.

[핵심 기능]

1. AI 에이전트 기반 작동: 단순 구문 분석이 아닌, 스스로 인지-추론-결정하는 AI 에이전트.

2. 2-in-1 모드: 크리에이터/마케터가 발행할 콘텐츠의 '사전 검수' 및 고객 UGC의 '사후 모니터링' 동시 제공.

3. 3-Level 필터링: 기본 PII 탐지, 맥락 파악, 사용자 맞춤 기밀 탐지.

[Upstage API 활용 내용]

1. `Upstage OCR (Document Parser)` 노드:

- AI 에이전트의 '인지' 단계에서 사용자가 업로드한 이미지 또는 고객 UGC 이미지의 텍스트를 추출하여 전처리하는 데 활용합니다.

2. `Upstage Solar LLM` 노드:

- PII 탐지: 텍스트 및 OCR로 추출된 텍스트에서 전화번호, 주소, 카드번호 등 보편적인 개인정보를 탐지합니다.

- 문맥 분석: 텍스트 문맥을 분석하여 민감정보의 암시 및 추측 가능성을 제공합니다.

- 커스텀 탐지: 사용자가 정의한 민감 키워드가 텍스트에 문맥상 포함되었는지 여부를 LLM이 판단하여 필터링을 제공합니다.

[미디어/마케팅] 엉금: 콘텐츠 민감정보 자동 차단 솔루션

📌 프로젝트 소개

🧐 문제 정의

💡 문제 해결

⚙️ 핵심 기능

🎬 데모 영상

👥 팀원 소개

💾 참고 자료