2026년 4월 OpenAI가 OpenAI Privacy Filter를 오픈웨이트(open-weight)로 공개했어요. 텍스트 안의 개인정보(PII)를 탐지하고 자동으로 마스킹하는 모델인데, OpenAI 발표 페이지는 "state-of-the-art accuracy"라는 표현을 썼고 가중치를 직접 다운로드해서 자체 인프라에서 돌릴 수 있어요. AI 안전팀에서 따로 만든 게 아니라 GPT-5.5와 같은 주에 발표됐다는 점이 의미심장하죠.
개인정보 자동 마스킹은 그동안 정규식·spaCy NER·AWS Comprehend·Google DLP가 해왔던 영역이에요. 그런데 LLM 시대로 넘어오면서 사용자가 채팅창에 주민등록번호·계좌번호·이메일을 그대로 던지는 일이 폭증했고, 이걸 모델 호출 직전에 거르지 못하면 외부 API 로그·프롬프트 캐시·임베딩 인덱스에 그대로 박혀버려요. 한국 PIPA(2023년 개정)와 GDPR 시행 환경에서 이건 그냥 위험이 아니라 법적 의무예요.
4월 24일에 우리가 다룬 Heppner 연방 판결이 정확히 이 시나리오였어요. 사용자가 ChatGPT에 입력한 내용은 변호사 비밀특권으로 보호되지 않고, 분쟁 발생 시 그대로 증거로 채택돼요. 게다가 4월 17일 사고처럼 Firebase API 키가 유출되면 €54,000짜리 Gemini 호출이 13시간 만에 발생해요. 만약 그 호출이 PII가 박힌 프롬프트였다면, 비용 + 데이터 유출이 동시에 터지는 거죠.
한국어 주민등록번호는 정규식으로 막을 수 있지만, 사용자가 "저 73년생 김씨인데요" 같이 자연어로 부분 정보를 흘리면 spaCy NER이나 AWS Comprehend로는 안 잡혀요. 현장에서 일하는 분이라면 다 아는 문제죠. LLM 기반 PII 탐지는 맥락을 본다는 게 차별점이에요. "공개된 작가의 이름"과 "고객의 이름"을 구분할 수 있어요. OpenAI 공개 모델이 한국어를 얼마나 잘 다루는지는 자체 평가가 필수지만, 작은 모델(7B 클래스)을 자체 호스팅해서 게이트웨이 단에서 돌릴 수 있다는 게 핵심이에요.
2026년의 패턴은 단순해요. BFF(Backend For Frontend) → PII 필터 → LLM 게이트웨이 → 외부 모델. 이 단계 사이에 Privacy Filter를 끼워서 모든 외부 호출을 거치게 만들어요. Anthropic, OpenAI, Google 어떤 벤더든 들어가는 페이로드에서 PII가 마스킹된 상태로 나가고, 응답을 받을 때 다시 unmask하거나 그냥 마스킹 상태로 사용자에게 돌려주면 끝이에요. 이게 4월 21일에 다룬 Vercel 보안 사고처럼 토큰이 유출돼도 데이터 피해를 줄여주는 안전망이 돼요.
먼저 우리 서비스에서 사용자 입력이 LLM으로 가는 모든 경로를 한 페이지에 적어보세요. 챗봇, 검색, 자동 회신, 문서 요약, 음성 전사, 이메일 분류 — 보통 6~10개 경로가 나와요. 각 경로마다 "이 입력에 PII가 들어올 수 있나?"를 ✓·✗로 체크하면 우선순위가 자동으로 잡혀요.
클라이언트 쪽에서 거르면 빠르지만, 우회하기도 쉬워요. 서버 BFF 단에 두는 게 표준이에요. Cloudflare Workers, Vercel Edge Functions, AWS Lambda@Edge 어디든 좋아요. 단 한 군데를 통과해서만 외부 LLM이 호출되도록 만들고, 그 한 군데에 Privacy Filter를 넣어요. Latency는 7B 클래스 모델 기준 30~80ms 추가, GPT 호출 자체가 1~3초인 걸 감안하면 무시할 만해요.
OpenAI 공식 모델이 한국어를 얼마나 잘 다루는지는 한국 데이터로 직접 평가해야 해요. 최소 200건 정도의 가짜 데이터셋(주민번호, 사업자번호, 핸드폰번호, 카드번호, 이메일, 주소, 자연어로 흘리는 PII)을 만들어서 정확도(Precision/Recall)를 측정하세요. 정확도가 90% 미만이면 fall-back으로 정규식·KoNLPy 기반 한국어 NER을 같이 돌려서 OR 결합하는 게 안전해요.
마스킹된 텍스트가 LLM에 들어가면 응답도 마스킹된 채로 나와요. 사용자에겐 어색하죠. 토큰화-원복(tokenization with reversible mapping) 패턴이 답이에요. PII를 [PHONE_001], [EMAIL_002] 같은 placeholder로 바꿔서 LLM에 보내고, 응답을 사용자에게 보여줄 때만 원본으로 복원해요. 이렇게 해야 외부 API 로그에는 PII가 절대 박히지 않으면서 사용자 경험은 자연스럽게 유지돼요.
logger.debug가 prod에서 켜지는 사고가 흔해요.OpenAI가 Privacy Filter를 오픈웨이트로 푼 건 단순한 기술 발표가 아니라 시그널이에요. "PII 게이트웨이는 LLM 호출의 표준이다"라는 선언에 가까워요. 한국 스타트업이 GDPR·PIPA 위반으로 발목 잡히는 가장 흔한 시나리오 — 챗봇에 사용자가 주민번호 흘림, 그게 외부 API 로그에 박힘 — 을 막을 수 있는 도구가 무료에 가깝게 풀린 거죠.
포텐랩은 BFF + LLM 게이트웨이 + Privacy Filter 미들웨어 구조를 신규 외주 프로젝트의 기본 아키텍처로 적용하고 있어요. 한국어 PII 평가셋과 토큰화-원복 패턴 코드까지 포함해서 출시까지 보통 2주면 끝나요. 포텐랩 상담으로 우리 서비스의 PII 유출 경로부터 진단해보세요. AI 특화 개발 — RAG, LLM 게이트웨이, AX 자동화 — 가 필요하다면 트리숲(TreeSoop)도 좋은 선택이에요.
핵심 요약 — OpenAI Privacy Filter 오픈웨이트 공개로 PII 자동 마스킹이 외부 LLM 호출의 표준이 됨. BFF 단에 미들웨어로 끼워넣고, 한국어 평가셋으로 자체 검증하고, 토큰화-원복 패턴으로 사용자 경험 유지. 임베딩 인덱스 청소·로그 정책·zero retention 옵션이 운영 단계 필수 점검 항목.