붙여넣기 전에: AI 입력을 멈춰 세우는 3색 게이트

1. 모든 프롬프트를 데이터 전송으로 본다

데이터는 입력창에서 끝나지 않습니다. 첨부파일, 메일·저장소를 읽는 커넥터, 대화 기록, 다른 곳으로 복사되는 출력까지 이동합니다. 프롬프트 작성 전에 데이터가 무엇인지, 소유자가 누구인지, 승인된 환경인지, 정확한 목적이 무엇인지 묻습니다.

NIST 생성형 AI 프로필은 유출과 무단 사용·공개를 개인정보 영향으로 들고, OWASP 2025도 민감정보 공개를 LLM 애플리케이션 위험으로 분류합니다. 모든 사용이 위험하다는 뜻이 아니라 복사와 붙여넣기도 데이터 결정이라는 뜻입니다.

2. 색을 고르기 전에 다섯 흐름을 그린다

주 입력, 모든 첨부, 커넥터·플러그인, 예상 출력, 기록이 남는 위치를 적습니다. 프롬프트는 공개 정보여도 첨부 표에 이름이 있을 수 있고, 입력을 줄였어도 커넥터가 필요한 범위보다 넓은 폴더를 볼 수 있습니다.

개인 계정인지 조직 계정인지, 이 업무에 승인된 환경인지, 누가 기록을 볼 수 있는지, 보존·삭제가 어떻게 문서화됐는지도 확인합니다. NCSC 지침은 입력 이해와 모니터링, 권한 없는 사람에게 민감정보를 드러내지 않는 운영을 강조합니다.

• 입력문
• 파일과 이미지
• 커넥터와 플러그인
• 출력과 재공유
• 기록·보존·삭제

3. 초록: 공개·합성·되돌릴 수 있음

이미 공개된 자료, 실제 사람·고객·거래로 추적되지 않는 합성 예시, 그대로 공개해도 예상 피해가 없는 텍스트가 초록입니다. 공개 보도자료 재구성, 가상 이름의 이메일 템플릿 시험, 링크를 남긴 공개 문서 요약이 예입니다.

초록도 출력 검토가 필요합니다. 모델은 근거 없는 사실을 추가하거나 버전을 섞을 수 있습니다. 색은 입력 민감도만 설명하며 정확성이나 적합성을 보증하지 않습니다.

• 링크가 있는 공개 출처
• 명확한 합성 데이터
• 비밀·식별자 없음
• 되돌릴 수 있는 업무
• 게시 전 사람 검토

4. 노랑: 최소화하고 식별성을 낮추고 승인받는다

낮은 민감도의 내부 업무는 승인 환경에서 데이터를 줄인 뒤 유용할 수 있습니다. 이름을 역할로, 정확한 날짜를 범위로 바꾸고 직원·고객 번호를 삭제하며 전체 파일 대신 일부 행을 씁니다. 남은 세부정보로 사람을 쉽게 알아볼 수 있다면 익명이라고 부르지 않습니다.

마케팅 문구가 아니라 조직 정책, 계정 설정, 계약을 확인합니다. 승인자, 삭제한 필드, 남긴 필드가 필요한 이유를 기록합니다. 필요성을 설명하지 못하면 삭제하거나 합성 예시를 씁니다.

5. 빨강: 멈추고 경로를 바꾼다

비밀번호와 비밀키, 정부 식별번호, 개인 건강·인사기록, 고객 데이터, 비밀 법률문서, 미공개 재무, 독점 소스코드, 거래 계획은 공식 승인 환경과 용도별 통제가 없으면 빨강입니다.

빨강은 AI를 영원히 쓰지 않는다는 뜻이 아닙니다. 직원이 채팅창에서 혼자 결정하지 않는다는 뜻입니다. 정책에 따라 데이터 소유자·개인정보·보안·법무로 보내거나 합성 데이터로 업무를 다시 만듭니다. SDAIA는 사우디 개인정보 보호를 PDPL과 국가 거버넌스 체계로 설명합니다.

• 자격증명·비밀번호·API 키
• 신원·건강·직원 기록
• 고객 데이터·비밀 계약
• 미공개 재무수치
• 영업비밀·독점 코드

6. 90초 스크럽을 실행한다

도구에 넣기 전 임시 메모로 옮겨 이름, 식별자, 정확한 날짜·금액, 비공개 링크에 밑줄을 긋습니다. ‘영업 관리자’, ‘3분기’, ‘A사’, 대략적 범위처럼 문제 구조를 보존해 바꿉니다. 지시와 데이터를 분리하고 답에 필요한 최소 샘플로 시험합니다.

파일 속성, 숨은 댓글, 원치 않는 탭, 이미지 속 글자도 확인합니다. 직원·고객 결정처럼 개인 단위 정밀도가 필요하면 짧은 마스킹 자체가 부적절할 수 있습니다. 멈추고 공식 경로를 씁니다.

• 사람을 역할로 교체
• 정확값을 범위로 전환
• ID와 비공개 링크 삭제
• 작은 샘플로 시험
• 첨부와 연동 확인

7. 공급자 주장과 확인된 통제를 분리한다

도구마다 통제 카드를 만듭니다. 입력을 학습에 쓰지 않는다는 말은 어느 플랜인지, 보존 기간은 무엇인지, 관리자가 기록과 연동을 통제할 수 있는지, 삭제가 어디에 문서화됐는지 확인합니다. 링크, 플랜, 지역, 확인일을 기록하고 일반 페이지의 약속을 모든 제품·계정으로 확대하지 않습니다.

현재 문서의 공급자 주장, 실제 계정에서 팀이 시험한 동작, 담당자가 검토한 계약·내부 보장을 구분합니다. 화면에서 사라진 대화는 모든 로그 삭제를 증명하지 않고, 버튼 동작은 계약 약속이 아닙니다.

• 시험한 플랜과 계정
• 학습·보존·삭제
• 문서화된 위치·지역
• 관리 권한과 연동
• 출처 링크와 확인일

8. 위험이 돌아올 수 있다고 보고 출력을 검토한다

출력이 문맥의 이름을 반복하고 민감한 사실을 추론하거나 첨부문서의 악성 지시를 따를 수 있습니다. 사실·출처, 기밀성, 사람에 대한 결정을 만드는지, 조직 밖으로 나가는지를 점검합니다. 고영향 업무의 사람 검토는 형식적 서명이 아니라 실제 결정 지점이어야 합니다.

이번 주 업무 하나에 적용해 입력 색, 제거한 항목, 사용·제한·중지 결정과 이유를 한 줄로 남깁니다. 좋은 게이트는 모든 것을 초록으로 만들지 않습니다. 데이터가 시스템에 들어가기 전 멈추는 일을 정상으로 만듭니다.