AI 거버넌스
직원이 어떤 생성형 AI를 쓰든 한 경로를 지나게 하고, 오간 내용을 정책에 따라 판정하고 기록합니다.
문제
직원은 이미 매일 AI를 씁니다. 계약서를 올려 요약을 시키고, 코드를 붙여넣어 검토를 받습니다.
그런데 회사 로그에는 남지 않습니다. DLP는 파일이 나가는 것을 보고 방화벽은 접속을 보는데, 직원이 AI에 붙여넣는 것은 암호화된 정상 웹 트래픽입니다. 장비 입장에서는 그냥 웹사이트를 이용한 것입니다.
누가, 어떤 AI에, 무엇을 보냈는지 확인할 방법이 없습니다.
LUNA™ AI-GRC가 하는 일
AI의 입력과 응답을 검사합니다.
직원이 어떤 AI를 쓰든 회사가 정해놓은 한 곳을 통과하게 합니다. 외부 SaaS AI와 사내 구축 AI를 같은 경로로 묶고, 이 경로를 거치지 않는 직접 접속은 차단합니다. 경로가 하나가 되면 그때부터 기록이 남습니다.
그 경로에서 프롬프트와 첨부 문서를 확인합니다. 문서는 본문·표·이미지를 각각 다른 방식으로 봅니다. 본문만 읽는 검사는 표와 이미지를 그대로 지나가기 때문입니다. 스캔해서 붙여넣은 신분증 사본은 글자가 아니라 그림이라 텍스트 추출 결과에 아예 나타나지 않습니다.
읽어낸 내용으로 건별 정보 등급을 매기고, 등급이 처리 방식을 정합니다.
| 등급 | 처리 |
|---|---|
| C 기밀급 | 외부 생성형 AI로 내보내지 않습니다 |
| S 민감급 | 외부 모델 대신 사내 LLM으로 보냅니다 |
| O 공개급 | 외부 AI 이용을 허용하고 이력만 남깁니다 |
같은 질문이라도 등급에 따라 가는 모델이 갈립니다. 이 구분은 국가 망 보안체계(N2SF)의 등급 체계에 맞춰 두었습니다.
남는 것
무엇이 어떤 등급으로 판정돼 어디로 갔는지가 한 줄에서 확인됩니다. 규제 대응에서 실제로 요구되는 것은 막았다는 사실보다, 막았는지 통과시켰는지와 왜 그렇게 판정했는지를 나중에 설명할 수 있는 기록입니다.
개발 이야기
이 제품을 만들면서 겪은 문제를 블로그에 쓰고 있습니다.
AI 정보보호 설계 — 무엇을 막을지 정하기까지
- 프롬프트만 막으면 될 줄 알았습니다 — 글자만 검사해서는 부족했습니다
- 차단과 허용 사이에 칸을 더 뒀습니다 — 두 갈래로는 판정이 안 됐습니다
- AI가 답하지 않고 실행하기 시작했습니다 — 도구를 쓰는 AI
만들면서 남긴 기록
- 스트리밍으로 흘러나오는 AI 답변을 중간에 끊어 보았습니다
- 프록시니까 그대로 넘기면 되는 줄 알았습니다
- 통제 장치가 고장 나면, 열어야 할까 닫아야 할까
- 단위 테스트 400건이 전부 통과하는데, 서비스는 깨져 있었습니다
