문제해결형
프록시니까 그대로 넘기면 되는 줄 알았습니다
프록시니까 요청을 그대로 넘기면 되는 줄 알았습니다. 서비스 세 곳을 붙이자 세 가지 다른 방식으로 깨졌습니다.
LUNA AI-GRC
기술설명형
통제 장치가 고장 나면, 열어야 할까 닫아야 할까
고장 나면 막는다. 팀 전원이 동의했고 문서에도 적었습니다. 그런데 1년 동안 코드를 읽을 때마다 반대로 동작하는 자리가 나왔습니다.
문제해결형
단위 테스트 400건이 전부 통과하는데, 서비스는 깨져 있었습니다
단위 테스트 380건이 전부 통과했는데, 배포 전 curl 한 번에 500 오류와 200 + 로그인 HTML이 돌아왔습니다. 로직이 아니라 계약이 깨져 있었습니다.
문제해결형
AI 정보보호 설계 (2) 차단과 허용 사이에 칸을 더 뒀습니다
민감정보가 보이면 막는다. 보안 기능이니 당연하다고 생각했습니다. 그런데 차단이 늘수록 통제가 약해지고 있었습니다.
문제해결형
스트리밍으로 흘러나오는 AI 답변을 중간에 끊어 보았습니다
생성형 AI 응답은 스트리밍으로 조금씩 도착합니다. 다 받은 뒤 검사하면 늦기 때문에 창 단위로 보류하며 검증했는데, 노출이 0이라는 가정이 실측에서 깨졌습니다.
문제해결형
AI 정보보호 설계 (1) 프롬프트만 막으면 될 줄 알았습니다
입력창에 들어오는 글자에서 주민등록번호와 계좌번호를 찾으면 될 줄 알았습니다. 사용자가 파일을 올리기 시작하면서 그 전제가 깨졌습니다.