문제해결형
프록시니까 그대로 넘기면 되는 줄 알았습니다
프록시니까 요청을 그대로 넘기면 되는 줄 알았습니다. 서비스 세 곳을 붙이자 세 가지 다른 방식으로 깨졌습니다.
생성형 AI
문제해결형
AI 정보보호 설계 (2) 차단과 허용 사이에 칸을 더 뒀습니다
민감정보가 보이면 막는다. 보안 기능이니 당연하다고 생각했습니다. 그런데 차단이 늘수록 통제가 약해지고 있었습니다.
문제해결형
스트리밍으로 흘러나오는 AI 답변을 중간에 끊어 보았습니다
생성형 AI 응답은 스트리밍으로 조금씩 도착합니다. 다 받은 뒤 검사하면 늦기 때문에 창 단위로 보류하며 검증했는데, 노출이 0이라는 가정이 실측에서 깨졌습니다.
문제해결형
AI 정보보호 설계 (1) 프롬프트만 막으면 될 줄 알았습니다
입력창에 들어오는 글자에서 주민등록번호와 계좌번호를 찾으면 될 줄 알았습니다. 사용자가 파일을 올리기 시작하면서 그 전제가 깨졌습니다.