행정 업무에 생성형 AI를 들일 때 내가 먼저 따진 것

부서에서 생성형 AI를 어디까지 써도 되는지 한 장으로 정리해 달라는 요청을 받았다. 막상 들여다보니 "쓴다, 안 쓴다"의 문제가 아니라 "어디까지, 어떤 안전장치를 두고 쓰느냐"의 문제였다. 도구를 막는 일은 오래가지 못한다. 결국 누군가는 개인 계정으로 몰래 쓰게 되고, 그게 더 위험하다.

먼저 본 것은 데이터가 어디로 가느냐였다

외부 서비스 입력창에 문장을 넣는다는 건 그 문장이 우리 망 밖으로 한 번 나간다는 뜻이다. 공개를 전제로 쓴 보도자료 초안이라면 부담이 적다. 그러나 민원인의 이름과 연락처, 처리 중인 사건의 정황이 섞인 글은 그대로 넣으면 안 된다. 그래서 첫 규칙은 단순하게 정했다. 개인정보와 비공개 문서는 외부 모델에 넣지 않는다. 요약이 필요하면 식별 정보를 지운 뒤 넣는다.

내부망에서만 도는 모델을 쓸 수 있다면 이야기가 달라지지만, 그 경우에도 "어떤 데이터로 학습/보관되는가"를 계약과 설정에서 확인하기 전에는 같은 기준을 유지하는 편이 마음이 편했다.

그다음은 틀린 말을 얼마나 그럴듯하게 하는가였다

생성형 모델은 모르는 것도 아는 것처럼 답한다. 특히 법령 조문, 통계 수치, 사람 이름과 직함처럼 정확해야 하는 항목에서 조용히 틀린다. 한번은 시행령 조항 번호를 자신 있게 알려줬는데 원문을 찾아보니 존재하지 않는 조항이었다. 그 뒤로는 규칙을 하나 더 붙였다. 모델이 만든 사실 진술은 반드시 원문이나 1차 자료로 대조하기 전에는 문서에 넣지 않는다.

그래서 쓸모가 큰 쪽과 작은 쪽이 갈렸다. 표현을 다듬고, 긴 회의록에서 결정 사항만 추리고, 같은 내용을 대상 독자에 맞춰 고쳐 쓰는 일에는 시간을 확실히 줄여 줬다. 반대로 "이 사안의 근거가 되는 규정이 무엇인가" 같은 질문은 출발점을 잡는 데만 쓰고, 답 자체는 사람이 확인했다.

작은 규칙 몇 개가 도구보다 중요했다

거창한 가이드라인보다, 현장에서 지킬 수 있는 짧은 약속이 더 오래갔다. 우리가 정한 건 세 줄이었다. 개인정보·비공개 문서는 외부 모델에 넣지 않는다. 모델이 만든 사실은 검증 전엔 인용하지 않는다. 최종 판단과 그 책임은 사람에게 있다.

도구는 계속 바뀐다. 작년에 쓰던 것과 올해 쓰는 것이 다르고, 내년엔 또 다를 것이다. 그래서 특정 제품 사용법을 외우기보다, 어떤 도구가 와도 적용되는 기준을 한 장으로 가지고 있는 편이 결국 손이 덜 갔다. AI가 일을 대신 해 주는 게 아니라, 초안을 빨리 만들어 주는 동료에 가깝다고 보면 기대와 위험의 크기를 함께 가늠하기 쉬웠다.