글 본문은 여기에 작성하세요. 이 파일은
content/insights/do-not-answer-rule.md입니다.
"잘 답하는 AI"보다 먼저 필요한 것
AI 활용 논의는 보통 "어떤 질문에 답할 수 있는가?"부터 시작합니다. 하지만 실제 업무에 AI를 들여놓으려면 어떤 질문에는 답하지 말아야 하는가를 먼저 정의해야 합니다.
Do-Not-Answer 룰셋이 필요한 이유
- 법·규제 리스크: 개인정보, 의료·법률 자문 등 답하면 안 되는 영역
- 업무 권한: 결재·승인은 사람이 해야 하는 지점
- 데이터 한계: 현재 보유 데이터로는 신뢰할 수 없는 답변
룰셋의 구조
룰셋은 보통 세 갈래로 나뉩니다.
- 차단: 답변 자체를 거부
- 경고: 사람이 검토 후 진행
- 승인: 결재·기록이 남는 워크플로우
결론
AI 신뢰도는 "잘 답하는 능력"보다 "답하지 않을 영역을 명확히 한 정도"에서 만들어집니다.