국정감사 현장에서 경찰의 AI 챗봇 활용 과정에서 발생한 심각한 오류가 공개되어 충격을 주고 있습니다. 용인동부경찰서가 불송치 결정문 작성 시 존재하지 않는 법리를 인용한 사실이 드러났습니다.
17일 서울 서대문구 경찰청에서 진행된 국회 행정안전위원회 국정감사에서 권칠승 더불어민주당 의원은 용인동부경찰서의 불송치 결정문에 실제로 존재하지 않는 판결문 문구가 인용되었다고 강력히 지적했습니다.
권 의원은 "경찰이 대법원과 서울북부지법 판결문을 인용했다고 하지만 실제 해당 문구는 판결문 어디에도 없다"며 "존재하지 않는 법리를 인용한 것"이라고 비판했습니다.
유승원 경찰청 차장 직무대행은 이러한 지적에 대해 "잘못 인용한 것이 맞다"고 시인했습니다.
권 의원이 법리 검토 과정에서 AI 활용 여부를 추궁하자, 유 직무대행은 "법리 검토는 통상대로 진행됐고, 내용을 추출할 때 챗GPT를 활용한 것으로 알고 있다"고 답변했습니다.
이에 대해 권 의원은 "법리 검증 시스템이 이렇게 돌아간다면 어마어마한 문제"라며 강한 우려를 표명했습니다. 특히 "경찰이 자체 법률 AI 시스템이 있음에도 외부 민간 서비스를 쓴 것은 납득하기 어렵다"고 질타했습니다.
유 직무대행은 "AI를 활용할 때 반드시 유의사항을 지침으로 하달했고, 관련 교육도 실시하겠다"고 대응 방안을 제시했습니다.
같은 당 위성곤 의원도 경찰의 AI 시스템 운영에 대한 근본적인 문제점을 제기했습니다. 위 의원은 경찰이 추진 중인 차세대 사건관리시스템 'KICS AI' 사업을 언급하며 "AI 수사지원 시스템의 핵심은 데이터인데, 경찰은 학습용 데이터가 없는 상태에서 사업을 진행하고 있다"고 지적했습니다.
위 의원은 "사건기록, CCTV 영상, 통화내역, 포렌식 자료 등이 실물로만 관리돼 AI가 학습할 수 없는 구조"라며 "데이터 없는 KICS AI는 불가능하다"고 강조했습니다.
이러한 지적에 대해 유 직무대행은 "데이터는 당연히 확보돼야 한다"며 "어느 부분이 부족한지 확인하고, AI 활용 시 유의하겠다"고 답변했습니다.
이번 국정감사를 통해 드러난 경찰의 AI 챗봇 오남용 사례는 공공기관의 인공지능 활용에 대한 체계적인 관리와 검증 시스템의 필요성을 다시 한번 부각시키고 있습니다. 특히 법적 판단이 요구되는 업무에서의 AI 활용은 더욱 신중한 접근이 필요할 것으로 보입니다.