경찰이 인공지능(AI) 챗봇을 활용해 불송치 결정문을 작성했다가, 존재하지 않는 법리를 잘못 인용한 사실이 국정감사에서 드러났다.
뉴시스 보도에 따르면, 권칠승 더불어민주당 의원은 17일 서울 서대문구 경찰청에서 열린 국회 행정안전위원회의 국정감사에서 “용인동부경찰서가 불송치 결정문에 존재하지 않는 판결문 문구를 인용했다”고 지적했다.
이어 권 의원은 “경찰이 대법원과 서울북부지법 판결문을 인용했다지만 실제 해당 문구는 판결문 어디에도 없다”며 “존재하지 않는 법리를 인용한 것”이라고 말했다.
이에 유 직무대행은 “잘못 인용한 것이 맞다”고 인정했다.
또 권 의원이 “법리 검토 과정에서 AI를 활용한 것이냐”고 묻자, 유 직무대행은 “법리검토는 법리대로 했고 내용을 추출할 때는 챗GPT를 활용한 것으로 알고 있다”고 답했다.
권 의원은 “법리 검증 시스템이 이렇게 돌아간다면 어마어마한 문제”라며 “경찰이 자체 법률 AI를 두고 왜 외부 민간 서비스를 썼는지 이해할 수 없다”고 질타했다. 이에 유 직무대행은 “AI를 활용할 때 반드시 유의사항을 지침으로 하달했다”며 “교육도 실시하겠다”고 밝혔다.
같은당 위성곤 의원은 경찰이 추진 중인 차세대 사건관리시스템(KICS AI) 사업을 거론하며 “AI 수사지원 시스템의 핵심은 데이터인데, 경찰은 학습용 데이터가 없는 상태에서 사업을 진행하고 있다”고 지적했다. 그는 “사건기록, CCTV 영상, 통화내역, 포렌식 자료 등이 실물로만 관리돼 AI가 학습할 수 없는 구조”라며 “데이터 없는 KICS AI는 불가능하다”고 질타했다.
유 직무대행은 이에 대해 “데이터는 당연히 확보돼야 한다”며 “어느 부분이 부족한지 확인해보고, AI 활용 시 유의하겠다”고 말했다.
, , ,
