한전KPS가 감사업무에 도입한 인공지능(AI)의 부작용과 보안·윤리 위험을 차단하기 위한 별도의 방어체계 구축에 나섰다.
한전KPS(사장 김홍연)는 'KPS AI AEGIS(AI 감사 프레임워크)'구축 전담반을 구성하고 첫 회의를 열었다고 7일 밝혔다.
'이지스(AEGIS)'는 고대 그리스 신화에서 신을 보호하는 방패를 뜻한다.
AI 에이전트 도입 과정에서 발생할 수 있는 개인정보 유출과 데이터 보안, 판단 오류 등 새로운 위험으로부터 조직을 보호한다는 의미를 담았다.
한전KPS는 앞서 감사업무 혁신을 위해 감사 특화 AI 에이전트 '감사해'를 개발해 지난 5월부터 운영하고 있다.
'감사해'는 감사보고서 자동 생성 지원과 문장·어문법 검토, 과거 징계사례 분석 및 징계 양정 보고서 생성, 감사 관련 질의응답, 공사설계 적정성 점검, 안전관리비 적정성 검토 등을 지원한다.
특히 데이터를 분석해 이상징후와 패턴을 식별하고 감사인에게 위험신호와 분석 결과를 제공하는 방식으로 감사업무를 지원하고 있다.
다만 감사 과정에서 민감한 정보가 다뤄지는 만큼 개인정보 유출과 데이터 보안 등 AI 활용에 따른 윤리적 문제와 위험요소를 보다 면밀하게 관리할 필요성이 제기됐다.
이에 따라 전담반은 감사실을 중심으로 관련 부서가 참여해 AI의 적정한 활용 기준을 마련하고 실제 감사업무에 적용할 방침이다. 기술의 안전성과 신뢰성을 우선한 AI 감사 프레임워크 구축도 추진한다.
이성규 한전KPS 상임감사는 "감사업무에 도입한 AI 에이전트는 민감한 정보를 학습하는 만큼 높은 윤리성과 철저한 리스크 관리가 필요하다"며 "AI 결과의 공정성과 신뢰성은 물론 주요 정보의 보안성을 우선해 단순한 AI 이용자를 넘어 비판적 사고로 올바르게 활용하는 'AI 행위자'로 발전하도록 하겠다"고 말했다.
구글에서 프레시안을 더 자주 만나기
전체댓글 0