이상휘 의원, 생성형 AI 표시 훼손·위변조 금지법 발의…최대 3천만 원 과태료

AI 생성물 ‘표시 의무’는 있으나 훼손·조작 처벌 규정은 공백…제도 보완 추진

결과물 출처·생성 방식 투명성 강화로 AI 신뢰 기반 구축 목표

생성형 콘텐츠 사람 창작물로 둔갑 차단…디지털 정보 왜곡 방지 장치 마련

이상휘 국민의힘 국회의원(포항 남·울릉군)이 생성형 인공지능(AI) 결과물의 표시를 훼손하거나 위·변조하는 행위를 금지하는 법안을 발의했다.

이 의원은 지난 13일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 일부개정법률안을 대표 발의했다고 밝혔다.

개정안은 생성형 AI 또는 인공지능시스템을 활용해 제작된 결과물에 부착되는 ‘AI 생성 표시’를 고의로 훼손하거나 위조·변조하는 행위를 명시적으로 금지하는 내용을 담고 있다.

현행법은 인공지능사업자에게 생성형 AI 결과물에 대한 표시 의무를 부과하고 있으나, 해당 표시를 훼손하거나 조작하는 행위에 대한 별도의 제재 규정은 마련돼 있지 않다.

이로 인해 AI로 생성된 콘텐츠가 사람의 창작물이나 실제 사실인 것처럼 유통될 수 있다는 지적이 제기돼 왔다.

이에 따라 개정안은 표시 훼손·위조·변조 행위를 위반 사항으로 규정하고, 적발 시 3천만 원 이하의 과태료를 부과하도록 했다.

법안이 통과될 경우 AI 결과물의 출처와 생성 방식에 대한 투명성을 높이고, 생성형 AI 확산에 따른 사회적 신뢰 기반을 제도적으로 강화하는 계기가 될 것으로 전망된다.

이상휘 의원은 “생성형 AI 기술이 빠르게 확산되는 상황에서 결과물의 출처를 명확히 하는 것은 사회적 신뢰를 지키기 위한 최소한의 장치”라며 “국민이 안심하고 인공지능 기술을 활용할 수 있도록 제도적 기반을 마련하겠다”고 밝혔다.

▲이상휘 국회의원ⓒ이상휘 의원실 제공