인공지능(AI) 기술을 악용해 범죄를 저지를 경우 형량을 대폭 강화하는 법률안이 국회에 제출됐다.

더불어민주당 양부남 의원(광주 서구을)은 11일 인공지능 기술을 악용한 범죄에 대하여 해당 범죄에서 정한 형의 2분의 1을 가중해 처벌할 수 있는 형법 일부 개정법률안을 대표발의했다.

최근 생성형 AI와 딥페이크 등 정보처리 기술이 고도화됨에 따라 손쉽게 타인의 얼굴, 음성, 영상 등을 실제와 구분하기 어려울 정도로 정교하게 합성할 수 있게 됐다.

이러한 기술의 발전은 일상에 편의를 주지만, 이를 악용한 신종 범죄가 급증하면서 막대한 사회적 비용 지출 등의 폐해가 발생하고 있다.

특히 수사나 재판 과정에서 AI로 조작된 가짜 증거를 제출해 실체적 진실 발견을 방해하는 행위는 사법체계의 근간을 흔드는 중대한 범죄이다.

고도로 위조된 증거는 수사기관의 판단을 저해하고 법원의 오판을 유도할 위험성이 매우 커, 국가 형벌권의 정당한 행사를 심각하게 훼손한다는 지적이 꾸준히 제기돼 왔다.

또 특정인의 명예를 훼손할 목적으로 조작된 허위 영상이나 음성을 유포하는 행위는 순식간에 확산돼 피해자에게 회복하기 어려운 치명적인 인격권 침해를 가하고 있다.

나아가 AI 기술이 타인을 기망하는 사기 수단으로 악용될 경우, 일반 국민이 자신의 인지 능력만으로는 사실 여부를 판단하기 어려워 막대한 재산 피해로 이어지는 실정이다.

개정안은 AI 기술을 악용해 증거위조나 무고 등으로 사법질서를 교란하거나, 허위 사실을 유포해 타인의 명예나 신용을 훼손하거나 업무를 방해하는 행위, 그리고 사기의 수단으로 사용하는 행위에 대해 해당 범죄에서 정한 형의 2분의 1까지 가중처벌할 수 있도록 명시했다.

형법 개정안과 더불어 AI로 생성된 허위 사실이 정보통신망을 통해 유포돼 명예훼손이 발생하는 경우에도 가중처벌할 수 있도록 하는 정보통신망 이용촉진 및 정보보호 등에 관한 법률도 함께 발의됐다.

양부남 의원은 “기술의 발전 이면에는 이를 악용하려는 시도가 늘 존재하기 마련”이라며 “이러한 폐해를 최소화하고 선량한 국민을 보호할 수 있는 방편이 필요해 이번 개정안을 발의하게 됐다”고 입법취지를 설명했다.

이어 “충분한 숙의를 통해 AI 기술 악용에 대한 사회적 경각심을 불러일으키고, 관련 범죄에 대한 강력한 예방 효과를 거둘 수 있기를 기대한다”고 강조했다.