과학기술정보통신부는 15일 생성형 AI의 급격한 확산에 따른 부작용을 방지하고 국가적 데이터 주권을 강화하기 위한 'AI 신뢰성 및 안전성 확보 방안'을 발표했다. 이번 정책은 AI 모델의 할루시네이션(환각 현상)을 최소화하고, 학습 데이터의 저작권 보호와 투명성을 제고하여 국내 AI 산업의 글로벌 경쟁력을 확보하는 데 중점을 둔다.
정부는 우선 AI 모델 개발 단계에서부터 윤리적 가이드라인을 강제화하고, 기업들이 학습 데이터의 출처를 명확히 밝히도록 하는 'AI 데이터 투명성 공시제'를 도입하기로 했다. 과기정통부 AI정책과 관계자는 "기술 발전 속도에 맞춰 안전망을 구축하는 것이 국가적 과제"라며, "민간 기업과 협력해 실시간 모니터링 시스템을 고도화하고, AI 윤리 검증을 통과한 모델에 한해 공공 부문 도입을 우선 검토할 예정"이라고 밝혔다.
전문가들은 이번 조치가 AI 생태계의 건전성을 높이는 계기가 될 것으로 평가하면서도, 기술 혁신을 저해하지 않는 유연한 규제 적용이 병행되어야 한다고 조언한다. 정부는 향후 2027년까지 생성형 AI 통합 안전성 평가 기준을 완성하고, 국내 기업들의 기술 표준화를 지원하여 글로벌 AI 시장에서의 주도권을 공고히 할 방침이다.