▲ 배경훈 부총리 겸 과학기술정보통신부 장관. (사진=과기정통부 제공)

[e-뉴스 25=백지나 기자] 정부가 인공지능(AI) 발전 속도에 따라 커지는 위험에 체계적으로 대응하기 위한 가칭 '국가 AI 안전 생태계 조성 계획'을 연내 마련한다.

배경훈 부총리 겸 과학기술정보통신부 장관은 23일 경기 성남시 인공지능안전연구소에서 산·학·연 전문가들과 간담회를 열어 국가 AI 안전 생태계 조성 계획의 추진 방향을 논의했다.

간담회에는 김명주 AI안전연구소장·손지윤 네이버 AI RM 센터 전무·김유철 LG AI 연구원 전략부문장·김태윤 SK텔레콤[017670] 파운데이션 모델 담당·김민재 NC AI 최고기술책임자(CTO)·이승윤 업스테이지 WBL 센터장·이재호 서울시립대 인공지능학과 교수·최대선 숭실대 AI안전성연구센터장 등이 참석했다.

간담회에서는 AI 위험 대응을 위한 기술 개발 현황과 딥페이크 방지 기술 등 AI안전 생태계 조성 방안이 논의됐다.

과기정통부는 최근 AI를 활용해 사람의 음성, 얼굴 등 정보를 합성, 조작하는 딥페이크를 악용한 피해가 커지고 다가오는 범용인공지능(AGI), AI 에이전트 시대에는 예상하지 못한 새로운 유형의 피해가 생길 우려가 있다며 AI 안전 생태계 조성 계획 필요성을 설명했다.

영국, 미국, 일본 등 주요국들은 2023년 말부터 다양한 AI 위험에 대응하기 위해 AI안전연구소를 설립했다. 우리나라도 2024년 안전연구소를 설립해 안전확보 기술 선도와 모델 평가, AI안전 정책 전반에 대한 논의와 대응, 글로벌 협업 등을 수행하고 있다.

이날 배 부총리는 △딥페이크 탐지 기술 △미래 AI 위험 연구 △AI 안전 평가 수행 △AI 안전 정책 및 글로벌 AI 협력 등을 수행하는 직원들을 격려하고 AI 안전 관련 의견을 청취했다. 산업계, 학계, 연구계 등 관련 전문가 15명과 딥페이크 탐지 기술과 AI 에이전트 안전성 평가에 대한 시연을 진행했다.

이어진 간담회에선 딥페이크 방지 기술와 AI 에이전트를 안심하고 사용할 수 있는 기술 개발 현황 및 대응 방향 등을 논의했다. 두 번째 세션에선 글로벌 AI 위험 대응 동향에 따른 우리나라의 체계적인 AI 위험 대응 및 안전 확보를 위해 '(가칭)국가AI 안전 생태계 조성 종합계획' 추진 방향을 논의했다. 참석자들은 AI 안전 생태계를 조성해 안전하고 신뢰할 수 있는 AI 개발·활용하는 환경 조성에 공감했다.

배 부총리는 "국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음"이라며 "AI안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 연내 '국가AI 안전 생태계 조성 종합계획'을 마련할 계획"이라고 말했다.