한국의 경제뉴스통신사 - NSP통신.

fullscreen

(이미지 = 금융위원회)

(서울=NSP통신) 임성수 기자 = 금융위원회가 지난해 12월 ‘금융분야 인공지능(AI) 가이드라인’의 개정 필요성을 설명하고 올해 상반기 내 시행 의사를 밝힌 바 있으나 11월 현재까지 후속 조치가 이뤄지지 않고 있다. 인공지능 활용을 확대해 온 증권업계는 감독원칙 부재 및 내부통제·책임소재 등의 불확실성 속에서 ‘혁신과 리스크’ 사이 위험한 줄타기를 하고 있다.

이에 대해 금융위원회 관계자에게 들어보니 “지난 1월 과학기술정보통신부의 인공지능 기본법이 통과되고 과기부의 인공지능 가이드라인의 세부 영역이 지속적인 논의를 거치는 상황이다”라며 “인공지능 기본법이 오는 1월에 실시될 예정인 만큼 금융업계 인공지능 운영 가이드라인 역시 최소 오는 1월에나 시행할 수 있을 것”이라고 일정을 재기약했다.

금융당국과 금융보안원은 금융분야 인공지능 활용 활성화를 위해 지난 2021년 7월 금융분야 인공지능에 대한 ‘운영 가이드라인’, 2023년 4월에는 ‘보안 가이드라인’ 등을 제시했다. 이후 금융당국은 생성형 인공지능 출현 등 급격한 기술 발전 및 금융권 내부통제 강화 등 기술과 제도 변화로 인해 운영 가이드라인의 개정을 약속했다.

당시 금융위원회는 금융회사들의 신속한 지원 요청에 따라 속도감 있게 과제를 추진하겠다며 2025년 내 ▲금융권 인공지능 플랫폼 상반기 구축 ▲금융권 특화 데이터 1분기부터 단계적 지원 ▲금융분야 인공지능 가이드라인 상반기 개정 완료를 계획했다. 하지만 현재까지 개정안은 예고조차 되지 않고 있다.

증권업계 관계자는 “업계 내 인공지능 모델의 역할이 투자판단, 리스크관리 자동화 등 업무 범위가 확대됐지만 이에 맞는 감독기관의 기준 제시가 없어 내부 인공지능 심의위원회만으로 자체적인 판단을 내려야 하는 상황”이라며 “명확한 규제로 ‘기술도입 촉진’뿐만 아니라 제도적으로 인공지능 운용 설명가능성 및 책임 소재를 명확히 해 금융소비자 보호 공백을 막아야 할 것”이라고 현 상황을 지적했다.

이처럼 업계는 가이드라인 속 인공지능 모델의 데이터 구성·학습 및 콘텐츠 생성·구축의 과정에서 검증 의무 및 주체가 명확하게 제시되지 않은 점에 대해서도 문제를 제기했다. 지난 2021년 7월 발표된 가이드라인에서는 ‘고객 설명의무·고위험 서비스 등 인공지능 활용 시 설명가능성 고려’를 권고하나 이에 대한 명확한 지침이 부재하고 법적인 구속력 역시 없는 상황이다. 이에 따라 할루시네이션 등 인공지능의 오류로 인해 투자 판단 훼손, 개인정보 유출 시 책임 소재 역시 불분명한 상태다.

이에 대해 금융위원회 관계자는 “현재로써는 과기부의 가이드라인이 논의중이기 때문에 증권사가 인공지능을 활용해 고객에게 서비스를 제공할 때 법리적 책무구조를 확인하기 쉽지 않다”라며 “이를 위해서는 지난 금융업계 인공지능 운영 가이드라인에 더해 지난 1월 통과된 ‘인공지능 기본법’과 논의중인 ‘과기부 인공지능 가이드라인’을 모두 포괄해 고려해야 할 것”이라고 말했다. 또 “기본법과 과기부 가이드라인을 포괄하는 금융업계 운영 가이드라인의 필요성은 알고 있다”고 덧붙였다.

이미 미국·영국·싱가포르 등 해외 금융감독당국은 현 인공지능 발전에 대응할 초기 가이드라인 개정을 마친 상황이다. 미국 뉴욕주 금융서비스국(DFS)는 지난해 10월 인공지능 관련 사이버보안 가이던스를 추가해 기존 사이버보안 규정(23 NYCRR Part 500) 내에서 이를 준수할 수 있도록 하는 돕는 방안을 제시했다. 유럽증권시장감독청(ESMA)은 지난해 5월 30일 유럽연합금융시장규제(MiFID 2)에 입각한 인공지능 사용 기업의 초기 지침을 제공했다.

특히 싱가포르통화청(MAS)은 지난해 5월 ‘프로젝트 마인드포지(Project MindForge)’ 금융권 생성형 인공지능 리스크 평가 프레임워크 개발을 시작해 지난해 11월 정보 지침을 발표 ▲책임 및 거버넌스 ▲모니터링 및 안정성 ▲투명성 및 설명 가능성 ▲공정성 및 편향성 ▲법률 및 규제 ▲윤리 및 영향 ▲사이버 및 데이터 보안 등에 대한 운영구조를 제시하며 인공지능 시대 대비에 나섰다.

증권업계 관계자는 현재 업계가 고도화된 인공지능 기술도입에 있어 가이드라인 미비로 인한 법리적 불분명함으로 자체적으로 기술도입을 주저하는 ‘자가적 과잉통제’ 모순을 겪고 있다고 전했다.

금융업계 인공지능 운영 가이드라인 개정안의 부재는 글로벌 금융투자업계 전반 인공지능 활용 투자 서비스 및 트레이딩시스템(MTS·HTS·WTS) 강화가 이뤄지는 현시대에서 시장 경쟁력 및 신뢰 하락으로 이어질 수 있다.

전문가들 역시 금융투자 분야에 현재 인공지능 기술 발전에 맞춘 운영 규제안의 필요성에서 나아가 법제화를 통한 명확한 책임 구조를 갖춰 기술발전과 산업 사이의 충돌로 업계가 퇴보할 수 있는 위험을 예방해야 한다고 지적했다.

자본시장연구원 관계자는 “금융투자업계의 인공지능이 투자판단·리스크모델링에 직접 개입하는 현재의 구조에서는 시장 참여자들을 위한 감독원칙이 반드시 필요하다”며 “또한 인공지능에 대한 규제가 단순 ‘기술 중립적 가이드라인’에 그친다면 기술의 발전속도와 산업과의 접점을 고려했을 때 되려 금융업계를 압박하는 더욱 강한 규제로 변할 수 있으니 주의해야 할 것”이라며 경고했다.

NSP통신 임성수 기자(forest@nspna.com)

ⓒ한국의 경제뉴스통신사 NSP통신·NSP TV. 무단전재-재배포 및 AI학습 이용 금지.