한국의 경제뉴스통신사 - NSP통신.

fullscreen

(사진 = NC AI)

(서울=NSP통신) 이복현 기자 = 국내 AI 기업 NC AI가 엔씨소프트(036570) 고객 상담 챗봇 ‘NCER(엔써)’에 자체 개발한 AI 안전성 기술 ‘Safeguard’를 정식 적용했다고 밝혔다.

국내 AI 기업 중 최초로 종합 AI Safety 시스템을 상용 서비스에 도입한 사례다.

Safeguard는 레드팀·블루팀·퍼플팀으로 구성된 삼중 보안 체계 기반으로 운영된다. 레드팀은 악성 공격 패턴을 연구하고, 블루팀은 방어 기술을 개발하며, 퍼플팀은 정책에 반영하는 순환 구조다.

NC AI는 게임 산업 특성을 반영한 챗봇 네거티브 규제 정책을 수립, 유료 재화 편법과 금지 행위 등 산업 맞춤형 보안을 적용했다.

NCER는 주요 게임 이용자들의 실시간 문의, 버그 제보, 건의사항 접수를 담당하며, Safeguard 적용으로 차별·혐오·외설 등 일반적 부적절 내용과 게임 특화 안전 요구를 동시에 대응한다.

NC AI는 2022년부터 AI 윤리 경영을 실천하며 Data Privacy, Unbiased, Transparency 등 핵심 가치 기반 ‘NC AI Ethics Framework’를 운영 중이다. 실제 리니지W와 리니지2M에서는 13개 언어의 광고 패턴 탐지 및 채팅 건전성 유지에 기술이 활용되고 있다.

향후 NC AI는 텍스트 기반 안전성 기술을 멀티모달 콘텐츠 탐지로 확장, 이미지·동영상 부적절 내용까지 차단하는 차세대 AI Safety 시스템을 구축할 계획이다.

분사 반년 만에 정부 주관 ‘독자 AI 파운데이션 모델 프로젝트’ 주관사로 선정되며, 산업계와 54개 기관이 참여하는 ‘그랜드 컨소시엄’에서 AI 안전성 기술 개발을 주도하고 있다.

NC AI는 감정형 음성합성, 자연어 처리, 3D 비전 로보틱스 등 다방면의 AI 기술도 보유하며, 신작 RPG ‘아이온 2’에서 자연어 기반 애니메이션과 감정 표현 TTS를 선보였다.

이연수 NC AI 대표는 “Safeguard 적용은 AI 안전성 분야 기술 우위 확보와 책임 있는 AI 개발의 출발점”이라며 “기술 독립과 산업 실증, 글로벌 공헌을 동시에 실현하겠다”라고 말했다.

NSP통신 이복현 기자(bhlee2016@nspna.com)

ⓒ한국의 경제뉴스통신사 NSP통신·NSP TV. 무단전재-재배포 및 AI학습 이용 금지.