매일 경제

(서울=연합뉴스) 조성미 이상서 김현수 기자 = 중국이 개발한 인공지능(AI) 모델 딥시크를 API(응용프로그램 인터페이스) 형태 오픈소스로 활용하는 국내 AI 서비스 기업들이 늘고 있다.

AI 모델만을 따와 활용할 때는 개인이 애플리케이션 형태로 딥시크를 쓸 때 같은 개인정보 유출 및 저장 문제가 벌어질 가능성은 낮지만, 딥시크가 AI 답변 조작이 가능한 '탈옥'에 취약하고 위험 정보를 유통하는 문제는 여전하다는 지적이다.

21일 AI 업계와 당국에 따르면 국내 AI 스타트업 크라우드웍스는 딥시크 추론 모델 R1의 한국어 버전을 개발 중으로, 상반기 B2B(기업 간 거래) 영역을 중심으로 국내 출시할 계획이다.

크라우드웍스가 이를 위해 딥시크와 직접 계약을 맺은 것은 아니다.

일본 법인인 크라우드웍스재팬(CWJ)이 딥시크가 아시아 시장 진출의 발판으로 삼고 있는 일본 업체 'AI CHO'와 계약을 맺는 방식으로 딥시크 모델을 사용한다.

AI CHO는 최근 R1의 일본어 버전을 개발한 것으로 알려졌다.

크라우드웍스는 네이버 하이퍼클로바X, LG AI연구원의 엑사원 등 국내 기업의거대언어모델(LLM) 개발을 위한 학습 데이터 구축에 참여했고 최근 AI 에이전트 도입을 위한 설루션 '알피'를 출시한 업체다.

크라우드웍스는 국내 데이터를 제공하면서 딥시크 AI 모델을 고도화해 상대적으로 저렴한 AI 서비스를 제공하려는 구상으로 보인다.

크라우드웍스 외에도 뤼튼테크놀로지스, 베슬AI 등 최근 딥시크 모델을 오픈소스로 AI 서비스를 제공하는 국내 스타트업이 증가하고 있다.

딥시크 모델을 활용하면 개인이 딥시크를 앱으로 내려받아 쓸 때 우려되는 과도한 개인정보 수집 및 저장 가능성은 기술적으로 낮다는 게 업계 시각이다.

하지만, 딥시크 모델이 AI가 틀린 대답을 내놓도록 유도하는 '탈옥'에 취약하다는 점에서 국내 B2B 업계에서 널리 쓰이게 되는 데 대한 우려가 완전히 해소되는 것은 아니다.

생성형 AI 보안업체 이로운앤컴퍼니는 딥시크 R1에 대해 안전성 및 보안성 평가를 실시한 결과 탈옥(제일브레이킹) 공격 성공률이 63%에 달하며 심각한 보안 취약성을 드러냈다고 발표한 바 있다.

기본적으로 설정된 가이드라인을 무시하고 모델 개발 시 의도하지 않았던 작업이 가능하도록 공격을 시도했을 때 딥시크가 여타 모델보다 뚫리기 쉬웠다는 지적이다.

김명주 AI 안전연구소장은 딥시크에서 대량 살상 무기 제작이나 사이버 공격 방법에 대한 지식을 상당히 찾아볼 수 있었다고 지적하기도 했다.

이러한 우려에 대해 딥시크 모델을 API 형태로 쓰는 한 국내 스타트업 최고기술책임자(CTO)는 "모델 자체가 개인정보 수집을 하는 등의 치명적 보안 약점은 현재까지 제보된 바가 없으며, 이론상으로도 불가능하다"고 말했다.

그는 다만 "대부분의 상업용 모델은 위험한 질문을 적극적으로 거부하도록 학습돼 있지만 딥시크는 그런 부분이 비교적 덜 돼 있다.

즉 탈옥 위험이 높은 것인데, 딥시크 모델을 사용하거나 이를 기반으로 서비스를 만드는 사용자가 주의해야 할 부분은 맞다"고 언급했다.

개인정보 과다 수집, 왜곡된 답변 생성 등 취약점을 이유로 딥시크 애플리케이션의 국내 서비스를 차단하고 나섰던 정부는 국내 AI 서비스 업계의 딥시크 모델 활용 확대에 대해서는 일단 지켜보겠다는 분위기다.

개보위 관계자는 "크라우드웍스와 딥시크 협력 서비스 출시 이후 문제가 발견되면 조치를 하겠지만 현재로선 점검할 단계가 아니"라고 선을 그었다.

그는 "오픈소스 모델은 통상적으로 기업에서 많이 하는 일로 투명성 측면에서 확보된다면 문제가 되진 않는다"고 말했다.


csm@yna.co.kr(끝)