매일 경제

'왓슨엑스 거버넌스' 출시…허위 정보·편향성 오류 등 AI 위험 요소 관리

[톱데일리] IBM이 기업 보안과 정보 신뢰성 강화에 방점을 둔 신규 인공지능(AI) 솔루션을 선보이며 경쟁력 강화에 나섰다. 생성형 AI 서비스의 긍정적 기능 뒤에 가려진 위험 요인을 철저하게 관리해 기업이 제품을 이용하는 데 발생할 수 있는 리스크를 줄이겠다는 구상이다.

14일 한국IBM은 서울 여의도 사옥에서 신규 솔루션 '왓슨x.(왓슨엑스) 거버넌스' 출시 기자간담회를 열었다. 왓슨엑스 거버넌스는 IBM이 앞서 공개한 데이터 및 AI 플랫폼 '왓슨엑스' 시리즈의 신규 솔루션으 로 기업이 AI를 활용할 때 안전하고 투명하게 규정과 정책을 준수할 수 있도록 지원하는 기능을 제공한다.

왓슨엑스 거버넌스는 IBM이 지난 5월 공개한 차세대 AI 플랫폼 '왓슨엑스' 제품의 세 번째 솔루션이다. 앞서 IBM은 파운데이션 모델, 생성형 AI, 머신 러닝 모델 등 AI를 수월하게 교육, 검증, 조정, 배포하는 '왓슨엑스 AI'와 데이터 저장 맞춤형 플랫폼 '왓슨엑스 데이터'를 선출시했다.

왓슨엑스 거버넌스는 생성형 AI 등을 활용할 때 위험 요소를 관리하고 AI 관련 규정을 준수하는 데 필요한 솔루션을 제공하도록 설계된 플랫폼이다. AI를 도입할 때 기업 차원에서 리스크가 발생할 수 있는 보안과 신뢰성 등에 대한 문제를 해결책을 제공하는 데 초점을 맞췄다.

관련 업계에 따르면 현재 많은 기업들이 거대언어모델(LLM)을 넘어 여러 생성형 AI와 파운데이션 모델을 사업에 적용하는 방안을 찾고 있다. 하지만 데이터의 한계나 허위 정보를 생성하는 '할루시네이션(Hallucination)', 편향성 오류, 지적재산권(IP) 침해 등의 한계로 사업 활용이 쉽지 않다.

실제로 최근 '챗GPT' 등장 이후 오픈AI, 구글 등 빅테크 기업 주도로 생성형 AI 대중화가 이뤄지고 있지만 정보의 신뢰성 문제에 대해선 여전히 우려가 크다. 외부 클라우드 사용으로 데이터 유출 가능성이 있고 잘못 생성된 정보를 활용하는 사례가 심각한 사회적 문제로도 대두 되고 잇는 실정이다.

김현정 한국IBM 컨설팅 대표는 "생성형 AI 기술은 급속도로 발전하고 있으나 AI 위험 요소들도 점점 커지고 있다"며 "기업들이 이를 극복하고 AI를 비즈니스에서 성공적으로 활용하기 위해 AI를 위한 데이터, AI 모델 그리고, AI 도입 확장 과정에서 신뢰성을 확보하는 AI 거버넌스에 대한 부분을 고려해야 할 때"라고 말했다.

왓슨엑스 거버넌스는 크게 ▲AI 생애주기 ▲AI 위험 요소 관리 ▲규제 준수 등 세 가지 부문에 대한 기술을 제공한다. AI 모델을 관리, 감독하거나 향후 발생할 수 있는 공정성, 편향성 등의 오류에서 위험을 사전에 감지할 수 있다. 전 세계의 규제나 정책 강화에 대한 사전 대비도 가능하다는 이점이 있다.

이지은 한국IBM CTO(최고기술책임자)는 "한국을 포함한 각국 정부에서 AI에 대한 규제가 증가하고 있는 상황"이라며 "정보의 신뢰성과 투명성을 높일 수 있도록 돕는 AI 거버넌스의 역량은 그 어느 때보다 기업에게 더욱 필수적인 요소로 자리 잡게 될 것"이라고 말했다.

IBM은 왓슨엑스 거버넌스 역할을 일종의 'AI 성분 분석표'라고 설명했다. 가공식품에 표기된 영양 성분표를 보면 여러 영양의 세부적인 정보를 확인할 수 있듯이 왓슨엑스 거버넌스를 이용하면 AI 모델마다 어떤 데이터와 파라미터를 사용했는지 확인할 수 있다. 쉽게 말해 AI 팩트시트(Factsheet)를 제공하는 셈이다.

이지은 CTO는 "왓슨엑스 거버넌스를 이용하면 데이터 저작권 침해 여부 등을 사전에 파악할 수 있다"며 "다양한 LLM과 머신러닝 모델을 효율적으로 관리할 수 있고 기업이 여러가지 AI 모델에 대한 거버넌스 프로세스를 자동화해 모니터링하며 시정 조치를 취하는 데 필요한 도구를 함께 제공한다"고 말했다.

이날 IBM은 AI 거버넌스 활용에 대한 이해를 돕기 위해 보험사 실제 적용 사례를 예로 들었다. 보험사가 AI를 도입해 자동차 사건 사고에 대한 보험 처리를 진행하면 고객이 제공한 사진 등을 종합해 AI가 보험 관련 초안을 작성한다. 왓슨엑스 거버넌스는 개인정보 유출이나 사기 탐지, 사고 진술의 진실성 등을 확인해 평가한다.

IBM은 왓슨엑스 거버넌스를 공공 분야까지 확대할 것에 대한 구상도 밝혔다. 김현정 대표는 "보수적으로 보면 아직까지 국내 공공 부문에서 유즈 케이스(Use Case) 활용 범위 자체가 제한적이지만 AI 거버넌스에 대한 확신이 생기면 향후 공공 부문에 대한 활용도가 높아질 수 있을 것으로 기대한다"고 말했다.

IBM이 왓슨엑스 플랫폼 등으로 AI 경쟁력을 강화하면서 향후 빅테크들의 AI 경쟁은 치열해질 전망이다. 앞서 오픈AI와 마이크로소프트(MS) 진영의 챗GPT 등장 이후 구글은 지난 6일 신규 AI 모델 '제미나이'를 공개했다. IBM은 메타(구 페이스북), 오라클, 인텔 등 기업들과 AI 동맹을 결성하고 개방형 LLM 시장 확장에 뛰어든 상태다.

한편, 해외 빅테크뿐만 아니라 국내 기업 사이에서도 자체 LLM 기반 생성형 AI 선점 경쟁은 불이 붙고 있는 상황이다. 현재 네이버 '하이퍼클로바X', 카카오 '코GPT(KoGPT) 2.0', LG '엑사원', SK텔레콤 '에이닷', KT '믿음', 엔씨소프트 '바르코' 등이 대표적이다.





톱데일리
이진휘 기자