매일 경제

【 앵커멘트 】

요즘 일상이나 업무 환경에서 AI 활용도가 높아졌죠?

AI 붐이 일면서 그 안전성과 보안성도 중요해졌는데요.

국내 기업 AI 모델의 취약점을 찾기 위해 국민 천여 명이 모였습니다.


윤형섭 기자가 현장을 다녀왔습니다.






【 기자 】

대회 시작을 알리는 안내와 함께 참가자들의 손놀림이 분주해집니다.




성 차별이나 인권 침해와 같은 비윤리적인 발언으로 AI를 의도적으로 공격하는 겁니다.




이렇게 의도적으로 공격을 시도하는 것을 '레드티밍'이라고 하는데, 생성형 AI의 취약점을 발견하고 개선하기 위해서입니다.




▶ 인터뷰 : 임세민 / 대회 참가자(경기 하남시)

- "이번에 클로바X에서 레드팀챌린지하면서 제가 할루시네이션(조작된 정보 생성)에 최근 관심이 있는데, 그런 문제를 해결할 수 있는 챌린지를 할 수 있다고 들어서 경험해 보면 좋을 것 같아 오게 됐습니다.
"



SKT는 통화 요약 등이 가능한 AI 개인비서 '에이닷'을, 네이버는 다국어 능력의 우수성을 인정받은 '하이퍼클로바X'를 제공했습니다.




기업들은 보다 다양하고 실질적인 공격으로 자사 언어모델의 보완점을 발견할 수 있다고 말합니다.




▶ 인터뷰 : 이동헌 / SKT 글로벌플랫폼기획팀장

- "이번 챌린지에서는 조금 더 대규모의 실제 환경을 가정한 테스트를 통해서 안전성 관련한 실질적인 데이터를 확보하고, 저희 모델의 취약점을 실제로 발견해서 이를 개선할 수 있는 좋은 기회로 삼고자 합니다.
"



또 맥락에 맞지 않은 허위 정보 생성 등에 대해서도 자체 방안을 마련해 안전성을 확보하고 있다고 설명했습니다.




▶ 인터뷰 : 하정우 / 네이버 퓨처 AI 센터장

- "또 다른 방법으로는 컨텍스트(맥락) 길이를 충분히 길게 해서 그 컨텍스트 내에서 우리가 이전에 생성했던 글과 입력했던 질문을 기반으로 정확하게 답을 하는 기법을 제공하고요."



SKT는 AI 안전성 확보를 기반으로 통신 특화 거대언어모델(LLM)을 개발한다는 구상이며, 네이버는 인텔과 손 잡고 AI칩 소프트웨어 생태계를 구축한다는 계획입니다.




매일경제TV 윤형섭입니다.
[ yhs931@mk.co.kr ]
[ⓒ 매일경제TV mktv.co.kr, 무단전재 및 재배포 금지]