(서울=연합뉴스) 조성미 기자 = 실제 세계에 대한 모방 실력을 날로 발전시키는 인공지능(AI) 기술은 인터넷 세상에서 '진짜 정보'의 희소성을 갈수록 떨어트리고 있다.
AI로 만든 가짜 정보가 '돈'이 되기 때문에 가짜 정보의 홍수는 더욱 심해지고 있는데, 챗GPT 등장 이후 AI로 블로그·SNS 포스팅하는 방법, 유튜브 동영상 올리는 방법 등이 퍼지면서 AI가 제작한 글·영상으로 조회 수 장사에 나서는 이들이 늘고 있는 탓이다.
최근 국내 소셜 플랫폼에서는 직접 요리하지 않고도 요리 블로그를 운영한다는 블로거가 화제가 되기도 했다.
이 블로거는 AI가 제작해 주는 요리 과정에 대한 글과 사진으로 요리 포스팅을 올리는 데 10분도 채 걸리지 않는다고 밝혔다.
실제 이 블로그의 돼지갈비찜 만들기 요리 포스팅에서는 실제 사진인지 묻는 댓글에 '몇몇 사진을 제외하고 AI로 만든 참고 이미지'라고 소개하고 있다.
SNS의 맛집 소개를 보고 검색해봤더니 실제 존재하지 않는 식당인데 방문자 유입 수를 늘리기 위해 AI가 버젓이 할루시네이션(환각)으로 쓴 글이었던 사례, 오락실 게임에 대해 소개하면서 "중요한 오락실 게임 중 하나는 패밀리 컴퓨터"라는 어불성설을 써 놓은 사례 등이 인터넷 세상을 잠식하고 있다.
이러한 상황에서 정보 이용자들은 자신이 접하는 정보가 진짜인가 항상 의심하고 접해야 할 운명에 처했다.
정부가 세계에서 두 번째로 AI 기본법을 제정하면서 AI 생성물에 가시적 또는 비가시적 워터마크를 붙여 AI로 만든 것임을 표시하도록 했지만, 성 착취 등 불법 요소가 있는 생성물이 아닌 이상 사람의 눈에 보이지 않는 표식을 달게 돼 있어 법이 시행된다 해도 AI 생성물인지를 일반인이 알아보기란 어렵다.
자신이 접하는 게시물이 AI가 뚝딱 만든 게 아니라 사람이 한 땀 한 땀 쓰거나 만들어낸 콘텐츠인지 알아보려면 'AI 탐지' 웹사이트를 활용하는 방법이 있다.
'zerogpt.com', 'scribbr.com' 같은 사이트에 텍스트나 이미지를 넣으면 AI 생성 가능성을 % 비율로 알려주는데 'zerogpt.com' 등은 한글 텍스트도 판별이 가능하지만 'scribbr.com'에서는 지원하지 않는다.
한국어·문화에 최적화된 AI 판별기가 더 필요하다는 요구가 나오는 이유다.
무분별한 AI 생성물 범람으로 피해를 보는 것은 정보 이용자뿐 아니라 정보 제공자도 마찬가지다.
공들여 만든 콘텐츠가 AI 콘텐츠에 밀려 경쟁력을 잃을 수 있어서다.
정보 제공자가 AI가 아닌 사람이 직접 제작한 콘텐츠임을 증명하고, 이용자는 간단한 방법으로 이를 확인해 안심하고 콘텐츠를 이용할 수 있는 방법이 있어 콘텐츠 제작자들을 대상으로 보급되고 있다.
콘텐츠 제작자가 사용한 편집 툴이나 제작자 등 관련 정보를 콘텐츠 파일에 넣는 '콘텐츠 자격증명'이 대표적인데 어도비, 구글, 메타, 마이크로소프트, 네이버 등 IT 기업들은 물론 카메라 브랜드 라이카, 삼성전자[005930] 스마트폰 갤럭시 S25에도 적용됐다.
'콘텐츠 자격증명' 활용 이미지 [contentcredentials.org 사이트 캡처.재판매 및 DB 금지]
콘텐츠 자격증명을 탑재한 기업의 제작도구나 카메라로 생성한 콘텐츠는 제작, 촬영에 관한 정보가 자동으로 저장되며 '콘텐츠 출처 및 진위 확인을 위한 연합'(C2PA)이 보증한 콘텐츠 정보는 'contentcredentials.org' 사이트에 입력하면 열람할 수 있다.
정보통신업계 관계자는 "AI 기술 범람으로 가치를 가진 정보·콘텐츠는 더욱 귀해질 것으로 보이는데 식별하기란 쉽지 않아 AI 사용 여부를 가려내는 기술이나 서비스 또한 발달할 것으로 보인다"고 전망했다.
