매일 경제

(서울=연합뉴스) 조승한 기자 = 이수인 워싱턴대 교수는 8일 "인공지능(AI)을 이야기할 때 얼마나 유망한지에 초점을 맞추는 데, AI가 실수하거나 잘못된 판단을 내리는 경우도 주목해야 한다"며 설명가능한 AI(XAI)가 보완재로 중요하게 떠오를 것이라고 강조했다.

이 교수는 이날 서울 강남구 한국과학기술회관에서 인터뷰를 통해 이같이 말했다.

이 교수는 AI의 판단 및 예측 과정을 이해하고 결과를 설명하는 XAI 분야 방법론 중 하나인 'SHAP' 개발에 기여한 AI 석학이다.

지난해 여성 최초 공학 부문 삼성호암상을 수상하기도 했다.

이날 열리는 세계한인과학기술인대회 기조강연을 위해 한국을 방문한 그는 XAI에 대해 "AI의 실수를 발견할 수 있고 어떻게 고쳐야 할지 힌트를 주는 것"이라고 설명했다.

피부 진단 같은 간단한 스마트폰 애플리케이션 기반 AI에서부터 대형언어모델(LLM)에 이르기까지 AI의 여러 실수 사례를 이미 쉽게 볼 수 있는 만큼, 입력값이 결과에 미치는 영향을 수치화해주는 XAI가 이런 실수를 줄이는 데 역할을 할 수 있다는 것이다.

그는 "복잡한 AI를 단순하게 만드는 게 설명"이라며 "산업체도 XAI를 활용하면 중요하지 않은 건 빼거나 하면서 비용을 절감하는 데도 활용할 수 있다"고 말했다.

AI 분야에 바이오를 접목한 연구도 진행하고 있는 그는 특히 바이오 분야에서 XAI의 역할이 크다고 강조했다.

그는 "AI가 특정 질병과 유전자와 관련해 어떤 결론을 낸다고 하면, XAI는 어떤 유전자가 잘못되기를 알려주는 것"이라며 "이를 이해하지 않고는 신약 개발 같은 방향으로 나아가기 어렵다"고 말했다.

특정 분야뿐 아니라 소버린 AI와 같은 대규모 국가적 파운데이션 모델을 만들 때도 XAI의 역할이 중요해질 것이라고 이 교수는 강조했다.

그는 "파운데이션 모델은 복잡하고 큰 데다 출력값을 설명하기 어려운 상황"이라며 "모델이 편향되지 않았는지 이런 것도 XAI를 통해 검증할 수 있게 된다"고 말했다.

그는 소버린 AI를 개발하는 것도 좋지만 한국의 것으로만 해야 한다는 데 빠지기보다는 외국의 우수한 모델이라면 이를 들여와 발전시키는 것도 고려할 필요가 있다는 조언도 했다.

이 교수는 과학기술 분야에서 인재 유출과 같은 문제를 막으려면 안정적인 자금 지원(펀딩)과 과학기술을 우대하는 문화를 갖춰야 하는데 한국은 조금 개선돼야 할 필요가 있다고 생각한다고 밝혔다.

그는 "수년 전 갑작스러운 연구개발(R&D) 예산 삭감으로 상처받고 어려워하는 국내 교수들을 많이 봤다"며 "이공계 교수는 연구를 지원하는 안정적인 국가 펀딩이 있는 게 가장 이상적인 구조"라고 말했다.

그러면서 그는 "과학기술을 우대하는 문화라는 건 펀딩을 잘 주면 '국가에서 내가 하는 일을 중요하게 생각하는구나' 라고 인식하는 것" 이라며 "펀딩은 연구에 집중할 수 있는 순서 중 첫 번째"라고 강조했다.

shjo@yna.co.kr(끝)