"AI 실수와 오판에도 초점 맞춰야…설명가능한 AI 중요해"
'여성 첫 호암공학상' 이수인 워싱턴대 교수 인터뷰"XAI, 바이오·소버린 AI에도 역할…과학기술 우대 문화 필요"
조승한
입력 : 2025.07.08 18:01:03
입력 : 2025.07.08 18:01:03

[촬영 조승한]
(서울=연합뉴스) 조승한 기자 = 이수인 워싱턴대 교수는 8일 "인공지능(AI)을 이야기할 때 얼마나 유망한지에 초점을 맞추는 데, AI가 실수하거나 잘못된 판단을 내리는 경우도 주목해야 한다"며 설명가능한 AI(XAI)가 보완재로 중요하게 떠오를 것이라고 강조했다.
이 교수는 이날 서울 강남구 한국과학기술회관에서 인터뷰를 통해 이같이 말했다.
이 교수는 AI의 판단 및 예측 과정을 이해하고 결과를 설명하는 XAI 분야 방법론 중 하나인 'SHAP' 개발에 기여한 AI 석학이다.
지난해 여성 최초 공학 부문 삼성호암상을 수상하기도 했다.
이날 열리는 세계한인과학기술인대회 기조강연을 위해 한국을 방문한 그는 XAI에 대해 "AI의 실수를 발견할 수 있고 어떻게 고쳐야 할지 힌트를 주는 것"이라고 설명했다.
피부 진단 같은 간단한 스마트폰 애플리케이션 기반 AI에서부터 대형언어모델(LLM)에 이르기까지 AI의 여러 실수 사례를 이미 쉽게 볼 수 있는 만큼, 입력값이 결과에 미치는 영향을 수치화해주는 XAI가 이런 실수를 줄이는 데 역할을 할 수 있다는 것이다.
그는 "복잡한 AI를 단순하게 만드는 게 설명"이라며 "산업체도 XAI를 활용하면 중요하지 않은 건 빼거나 하면서 비용을 절감하는 데도 활용할 수 있다"고 말했다.
AI 분야에 바이오를 접목한 연구도 진행하고 있는 그는 특히 바이오 분야에서 XAI의 역할이 크다고 강조했다.
그는 "AI가 특정 질병과 유전자와 관련해 어떤 결론을 낸다고 하면, XAI는 어떤 유전자가 잘못되기를 알려주는 것"이라며 "이를 이해하지 않고는 신약 개발 같은 방향으로 나아가기 어렵다"고 말했다.
특정 분야뿐 아니라 소버린 AI와 같은 대규모 국가적 파운데이션 모델을 만들 때도 XAI의 역할이 중요해질 것이라고 이 교수는 강조했다.
그는 "파운데이션 모델은 복잡하고 큰 데다 출력값을 설명하기 어려운 상황"이라며 "모델이 편향되지 않았는지 이런 것도 XAI를 통해 검증할 수 있게 된다"고 말했다.
그는 소버린 AI를 개발하는 것도 좋지만 한국의 것으로만 해야 한다는 데 빠지기보다는 외국의 우수한 모델이라면 이를 들여와 발전시키는 것도 고려할 필요가 있다는 조언도 했다.
이 교수는 과학기술 분야에서 인재 유출과 같은 문제를 막으려면 안정적인 자금 지원(펀딩)과 과학기술을 우대하는 문화를 갖춰야 하는데 한국은 조금 개선돼야 할 필요가 있다고 생각한다고 밝혔다.
그는 "수년 전 갑작스러운 연구개발(R&D) 예산 삭감으로 상처받고 어려워하는 국내 교수들을 많이 봤다"며 "이공계 교수는 연구를 지원하는 안정적인 국가 펀딩이 있는 게 가장 이상적인 구조"라고 말했다.
그러면서 그는 "과학기술을 우대하는 문화라는 건 펀딩을 잘 주면 '국가에서 내가 하는 일을 중요하게 생각하는구나' 라고 인식하는 것" 이라며 "펀딩은 연구에 집중할 수 있는 순서 중 첫 번째"라고 강조했다.
shjo@yna.co.kr(끝)
증권 주요 뉴스
증권 많이 본 뉴스
매일경제 마켓에서 지난 2시간동안
많이 조회된 뉴스입니다.
-
1
[2보] 뉴욕증시, 연준의장해임설로 출렁이다 반등…나스닥 최고치 마감
-
2
“파월 진짜 해임한다는데”요동친 美시장...트럼프 진화에 나스닥 최고가 [월가월부]
-
3
공매도 비중 상위 종목
-
4
뉴욕증시, '파월 해임설'에 휘둘린 투심…강세 마감
-
5
뉴욕증시, 연준의장 해임설로 롤러코스터…나스닥 최고치 경신(종합)
-
6
[고침] 국제('파월 美연준의장 해임설' 보도에 미 국채 30…)
-
7
트럼프 "中이 美에 펜타닐 보내는 사람 사형하게 만들겠다"
-
8
'美 크립토위크' 낙관론 재부각 가상화폐 반등…이더리움이 주도
-
9
초복에 삼계탕 직접 끓이면 9천원 들어…5년 전보다 35% 올라
-
10
이재용 '부당합병·회계부정' 오늘 대법원 선고…1·2심 무죄