특별 초청 :

(주)MADI 김재영 CTO

특강 일정 : 

9/21(월)  오후 3시 중앙대학교 서울캠퍼스 105관 B118호

강연 제목 : 

Your Model Learned Something Else: Implications for Medical AI

모델은 당신이 가르친 것을 배우지 않았다: 의료 AI에의 시사점

Abstract

의학교육에는 숨은 교육과정(hidden curriculum)이라는 말이 있다. 강의계획서 어디에도 없지만 학생들이 병원에서 암묵적으로 배우는 태도와 습관을 가리킨다. AI 모델도 다르지 않다. 우리는 모델에게 과제를 주고 정확도를 재지만, 그 숫자는 모델이 시험을 얼마나 잘 봤는지만 알려줄 뿐 그 과정에서 무엇을 더 배웠는지는 말해주지 않는다. 그리고 모델이 몰래 배운 것은 종종 우리가 가르치려던 것과 다르다.

본 강연은 헬스케어 AI 스타트업에서 규제 대상 의료 소프트웨어를 만드는 동시에 Vision-Language Model(VLM)의 내부를 해부해 온 경험에서 출발해, 모델이 가르친 적 없는 것을 배우는 세 가지 경로를 실험으로 보인다. 먼저 입력이다. 같은 질문에 시각 입력만 체계적으로 바꿔가며, 모델이 정말 이미지를 보고 답하는지 아니면 이미 알고 있던 사실을 읊는지 가려낸다. 다음은 표현이다. 계층 구조를 잘 담는다고 알려진 쌍곡 공간 VLM을 operating-point 관점에서 감사해 보면, 애써 넣은 기하가 실제로 쓰이기는커녕 학습 도중 조용히 사라지는 장면이 반복된다. 최상위 학회에 실린 모델도 예외가 아니다. 마지막은 데이터다. 모델은 학습 데이터에 적힌 내용뿐 아니라 그 데이터가 어떻게 골라졌는지에서도 성향을 흡수한다는 최근 결과(subliminal learning)를 소개하고, 학습 데이터 선별까지 AI에 맡기기 시작한 의료 영상 현장에 이 결과가 던지는 질문을 짚는다. 세 실험은 모두 일반 도메인의 것이지만, 의료 AI 분야에서는 이러한 질문들이 훨씬 중요해진다.

주최 및 문의: 

중앙대학교 의료인공지능 융합인재 양성 사업단

서울특별시 동작구 흑석로 84 중앙대학교 서울캠퍼스 106관 402호 (06974)

02-881-7284 / 7285