신뢰할 수 있는 인공지능 연구실(Trustworthy AI Lab)은 사람이 안심하고 맡길 수 있는 인공지능을 만드는 것을 목표로 하는 중앙대학교 산업보안학과의 연구실입니다. 우리는 인공지능이 공격에 흔들리지 않고, 개인의 정보를 지키며, 판단의 근거를 설명할 수 있도록 AI 보안·AI 프라이버시·AI 설명성 세 분야를 연구합니다.

연구 분야

AI 보안

악의적인 조작 속에서도 인공지능이 제 역할을 하도록 지키는 연구입니다. 그 중심에는 적대적 강건성(adversarial robustness)이 있습니다. 사람 눈에는 거의 보이지 않는 변형만으로 AI의 판단을 뒤집는 적대적 공격(adversarial attack)을 막는 문제로, 이를테면 정지 표지판에 미세한 무늬를 더해 AI가 다른 표지판으로 오인하게 만드는 공격이 여기에 해당합니다. 최근에는 LLM과 AI 에이전트를 공격 도구로 악용하는 위협까지 다룹니다.

국내에서 적대적 강건성과 AI 보안을 연구하는 연구실 중 하나로, 우리는 PyTorch 기반 적대적 공격 라이브러리 torchattacks(GitHub 스타 2,000여 개, 누적 다운로드 29만여 회)를 개발했습니다. 또한 스마트폰과 IoT처럼 기기 안에서 직접 도는 온디바이스(On-Device) AI의 보안을 연구하고, 「AI 보안 위협 대응 매뉴얼」(과학기술정보통신부, 한국인터넷진흥원(KISA), SK쉴더스)을 함께 만들었습니다.

AI 프라이버시

인공지능이 데이터의 기밀성을 지키고 불필요한 개인정보 수집을 막도록 하는 연구입니다. 핵심 기술 중 하나는 머신언러닝(machine unlearning, 기계 학습 망각)으로, 이미 학습을 마친 모델에서 특정 데이터의 영향을 사후에 지우는 기술입니다. 개인정보보호법의 삭제권이나 GDPR의 잊혀질 권리처럼, 한 번 학습에 쓰인 데이터라도 삭제 요구가 들어오면 대응할 수 있어야 하기 때문입니다.

국내에서 머신언러닝을 연구하는 그룹 중 하나로, 우리는 산업 AI에서 재학습 없이 데이터를 지우는 언러닝 기법(Adversarial Retain-Free Unlearning, ARU)을 국제 저널 IEEE TII에 발표했고, 적대적 공격에도 견고한 머신언러닝을 정부 과제로 이어 가고 있습니다.

AI 설명성

AI 설명성은 인공지능의 작동 과정과 판단 근거를 사람이 이해할 수 있게 드러내는 능력으로, 결과에 대한 신뢰와 법적·윤리적 책임의 바탕이 됩니다. 보안과 프라이버시 연구가 깊어질수록 “왜 그렇게 판단했는가”를 설명하는 문제가 함께 중요해지기에, 우리 연구실이 앞으로 넓혀 가는 방향입니다.

김호기 교수

김호기 교수는 중앙대학교 산업보안학과 조교수로, 머신언러닝과 적대적 강건성, AI 보안을 연구합니다. 서울대학교 산업공학과에서 학사와 박사를 마쳤고 서울대학교 공학연구원에서 연수연구원을 지냈으며, 널리 쓰이는 오픈소스 적대적 공격 라이브러리 torchattacks를 만든 개발자입니다.

중앙대학교 보안대학원 개인정보보호학과 학과장을 맡고 있으며, NeurIPS·ICML·ICLR·AAAI 등 주요 AI 학회의 프로그램 위원과 산업계 AI 보안 자문으로도 활동합니다. 최근에는 AI 안전성과 거버넌스, 최적화 안정성을 다룬 논문 세 편이 ICML 2026에 채택되었습니다.

더 알아보기