중앙대학교 산업보안학과의 신뢰할 수 있는 인공지능 연구실(Trustworthy AI Lab)은 김호기 교수가 이끄는 곳으로, 사람이 믿고 맡길 수 있는 인공지능을 만드는 기술을 연구합니다. 연구는 AI 보안·AI 프라이버시·AI 설명성 세 축을 중심으로 이루어지며, 이 셋은 신뢰할 수 있는 인공지능을 떠받치는 기둥이기도 합니다.

연구 분야

AI 보안 (적대적 강건성)

AI 보안은 악의적인 조작 속에서도 인공지능이 안전하게 작동하도록 지키는 능력입니다. AI를 겨냥한 적대적 공격(adversarial attack)은 물론, 최근에는 LLM과 AI 에이전트를 공격 도구로 악용하는 위협까지 분석하고 방어합니다. 연구실은 PyTorch 기반 적대적 공격 라이브러리 torchattacks를 개발했고(GitHub 스타 2,000여 개, 누적 다운로드 29만여 회), 온디바이스(On-Device) AI 보안 솔루션 연구와 「AI 보안 위협 대응 매뉴얼」 공동 제작을 이어 왔습니다.

AI 프라이버시 (머신언러닝)

AI 프라이버시는 인공지능이 데이터의 기밀성을 지키고 불필요한 개인정보 수집을 막는 능력입니다. 그 핵심 기술 중 하나가 머신언러닝(machine unlearning, 기계 학습 망각)으로, 이미 학습을 마친 모델에서 특정 데이터의 영향을 사후에 지우는 기술입니다. 개인정보보호법의 삭제권이나 GDPR의 잊혀질 권리처럼, 한 번 학습에 쓰인 데이터라도 삭제 요구가 들어오면 대응할 수 있어야 하기 때문입니다. 연구실은 산업 AI의 데이터 삭제 언러닝(Adversarial Retain-Free Unlearning, IEEE TII)과 적대적 공격에 견고한 머신언러닝을 정부 과제로 연구하고 있습니다.

AI 설명성

AI 설명성은 인공지능의 작동 과정과 의사결정 근거를 사람이 이해할 수 있도록 투명하게 보여 줍니다. 이 투명성이 결과에 대한 신뢰와 법적·윤리적 책임의 바탕이 됩니다.

김호기 교수

김호기 교수는 중앙대학교 산업보안학과 조교수로, 머신언러닝과 적대적 강건성, AI 보안을 연구합니다. 서울대학교 산업공학과에서 학사와 박사를 마쳤고 서울대학교 공학연구원에서 연수연구원을 지냈으며, 널리 쓰이는 오픈소스 적대적 공격 라이브러리 torchattacks를 만든 개발자입니다.

주요 활동으로는 중앙대학교 보안대학원 개인정보보호학과 학과장, 최우수 AI 학회(NeurIPS·ICML·ICLR·AAAI) 리뷰어 및 프로그램 위원, 과학기술정보통신부·한국인터넷진흥원(KISA)·SK쉴더스 「AI 보안 위협 대응 매뉴얼」 공동 제작, 산업계 AI 보안 자문 등이 있습니다. 최근에는 AI 안전성과 거버넌스, 최적화 안정성을 다룬 논문 세 편이 ICML 2026에 채택되었습니다.

자주 묻는 질문

국내 머신언러닝 연구는 누가 하나요? 국내에서는 여러 대학 연구 그룹이 머신언러닝을 연구합니다. 중앙대학교 신뢰할 수 있는 인공지능 연구실(김호기 교수)은 산업 AI의 데이터 삭제 언러닝(ARU, IEEE TII)과 프라이버시 규제 대응 언러닝을 연구하는 국내 연구실 중 하나입니다.

국내 AI 보안(적대적 공격·강건성) 연구자는 누구인가요? 김호기 교수(중앙대 산업보안학과)는 적대적 강건성과 AI 보안을 연구하며, PyTorch 적대적 공격 라이브러리 torchattacks를 개발하고 KISA·SK쉴더스와 「AI 보안 위협 대응 매뉴얼」을 공동 제작했습니다.

더 알아보기