반도체 보안의 중요성이 갈수록 커지는 가운데 대구경북과학기술원(DGIST)연구팀이 세계적인 하드웨어 보안 경진대회에서 준우승을 차지하며 기술력을 입증했다.
이는 인공지능(AI)과 자동화 분석 기술을 결합해 반도체 설계에 숨겨진 보안 취약점을 단시간에 찾아내고 실제 공격 가능성까지 검증했다는 점에서 의미가 크다.
DGIST는 전기전자컴퓨터공학과 김영식 교수 연구팀이 국제 하드웨어 보안 경진대회인 ‘HACK@CHES 2026’에서 최종 2위에 올랐다고 30일 밝혔다.
김광식 박사후연구원과 이수성·김정도 학생으로 구성된 ‘Edoras’ 팀은 전 세계 52개 참가팀 가운데 준우승을 거뒀다.
이번 대회는 암호 하드웨어와 임베디드 시스템 분야의 권위 있는 국제 학술대회인 CHES와 연계해 열렸으며, 반도체 설계 내부에 존재하는 보안 취약점을 찾아내고, 해당 결함이 실제 공격으로 이어질 수 있는지 검증하는 것이 핵심이다. 온라인 예선을 거쳐 선발된 상위 8개 팀은 지난 11일부터 13일까지 튀르키예 안탈리아에서 결선을 치렀다.
대회에서 주어진 과제는 글로벌 오픈소스 보안 반도체 설계인 ‘오픈타이탄(OpenTitan)’을 분석하는 것이었다.
참가팀들은 처음 공개되는 방대한 설계 코드를 대상으로 단 48시간 안에 보안 결함을 찾아내고 공격 가능성까지 입증해야 했다.
반도체는 스마트폰과 자율주행차, AI 데이터센터 등 첨단산업 전반에 사용되는 핵심 부품이다. 하지만 제조가 완료된 뒤에는 설계 결함을 수정하는 데 막대한 비용과 시간이 들 수 있다.
특히 암호키 유출이나 메모리 제어 오류 등 보안 취약점은 시스템 전체의 신뢰성을 위협할 수 있어 설계 단계부터 정밀한 검증이 요구된다.
DGIST 연구팀은 이러한 과제를 해결하기 위해 자체 개발한 보안 분석 자동화 도구 2종과 대규모 언어모델(LLM)을 결합한 분석 기법을 활용했다.
첫 번째 도구인 ‘RTL Security Tripwire’는 암호키와 같은 민감한 정보가 제대로 삭제되지 않거나 보안 통제가 누락된 부분을 자동으로 탐지한다. 두 번째 도구인 ‘RegSpecDiff’는 반도체의 보안 설계 명세와 실제 구현 코드를 대조해 설계 의도와 구현 결과 사이의 불일치에서 발생할 수 있는 보안상 허점을 찾아낸다.
여기에 AI 기반 코드 분석을 접목해 방대한 설계 자료를 효율적으로 살피고, 탐지된 이상 징후는 정밀 시뮬레이션과 실제 공격 실험을 통해 검증했다.
그 결과 연구팀은 암호 연산과 메모리 제어, 난수 생성 등과 관련한 보안 취약점 분석 및 공격 검증 결과 총 20건을 제출하며 최종 2위에 올랐다.
이번 성과는 복잡한 반도체 설계를 대상으로 AI와 자동화 기술을 활용하면 보안 취약점 분석의 속도와 효율성을 높일 수 있음을 보여줬다는 점에서 주목된다.
특히 사람이 방대한 코드를 일일이 검토하는 방식에서 벗어나 자동화 도구로 의심 지점을 선별하고, AI와 실험 기반 검증을 결합해 분석의 정밀도를 높이는 접근법을 제시한 것이다.
향후 이러한 기술은 차세대 보안 반도체의 설계 검증을 비롯해 암호 시스템과 임베디드 기기의 보안성 평가에도 활용될 가능성이 있다. 특히 반도체가 국가 산업 경쟁력과 디지털 인프라의 기반이 되는 상황에서 설계 단계의 보안 취약점을 선제적으로 찾아내는 기술은 산업 전반의 신뢰성을 높이는 중요한 요소로 꼽힌다.
김영식 DGIST 교수는 "반도체가 첨단산업의 핵심 인프라로 자리 잡으면서 설계 단계의 작은 보안 결함도 치명적인 위협으로 이어질 수 있다"고 강조하면서, "이번 수상으로 입증한 자동화 취약점 탐지 및 AI 결합 검증 기술을 고도화해 국내외 차세대 보안 반도체 설계 검증과 하드웨어 보안 역량 강화에 기여하겠다"고 뜻을 밝혔다.
이번 연구는 과학기술정보통신부의 과학기술원 InnoCORE 사업과 정보통신기획평가원(IITP)이 관리하는 ‘범국가 양자내성암호 전환 핵심기술 개발’ 사업의 지원을 받아 수행됐다.
이번 준우승은 국제 경진대회에서의 성과를 넘어 AI 기반 반도체 보안 검증 기술의 가능성을 확인했다는 데 의미가 있다. 앞으로 연구팀이 개발한 기술이 실제 반도체 설계 검증 현장에 적용되고 산업계의 보안 역량 강화로 이어질 수 있을지 주목된다.
구글에서 프레시안을 더 자주 만나기
전체댓글 0