숭실대 최대선 교수 연구팀, 무인 매장 AI를 속이는 공격과 보안 기술 개발 > 보도자료

• 목록
• 답변

숭실대학교(총장 장범식)는 최대선 교수(소프트웨어학부) 연구팀이 무인 매장의 핵심 기술인 자동 인식 AI를 속여 도난을 가능하게 하는 공격을 도출하고 이에 대한 보안 기술을 개발했다고 밝혔다.

무인 매장은 비접촉이 이슈였던 코로나 시대를 거쳐 인건비 절감 등의 모티브로 전 세계적으로 급속도로 확산되고 있다. 특히 구매할 상품을 들고 나가기만 하면 결제가 되는 완전 무인 매장은 해외의 아마존고를 비롯하여 국내에서도 파인더스에이아이 등의 솔루션이 보급되고 있다. 이러한 완전 무인 매장은 구매 인식을 위해 카메라로 사람과 사물을 인식하는 AI 기술을 핵심으로 한다.

<사진1-무인 매장의 사람 인식 AI, 출처 : fastcompany>

연구팀은 무인 매장의 카메라와 연결되어 상품을 인식하는 AI를 속여 있는 상품을 없는 것으로 인식하거나, 다른 상품으로 인식하게 하는 보안 공격을 도출했다. 이러한 보안 공격은 공격 AI가 생성해 낸 이미지를 작은 종이에 인쇄한 패치를 상품 앞에 갖다 대어 AI의 오동작을 유발하는 방식으로 동작하며, 공격으로 AI를 속이게 되면 무인 매장에서 도난이 발생할 수 있다. 자율주행차의 AI가 도로 표지판을 오인식하도록 하여 사고를 유발하게 하는 보안 공격 등 AI를 기만하는 공격은 널리 알려져 있으나, 무인 매장의 상품 인식과 관련된 연구는 알려진 것이 없었다.

<(왼쪽부터)정상적인 상품인식, AI 생성 패치로 다른 상품 오인식, 공격 효과가 없는 랜덤패치(사진=숭실대)>

연구팀은 이러한 무인 매장의 공격 위험에 대한 보안 기술로 기만되지 않는 강건한 AI 모델과 사람의 동작을 인식하여 이상 행위를 감지하는 AI 모델을 개발했다고 밝혔다. 강건한 AI 모델은 기만 공격을 인식하기 위해 이미지 뿐 아니라, 이미지를 설명하는 텍스트를 복합적으로 사용하여 기만 공격을 감지할 수 있다. 연구팀은 또한 상품과 동작 인식을 종합하여 이상 행위를 탐지, AI 기만 공격에 대응하는 기술도 개발했다. 사람이 패치를 상품 위에 올려놓는 동작을 인식하는 기술을 통해 도난에 의한 무인 매장의 손실을 예방할 수 있을 것으로 전망된다.

<사진3-상품인식, 동작 인식 통합 인식(사진=숭실대)>

연구 결과는 한국정보보호학회 학술대회를 통해 논문으로 공개되었으며, 보안 성능을 높이기 위한 후속 연구가 한창 진행 중이다. 특히, 국내 AI기반 무인 매장 솔루션 선도업체인 ㈜파인더스에이아이와 공동연구를 통해 실제 무인 매장에서 발생한 데이터를 적용해 보안 기술을 개발하고, 실제 무인 매장에서 기술을 테스트할 예정이다. 또한 연구팀이 도출한 보안 기술은 ‘무인 매장 구매자 행위 인식 AI 모델에 대한 보안 요구사항’이라는 제목으로 사물인터넷융함포럼의 표준화가 완료되었다.

연구팀을 이끌고 있는 최대선 교수는 “앞으로 AI가 널리 활용되면 될수록 다양한 보안 공격이 등장하여 AI의 신뢰성과 이용자의 안전성을 위협받게 될 것이다. 무인 매장의 AI는 그중 가장 적나라하게 위협에 노출될 수 있는 분야로, 이러한 위협에 대응할 수 있는 보안 기술을 개발한 것은 큰 의의가 있다”며 “국내 무인 매장 AI 기업과 공동연구를 통해 국내 솔루션의 보안성을 갖추어 국제 경쟁력 확보에 기여하겠다”고 전했다.

이번 연구는 정보통신기획평가원(IITP)가 과학기술정보통신부의 정보보호핵심원천기술개발 사업의 일환으로 추진하는 ‘엣지 AI 보안을 위한 Robust AI 및 분산 공격탐지기술 개발’ 과제를 통해 진행됐다. 해당 과제는 AI 자체의 보안 취약성을 보완하는 기술을 개발하는 과제로 2021년부터 2026년까지 6년간 추진되며, 현재까지 IEEE Transactions on Vehicular Technology 등 우수한 SCI 논문 12건 출판, 국제학술대회 발표 5건, 국내 외 특허 19건, 국내 표준화 2건과 개인정보보호위원장 표창 등 8건의 수상 실적, 기술이전 2건 등의 실적을 산출하고 있다.