자율주행차 보안의 ??

>

모든 AI 솔루션 중에서 자율주행차의 사이버 보안이 가장 중요한 측면이라고 생각합니다. 인간 삶에 영향을 미치는 글 한번이라도 피해가 큰 기업뿐 아니라 산업 전반에 지장을 줄 수 있습니다.사람들이 바로 그런 기술에 대한 신뢰를 잃는 것은 당연하죠.예를 들어, Arizona주의 어느 거리에서 자율주행차가 여성을 사망시킨 문재를 예로 들어볼까요? 이 문재는 파문을 부르며 조사자는 자동 운전 차량에 장착된 AI시스템의 보안에 흥미를 가지고 왔습니다. ​ AI의 보안은 일반적으로 20일 4년에 AI시스템을 속이기 위해서 고안된 입력 사항인 적대적 공격에 대한 하나번째 논문 발표, 다음의 논의의 대상이 되었습니다. 2년 후, 조사자들은 이론에서 실행에 옮기고 실제 해결책에 이론적 공격을 적용했습니다. 다음 자율주행차의 인공지능(AI) 시스템은 중대함으로 인해 흥미도가 높아진 분야 중 하나가 됐습니다.자동화된 차량이 점점 더 널리 보급되고 안전성에 대한 문제가 제기되면서 이를 생산하는 회사가 채워야 할 수많은 규제가 논의되고 있습니다. 믹크 전국 주의회 회의(National Conference of State Legislatures)가 발간한 보고서에 따르면 4일본의 주와 컬럼비아 특별구(District of Columbia)는 이미 자율 주행 차의 입법을 점검하고 하원은 이미 HR 3388을 통과시키고 자율 주행 차에 대한 통일적 기준을 의무화한 것이 있습니다.이와 관련된 모든 우려를 고려할 때 앞으로 이들의 사이버 보안을 둘러싼 문제가 멈추지 않는다면 자율주행의 명성은 훼손될 것입니다. 공격받을 수 있는 자율주행차의 일부 AI 추진 구성요소를 살펴보겠습니다. 이 부분은 모두 다양한 방식의 작은 부분일 뿐입니다.이미지인식시스템(Image Recognition Systems) 이미지인식시스템은 도로표지를 감지할 수 있습니다. 그러나 그들이 특별한 스티커와 낙서(graffiti)의 도움으로 속일 수 있다는 사실이 20일 6년에 공개적으로 입증되 움니다. 이는 20일 7년의 개선으로 이어지는 이는 더 좋은 결과를 낳앗움니다. 이른바 반대 예로는 가끔 한 클래스를 가리키는 이미지가 있지만, AI 시스템은 정지 표지판 대신 우회전 감지 자동차와 함께 이들을 다른 클래스의 이미지로 잘못 인식하는 것입니다.물체감지시스템(Object Detection Systems) 자율주행차는 도로표지판을 인식할 필요 없이 모든 도로규칙을 알고 있는 서버의 암호화된 통신 등 앞으로 다른 채널에서 이 정보를 수집해야 한다는 내용도 가능합니다.안타깝게도, 그러한 시스템을 전세계에 배치하는 데에는 많은 시간이 걸릴 것입니다. 역시 도로 표지판이 불필요해도 차량은 다른 차나 보행자를 효과적으로 감지할 필요가 있습니다. 여기서 개체검지 및 의미분할 알고리즘이 작동하는데, 둘 다 다른 딥러닝 알고리즘과 마찬가지로 상대방의 공격에도 취약할 것입니다.센트럴 플로리다 대학(University of Central Florida) 조사팀은 차량을 위장해 숨겼을 가능성을 분석했습니다. 물체탐지기를 우회한다는 생각은 새로운 것이 아니라 후디니(Houdini 옮김: 가면출로 유명한 곡예사) 공격으로 처음 제시되었습니다. 그래도 이번 조사에서는 자율 운전을 겨냥한 실용적인 사례를 기술하고 있습니다.시맨틱 세분화 시스템(Semantic Segmentation Systems) 시맨틱 세분화란 자동차가 다른 물체의 가장자리를 감지할 수 있도록 하는 AI 작업입니다. 옥스퍼드 대학교(University of Oxford) 조사원들은 그들이 어떻게 의미분할 시스템에 대한 실제 공격을 성공시켰는지 보여주는 조사를 발표했습니다. 그래서 그런 공격은 인간의 삶에 실질적인 위험을 줄 수 있습니다.킨시큐리티 랩(Keen Security Lab) 조사진은 도로에 짝퉁 차선을 만드는 스티커만 여러 개 붙여 놓으면 일부 자율주행차가 속을 수 있다고 밝혔습니다. 이 조사 동안 이 차의 자율주행 시스템은 스티커를 원래 있던 차선의 연장선으로 인식했고, 이로 인해 차가 다가오는 차선으로 바뀌었습니다.음성인식시스템(Voice Recognition Systems)은 아쉽지만, 때때로 인식만이 자율주행차에 대한 공격 요소가 아닙니다. 차량은 라디오에서 흘러나오는 잘못된 형식의 명령을 인식함으로써 속일 수 있습니다. China의 Zhejiang University 보안조사진이 음성인식 시스템에 악의적인 명령을 보내 침묵공격을 할 수 있는 '돌핀 어택(Dolphin Attack)'의 음향기법을 발명하였습니다. 해커들은 역시 상대방의 공격을 담은 선전 메시지를 라디오에 보내고 자율주행으로 도로를 뒤죽박죽이 만들 수 있습니다.LiDAR의 자율주행차는 대부분 LiDAR라는 특별한 시스템을 가지고 있는데, 이는 빛의 탐지 및 반경을 의미하는 것입니다. 이 채널은 주변 물체에 대한 거리를 측정하기 위한 것으로 운전자의 의지만으로는 비활성화가 불가능하기 때문에 주로 인지 도구로 사용됩니다.​ 20일 9년 7월 미 태, 때는 대학(University of Michigan)의 조사원들은 LiDAR시스템에 대한 실제 공격에 대한 하나번째 논문을 발표했다.LiDAR의 해킹 방식은 딥러닝 모델의 일반적인 해킹 방법과 비슷했지만 LiDAR 기능만 약간 수정했습니다. 여기에는 적대적인 신호나 후처리 제한의 도입을 위한 레이저 다이오드 사용이 포함됩니다.​

>

무엇을 해야 하나? (What Should Be Done?) 제 경험으로 볼 때 자율주행차는 다른 사물인터넷(IoT) 솔루션과 마찬가지로 소프트웨어나 하드웨어의 취약성이 없어야 합니다. 더 중요한 것은 백엔드의 알고리즘이 안전하다는 것을 확실히 해야 한다는 것. 많은 사람들이 하드웨어, 소프트웨어, 무선 보안을 담당하고 있지만 알고리즘의 보안에 대한 충분한 주의가 필요합니다. 딥러닝 등 기계학습 기술은 적대사례, 오염, 사생활문제, 백도어 등 모든 AI의 위협에 대해 테스트해야 합니다.자율주행차를 주제로 한 보안 관련 기사가 잇따라 나오고 있습니다. 자율주행차는 가장 가깝고 소중한 사람의 생명을 보호하는 책임을 지기 때문에 우리는 자동차가 실제로 출시되기 전에 업계를 지원하고 판매업자에게 이런 문제를 해결하게 할 책임을 져야 합니다.끼어든다=이번 내 소식은 내가 크게 다르지 않았던 자율주행차의 보안(Security)에 관한 뉴스다. 제가 기술적인 스토리를 말씀드릴 때는, 너희 무전문적이고 깊은 스토리는 피하려고 합니다. 저는 자율주행차에 대해 한 가지 반적이고 쉽게 접근할 수 있는 기회를 공급하는 것을 목표로 하고 있기 때문에 보편적인 스토리가 많습니다. 그래도 기술적인 부분에 대해서도 한번 감정하는 시간을 갖는 것이 좋을 것 같아서 가끔 조금 스토리적으로 어려운 것도 선택하곤 합니다. 이공지는자율주행차보안에대해정말겉모습의글이기도하고어떤이야기가위험요소가될수있는지에대해소개하는것이었습니다.그동안 자율주행차 보안에 대한 이야기를 하지 않은 것은 아닙니다. 많은 부분이 Connectivity, 즉 자율주행차와 외부통신으로 인한 보안위험에 대한 스토리가 많았던 것 같습니다. 아무래도 폐쇄적인 시스템보다는 외부에 노출된 시스템은 보안에 취약한 부분이 분명히 있습니다. 자율주행차는 주변 물품과의 정보를 교환함으로써 보다 안전한 운행을 시도하는 것을 많이 하고 있습니다. 하지만 이 공지는 그러한 외부 통신 보안에 관한 스토리가 아니라 자율주행차에 내장된 시스템의 보안에 관한 것이었습니다. 이것과 관련된 소식은 별로 접하지 못했던 것 같습니다. 나름대로 의미가 있다고 생각해서 선정했습니다.Camera, LiDAR뿐만 아니라 Radio를 통해 자동차 시스템에 접근하여 제어하는 것까지 다양한 방법의 위험 요소를 소개하고 있습니다. 아무래도, Camera의 사물 인식에 의한 문제점은 자동 운전 뿐만이 아니라, 사물 인식 AI의 문제점에서 출발하고 있습니다. 휴대전화에 있는 사물의 인식은 사람을 해치지 않아요. 사용자의 판단에 참고가 되는 기능 하나만. 그러나 자율주행차에게 잘못된 사물인식은 곧바로 사고로 이어질 수 있는 매우 위험한 요소다. Tesla를 필두로 몇 개의 자율주행 기술을 이용하려는 Aftermarketkit 판매 대기업들은 Camera만을 이용한 주변 인식 기술을 소개하고 있습니다. 아무리 해도 높은 LiDAR를 적용할 수는 없으니까요. 하지만 아직은 완벽한 기술이라고 할 수 없어요. Camera의 오류는 경우에 따라 바로 이어질 수 있는 위험을 안고 있습니다. 얼마 전에도 Tesla의 잘못된 중앙 분리대 인식으로 사고가 날 뻔한 영상을 본 적이 있습니다. Camera 기술에 의존한 ADAS이다.LiDAR의 해킹 가능성에 대한 스토리는 이번에 처음 sound를 접합니다. 하지만 점점 더 자율주행차가 본격적으로 세계에 등장하기 때문에 가끔 잘 움직이는 자율주행차가 아니라 더 위험요소에 대한 경고도 더 많이 등장하고 있습니다. 현재 자동차 제조 대기업은 자율주행차에 Connectivity라는 개념이 포함되면서 현재 사람이 직접 하던 행동을 자동으로 변경시키기 위한 노력을 하고 있습니다. 특히 돈과 관련된 부분도 포함되어 있습니다. 이런 시스템을 위해 블록체인 기술을 자율주행차에 적용하기 위한 노력을 계속하고 있습니다. 그래서 이번 문장에서도 강조하지만, 대부분의 프로그램에는 'Back-'이라는 용어가 사용되는 숨겨진 기술이 있습니다. 이곳을 대부분의 해커들이 많이 그 대상으로 합니다. 이 부분에 대한 명확한 통제와 보안은 절대적으로 필요할 것이다.사람이 더 편리한 세상을 만나기 위한 수많은 복잡한 기술이 필요한 것 같습니다. 그래도 언젠가는 만나겠지요. 당시에는먼저이런감정은어느정도해결되어있어야합니다. 그래야 보통 사람들이 자율주행차를 이용할 수 있다. 예를 들어, 이런 부분에 대해서 제대로 해결을 하지 않고 적용된 기술 사고는 앞서서 우리는 경험했습니다.아래의 동영상은 자율주행차를 포착할 수 있는 함정이라고 소개된 것이다. ㅋ

p.s 검색으로 보시고 만약 원하시는 스토리를 찾으실 수 없다면 '태그' 역시 '검색'을 해보시면 더 많은 자료를 찾으실 수 있습니다. 그래도 찾으시는 스토리이 않으시다면 저에게 연락 주시면(대째 1, 메모)내가 아는 범위 내에서 도움이 되도록 하겟슴니다. 아무것도 가지지 않아도 됩니다.Over the Vehicle!!!참고 자료

​