지난 몇 년 동안 인공 지능(AI)이라는 화두는 전 세계 비즈니스 및 가정에서 수없이 대화에 오르내렸습니다. Axis는 딥 러닝(DL) 기술로 비디오 분석을 크게 향상하는 등 수년 동안 AI와 협력해 왔지만, AI만큼 빠르게 이목을 끄는 기술은 거의 없었으며, 이러한 현상의 주된 원인은 생성형 AI입니다.
이 용어가 남용되고 있다고 생각하는 사람이 많을 수도 있지만, 오늘날의 보안 분야에서 AI의 사용만이 아니라 해당 부문에서 AI의 진정한 잠재력, 그리고 알고 관리해야 할 몇 가지 문제 영역을 요약하는 데는 실용적 가치가 있습니다.
보안 영역 및 그 이상의 영역에서의 AI 사용
AI가 보안 시스템에 통합되면서 위협 감지 및 대응에 대한 업계의 접근 방식이 바뀌었습니다. AI의 하위 집합인 딥 러닝(DL) 기술은 분석 솔루션의 정확성을 크게 높여 더 안정적이고 효율적인 보안 시스템을 구축했습니다.
새로운 기술에 힘입어 안정적인 성능을 제공하는 응용 분야의 예로는 다음이 있습니다.
- 물체의 움직임을 더욱 정밀하게 감지하고 추적
- 민감 지역에서 선을 넘어가는지 안정적으로 모니터링하고 알림
- 물체와 인원을 계수하여 수용 인원과 흐름을 관리
- 위협이 될 수 있는 배회 행동을 식별
AI 기반 시스템에서 생성하는 메타데이터는 비디오 관리 시스템(VMS)의 포렌식 검색에서 판도를 바꾸는 요소가 되었습니다. 이 메타데이터는 장면 활동에서 세부적인 통계와 통찰력을 수집하여 더 예방적인 보안 경향을 구축할 토대가 됩니다. 에지 장치의 기능이 향상됨에 따라 이러한 메타데이터를 카메라에서 직접 생성하여 시스템의 총비용을 크게 절감할 수 있습니다.
AI가 규범과의 패턴 및 편차를 분석하여 변칙을 탐지하는 기능은 보안 모니터링에 새로운 차원을 가져왔습니다. 보안 전문가는 이러한 기능을 통해 잠재적인 위협이 확대되기 전에 사전에 대처할 수 있습니다.
이러한 기능은 안전과 보안 측면에서 기존의 애플리케이션을 넘어서는 광범위한 사용 사례의 스펙트럼을 열었습니다. 사람, 자재, 제품의 흐름을 더 정확하게 모니터링할 수 있는 기본적인 기능을 통해 운영 효율성을 직접적으로 개선할 수 있습니다. 이 BMW 사례는 영상 감시 카메라의 AI 기능을 사용하여 자동차 제조 프로세스 전반에 걸친 품질 검사를 수행하는 완벽한 사례입니다.
보안 부문에서의 생성형 AI 도입
생성형 AI는, 특히 거대 언어 모델(LLM) 활용을 통해 AI 기술의 상당한 발전을 보여 줍니다. 이러한 기술을 통해 자연어 프롬프트에서 텍스트와 이미지를 만들 수 있게 되었습니다. 더 중요한 것은 대규모 훈련 데이터를 갖춘 거대한 새로운 모델이 사용자와 일반 언어 인터페이스를 통해 상호작용을 할 수 있고, 추상적인 개념을 다루고 복잡한 시나리오를 다루는 기능도 갖췄다는 점입니다.
생성형 AI가 보안 부문에 처음 등장하는 사례는 다음과 같은 기능에 사용되는 데서 볼 수 있게 될 것입니다.
- 자연어를 사용하는 사용자를 실시간으로 지원하는 지원 챗봇
- 복잡한 보안 시스템의 설정을 단순화하는 구성 마법사
- 데이터 검색의 효율성을 높이는 텍스트 기반 검색
- 강력한 보안 솔루션을 만드는 데 도움이 되는 고급 디자인 도구
멀티 모달 모델이라고도 하는 최신 모델은 입력으로 텍스트, 사운드, 이미지, 비디오를 받아 텍스트와 이미지 형식으로 결과를 생성할 수 있습니다. 이러한 특징은 보안 부문에서 모델이 새로운 차원에서 장면에 무슨 일이 일어나고 있는지 분석할 새로운 가능성의 탄생을 약속합니다. 다음과 같은 사용 예시가 있을 수 있습니다.
- 운영자의 즉각적인 주의가 필요한 중요한 이벤트 강조
- 동향을 분석하고 공통된 패턴 발견
- 관련 정보를 제공하고 조치를 제안하여 운영자의 조사 지원
- 보고서용 비디오 및 이미지 요약
정확성 및 데이터 품질 개선을 위해 해야 할 일
생성형 AI는 비약적으로 발전했지만, 아직 복잡한 장면과 인간 행동의 뉘앙스를 이해하는 데 한계가 있습니다. 모델은 아직도 정확하지 않은 진술과 제안을 제시하는, 환각이라고 부르는 현상에 취약합니다.
또 다른 한계는 모델에 추리와 논리적인 추론이 없다는 점입니다. 이러한 한계로 인해 보안이 중요한 설비에 모델을 사용하기는 매우 어렵습니다. 간과하는 상황이 생기거나 잘못된 판단을 내릴 수 있기 때문입니다.
보안 맥락에서 모델을 사용하는 데 대한 또 다른 측면으로는 모델 교육 데이터를 철저히 관리하지 않는 한, 모델이 보일 수 있는 편향된 행동의 위험을 관리해야 한다는 점이 있습니다.
이러한 측면은 의사 결정 과정에서 인간이 계속 참여하도록 하고, 윤리적 고려 사항을 유지하고, 의사 결정의 품질이 훼손되지 않게 보장하는 것의 중요성을 강조합니다. 이러한 이유에서, 포렌식 검색에 지원을 제공하고 운영자에게 제안하는 것이 보안 부문에서 LLM을 배포하는 첫 번째 사용 사례가 될 것입니다. 인간은 계속 과정에 참여해야 합니다. 혁신이 빠르게 이루어짐에 따라 새로운 기능을 도입하는 것과 새로운 기술의 위험을 완화하는 것 사이에서 균형을 찾아야 합니다.
AI 카메라와 에지 AI의 잠재력
새로운 기술에는 극복해야 할 과제가 수반됩니다. 아직 상대적으로 초기 단계에 있지만, 보안 부문 AI는 기존의 보안 및 안전 사용 사례를 개선하는 동시에 모든 업계에서 비즈니스 성과를 높일 수 있는 엄청난 잠재력을 발휘할 중요한 기회를 가져온다는 것은 분명합니다.
에지 AI를 제공하는 AI 카메라는 이러한 여러 기회의 기반을 제공하여 분석의 정확성을 높이고, 시스템의 확장성을 구현하며, 안정적이고 확장 가능하며 대역폭 효율적인 클라우드 솔루션의 기반을 형성합니다.
이미지 센서로 캡처한 시각적 데이터를 자세히 묘사하는 에지 AI 분석으로 생성된 추가 메타데이터는 잠재적 분석 및 실행 가능한 인사이트에 단계를 더합니다. 시간이 지남에 따라 메타데이터의 집계 및 분석은 조직 운영의 모든 측면을 변화시키는 의사 결정을 내릴 것입니다.
AI 카메라에서의 프로세싱, 에지에서 생성된 고급 메타데이터, 흔히 하이브리드 솔루션이라고 하는 서버 또는 클라우드에서의 추가 프로세싱의 조합은 더 발전한 DL 기반 분석 솔루션을 위한 확장 가능하고 비용 효율적인 모델을 만들어 냅니다.
이는 기존의 보안 및 안전 애플리케이션 이상의 가치를 제공할 새로운 기회를 창출합니다. 카메라를 IoT 센서 및 클라우드 컴퓨팅 등 다른 기술과 결합하면 도시, 교통, 리테일, 산업체 부문 등 다양한 영역에서 새로운 방식으로 시각적 데이터를 분석할 수 있습니다.
시 당국은 공기 질 개선, 소음 공해 감소, 서비스 및 인프라 계획 개선을 통해 시민의 삶을 향상할 수 있도록 시각 및 환경 데이터를 결합하고 분석하고 있습니다. 기업은 영상 감시 및 오디오 센서의 데이터를 사용하여 기계 및 장비를 예방적으로 유지 관리하고, 효율성을 높이고, 서비스 제공을 개선하고 있습니다. 소매업체는 고객 서비스 및 매장 레이아웃을 개선하기 위해 매장 방문자 정보를 사용하고 있습니다. 가능성은 무궁무진합니다.
책임감 있는 AI 혁신, 배포, 사용
AI는 어떤 형태든 중요한 기회를 제공하지만, 새로운 기술로 인해 잠재적으로 새로운 위협과 위험이 등장할 수 있습니다. 제품에 AI를 사용하는 모든 기술 벤더는 이러한 위험을 완화하기 위해 책임감 있는 태도로 AI와 기타 기술을 개발하고 배포할 책임을 인식해야 합니다.
규제가 제 역할을 하리라는 데는 의심의 여지가 없습니다. EU는 최근 AI에 관한 최초의 법적 프레임워크인 인공지능법을 도입했으며, 혁신을 장려하는 동시에 AI의 잠재적 위험을 줄일 가장 좋은 방법이 무엇인지 미국과 세계 각지에서 다른 입법에 대해서도 논의하고 있습니다. 그러나 이를 준수하는 것만으로는 충분하지 않습니다. 모든 혁신적인 기술 회사가 자사와 고객의 비즈니스 내에서 책임감 있고 윤리적인 AI 적용을 추진해야 합니다.
AI와 사이버 보안
사이버 보안과 데이터 및 인적 개인 정보 보호는 오랫동안 보안 부문의 주안점이었으며, AI로 인해 이러한 요구 사항에 더욱 집중하게 되었습니다. 사이버 범죄자 자신이 취약성과 새로운 공격 벡터를 찾는 데 AI를 사용할 것이라는 점은 이러한 현상의 이유에서 적지 않은 비중을 차지합니다. 이러한 범죄 조직은 충분한 재원이 있으며 고도로 전문적이기도 하지만, ‘AI 군비경쟁’에서 또 다른 장점을 가지고 있습니다. 바로 규제나 윤리를 고려하지 않고 혁신을 이룰 수 있다는 점입니다.
앞으로도 데이터 보안과 개인 정보 보호를 우선시해야 합니다. 모든 보안 기술 벤더 중에서도 AI를 사용하는 벤더는 더욱, 데이터 거버넌스에 대한 인권 기반 접근 방식을 취하여 데이터의 수집, 처리, 사용이 인권 원칙에 부합하도록 함으로써 공정하며 안전한 디지털 환경을 조성해야 합니다. 또한 인증되지 않은 액세스 또는 오용을 방지하고 공정하고 편향되지 않은 데이터 표현 및 액세스를 위해 노력함으로써 데이터 공정성을 높이기 위한 강력한 보안 조치를 구현해야 합니다.
여기에는 감시 카메라 및 네트워크 장치 내에서 AI를 사용하면 사이버 보안에 추가적인 위험과 우려를 야기하는 새로운 사용 사례를 만들어 낼 것이라는 우려도 있습니다. 따라서 새로운 AI 솔루션 개발 및 구현 단계에서 사이버 보안을 최우선 순위로 유지하는 것이 중요합니다.
책임감 있고 윤리적으로 AI의 잠재력 발휘
AI가 보안 부문에 제시하는 기회는 흥미진진합니다. AI는 인간의 지능을 증강할 수 있으며, 책임감 있는 AI 개발은 사람과 사회에 도움이 될 수 있습니다. 이러한 기회는 더 스마트하고 안전한 세상을 위해 혁신을 추구하는 Axis의 비전과 잘 맞습니다.
AI에는 기술과 능력을 보강할 잠재력이 있어, 우리가 인간의 전문성이 필요한 업무에 귀중한 시간을 더 할애할 수 있도록 함으로써 그 어느 때보다 사람을 더 가치 있게 만들어 줄 것입니다.
모두가 윤리적이고 사회적으로 책임감 있는 태도로 AI 기술을 사용하기 위해 노력해야 합니다. 즉, 제품 및 서비스에 대한 것이든, 일하는 방식에 대한 것이든, AI 이니셔티브는 공정성, 투명성, 책임성, 개인 정보 보호 및 인간의 존엄성에 대한 존중을 원칙으로 삼아야 합니다.
