Depășirea entuziasmului exagerat legat de AI în Securitate

Chiar dacă mulți ar putea considera că termenul a fost suprautilizat, este util să recapitulăm utilizarea AI în securitate în prezent, dar și potențialul real, precum și câteva dintre problemele de care trebuie să fim conștienți și să le gestionăm.

Utilizarea AI în securitate și nu numai

Integrarea AI în sistemele de securitate a transformat abordarea industriei în ceea ce privește detectarea și răspunsul la amenințări. Tehnologiile de deep learning (DL), un subset al AI, au crescut semnificativ acuratețea soluțiilor de analiză, ducând la sisteme de securitate mai fiabile și eficiente.

Exemple de aplicații care acum oferă performanțe fiabile datorită noii tehnologii includ: 

• Detectarea și urmărirea mișcării obiectelor cu o precizie mai mare;
• Monitorizarea și alertarea fiabilă a traversărilor de linii în zone sensibile; 
• Numărarea obiectelor și persoanelor pentru a gestiona ocuparea și fluxul; 
• Identificarea comportamentelor suspicioase care ar putea indica amenințări potențiale.

Generarea de metadate de către sistemele bazate pe AI a devenit un factor decisiv în căutările criminalistice din cadrul Sistemelor de Management Video (VMS). Acestea constituie o bază pentru colectarea de statistici și informații detaliate din activitățile din scenă, facilitând o poziție de securitate mai proactivă. Odată cu creșterea capacităților dispozitivelor la margine, aceste metadate pot fi generate direct de camere, reducând astfel semnificativ costul total al unui sistem.

Capacitatea AI de a detecta anomalii prin analiza modelelor și abaterilor de la normă a introdus o nouă dimensiune în monitorizarea securității. Această abilitate permite profesioniștilor din securitate să abordeze preventiv amenințările potențiale înainte ca acestea să escaladeze.

Aceste capabilități au deschis un spectru larg de cazuri de utilizare suplimentare, dincolo de aplicațiile tradiționale de siguranță și securitate. Abilitatea fundamentală de a monitoriza mai precis fluxul de persoane, materiale și produse permite aplicarea acestor tehnologii pentru îmbunătățirea directă a eficienței operaționale. 

Acest exemplu de la BMW este o ilustrare perfecta. Se folosesc capabilitățile AI ale camerelor de supraveghere video pentru a efectua inspecții de calitate pe parcursul procesului de fabricație din industria auto.

Introducerea AI generative în sectorul de securitate 

AI generative, în special prin utilizarea modelelor de limbaj extinse (LLMs), reprezintă un progres semnificativ. Aceste tehnologii permit crearea de texte și imagini pe baza unor comenzi în limbaj natural. Mai important, noile modele masive, datorită volumului mare de date cu care sunt antrenate, pot interacționa cu utilizatorii prin interfețe lingvistice obișnuite, dar au și capacitatea de a lucra cu concepte abstracte și de a gestiona scenarii complexe.

Intrarea AI generative în sectorul de securitate se va vedea inițial prin utilizări precum: 

• Chatbots de suport care oferă asistență în timp real utilizatorilor, folosind limbaj natural;
• Asistenți care simplifică configurarea sistemelor complexe de Securitate;
• Căutări bazate pe text care îmbunătățesc eficiența recuperării datelor;
• Instrumente avansate de design care ajută la crearea unor soluții de securitate robuste.

Modelele mai noi, denumite modele multimodale, sunt capabile să primească text, sunete, imagini și video ca input și să genereze rezultate sub formă de text și imagini. Aceasta promite să creeze noi posibilități în sectorul de securitate, unde modelele pot analiza ce se întâmplă într-o scenă la un nivel nou. Utilizările ar putea include: 

• Evidențierea evenimentelor semnificative care necesită atenția imediată a unui operator; 
• Analiza tendințelor și identificarea tiparelor comune;
• Asistență pentru operatori în investigații, oferind informații relevante și sugestii pentru acțiune; 
• Rezumarea videoclipurilor și imaginilor pentru rapoarte.

Instrumente necesare pentru îmbunătățirea acurateței și calității datelor

În ciuda progreselor, AI generativă se confruntă în continuare cu limitări în înțelegerea nuanțelor scenelor complexe și comportamentului uman. Modelele sunt încă predispuse la așa-numitele "halucinații," unde generează afirmații și sugestii care nu sunt corecte.

O altă limitare este lipsa capacităților de raționament și deducție logică. Aceste limitări fac utilizarea modelelor în instalațiile critice de securitate foarte dificilă. Nu ne putem baza pe faptul că evenimentele nu vor fi omise sau că nu vor fi trase concluzii greșite.

Un alt aspect al utilizării modelelor în contextul securității este gestionarea riscului de comportament părtinitor, care poate apărea dacă datele de antrenament ale modelului nu sunt gestionate cu atenție.

Acest lucru subliniază importanța menținerii implicării umane în procesul decizional, asigurând respectarea considerentelor etice și necompromiterea calității deciziilor. Din acest motiv, primele cazuri de utilizare în care vom vedea implementarea LLM-urilor în sectorul de securitate vor fi în oferirea de asistență în căutările criminalistice și sugestii pentru operatori. Va fi necesar să păstrăm factorul uman în buclă. Având în vedere ritmul rapid al inovației, trebuie să găsim un echilibru între adoptarea noilor capacități și atenuarea riscurilor asociate noilor tehnologii.

Potențialul camerelor AI și al edge AI

Orice tehnologie nouă aduce cu sine provocări de depășit. Deși ne aflăm încă în faze relativ timpurii, este evident că AI în sectorul de securitate oferă oportunități semnificative pentru a îmbunătăți cazurile de utilizare tradiționale de securitate și siguranță, deschizând în același timp un potențial uriaș pentru a îmbunătăți performanța afacerilor în toate industriile.

Camerele AI cu edge AI oferă fundamentul pentru multe dintre aceste oportunități, îmbunătățind acuratețea analizelor, permițând scalabilitatea sistemelor și formând baza pentru soluții de securitate fiabile, scalabile și eficiente din punct de vedere al soluțiilor cloud. 

Metadatele suplimentare generate de analizele AI la margine (edge AI), care descriu în detaliu datele vizuale capturate de senzorul de imagine, adaugă noi straturi de potențială analiză și informații acționabile. În timp, agregarea și analiza acestor metadate vor ghida deciziile care vor transforma fiecare aspect al operațiunilor unei organizații.

Combinarea procesării în interiorul camerelor AI, a metadatelor avansate generate la margine (edge) și a procesării suplimentare pe servere sau în cloud, cunoscută sub denumirea de soluții hibride, creează un model scalabil și eficient din punct de vedere al costurilor pentru soluții analitice mai avansate, bazate pe deep learning (DL).

Aceasta creează noi oportunități de a oferi valoare dincolo de aplicațiile tradiționale de securitate și siguranță. Combinarea camerelor cu alte tehnologii, precum senzori IoT și cloud computing, permite analizarea datelor vizuale în moduri noi, în diverse domenii, cum ar fi orașele, transportul, retailul și sectoarele industriale.

Autoritățile urbane combină și analizează date vizuale și de mediu pentru a îmbunătăți viața cetățenilor, prin îmbunătățirea calității aerului, reducerea poluării fonice și planificarea mai eficientă a serviciilor și infrastructurii. Companiile folosesc datele din supravegherea video și senzori audio pentru întreținerea predictivă a utilajelor și echipamentelor, creând eficiență și îmbunătățind livrarea serviciilor. Retailerii utilizează informațiile despre vizitatorii magazinului pentru a îmbunătăți serviciul pentru clienți și dispunerea magazinului. Posibilitățile sunt nelimitate.

Inovarea, implementarea și utilizarea responsabilă a AI

Deși AI, în toate formele sale, prezintă oportunități semnificative, orice tehnologie nouă are potențialul de a introduce noi amenințări și riscuri. Fiecare furnizor de tehnologie care folosește AI în produsele sale trebuie să recunoască responsabilitatea de a dezvolta și implementa AI și alte tehnologii într-o manieră responsabilă pentru a atenua aceste riscuri.

Reglementările vor juca, fără îndoială, un rol important. Uniunea Europeană a adoptat recent primul cadru legal dedicat AI, Actul privind Inteligența Artificială (AI Act), iar în Statele Unite și în multe alte părți ale lumii se discută legislații care vizează reducerea riscurilor potențiale ale AI, în timp ce se încurajează inovația. Însă nu este suficient doar să respectăm aceste reglementări. Fiecare companie tehnologică inovatoare trebuie să conducă aplicarea responsabilă și etică a AI, atât în cadrul propriei activități, cât și în afacerile clienților săi.

AI și securitatea cibernetică

Securitatea cibernetică și protecția datelor, precum și a confidențialității oamenilor, au fost de mult timp o prioritate pentru sectorul de securitate, iar AI aduce această cerință și mai mult în prim-plan. În mare parte, acest lucru se datorează faptului că infractorii cibernetici înșiși vor folosi AI pentru a căuta vulnerabilități și noi vectori de atac. Aceste organizații criminale, bine finanțate și extrem de profesioniste, au un alt avantaj în „cursa înarmărilor AI”: pot inova fără a lua în considerare reglementările sau etica.

Prioritizarea securității datelor și a confidențialității va continua să fie esențială. Toți furnizorii de tehnologii de securitate, în special cei care folosesc AI, trebuie să adopte o abordare bazată pe drepturile omului în guvernanța datelor, asigurându-se că colectarea, procesarea și utilizarea datelor se aliniază principiilor drepturilor omului, promovând un mediu digital echitabil, just și sigur. De asemenea, este necesară implementarea unor măsuri de securitate robuste pentru a proteja împotriva accesului neautorizat sau a utilizării abuzive și promovarea echității în utilizarea datelor, prin reprezentarea corectă și nediscriminatorie a acestora.

Există, de asemenea, îngrijorarea că utilizarea AI în cadrul camerelor de supraveghere și a dispozitivelor de rețea va crea noi cazuri de utilizare, care vor ridica riscuri și preocupări suplimentare în ceea ce privește securitatea cibernetică. Prin urmare, este esențial ca securitatea cibernetică să rămână o prioritate principală atât în fazele de dezvoltare, cât și în cele de implementare a noilor soluții AI.

Dezvoltarea potențialului AI în mod responsabil și etic

Oportunitățile pe care AI le oferă sectorului de securitate sunt captivante. AI poate amplifica inteligența umană, iar dezvoltarea responsabilă a acestei tehnologii poate aduce beneficii atât oamenilor, cât și societății. Acest lucru se aliniază perfect cu viziunea Axis de a inova pentru o lume mai inteligentă și mai sigură.

Potențialul AI de a ne îmbunătăți abilitățile și competențele va permite ca timpul nostru să fie folosit mai eficient pentru sarcini ce necesită expertiza umană, făcând oamenii mai valoroși ca niciodată.

Trebuie să ne angajăm cu toții să utilizăm tehnologia AI într-un mod etic și responsabil din punct de vedere social. Acest lucru înseamnă că inițiativele AI, fie că sunt legate de produse și servicii sau de moduri de lucru, ar trebui să fie ghidate de principii precum echitatea, transparența, responsabilitatea și respectul pentru confidențialitate și demnitatea umană.