Oltre il clamore dell'IA nella sicurezza

Anche se molti potrebbero pensare che il termine sia abusato, è utile riassumere l'uso dell'IA nella sicurezza oggi, ma anche il suo vero potenziale nel settore e alcuni degli aspetti problematici che dobbiamo conoscere e gestire. 

L'uso dell'IA nella sicurezza e non solo oggi 

L'integrazione dell'IA nei sistemi di sicurezza ha trasformato l'approccio al rilevamento delle minacce e alla conseguente risposta. Le tecnologie di deep learning (DL), un sottoinsieme di intelligenza artificiale, hanno aumentato significativamente la precisione delle soluzioni di analisi, contribuendo alla nascita di sistemi di sicurezza più affidabili ed efficienti.  

Tra gli esempi di applicazioni che ora offrono prestazioni affidabili grazie alla nuova tecnologia si annoverano:  

• Maggiore precisione nel rilevamento e nel tracciamento del movimento di oggetti. 
• Affidabilità nel monitoraggio e negli avvisi di attraversamento di soglie non oltrepassabili in aree sensibili. 
• Conteggio di oggetti e persone per la gestione di presenze e flussi. 
• Identificazione di movimenti sospetti che possono indicare potenziali minacce. 

La generazione di metadati da parte di sistemi basati sull'IA è diventata determinante per le ricerche forensi nei Video Management System (VMS). Questi metadati fungono da base per ricavare statistiche e informazioni dettagliate dalle attività sulla scena, facilitando un approccio alla sicurezza più proattivo. Grazie alle maggiori funzionalità dei dispositivi edge, questi metadati possono essere generati direttamente dalle telecamere, riducendo notevolmente il costo totale di un sistema.  

La capacità dell'IA di rilevare anomalie analizzando modelli e deviazioni dalla norma ha introdotto una nuova dimensione nel monitoraggio di sicurezza. Questa funzionalità consente ai professionisti della sicurezza di affrontare le potenziali minacce prima che sia troppo tardi. 

Queste funzionalità hanno aperto la strada a un ampio spettro di casi d'uso aggiuntivi oltre alle applicazioni tradizionali in materia di sicurezza e protezione. La fondamentale possibilità di monitorare più accuratamente il flusso di persone, i materiali e i prodotti favorisce applicazioni che miglioreranno direttamente l'efficienza operativa. Questo esempio di BMW è una dimostrazione perfetta dell'utilizzo delle funzionalità di IA delle telecamere di video sorveglianza per eseguire ispezioni di qualità durante l'intero processo di produzione automobilistica.

L'introduzione dell'IA generativa nel settore della sicurezza 

L'IA generativa, in particolare attraverso l'uso di modelli linguistici di grandi dimensioni (LLM), rappresenta un significativo progresso nella tecnologia dell'IA. Queste tecnologie consentono di creare testi e immagini da prompt in linguaggio naturale. Soprattutto, i modelli più nuovi, grazie alla loro enorme mole di dati di addestramento, sono in grado di interagire con gli utenti attraverso interfacce di linguaggio naturale, ma hanno anche la capacità di affrontare concetti astratti e gestire scenari complessi.  

All'inizio, l'IA generativa nel settore della sicurezza troverà applicazione in funzionalità come: 

• Supporto ai chatbot che forniscono assistenza in tempo reale agli utenti mediante il linguaggio naturale.  
• Procedure guidate di configurazione che semplificano l'impostazione di sistemi di sicurezza complessi. 
• Ricerche basate su testo che migliorano l'efficienza del recupero dei dati. 
• Strumenti di progettazione avanzati che aiutano a creare soluzioni di sicurezza robuste. 

I modelli più nuovi, i cosiddetti modelli multimodali, sono in grado di utilizzare testi e suoni, immagini e video come input per generare risultati sotto forma di testo e immagini. Tutto ciò getta le basi per la creazione di nuove soluzioni nel settore della sicurezza, in cui i modelli siano in grado di innalzare il livello dell'analisi di ciò che accade in una scena. I possibili usi comprendono:  

• Messa in evidenza di eventi significativi che richiedono l'immediata attenzione da parte di un operatore. 
• Analisi di trend e ricerca di modelli comuni. 
• Assistenza agli operatori nelle indagini mediante la fornitura di informazioni pertinenti e suggerimenti operativi. 
• Riepilogo di video e immagini per i report  

Attività da svolgere al fine di migliorare l'accuratezza e la qualità dei dati

Nonostante i notevoli progressi compiuti, l'IA generativa ha ancora limitazioni nella comprensione delle sfumature che caratterizzano scene complesse e comportamenti umani. I modelli sono ancora soggetti alle cosiddette allucinazioni, in cui il modello propone affermazioni e suggerimenti non accurati.  

Un'altra limitazione è rappresentata dal fatto che ai modelli mancano ragionamento e deduzione logica. Queste limitazioni rendono molto difficile l'uso dei modelli in installazioni critiche per la sicurezza. Non possiamo semplicemente contare sul fatto che non vengano persi eventi per non trarre conclusioni errate. 

Un altro aspetto dell'utilizzo dei modelli nel contesto della sicurezza consiste nella necessità di gestire il rischio di comportamenti distorti che i modelli possono mostrare, a meno che i loro dati di addestramento non siano gestiti in modo approfondito. 

Da ciò si evince l'importanza dell'intervento umano nel processo decisionale per garantire che vengano rispettate le considerazioni etiche e che la qualità delle decisioni non venga compromessa. Per questo motivo, i primi casi d'uso in cui vedremo l'implementazione di LLM nel settore della sicurezza saranno l'assistenza nelle ricerche forensi e la proposta di suggerimenti agli operatori. L'intervento umano comunque sarà sempre necessario. Con il rapido progredire dell'innovazione, dobbiamo trovare un equilibrio tra l'adozione di nuove funzionalità e la mitigazione dei rischi posti dalle nuove tecnologie. 

Il potenziale delle telecamere basate sull'IA e dell'IA edge 

Tuttavia, ogni nuova tecnologia presenta delle sfide da superare. E sebbene ci troviamo ancora in una fase relativamente precoce, è chiaro che l'IA nel settore della sicurezza offre opportunità significative per migliorare i casi d'uso tradizionali della sicurezza e della protezione, il che rappresenta a sua volta un enorme potenziale per il miglioramento della performance aziendale in tutti i settori.  

Le telecamere basate sull'IA edge offrono le basi per molte di queste opportunità, migliorando la precisione delle analitiche, consentendo la scalabilità dei sistemi e fornendo le fondamenta per soluzioni cloud affidabili, scalabili ed efficienti in termini di larghezza di banda. 

I metadati aggiuntivi creati dall'analitica basata sull'IA edge, che descrivono in dettaglio i dati visivi acquisiti dal sensore di immagine innalzano il livello potenziale di analisi e delle informazioni fruibili. Col passare del tempo, l'aggregazione e l'analisi dei metadati consentiranno di prendere decisioni che trasformeranno ogni aspetto delle operazioni di un'organizzazione. 

La combinazione di elaborazione all'interno delle telecamere basate sull'IA, metadati avanzati creati in modalità edge ed elaborazione aggiuntiva su server o cloud, comunemente definita soluzione ibrida, crea un modello scalabile ed economico per soluzioni di analitiche basate su DL più avanzate.  

Ciò crea nuove opportunità di offerta di valore oltre alle tradizionali applicazioni di sicurezza e protezione. La combinazione di telecamere con altre tecnologie come i sensori IoT e il cloud computing consente di analizzare i dati visivi in nuovi modi e in diverse aree come le città, i trasporti, il commercio al dettaglio e i settori industriali.  

Le autorità cittadine stanno combinando e analizzando i dati visivi e ambientali per migliorare la vita dei cittadini attraverso l'innalzamento della qualità dell'aria, la riduzione dell'inquinamento acustico e una migliore pianificazione dei servizi e delle infrastrutture. Per la manutenzione predittiva di macchinari e attrezzature, le aziende utilizzano i dati provenienti dai sensori di video sorveglianza e audio, creando efficienze e migliorando l'erogazione dei servizi. I rivenditori utilizzano le informazioni sui visitatori dei negozi per migliorare il servizio clienti e l'organizzazione degli spazi interni. Le possibilità sono infinite.

Innovazione, implementazione e utilizzo responsabile dell'IA

Sebbene l'IA in tutte le sue forme presenti opportunità significative, qualsiasi nuova tecnologia può anche introdurre minacce e rischi nuovi. Ogni fornitore di tecnologie e prodotti basati sull'IA deve essere consapevole del ruolo che gioca nello sviluppo e nell'implementazione di tali tecnologie in modo responsabile per mitigare questi rischi.

La regolamentazione farà chiaramente la sua parte. L'UE ha recentemente adottato il primo quadro giuridico in materia di IA, l'AI Act, e negli Stati Uniti e in molte altre parti del mondo sono in corso discussioni su come ridurre al meglio i potenziali rischi dell'IA, senza frenare l'innovazione. Ma non è sufficiente seguire le regole. Ogni azienda tecnologica innovativa deve promuovere l'applicazione responsabile ed etica dell'IA all'interno delle proprie attività e di quelle dei propri clienti.

IA e sicurezza informatica

La sicurezza informatica e la protezione dei dati e della privacy delle persone sono da tempo al centro dell'attenzione del settore della sicurezza e l'IA pone la necessità di dedicare ulteriore attenzione a questo aspetto. In larga misura, ciò è dovuto al fatto che gli stessi criminali informatici utilizzano l'IA per cercare vulnerabilità e nuovi vettori di attacco. Queste organizzazioni criminali, ben finanziate e altamente professionali, hanno un altro vantaggio nella "corsa agli armamenti basati sull'intelligenza artificiale": possono innovare senza tenere conto di regolamenti o etica.

Dare priorità alla sicurezza e alla privacy dei dati continuerà a essere fondamentale. Tutti i fornitori di tecnologie di sicurezza, ma in particolare quelli che utilizzano l'IA, devono adottare un approccio alla governance dei dati basato sui diritti umani, garantendo che la raccolta, il trattamento e l'uso dei dati siano in linea con i principi dei diritti umani, promuovendo un ambiente digitale equo, giusto e sicuro. Inoltre, devono garantire l'implementazione di solide misure di sicurezza per prevenire l'accesso non autorizzato o l'uso improprio e promuovere l'equità dei dati, adoperandosi affinché sia assicurata la correttezza e l'imparzialità nella rappresentazione dei dati e nell'accesso agli stessi. 

A destare preoccupazione c'è anche il fatto che l'uso dell'IA all'interno delle telecamere di sorveglianza e dei dispositivi di rete crei nuovi casi d'uso che pongono ulteriori rischi in termini di cybersecurity. Pertanto, è fondamentale che la sicurezza informatica rimanga una priorità assoluta sia durante le fasi di sviluppo che di implementazione delle nuove soluzioni di IA.

Come sfruttare al meglio il potenziale dell'IA, in modo responsabile ed etico

Le opportunità che l'IA offre al settore della sicurezza sono entusiasmanti. L'IA può potenziare l'intelligenza umana e lo sviluppo responsabile dell'IA può essere vantaggioso per la gente e per la società. Tutto ciò è perfettamente in linea con la visione di Axis: innovare per un mondo più sicuro e più smart. 

Il potenziale dell'IA nell'accrescere le nostre competenze e capacità ci consentirà di dedicare più tempo ad attività che richiedono la nostra esperienza umana, rendendo le persone più preziose che mai. 

Tutti noi dobbiamo impegnarci a utilizzare le tecnologie basate sulll'IA in modo etico e socialmente responsabile. Ciò significa che le iniziative di IA, siano esse correlate a prodotti e servizi o a modi di lavorare, devono essere guidate da principi di correttezza, trasparenza, responsabilità e rispetto della privacy e della dignità umana.