Sedie a rotelle guidate da droni e intelligenza artificiale sicura

19 Novembre 2024

Sedie a rotelle guidate da droni e intelligenza artificiale sicura: il progetto visionario di un gruppo di ricercatori della Scuola universitaria professionale della Svizzera italiana (SUPSI) guidato dal Prof. Francesco Flammini, ha recentemente vinto un premio di ricerca sul miglioramento della qualità della vita – il Dalle Molle Award for the Quality of Life Label [7], per aiutare le persone con disabilità a raggiungere una maggiore indipendenza tramite l’uso di tecniche di intelligenza artificiale sicura e affidabile (trustworthy AI).

Il progetto svizzero è stato finanziato dal SERI (State Secretariat for Education, Research, and Innovation) ed è a sua volta parte di un progetto europeo più grande (REXASI-PRO, REliable & eXplainable Swarm Intelligence for People with Reduced mObility) [8], con partner internazionali, che sviluppano altri componenti del sistema.

Obiettivi e novità del progetto

Il progetto prevede lo sviluppo di sedie a rotelle guidate da droni smart, dotate di telecamere speciali (es. depth cameras) e sensoristica avanzata (es. lidars). La novità principale del progetto, oltre allo sviluppo della trustworthy AI, è stata l’aggiunta di droni allo scopo di mappare l’ambiente per ottimizzare la navigazione e rilevare eventuali rischi da prospettive diverse.

Ad esempio, in uno scenario di attraversamento stradale, il drone può avanzare e volare più in alto in modo da guardare dietro gli angoli e oltre le possibili occlusioni ad altezza d’uomo. L’obiettivo, infatti, è quello di garantire una navigazione sicura porta a porta (door-to-door), sia in ambienti interni (indoor) che esterni (outdoor) a persone con disabilità fisiche e sensoriali.

Attraversamento stradale nel caso delle sedie a rotelle guidate da droni e AI.

Sedie a rotelle guidate da droni e trustworthy AI

È essenziale considerare gli aspetti di affidabilità e sicurezza del sistema di percezione e controllo, il che rappresenta una sfida nel momento in cui sono utilizzati modelli di visione artificiale come l’apprendimento profondo (deep learning) tramite reti neurali convoluzionali.

Infatti, tali modelli, a dispetto della loro potenza ed efficacia, sono noti per essere “opachi” (black-box), nel senso che le decisioni prese come reazioni a situazioni di pericolo non possono essere facilmente spiegabili o previste in modo sistematico e rigoroso.

Ciò rappresenta un ostacolo di fase di valutazione della sicurezza del sistema, in quanto i tradizionali standard di riferimento prevedono un testing rigoroso e una dimostrazione formale del raggiungimento dei target di sicurezza, anche quantitativi, richiesti dall’analisi del rischio, in tutte le rilevanti condizioni operative. Le sfide della trustworthy AI, comprendono aspetti di robustezza tecnica, compliance normativa, e implicazioni etiche [5]. La maturità tecnologica in questo ambito, però, è ancora limitata, come dimostra lo sviluppo nei veicoli a guida autonoma e nelle sedie a rotelle guidate da droni.

La fusione delle informazioni

Un aspetto essenziale del progetto affrontato dal team del Prof. Flammini è stato quello di creare dei dataset di riferimento in scenari rilevanti come quello di attraversamento stradale, tramite sperimentazione nel laboratorio di robotica autonoma dell’Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA USI-SUPSI) di Lugano.

Attraverso tale sperimentazione, è stato possibile confrontare le prestazioni del sistema di rilevamento pericoli e tracciamento degli ostacoli, rispetto alla cosiddetta ground truth, ovvero la posizione effettiva degli oggetti rilevata da un sistema di tracking ottico installato nel laboratorio. Ciò ha consentito l’ottimizzazione (fine-tuning) sia dei sistemi di visione artificiale nello scenario specifico, sia del meccanismo di fusione dei dati multi-sensoriali eterogenei e ridondanti.

Un risultato importante è quello di integrare diverse sorgenti di informazioni “pesandole” in funzione del livello stimato di attendibilità dei singoli sensori nelle specifiche condizioni ambientali e operative.

Ad esempio, in condizioni di scarsa illuminazione o nebbia fitta, il rilevamento ostacoli effettuato da una telecamera che lavora su luce visibile risulta meno affidabile rispetto ad altre tecnologie tipo radar o infrarosso, che invece possono essere meno precise in termini di classificazione degli oggetti in condizioni di migliore visibilità.

In questa tecnica di information fusion, vengono impiegati modelli probabilistici e causali come le reti di Bayes. La tecnica consente di gestire l’incertezza e supporta la cosiddetta self-adaptation, ovvero la riconfigurazione dinamica del sistema al tempo di esecuzione (run-time) al fine di garantire prestazioni e sicurezza adeguate quando le condizioni del sistema stesso (es. guasti, usura, ecc.) o dell’ambiente circostante (es. condizioni atmosferiche avverse come oscurità, pioggia fitta, nebbia, ecc.) si modificano nel tempo.

L’affidabilità dei sensori, quindi, si valuta in funzione delle condizioni operative, migliorando le prestazioni complessive delle sedie a rotelle guidate da droni.

Condizioni e disturbi ambientali sono stati simulati utilizzando appositi filtri software a diversi livelli di intensità, in modo da accelerare la sperimentazione in laboratorio e coprire il maggior numero di condizioni operative possibili. Una funzione matematica di pericolo, che mette insieme algoritmi AI e modelli fisici basati su misure di distanza, velocità, e accelerazione degli oggetti in avvicinamento, è stata quindi valutata per supportare le decisioni nelle diverse condizioni operative.

Information fusion per le sedie a rotelle guidate da droni e AI. — Information fusion.

Pubblicazioni e riconoscimenti

Lo scenario specifico di attraversamento stradale è stato usato come dimostratore concettuale (proof-of-concept) per la metodologia sviluppata nel progetto, validata anche attraverso il confronto con la comunità scientifica, che ha prodotto diverse pubblicazioni recenti, riportate in bibliografia. La prima pubblicazione, sugli atti della prestigiosa Association for Computing Machinery (ACM), è stata presentata al primo convegno sui Trustworthy Autonomous Systems, tenutosi a Edimburgo nel Luglio 2023, e ha trattato il concetto generale del sistema, i modelli di riferimento, e gli obiettivi del progetto [1].

La seconda pubblicazione, inclusa negli atti del convegno SAFECOMP 2024, editi dal noto editore accademico Springer, ha indirizzato la sperimentazione nel laboratorio di robotica ed i risultati ottenuti sul dataset ivi generato [2].

Il terzo articolo scientifico ha riguardato il test del sistema sedia-drone con un algoritmo ottimizzato di visione artificiale operante in condizioni ambientali avverse, ed è stato quindi incluso nel programma del convegno EAI INTSYS 2024 (anch’esso con atti pubblicati da Springer) sui sistemi di trasporto intelligente [3].

In parallelo, si è lavorato ad una nuova metodologia per svolgere analisi di sicurezza informatica sul sistema robotico distribuito, al fine di scongiurare attacchi che possano minare l’integrità del sistema, con i risultati ottenuti pubblicati sugli atti del convegno IEEE CSR 2024 [4].

Ottimizzazione e sperimentazione

Il progetto, che vede coinvolti diversi partner al di fuori della svizzera, tra cui il Consiglio Nazionale delle Ricerche (CNR) italiano, aziende e università inglesi e spagnole, si concluderà nell’autunno del 2025 e prevede una fase di sperimentazione integrata dei prototipi a scopo dimostrativo. Diversi risultati del progetto per le sedie a rotelle guidate da droni e AI, benché focalizzati su un’applicazione specifica, sono quindi generalizzabili a sistemi di guida autonoma e visione artificiale in altri domini, come ad esempio quello automotive.

Inoltre, il supporto dei droni e l’approccio di stima del pericolo tramite valutazione del rischio in tempo reale attraverso modelli probabilistici, è applicabile più in generale a sistemi critici di monitoraggio e supporto alle decisioni per la situation awareness. Questi ultimi, impiegano tecniche di apprendimento automatico (machine learning) per la l’integrazione e fusione delle informazioni provenienti da sorgenti eterogenee.

Infine, lo scenario di supporto decisionale per l’attraversamento stradale sicuro può essere trasferito a contesti con esigenze diverse. Per esempio quello delle tecnologie indossabili (es. smart glasses) di ausilio a persone deambulanti ipovedenti, e svolgere funzioni analoghe a quelle degli attuali cani guida.

Sedie a rotelle guidate da droni: prospettive future

“Stiamo attualmente lavorando al perfezionamento dei prototipi esistenti e alla valutazione quantitativa di sicurezza tramite modelli predittivi di tipo probabilistico”, afferma il Prof. Flammini, “Inoltre, stiamo esplorando ulteriori scenari in cui il punto di vista del drone può rivelarsi essenziale per la prevenzione dei rischi, ad esempio usando la vista aerea per il rilevamento di pavimento sconnesso sul percorso della sedia a rotelle. Il tutto andrà poi integrato in un safety monitor previsto nell’architettura software del sistema sedia-drone”.

In conclusione, ulteriori informazioni ed aggiornamenti sui risultati del progetto possono essere ottenuti dalla pagina del gruppo di ricerca Trustworthy Autonomous Systems (TAS) dell’IDSIA [6]. Invece il Prof. Flammini attualmente è anche ordinario di informatica presso l’Università degli Studi di Firenze. Può essere contattato ai suoi indirizzi di posta elettronica francesco.flammini@supsi.ch o francesco.flammini@unifi.it.

Riferimenti bibliografici

F. Corradini, F. Flammini, A. Antonucci: “Probabilistic Modelling for Trustworthy Artificial Intelligence in Drone-Supported Autonomous Wheelchairs”. In: Proceedings of the First International Symposium on Trustworthy Autonomous Systems (TAS ’23). Association for Computing Machinery, New York, NY, USA, Article 52, 1–5. https://doi.org/10.1145/3597512.3599716
C. Grigioni, F. Corradini, A. Antonucci, J. Guzzi, F. Flammini: “Safe Road-Crossing by Autonomous Wheelchairs: a Novel Dataset and its Evaluation“. In: Ceccarelli, A., Trapp, M., Bondavalli, A., Schoitsch, E., Gallina, B., Bitsch, F. (eds) Computer Safety, Reliability, and Security. SAFECOMP 2024 Workshops. SAFECOMP 2024. Lecture Notes in Computer Science, vol 14989. Springer, Cham. https://doi.org/10.1007/978-3-031-68738-9_4
F. Corradini, C. Grigioni, A. Antonucci, J. Guzzi and F. Flammini: “Experimental Evaluation of Road-Crossing Decisions by Autonomous Wheelchairs against Environmental Factors“. In: Proceedings of to the 8th EAI International Conference on Intelligent Transport Systems (EAI INTSYS 2024).
S. Perone, L. Faramondi, S. Guarino, R. Setola, M. Nobili, F. Flammini: “Cybersecurity for Safety: Risk Assessment of Autonomous Cyber-Physical Systems”. In: 2024 IEEE International Conference on Cyber Security and Resilience (CSR), London, United Kingdom, 2024, pp. 652-657. https://doi.org/10.1109/CSR61664.2024.10679436
F. Flammini, C. Alcaraz, E. Bellini, S. Marrone, J. Lopez and A. Bondavalli, “Towards Trustworthy Autonomous Systems: Taxonomies and Future Perspectives”. In: IEEE Transactions on Emerging Topics in Computing. https://doi.org/10.1109/TETC.2022.3227113
Pagina del gruppo Trustworthy Autonomous Systems (TAS) presso l’Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA): https://tas.idsia.ch/
Pagina del concorso della Fondazione Dalle Molle per il marchio “Qualità della Vita”: https://dallemolle.ch/concours-2024/
Sito web del progetto di ricerca europeo REXASI-PRO: https://rexasi-pro.spindoxlabs.com/