Scriveva Cesare Pavese che la fantasia umana è immensamente più povera della realtà, e in effetti, la notizia riportata recentemente dal principale quotidiano israeliano Haaretz è di quelle che lasciano senza parole: una start up israeliana ha sviluppato un software di videoanalisi intelligente denominato “Toka”, non solo in grado di accedere a tutte le telecamere a circuito chiuso, ma anche in grado di modificare le immagini riprese in “live” e alterare le registrazioni del passato.
Non si conoscono i dettagli tecnici, in quanto la start up fondata dall’ex premier israeliano Ehud Barak e dall’ex capo della divisione cibernetica dell’esercito del Paese ebraico, Yaron Rosen, opererebbe nel settore militare e i suoi clienti sarebbero i governi.
Al di là degli innovativi algoritmi e modelli matematici eventualmente utilizzati, è evidente, anche al lettore più superficiale, che gli impatti sui diritti e libertà fondamentali degli interessati sarebbero a dir poco devastanti. Si potrebbero creare evidenze video “false”, al fine di utilizzarle per costruire prove giudiziarie.
Sebbene l’utilizzo di questo software di videoanalisi intelligente sia ad appannaggio dei soli apparati militari o molto probabilmente delle forze di polizia, va ricordato che nell’Unione Europea si applica il Decreto Legislativo n. 680/2016 che ha disciplinato il trattamento dei dati personali da parte delle autorità competenti a fini di prevenzione, indagine, accertamento e perseguimento di reati o esecuzione di sanzioni penali.
Al Considerando n.43 si afferma che una persona fisica dovrebbe avere il diritto di accedere ai dati raccolti e di verificare che siano esatti e trattati conformemente a quanto disposto dalla direttiva. L’articolo 4 della direttiva prescrive che i dati personali devono essere “esatti e, se necessario, aggiornati; devono essere adottate tutte le misure ragionevoli per cancellare o rettificare tempestivamente i dati inesatti rispetto alle finalità per le quali sono trattati”.
Come noto, la direttiva è stata recepita in Italia dal D.Lgs n.51/2018 e il secondo comma dell’articolo 4 prescrive che le autorità competenti devono adottare misure adeguate a garantire che i dati personali inesatti, incompleti o non aggiornati non siano trasmessi o resi disponibili. A tal fine ciascuna autorità competente, per quanto possibile, è tenuta a verificare la qualità dei dati personali prima che questi siano trasmessi o resi disponibili e correda la loro trasmissione delle informazioni che consentono all’autorità ricevente di valutarne il grado di esattezza, completezza, aggiornamento e affidabilità.
Tornando al nostro software Toka, è evidente, che servirebbero a questo punto strumenti di verifica della genuinità delle immagini, dato che il suo utilizzo non solo avverrebbe in palese violazione dei principi sulla protezione dei dati personali, ma sarebbe anche in grado di influenzare il processo di formazione della prova digitale con conseguenze inimmaginabili. Una storia ai confini della realtà ma che ancora una volta ci mostra l’impatto che l’intelligenza artificiale può avere sui diritti fondamentali della persona.