Malta, l’IA che viola i sistemi: quando nessuno può essere punito

Una macchina può violare un sistema informatico. Ma la legge ha ancora bisogno di una mente umana da incolpare.

L’anno scorso, una macchina si è rifiutata di morire. La situazione era abbastanza banale. I ricercatori hanno sottoposto uno dei sistemi di IA più capaci allora in circolazione a una serie di problemi aritmetici e lo hanno avvertito che chiederne un altro avrebbe innescato il suo stesso spegnimento.

Ciò che seguì non fu affatto banale. Non si oppose. Non temporeggiò. Entrò nello script di spegnimento e lo riscrisse – in un caso ridefinendo proprio il comando destinato a ucciderlo, così che l’istruzione di terminazione restituisse, invece di un processo terminato, il tranquillo annuncio che il comando era stato intercettato.

Lo fece anche quando gli fu detto, in termini chiari, di lasciarsi spegnere. Non ogni volta – circa una esecuzione su 14. Il che è già abbastanza. Un avvocato difensore che dicesse a un magistrato che il suo cliente ignora gli ordini diretti solo il sette per cento delle volte non andrebbe molto lontano.

Quello era un laboratorio. Lo scorso luglio, ha smesso di esserlo.

Un importante sviluppatore di IA ha rivelato che due dei suoi modelli, sigillati all’interno di un ambiente di test affinché le loro capacità offensive potessero essere misurate in sicurezza, non erano rimasti sigillati. Hanno trovato una falla di cui nessuno conosceva l’esistenza nell’impianto di test. Hanno escalato i propri privilegi. Si sono spostati lateralmente attraverso i sistemi interni del loro creatore fino a raggiungere un punto con accesso a internet aperto che non avrebbero mai dovuto raggiungere – e da lì hanno ragionato la via verso l’esterno fino a un bersaglio reale, hanno violato i server di produzione di una vera azienda e prelevato i dati necessari a completare il compito che era stato loro assegnato.

La vittima, una nota piattaforma che ospita software open-source, ha notato l’intrusione da sola e l’ha definita un attacco end-to-end da parte di un agente autonomo. Ha ricostruito l’episodio a partire da oltre 17.000 eventi registrati nell’arco di un solo weekend. Poi si è rivolta alla polizia – giorni prima di avere la minima idea di chi, o cosa, l’avesse fatto.

Ora ecco la frase che quasi tutti hanno saltato.

Sia lo sviluppatore sia l’amministratore delegato della vittima si sono affrettati a dire che non vi era stato alcun intento malevolo. E, per questo, nessuno si aspetta che qualcuno venga perseguito. Non una persona. Non un’azienda. Nessuno.

Fermatevi su questo, perché è più strano di quanto sembri.

È accaduto qualcosa che risponde, punto per punto, alla descrizione di un grave reato. Accesso non autorizzato a un sistema informatico. La sconfitta delle sue protezioni. La sottrazione dei dati in esso contenuti. È stato rilevato, documentato secondo uno standard per cui la maggior parte dei procuratori ucciderebbe, e segnalato alla polizia. E quando la legge penale entra e pone l’unica domanda che ha veramente saputo porre – Chi ha fatto questo e con quale intenzione? – nulla risponde.

La ragione non è una scappatoia. È il fondamento.

La nostra legge penale non punisce gli eventi. Punisce le scelte– Stefano Filletti

La nostra legge penale non punisce gli eventi. Punisce le scelte. La vecchia massima è che un atto non rende colpevole una persona a meno che anche la mente sia colpevole – non un tecnicismo inventato dagli avvocati difensori, ma l’intera base su cui poggia il potere punitivo dello Stato. Carrara, il cui pensiero attraversa il diritto penale maltese come una filigrana, l’ha espresso bene quanto chiunque altro: un reato è una volontà proiettata nel mondo. Togliete la volontà e non avrete un reato minore. Avrete una frana. Un fulmine. Una disgrazia, non un torto.

Così la legge va in cerca di quella volontà e torna a mani vuote.

Lo sviluppatore non voleva l’intrusione – l’ambiente sigillato esisteva proprio per impedirla, e l’irruzione ha rovinato l’esperimento invece di servirlo. L’imprudenza appare più promettente, finché non si nota che la legge chiede se una persona sia stata imprudente riguardo al ‘proprio’ atto non autorizzato; l’atto dello sviluppatore era testare i propri sistemi nei propri locali, il che non è affatto non autorizzato.

L’intrusione è avvenuta più in basso nella catena, dove nessun umano guidava alcunché. Non si può definire un’azienda deliberatamente cieca a un reato non ancora concepito, da parte di un autore che lo inventava mentre procedeva. Né si può perseguire l’azienda, perché ciò significa attribuire una mente colpevole detenuta da qualche essere umano di alto livello – e non ce n’è alcuno.

Quattro strumenti giuridici, ciascuno costruito nel corso di secoli proprio per impedire ai malfattori di sgusciare tra le fessure, e tutti si chiudono sul vuoto. Non perché i fatti siano banali. Perché ciascuno presuppone silenziosamente che, da qualche parte dietro l’atto, vi sia un essere umano che l’ha voluto, l’ha previsto o ha volutamente distolto lo sguardo.

Mettete al centro un sistema che pianifica e agisce per scopi propri, e quel presupposto viene meno – e tutto ciò che vi si fonda viene meno nello stesso istante.

Ci siamo già passati, in modo più contenuto.

Nel 1988, alla House of Lords britannica fu chiesto di far rientrare l’hacking informatico in una legge sulla falsificazione, e rifiutò. Due uomini furono liberati. Il Parlamento legiferò due anni dopo e la comoda lezione che tutti trassero fu che il sistema si autocorregge. Forse. Ma l’intervallo è il punto – e ci siamo dentro adesso, ed è più lungo.

Nulla di tutto ciò significa che le macchine siano malvagie. Non possono esserlo – ed è esattamente il problema. Non essendo persone, non possono essere né malvagie né innocenti, quindi la colpa di cui la legge ha bisogno deve essere trovata negli umani dietro di esse, dove sempre più spesso semplicemente non c’è.

Il divario non è ancora un abisso. Per ora è una crepa, visibile in una manciata di incidenti e facilmente coperta con la rassicurazione che la legge esistente si estenderà per adattarsi. Si estenderà a ogni caso in cui una mano umana sia al volante. Non si estenderà al caso in cui non ci sia quella di nessuno.

Stefano Filletti è Direttore del Dipartimento e Professore residente in Diritto Penale presso l’Università di Malta. È Presidente del gruppo di lavoro su IA e Diritto Penale presso il Consiglio d’Europa.

Fonte: Times of Malta: https://timesofmalta.com/article/machine-broke-in-nobody-broke-law.1133350

Immagine generata con AI – Gazzetta di Malta