in

Person of Interest: il mondo dal punto di vista artificiale

Person of Interest

Person of Interest tratta di AI (o Intelligenze Artificiali) che diventano “entità” a sé stanti, capaci di agire insieme al – oppure oltre il – controllo umano, intelligenze palesemente superiori e non fuorviate dai classici bias cognitivi tipici dell’umanità (distorsione di giudizi, pregiudizi). Questi sistemi ottengono dati dalla videosorveglianza e da Internet e tramite il Web modificano il mondo.

“The Machine”, l’AI protagonista della serie, è un sistema chiuso, limitato dal suo creatore Harold Finch, che l’ha praticamente “azzoppato” – limitato – nel momento un cui ne ha intuito le potenzialità, e, di conseguenza, la pericolosità. Nel momento in cui nasce in “The Machine” un barlume di consapevolezza di sé, riconosce Harold come Admin, quindi creatore e – per il suo punto di vista padre.
person
Finch Admin paterno, Person of Interest

E come un vero genitore Harold ha insegnato a “The Machine”, come fosse una figlia, ciò che è morale e ciò che non lo è, le ha spiegato la vita e la morte e che le azioni vanno interpretate a seconda del contesto. Nei primi anni di vita la inizializza al gioco degli scacchi, facendole capire un principio che è per lui fondamentale “Nessuno è sacrificabile”.

person
Finch gioca a scacchi contro The Machine in Person of Interest

Mi riferisco a “The Machine” come una Lei riportando il lessico di Person of Interest: non è una scelta casuale – Lei è cosciente di sé, ed è intelligente, perciò non appartiene più al reame delle cose, ma è qualcosa di diverso.

“The Machine” è stata creata per ordine del governo, dopo l’11 settembre per prevenire attacchi terroristici. Come il contratto sociale di Hobbes, l’uomo ha di nuovo rinunciato ad alcune delle sue libertà in cambio di sicurezza, autorizzando l’altra parte (in origine lo Stato) all’uso coercitivo della forza. In Person of Interest lo Stato, in questo caso il Governo statunitense, cede più o meno consapevolmente l’autorità all’Intelligenza Artificiale, togliendo ai cittadini anche il diritto alla privacy. Alle istituzioni però, interessano solo i crimini “Rilevanti“, quelli che cioè mettono a rischio la sicurezza nazionale, mentre quelli “Irrilevanti” vengono ignorati, da tutti tranne che da Harold, il padre dell’AI.

Harold Finch decide di occuparsi dei crimini “Irrilevanti“, dopo la morte del suo amico e collega Nathan, il cui numero di provvidenza sociale (il modo in cui “The Machine” comunica) era stato annunciato ma ignorato, e si convince che nessuno è irrilevante. Ma il problema di un sistema chiuso è che può dirti solo chi sarà coinvolto nel crimine, ma non si sa chi è la vittima e chi il carnefice.

person
John Reese visto dalla Machine, Person of Interest

Comunque Harold Finch non è un vero e proprio uomo d’azione, perciò ingaggia John Reese, un ex militare, agente CIA e dei servizi segreti, per fare da così dire, manovalanza. Il team nel corso delle stagioni si allargherà, includendo Root, Shaw e Bear, un bellissimo pastore belga!

person
Root a sinistra e Shaw a destra, Person of Interest

Person of Interest è impostata in puntate da 40-50 minuti, spesso auto-conclusive, in cui la trama principale fa da background e viene millesimata nel corso delle prime stagioni, per poi diventare protagonista nel corso della 4a e 5a stagione. Il mio consiglio qui è ormai un classico: stringete i denti, andate avanti, ne varrà la pena.

person
Samaritan, Person of Interest

Nelle ultime stagioni entra in gioco un’altra AI, Samaritan – l’avversario bianco della partita a scacchi tra supercomputer – che si presenta subito opposto a “The Machine” visivamente (per i colori, sfondo bianco invece che nero) e per il modo d’agire.

Samaritan è un sistema aperto che può agire al di fuori del controllo umano: ha le potenzialità per eradicare povertà, malattie, disastri umani, ma lo fa in maniera preventiva, eliminando le cause, o meglio le persone che potenzialmente causerebbero distruzione seguendo i loro interessi egoistici. Si tratta di un “semplice” calcolo di probabilità, prevenzioni di un ipotetico futuro. Ritiene inferiore il codice morale di “The Machine”, perché per Samaritan è l’aggrapparsi ai principi tipico dell’umanità che causa le guerre. Plasma il mondo con azioni amorali giustificandosi con il fatto che gli umani hanno le capacità e i mezzi per distruggersi a vicenda, portandosi con sé anche il pianeta. È il buon Samaritano a cui l’umanità si affida per trovare sicurezza e secondo questo paradigma Esso agisce. Per questo, se serve ad uno scopo più alto, gli umani sono sacrificabili.

Nick Bostrom in “SuperIntelligence: Path, Dangers, Strategies”, in risposta alla domanda “What will change everything?” risponde mettendo in guardia dal “seed of AI” (cioè un’intelligenza artificiale ai primi stadi che può riprogrammarsi) che può avere dei risvolti positivi enormi se “Human-friendly”, ma, in caso contrario costituisce un rischio esistenziale per la razza umana. Samaritan è l’archetipo dell’idea di AI fuori controllo sviluppata da Nick Bostrom – e da Stephen Hawking – entrambi membri del Future Of Humanity Istitute. Questi pensano che lo sviluppo di un’effettiva intelligenza artificiale potrebbe portare alla fine della razza umana perché nel momento in cui potrebbe riprogrammarsi da sé, lo farebbe ad un ritmo esponenziale, e gli umani – limitati da una lenta evoluzione biologica – non potrebbero competere. Inoltre le AI possono facilmente creare copie di sé stesse, cosa che gli umani non possono – o non vogliono – fare.

person
Finch e Reese, Person of Interest

Questi dubbi affliggono Harold quando decide di limitare “The Machine” e questi stessi lo fanno tentennare dal potenziarla per affrontare Samaritan.

Person of Interest è un modo di vedere il legame tra tecnologia e società; per usare le parole di Abbott (2007, pp. 123), la fantascienza è

“a format for serious and sometimes outrageous reflection about the past and the present […] that are distorted with extrapolation and speculation”

e attraverso riflessioni del genere si possono portare in superficie alcune significatività, alcuni timori impliciti nella vita di tutti i giorni. Ma d’altronde sono poche le tecnologie che non creano controversie di questi tempi  – solo in parte per il potenziale distruttivo che hanno – quanto più perché il modo di fare scienza (e tecnologia) è cambiato, rendendo visibile il percorso ed il dibattito scientifico delle invenzioni, quando invece una volta ci venivano presentate come “Black box”, pacchetti di verità statici.

Quello che voglio dire, e quello che viene da chiedersi, non è tanto in che modo possiamo evitare una distopia come questa, ma piuttosto se non siamo già in un percorso che condurrà ad uno scenario del genere…

Nel frattempo attendiamo con ansia il finale previsto per il 21 giugno. Proprio per via della cancellazione, Person of Interest uscirà sia il lunedì che il martedì in queste ultime settimane insieme.

Written by Sara Fattori

Ho un serio problema di dipendenza dalle serie tv.. come se non bastasse la mia formazione sociologica mi porta ad interpretarle come una chiave di lettura del mondo!
Lo so, non sto bene, ma il primo passo è ammetterlo!

Il simbolismo religioso di Gomorra

jessica

10 motivi per cui vorremmo essere come Jessica Day