Un robot non può recar danno a un essere umano?

Violare la prima legge della robotica è possibile e Fabrizio Melodia, ovvero l’Astrofilosofo, spiega tutto e anche qualcosa di più; a seguire una nota firmata Bbm

«Un robot non può recare danno a un essere umano, né può permettere che, per suo mancato intervento, un essere umano riceva danno» recita testualmente la Prima Legge della Robotica, codificata indelebilmente dal “good doctor” Isaac Asimov, tanto da costituire un genere a parte nella letteratura fantascientifica.

Asimov ne discusse con il suo mentore, lo scrittore e direttore di «Astounding», quel John Wood Campbell che tanti colossi della fantascienza ha tenuto a battesimo sulla sua rivista. Campbell fece presente al giovane scrittore come fosse più verosimile ideare un sistema di sicurezza che rendesse sicuri questi nuovi elettrodomestici del futuro tanto da poter entrare nelle case di ogni famiglia “americana” che si rispetti.

Ci fu una lunga discussione, tanto che neppure Asimov fu poi in grado, al cento per cento, di definire dove finisse Campbell e dove iniziasse lui; ma, con un piglio d’orgoglio, Asimov affermava che, seppur nata dalla collaborazione, la codifica finale delle tre leggi fosse opera sua.

Come d’altronde è sua la nascita della robopsicologia, incarnata alla perfezione da uno dei suoi più noti personaggi, la dottoressa Susan Calvin, esperta di cervelli elettronici, nonché dei paradossi/conflitti che le “tre leggi” potevano generare in un cervello elettronico – pardon positronico – avanzato e senziente.

Ora che le nostre conoscenze tecnologiche sono a un livello semi adeguato, ora che l’informatica e l’elettronica entrano sempre di più nelle nostre vite fino a costituirne un muro portante, l’essere umano ha bisogno di sentirsi sicuro e protetto in un mondo sempre più tecnologico e spersonalizzante.

Come posso sentirmi sicuro in una casa dove il computer centrale controlla climatizzazione, apertura e chiusura di porte e finestre, forno ed elettrodomestici per la cottura, piccoli robottini tondeggianti che silenziosamente puliscono casa dalla polvere e altro con una semplice impostazione dell’orario? Inserendo controlli all’origine che mi permettano di disabilitare tutto con il semplice spegnimento di un interruttore.

A breve la Apple introdurrà sul mercato – dopo I-Watch, I-Pod, I-Phone, I-Pad – anche I-Move, la prima automobile elettrica totalmente integrata con tablet, smartphone e orologio: la guida potrà essere lasciata in automatico, compresa la partenza e il posteggio e si potrà gestire ogni aspetto della giornata dal proprio tablet con la spesa consegnata tramite corriere, ordinandola comodamente seduti al proprio posto di guida.

Però…. la tecnologia dovrebbe essere la fedele estensione dell’essere umano e non un mostro incomprensibile il quale nel migliore dei casi non funziona correttamente e, nel peggiore, si rivolta contro. La figura dello scienziato deve essere sempre più quella del nerd buono e servizievole che soccorre e risolve qualsiasi momentaneo problema, anche quando le macchine “si ribellano”. In certa fantascienza le macchine vogliono conquistare il mondo o peggio sterminare l’umanità: come l’intelligenza artificiale Skynet per mezzo dei suoi Terminator o terribili Dalek, umani rifugiatisi in corpi robotici con l’intento di trasformare tutti nella loro condizione…

Molti quotidiani italiani – da «Il resto del Carlino» a «Il messaggero» a «Il Fatto quotidiano» – intorno a metà giugno riportano, perlopiù con commenti “pigri” e in stile copia/incolla codesta notizia: Alexander Reben, un ingegnere dell’università di Berkeley esperto in interazione fra uomo e robot, lancia un disperato allarme riguardo alla reale capacità di un robot di recare deliberamente danno a un essere umano, fatto provato proprio da un suo esperimento portato a termine con successo. Costruito un robot costituito da un braccio meccanico e una piattaforma su cui l’utente deve mettere il dito, l’ Intelligenza Artificiale decide arbitrariamente se proiettare un ago che punga il dito, provocando una leggera ferita all’essere umano in questione: Alexander Reben spiega che questo esperimento dimostra come sia ormai evidente che le macchine possano nuocere agli esseri umani e questo fatto dovrebbe svegliare non solo tutta la comunità scientifica, ma anche filosofi e avvocati: «La grande preoccupazione sulle intelligenze artificiali è che possano andare fuori controllo. I giganti della tecnologia affermano che siamo ben lontani da questo, ma pensiamoci prima che sia troppo tardi. Io sto provando che robot pericolosi possono esistere, dobbiamo assolutamente confrontarci sul tema. Le persone più disparate, esperti di legge, filosofia, ingegneria ed etica devono mettersi tutti insieme per risolvere queste questioni, nessuno può farlo da solo».

Mi affretto a dire che la notizia è probabilmente fasulla, visto che io ne ho cercato l’origine un rete… senza trovarla.

Però raccolgo la provocazione lanciata da “Reben” – se costui esiste davvero – poiché il problema è sviluppato in varie forme dalla fantascienza. Le danze iniziano con «Frankenstein, o del Prometeo moderno», scritto fra il 1816 e il 1817, di Mary Wollstonecraft Shelley che raccolse la sfida letteraria presentata a Villa Diodati durante una notte di tempesta a lei, al suo compagno Percy Shelley, lord George Byron, e al medico John William Polidori. In quella notte venne “inventata” la figura del vampiro con il personaggio di Lord Ruthwen, creato da Polidori ispirandosi proprio al suo paziente, Lord Byron. Invece Percy Shelley scrisse il breve «Frammento di una storia di fantasmi», in cui una donna troppo curiosa si ritrovava il volto scarnificato ogni volta che spiava qualcuno. Byron non riuscì a scrivere molto, a parte un piccolo abbozzo di una storia di fantasmi, in cui un terribile spettro prendeva le sembianze sotto forma di una nube di fuliggine.

Mary ideò in forma di racconto breve proprio “il mostro” di Frankenstein, ispirata probabilmente dalle sue letture del filosofo illuminista Jean Jacques Rousseau e dagli esperimenti del noto scienziato Erasmus Darwin, nonno del più famoso Charles.

Nella ribellione della creatura formata dalle parti di cadaveri morti e rianimata con la potenza dell’elettricità, molti hanno visto l’avanzata dell’industria e lo sfruttamento del proletariato innocente che arriva a distruggere il padrone attraverso un suicidio disperato. Altri ancora, più prosaicamente, hanno visto la deviazione della scienza priva di ogni controllo etico nei riguardi degli esseri umani.

Da allora il tema trascorre potente, a partire dal dramma teatrale «R.U.R. (Rossum’s Universal Robots)» di Karel Čapek pubblicata nel 1920: le macchine (in questo caso “esseri umani semplificati”, costruiti con materiale organico sintetico) sono schiavi che si ribellano, fino a diventare la specie dominante del pianeta.

Nel romanzo «The Avatar» di Clyde C. Campbell (pubblicato nel 1935 sulla rivista «Astounding») l’uomo meccanico perfetto diventa dittatore del mondo e bisogna distruggerlo. Una storia simile nel romanzo dell’italiano Ciro Khan «L’uomo di fil di ferro» del 1932.

In tempi recentissimi, il già accennato Terminator è un cyborg creato per la distruzione della razza umana, mentre il computer HAL 9000 – sapete di cosa sto parlando, vero? – “impazzisce” mentre l’umanità sta per fare una scoperta sensazionale nel cosmo…

E ancora l’androide Ash e il computer MOTHER dell’astronave da carico Nostromo, i quali si ribellano ai propri operai per sacrificarli in nome del profitto: carne da macello per portare sulla Yerra una razza aliena particolarmente bellicosa e letale.

In ambito fumettistico di casa Marvel, il supereroe Henry Pym progetta Ultron, un potentissimo robot creato per portare la pace nel mondo ma che si ribella al suo padrone quando arriva alla conclusione che l’unico modo per portare a termine il suo obiettivo è l’estinzione della razza umana. L’androide che diventerà uno dei più potenti e iconico nemico dei Vendicatori costruirà a sua volta un’altra intelligenza artificiale, Visione, la quale però gli si ribellerà contro, diventandone nemica acerrima sebbene sia guardata con ostilità dai Vendicatori e dagli stessi umani.

Vorrei ricordare un bellissimo romanzo italiano pubblicato nel 1960, scritto nientemeno che da Dino Buzzati, «Il grande ritratto», in cui si descrive la creazione di una gigantesca intelligenza artificiale definita “Macchina Pensate”, realizzata per scopi militari, in grado di riprodurre la coscienza umana. Da ri-leggere e ri-valutare con attenzione.

Cito di corsa anche gli androidi ribelli di Philip Dick e i robot descritti da John Sladek nel divertente romanzo «Robot fuorilegge» (1983), per il quale vorrei spendere qualche parola in più. In un futuro non meglio specificato, gli uomini saranno aiutati nella vita di tutti i giorni da robot perfezionati, adibiti a qualsiasi tipo di lavoro umile o faticoso. Per garantire la sicurezza, i robot sono dotati dei “circuiti di Asimov”, ovvero le famose “tre leggi”. Ma Tik-Tok, il robot protagonista del romanzo, sembra avere un difetto di fabbrica: è immune dall’effetto delle tre leggi, cosa che lo spinge agli atti più efferati di cui sia capace. Dopo una lunga vita di paradossali soprusi subìti dagli uomini, Tik-Tok decide di ripagarli con la stessa moneta. Essendo un robot nessuno crede che sia capace di far del male, così la meritata punizione non arriva mai, tanto che Tik-Tok può benissimo ambire alla Casa Bianca.

Torniamo al punto di partenza, ovvero alla necessità di costruire sistemi di sicurezza per limitare “la libertà” delle macchine e aumentare al massimo la sicurezza del loro utilizzo.

Ub problema sta in questa parola: usabilità. Rispondo tranquillamente a “Reben” che il problema della sicurezza si pone soltanto nella misura in cui l’elettrodomestico si trasforma da semplice forno a entità dotata di una propria coscienza e che, come tale, mira a ottenere ciò che tutti noi vogliamo: la vita, la libertà e la ricerca della felicità.

Tale problema pone l’accento sulla differenza riguardante il braccio medico “ideato da lui” dove una macchina robotica infligge un danno, seppure di lieve entità, con la stessa leggerezza con cui lo infliggerebbe un trapano elettrico. Un braccio meccanico medico e un trapano non sono dotate di coscienza e a loro non possono in alcun modo venire applicate le “Tre leggi” diversamente da quei robot dotati di consapevolezza e autocoscienza, seppure completamente diversa da quella basata sull’organico. In questa ipotesi la vita dei robot sarebbe silicea eppure è vita a tutti gli effetti, in quanto risponde ai canoni con i quali noi la definiamo.

L’ androide Data della serie televisiva «Star Trek:The Next Generation» si batte per i propri diritti di essere riconosciuto come una persona e non come una proprietà della Federazione dei Pianeti Uniti. I cyloni, gli androidi creati dal dottor Daniel Graystone, nel serial tv «Battlestar Galactica» si ribellano ai proprio creatori e distruggono l’umanità, rea di averli sfruttati come schiavi per tempi immemorabili, costringendo i pochi superstiti a una fuga disperata, alla ricerca di un pianeta dove superare i razzismi e i problemi religiosi.

Si prospetta dunque una nuova forma di vita che potrà tranquillamente fare a meno delle “tre leggi”: una nuova specie con la quale l’essere umano dovrà imparare a convivere.

Rinnegare tutto ciò, porterebbe la razza umana all’inevitabile estinzione e alla dimenticanza di quello che siamo stati.

Forse in un passato remoto una razza come la nostra ha creato esseri artificiali con cui colonizzare i pianeti di altri sistemi solari? Potrebbe essere. Questi ultimi potrebbero avere perduto il contatto con il pianeta d’origine e quindi essersi evoluti indipendentemente, andando ben oltre la programmazione che i loro creatori avevano loro impartito. L’ umanità potrebbe dunque essere stata creata per colonizzare questo pianeta ma, a causa di scontri e conflitti, essere andata oltre le intenzioni e i programmi del proprio Creatore e averlo distrutto, ricordando tale evento in ogni propria espressione mitologica? A colte mi sembra probabile.

Al di là delle pur interessanti preovocazioni della fantascienza, la nostra riflessione filosofica deve spostare l’asse sul problema di vita/non vita, diritti/schiavitù, bene comune/profitto privato, dove gli attrezzi più sofisticati non saranno più utensili ma entità.

Riflettendo sui droni da guerra, seguendo il suggerimento del dottor “Reben”, l’umanità farà davvero bene a interrogarsi su se stessa, riguardo a un modello di società tecnologica dominata dal profitto e dal mercato, dove la ricchezza del mondo è in mano all’un per cento della popolazione e il restante muore di fame nella più assoluta povertà. E’ questo il mondo che vogliamo?

BREVISSIMA NOTA DI BBM, ovvero BarbieriBottegaio Martedesco

  Per un puro caso, il post di Fabrizio Melodia esce in “bottega” a poche ore da un saggio di Mario Agostinelli – è qui: Riappropriarsi del tempo e ridurre l’orario di lavoro – che affronta il tema della robotizzazione in una prospettiva più ampia.

Restando dalle parti della migliore fantascienza, chi passa spesso dalla “bottega” sa che di robot abbiamo spesso parlato. In qualche vecchio post – a esempio Ben pensato, vecchio Isaac (2) – ho accennato all’errore “politico” di Asimov quando immaginò le “tre leggi”. Pensate all’Ilva e a tante fabbriche; nel mondo del “capitalismo reale” a chi interessa la sicurezza degli esseri umani “in generale”? Se sono operai o cittadini contano zero. Se invece sono padroni… possono usare anche i droni assassini a loro vantaggio; la coscienza per loro è da sempre un optional.

L'astrofilosofo

Fabrizio Melodia,
Laureato in filosofia a Cà Foscari con una tesi di laurea su Star Trek, si dice che abbia perso qualche rotella nel teletrasporto ma non si ricorda in quale. Scrive poesie, racconti, articoli e chi più ne ha più ne metta. Ha il cervello bacato del Dottor Who e la saggezza filosofica di Spock. E' il solo, unico, brevettato, Astrofilosofo di quartiere periferico extragalattico, per gli amici... Fabry.