Promesse e limiti della tecnologia

Le innovazioni si susseguono ormai a ritmi formidabili e in tutti i campi: nel digitale, in particolare con l’intelligenza artificiale e la robotica; nella scienza dei materiali; nella fisica; nella medicina; nella conoscenza della mente umana; nella genomica, e via dicendo. Ma rispetto a questa tumultuosa crescita, che ormai è definite esponenziale, non sempre riflettiamo sul significato di innovazioni e scoperte, sulla direzione verso la quale ci portano, sugli effetti combinatori futuri su di noi e sulle prossime generazioni.

Sono proprio loro, le nuove generazioni, a porre interrogativi profondi alla società su questioni come l’uso saggio delle nuove tecnologie, il cambiamento climatico, la ricerca di stili di vita sostenibili, la ricerca di senso nel lavoro. Pensiamo al successo del Fairphone, il primo smartphone «equosolidale» considerato un esempio dal Climate Change Secretariat dell’Onu (UNFCC, 2019). Oppure alle straordinarie mobilitazioni Fridays for Future lanciate dalla giovane svedese Greta Thunberg. Pensiamo alla flyskam, la ricerca di mezzi di trasporto alternativi all’aereo tra i giovani scandinavi, visto che la necessità di limitare l’uso dell’aereo è segnalata persino dalla Agenzia Europea per la Sicurezza Aerea. O ai molti esempi di lavori eco-friendly e basati su stili di vita slow.
Questi nuovi atteggiamenti più consapevoli pongono importanti questioni ai policy maker, alle imprese innovative con una forte strategia di responsabilità sociale, ai tecnologi con una grande sensibilità e deontologia professionale. Nell’ambito delle tecnologie dell’informazione, in particolare gli sviluppi dell’intelligenza artificiale, che rischiano di plasmare in modo inquietante la società, stanno facendo emergere grandi interrogativi etici. Quali potrebbero essere le risposte dal mondo dell’innovazione responsabile a questa emergente richiesta di senso?
La risposta a questi quesiti richiede un impegno e uno sforzo cui non siamo oggi abbastanza orientate, anche se la storia è piena di esempi di dubbi, scrupoli, attenzioni, da Leonardo ad Einstein e a Oppenheimer.

Un episodio significativo e poco noto risale al grande Da Vinci che, nelle note per la costruzione di un sommergibile, scriveva nel 1506: «Perché io non iscrivo il mio modo di star sotto l’acqua?... Questo non pubblico o divulgo per le male nature delli omini, li quali userebbono li assassinamenti nel fondo de’ mari...». La preoccupazione di un potenziale uso militare della sua idea di sommergibile è esattamente il nucleo centrale della riflessione sugli usi «duali» delle tecnologie nelle ethical review dei progetti europei: il cosiddetto dual use, ma cinquecento anni prima!
Norbert Wiener, padre della cibernetica e uno dei fondatori dell’era dei computer insieme ad Alan Turing e John Von Neumann, scriveva nel 1947 su Atlantic Monthly: «Non ritengo di pubblicare in futuro altri miei lavori che potrebbero generare danni se messi nelle mani di militaristi irresponsabili... » Oggi, per i suoi contributi alla riflessione sugli impatti sociali ed etici dei computer, Wiener viene considerato il fondatore della nuova disciplina della Computer Ethics.
In tempi più recenti, nel 1985, David Parnas, uno dei massimi esperti del mondo del software, rassegna le dimissioni dal comitato scientifico del progetto SDI (Strategic Defense Initiative) del governo Usa perchè prevede di affidare ai computer la risposta automatica a un attacco missilistico. Ritiene, infatti, che il software usato non sia sicuro, perchè viene rilasciato anche quando contiene falle inspiegabili e dunque non a prova di errore.

Per venire ai giorni nostri, il pollice dell’icona «mi piace» di Facebook è forse uno dei simboli più noti dell’infosfera. Eppure pochi sanno che il suo giovane ideatore, Justin Rosenstein, classe 1983, lascia Facebook nel 2008, seriamente preoccupato degli effetti psicologici di tali applicazioni software sui miliardi di persone che le utilizzano. Il fondatore del web, Tim Berners Lee, che sognava la rete come porta di accesso alla conoscenza universale, se ne distacca perchè la vede trasformarsi in un’arena dove i titani tecnologici si contendono il tempo e l’attenzione dei 4,4 miliardi di utenti usando sofisticati algoritmi progettati per creare dipendenza. Si parla ormai di «persuasive technologies», o «addiction by-design», applicazioni software studiate per associare alla navigazione il metodico rilascio di dopamina, un potente neurotrasmettitore legato alla sensazione del piacere. Ormai diversi studi hanno rilevato che molti utenti arrivano a controllare lo smartphone in media oltre 260 volte al giorno con conseguenze sulle capacità di concentrazione e sul mantenimento dell’attenzione.
Insomma, dopo i primi anni di stupore e di meraviglia, sempre più oggi ci si pongono degli interrogativi sui limiti da porre al travolgente sviluppo delle tecnologie, perché siano realmente al servizio delle persone e non tendano a scapparci di mano. Riflessioni importanti e ancora non sufficienti, ma che nei prossimi anni acquisteranno una rilevanza sempre maggiore.