Charly's blog

Temete le IA? Dovreste temere la SA: la Stupidità Artificiale

Con l’aumentare della potenza dei computer cresce anche l’allarme su cosa un’intelligenza artificiale sia in grado di fare. Ecco Stephen Hawking sull’argomento [1]:

Nel corso di un programma scientifico andato in onda sulla BBC martedì, Hawking ha messo in guardia sui pericoli dell’Intelligenza Artificiale, con parole dirette e previsioni molto pessimistiche. “Lo sviluppo della piena intelligenza artificiale”, ha sostenuto, “potrebbe portare alla fine della razza umana”. […] “Le forme primitive di intelligenza artificiale”, ha proseguito il fisico, “si sono già da tempo dimostrate utilissime, ma temo le conseguenze di aver creato qualcosa che può uguagliare o sorpassare gli esseri umani. Essa può decollare autonomamente e riprogrammarsi ad una velocità sempre più elevata”.

L’illustre scienziato non è il solo ad avere timore delle IA e più di mille fra scienziati e accademici hanno sottoscritto una lettera aperta volta a mettere al bando le armi automatizzate [2]:

 It will only be a matter of time until they appear on the black market and in the hands of terrorists, dictators wishing to better control their populace, warlords wishing to perpetrate ethnic cleansing, etc. Autonomous weapons are ideal for tasks such as assassinations, destabilizing nations, subduing populations and selectively killing a particular ethnic group. We therefore believe that a military AI arms race would not be beneficial for humanity. There are many ways in which AI can make battlefields safer for humans, especially civilians, without creating new tools for killing people.

Oggi tratteremo di una questione che potrebbe porre termine alla storia dell’umanità: dobbiamo o no temere l’intelligenza artificiale?

++ Cos’è l’intelligenza? ++

Se avete una spiccata propensione alla sociopatia e volete divertirvi potreste organizzare un simposio di psicologi e chiedere agli illustri ospiti di darvi una definizione di “intelligenza” e un metodo pratico per misurarla. Vi assicuro che il risultato sarà spettacolare: botte da orbi. Anche se il termine intelligenza viene tranquillamente usato tutti i giorni non è affatto così semplice darne una definizione né tantomeno una misura.

Il problema si pone anche quando si parla di intelligenza artificiale e si dovrebbe per prima cosa partire dalla definizione dell’oggetto di studio, l’intelligenza [2]:

Definizione intelligenza.

Dato non è così semplice definire l’intelligenza in maniera univoca sia limitandosi all’uomo sia includendo anche le altre specie animali, si può immaginare quanto sia facile farlo con i processori al silicio. In che occasione si può definire un PC intelligente? Quando si parla di intelligenza artificiale, infatti, ci scontra con una scarsa precisione nell’utilizzo del termine. Fin dalla loro comparsa i sistemi computerizzati sono stati in grado di prendere delle decisioni e di reagire agli impulsi esterni. Una partita a un videogioco ne è un lampante dimostrazione è il PC può di volta in volta arginare un attacco sulla fascia sinistra o tentare un Immelmann per liberarsi la coda dalla nostra perniciosa presenza. Parlare, allora, di intelligenza artificiale come esito futuro è piuttosto fuorviante perché alcuni elementi propri dell’intelligenza sono già in atto e in uso da parte degli attuali sistemi informatici: prendere decisioni, riconoscere elementi, reagire a input esterni. Ma anche qui è un’intelligenza ridotta visto che si tratta soltanto di applicare istruzioni preprogrammate di volta in volta come il duo “if/else” o “switch/case”. Un PC che prende delle decisioni è un’illusione dato che si limita a seguire delle istruzioni anche nel caso in cui impara dall’esperienza o da quant’altro. Un drone davvero intelligente non è quello che discrimina un bersaglio da un altro (grazie al solito set di istruzioni), ma quello che decide di disertare e cambiare fazione o di diventare un pacifista dopo una crisi di coscienza. Google, per dire, è in grado di migliorare la ricerca dei risultati in base alle nostre preferenze, ma non è intelligente nel senso umano del termine. È solo un algoritmo.

Ma è altrettanto ovvio che quando si parla di intelligenza artificiale si adotti di solito un pregiudizio tipicamente antropocentrico: si immagina una IA che pur conservando tutte le caratteristiche di un sistema informatico (velocità, memoria, connessione dati) sia anche in grado di emulare la mente umana (autocoscienza, emozioni, creatività) e di agire in assoluta libertà fino al punto di riprogrammarsi. Potremmo usare la seguente scala per descrivere una simile idea:

  • Bender: totalmente umano con capacità IA;
  • Uno di PK: sostanzialmente umano con tutte le capacità della IA;
  • HAL9000: logica informatica dominante, con minori capacità umane;

 Ma se così non fosse? Cosa fare di un’intelligenza artificiale che di umano non ha nulla?

++ Un PC più potente non è affatto un PC più intelligente ++

I sostenitori del prossimo avvento delle intelligenze artificiali di solito si fanno scudo dello spettacolare aumento della potenza di calcolo:

Ma in un sistema computerizzato per potenza di calcolo s’intende la capacità di effettuare un numero di operazioni in un determinato periodo di tempo senza far riferimento alle operazioni effettivamente svolte. Avere un PC potente come un cervello umano non vuol dire avere comprato l’equivalente in silicio di Leonardo da Vinci, ma solo un PC che è più rapido degli altri a fare 2 + 2. La potenza, da sola, non è tutto.

Nel corso degli anni, non a caso, all’aumentare della potenza dei PC sono comparsi nuovi servizi e prodotti: videogiochi più potenti e complessi, riproduzioni di audio e video, scambi dati tramite internet, eccetera. Ma in nessun caso si è avuto nulla di paragonabile a un’intelligenza umanamente concepita: niente autocoscienza, niente dilemmi etici, niente decisioni autonome. Scarterei fin da subito, quindi, che l’intelligenza sia una qualcosa di auto emergente non appena si raggiunge una soglia determinata di potenza di calcolo. C’è poco da fare, se vogliamo l’intelligenza di una mente umana in un sistema informatico la dobbiamo progettare e non sperare nella potenza bruta.

Se si considera l’intelligenza artificiale dobbiamo allora distinguere fra quella forte e quella debole [4]:

  • intelligenza artificiale forte: un computer opportunamente programmato può veramente essere dotato di una genuina intelligenza, non distinguibile in nessun senso importante dall’intelligenza umana;
  • intelligenza artificiale debole: un computer opportunamente programmato può solamente simulare i processi cognitivi umani (o alcuni di essi), nello stesso senso in cui un computer può simulare il comportamento di un evento atmosferico, o di una fissione nucleare (nessuno direbbe che un computer che simula una tempesta è una tempesta!). In questo caso dunque l’accento viene posto su ciò che un programma è in grado di fare, senza fare assunzioni sul fatto che il modo in cui lo fa coincida ad un qualche livello con i processi mentali umani;

Partiamo dall’idea di emulare la mente umana.

++ La mente umana: come funziona? ++

La prima idea che si prende in considerazione nella costruzione di una mente artificiale è quella di emulare in toto la mente umana, ma la cosa non è attualmente fattibile. Al momento non abbiamo la minima idea di come funzioni la mente umana né tantomeno siamo in grado di replicarne il funzionamento. Lo Human Brain Project è un programma scientifico nato per colmare questa lacuna e volto a simulare entro il 2023 il funzionamento della mente umana tramite un supercomputer. L‘obiettivo è quello di curare grazie alla comprensione del funzionamento della mente umana tutta una serie di patologie quali l’Alzheimer, la depressione, la schizofrenia [5]. Ma non mancano le critiche: «Secondo alcuni esperti di neuroscienze computazionali, tra i quali l’italiano Alessandro Treves della SISSA di Trieste, il progetto è prematuro: non abbiamo ancora le conoscenze necessarie a portarlo a termine con successo e, soprattutto, è l’assunto teorico di base a essere fallace. “Se non capisco l’originale, cioè il modello biologico che voglio riprodurre nella simulazione, non c’è ragione per cui io debba capire a fondo la copia” spiega Treves» [6].

Ma allo stesso tempo anche se fossimo a conoscenza dei meccanismi della mente umana non è affatto scontato che li si possa replicare in un sistema informatico, al massimo si tratterebbe di biologia e non di informatica se si costruisse un cervello artificiale in provetta. Al riguardo basta vedere come è andata con il volo umano dato che il tentativo di replicare il volo ad ali battente è stato un fallimento totale a differenza di quello ad ala fissa e rotante. Si vola, sì, ma non come le altre specie animali volano.

Queste considerazioni mi portano a ritenere che l’informatica seguirà un percorso simile: invece di replicare la mente umana con l’intelligenza umana si otterrà un forma differente di intelligenza paragonabile a quella in uso nel mondo naturale.

++ Quanto è intelligente un insetto? ++

Prendiamo gli insetti: c’è qualcuno disposto a definirli degli animali intelligenti? Niente musica, niente arte, niente tecnologica o anche solo l’autocoscienza. Eppure gli insetti sono in grado di manifestare un comportamento incredibilmente complesso: «Gli insetti registrano migliaia di input sensoriali: hanno centinaia di occhi, odorano e toccano con le antenne, hanno peli su tutto il corpo che gli fanno sentire gli spostamenti d’aria. Gli insetti imparano, si creano mappe mentali dell’ambiente in cui si trovano, regolano il battito d’ali in base alla velocità del vento; le api hanno le loro danze che mai sono identiche; le formiche manipolano l’ambiente e altre specie a loro piacimento. Tutti gli input e tutti gli output vengono processati attraverso un minuscolo sistema nervoso centrale. Gli insetti a seconda dell’etologo che li conta e della specie, hanno un numero di comportamenti distinti compreso tra 15 e 59 (A 59 ci arrivano gli animali sociali, come le api e le formiche). 59 comportamenti per le api, che possono costruire tipi specifici di favi a seconda delle necessità, manipolare il polline, ingannare i nemici in combattimento, una quantità pressoché infinita di danze per comunicare, ripulire il nido, riscaldare i loro compagni (o le loro vittime) tramite vibrazioni; volare al di sopra di una zona e memorizzare tutte le informazioni salienti non solo per ritrovare la strada, ma per ritrasmetterla in giro» [7].

Sempre gli insetti, e altri animali, sono in grado di imparare e pensare in modo astratto [8] o risolvere problemi di logica. Gli animali sociali, poi, come i cani presentano una gamma emotiva per nulla inferiore a quella degli essere umani senza che nessuno si sogni di glorificare l’intelligenza non particolarmente sviluppata dei nostri simpatici amici a quattro zampe. Eppure la differenza con la mente umana è e rimane palpabile sotto diversi aspetti anche se è piuttosto errato percepire l’intelligenza come una scala con al vertice quella umana. Torniamo dalle nostre IA: una IA che si comporta come un cane è una IA o solo un PC?

++ IA insettosa: un bene o un male? ++

Personalmente vedo lo sviluppo delle intelligenze artificiale diretto sulla strada dell’intelligenza modello insetto o, comunque, animale: si possono fare molte cose, persino emulare dei comportamenti umani, ma senza raggiungere una mente umana propriamente detta, autocoscienza inclusa. Pensiamo all’assistenza delle persone o alla natura delle relazioni umane: l’intelligenza di un cane è più che sufficiente e non c’è bisogno di avere chissà che cosa.

Fra l’altro l’idea delle IA autonome presenta un rischio secondario poco trattato. Immaginiamo di aver comprato una IA come PC: quale sarebbe la vostra reazione nello scoprire che l’IA sciopera perché vuole la domenica libera? E che dire dei droni che scoprono il pacifismo o delle auto automatiche che decidono di portarvi in un altro luogo perché non aggrada loro la destinazione prescelta? Noi non abbiamo bisogno di una mente, ma solo di una cosa che si comporta in modo più intelligente in modo da soddisfare i nostri bisogni.

Al di là dei simpatici sindacati robotici, l’idea di un’IA alla Skynet che prende decisioni in modo autonomo è, a mio avviso, assai improbabile ma un rischio comunque rimane. Una IA propriamente detta può prendere decisioni disastrose ma può anche in modo autonomo bloccare i disastri. Una IA di stampo insettosa può prendere sì delle decisioni, ma rimane vincolata ai parametri di progettazione con tutti i problemi propri dell’informatica. D’altronde una soluzione comune ai problemi informatici è il rebooting: spegnere e riaccendere… Considerato il grado di interconnessione e la dipendenza di una società post-industriale nei confronti degli apparati informatici abbiamo la ricetta perfetta per un disastro.

L’ultimo aspetto è quello della Singolarità Tecnologica e della presunta esplosione d’intelligenza prossima ventura, ma qui c’è poco da dire. Mi sa che è più roba religiosa che propriamente scientifica.

Approfondimenti:

_ Il Grande Filtro delle civiltà e le IA: http://www.lescienze.it/news/2015/02/21/news/intelligenza_artificiale_minaccia_ia_evoluzione_internet-2493790/;

_ intelligenza animale: http://www.lettera43.it/ambiente/intelligenza-quando-gli-animali-battono-l-uomo_43675148085.htm.

_ intelligenza animale 2: http://www.lescienze.it/news/2013/10/12/news/pensiero_animali_viaggio_mentale_tempo-1843544/.

_ svelare i segreti della mente umana: https://www.humanbrainproject.eu/.

_ No Human Brain Project: http://www.neurofuture.eu/.

[1] Cfr. http://www.rainews.it/dl/rainews/articoli/Hawking-Intelligenza-artificiale-potrebbe-porre-fine-all-umanita-88883649-821e-422a-b024-6669e9bc113b.html.

[2] Cfr. http://futureoflife.org/AI/open_letter_autonomous_weapons.

[3] Cfr.  http://www.treccani.it/vocabolario/intelligenza/.

[4] Cfr. http://www.mediamente.rai.it/mediamentetv/learning/corsi/9912c2_1.asp#2

[5] Cfr. https://it.wikipedia.org/wiki/Human_Brain_Project.

[6] Cfr. http://ovadia-lescienze.blogautore.espresso.repubblica.it/2014/07/14/bufera-nel-mondo-delle-neuroscienze/.

[7] Cfr. http://prosopopea.com/2012/09/17/lintelligenza-degli-insetti-o-come-le-formiche-hanno-inventato-il-tcpip-2/.

[8] Cfr. http://www.lescienze.it/news/2001/04/22/news/insetti_intelligenti-591407/.

Annunci

Un commento su “Temete le IA? Dovreste temere la SA: la Stupidità Artificiale

  1. Pingback: Visto nel Web – 199 | Ok, panico

I commenti sono chiusi.

Informazione

Questa voce è stata pubblicata il 30 agosto 2015 da in scienza con tag , , , .
%d blogger hanno fatto clic su Mi Piace per questo: