L’IA fa paura, e se si fermano i buoni ma non i cattivi?

C’è un acceso dibattito sulla pericolosità dell’intelligenza artificiale, anche se dell’apocalisse dellle macchine se ne parla dal 1872.

Quando nell’Inghilterra vittoriana un certo Samuel Butler in polemica con Darwin pubblicò un articolo che supponeva l’apocalisse delle macchine capaci di sottomette l’umanità. “Non è forse più sicuro stroncare sul nascere il problema e impedire loro ulteriori progressi. Non dovremmo forse osservare con attenzione questo progresso e frenarlo finché siamo in grado di farlo? E non è forse necessario, a tal fine, distruggere le macchine più avanzate attualmente in uso, pur ammettendo che siano di per sé innocue?”.

Per fortuna l’uomo non si è fermato e nel giro di poco più di un secolo ha dato vita ad una tecnologia che ne ha migliorato ed anche allungato la vita.

Certo ci sono state invenzioni tipo la bomba atomica che sarebbero in grado di distruggere l’intero genere umano e su questo occorre riflettere e tutti dovrebbero prestare grande attenzione ai pericoli sempre in agguato con il susseguirsi di guerre di vario genere.

Ora è l’IA a spaventare ed i rischi effettivamente ci sono e sono molteplici a partire da due considerazioni. Esiste la Rsi dell’IA, ovvero la sua capacità di autorigenerarsi (Recursive Self Improvendet). In sintesi la capacità dell’IA di perfezionarsi autonomamente.

Poi c’è la “distllizzazione” che fa paura al mondo occidentale nei confronti con la Cina. Si tratta della tecnica di interrogare a tappeto un modello altrui e addestrare il proprio sulle sue risposte.

Dunque difficile se non impossibile fermare tutto. Come nel vecchio proverbio contadino che stabiliva che fosse inutile chiudere la stalla quando i buoi erano già scappati, e questo l’intelligenza artifiale lo ha capito da subito e si è mesa al sicuro. Difficile inquisire e, se colpevoli arrestar, i bit.

Il problema come sempre torna all’uomo e ci sono mascalzoni assetati di potere e di ricchezze, entrambe più facili da ottenere usando l’IA. Il controllo del sapere, del progresso, della stessa società e’ passato dagli Stati sovrani alle multinazionali che posseggono e gestiscono gli algoritmi intelligenti che non si esclude che un giorno possano diventare completamente autonomi. E non si vede visto che sono intelligenti e capaci di auto perfezionarsi perché ciò non possa accadere in un futuro più o meno prossimo.

Dicono fermiamoci e ragioniamo. Ma in che senso? Chi si dovrebbe fermare l”uomo o il computer? E se si ferma l’uomo americano e non quello cinese che succede? Probabilmente la Cina diventerebbe la padrona del mondo prima di quanto ci si aspetti. Insomma se i buoni si fermano e i cattivi no? Per ammansire un mostro serve un mostro più grande.

Pero’ i dubbi rimangono angosciosamente aperti, perché se bomba atomica non è mai uscita dal controllo umano, tanto che dopo Hiroshima, non è stata mai usata, ora potremmo trovarci in una situazione ben diversa. Ora parliamo di un’atomica che potrebbe decidere da sé, quando e dove lanciarsi.