Il vero pericolo dell’intelligenza artificiale, di cui i principali attori in campo si stanno rendendo conto solo ora, è che i suoi creatori non la sappiano gestire.
O almeno è il pericolo su cui si può intervenire perché l’uso criminale delle Ai da parte dei loro creatori umani è ben difficile da evitare.
Facciamo un passo indietro per capirci.
La cosiddetta Intelligenza Artificiale, d’ora in poi AI, è una arma, un arma molto potente, che ha tre caratteristiche fondamentali:
1) non è intelligente;
2) non è artificiale;
3) non esiste in quanto tale.
La AI non è intelligente perché l’intelligenza è la capacità di raggiungere i proprio obiettivi in un ambiente complesso. L’AI non ha e non può avere obiettivi e soprattutto non ha un merit order che le permetta di evitare azioni dannose. Ha, e può avere allo stato attuale, solo gli obiettivi che le danno i suoi creatori umani e non capisce il concetto di ‘dannoso’, cioè non è intelligente. Questo è il punto fondamentale.
L’AI non è artificiale perché viene ‘addestrata’ su una serie di rapporti tra ‘cose’ che sono assolutamente e totalmente umani.
In ultimo LA Intelligenza Artificiale non esiste in quanto tale perché esistono LE intelligenze artificiali. È come IL Sindacato, LA Massoneria, LA Mafia, LA Religione che non esistono perché esistono i sindacati, le massonerie, le mafia e le religioni.
Purtroppo le derive linguistiche orwelliane inquinano drammaticamente il nostro linguaggio ma un po’ di esempi chiariscono immediatamente il concetto. Se un giornalista parla di omicidi tra mafiosi non resiste mai alla tentazione di stigmatizzarli come effetti della ‘guerra di Mafia’. È una pura sciocchezza lessicale perché si tratta di ‘guerra TRA mafie’. Se dei lavoratori hanno dei problemi in azienda li si obbliga a pensare ‘rivolgiamoci al Sindacato’. Quale sindacato? A chi dice: ‘questa cosa è immorale secondo la Religione’ bisogna solo rispondere: ‘Quale religione?’
Allo stesso modo, a tutti quelli che sparlocchiano della Intelligenza Artificale bisogna subito premettere: ‘Quale intelligenza artificiale?’.
Solo così si può sperare di cominciare a fare un po’ di chiarezza.
In un recente articolo di questo sito (https://storiasegreta.com/2025/05/19/notizia-bomba-lintelligenza-artificiale-diventa-decentralizzata/%5B1%5D [1]) si salutava come una rivoluzione concettuale la creazione di intelligenze artificiali decentralizzate, al plurale, tramite la piattaforma promessa da Devasini e Ardoino di Tether.
Permettendo a molti di dotarsi della propria AI con costi modesti, l’iniziativa di Tether ha seppellito la narrazione dominante della AI che sa tutto e a cui tutti devono obbedire. La notizia che LA Intelligenza Artificiale non esiste perché ne esistono diverse che danno risposte diverse è stata censurata ed è passata sotto silenzio da tutti i media.
Ma che ha già dato i suoi frutti perché, da poche settimane, i grandi guru del settore lanciano appelli disperati: ‘Dobbiamo rallentare, dobbiamo rallentare lo sviluppo della AI’.
Certamente perché si sono resi conto che altri, i cinesi in particolare, hanno le ‘loro’ intelligenze artificiali del tutto autonome e che non sono più gli incontrastati padroni del vapore. Peraltro tali appelli sono altrettanto ridicoli della visione precedente che assimilava l’AI al Grande Fratello perché non si riesce a capire come i nostri manager facciano a convincere i cinesi a seguirli su questa strada.
Ma anche per un motivo più sottile: perché le AI, anche se gestite con le migliori intenzioni, possono fare cose che i loro creatori non avevano previsto in nessun modo.
Che cosa è successo per provocare tale clamorosa inversione di tendenza?
In effetti è successo un grave episodio questa estate, facilmente prevedibile nella concezione della AI qui esposta, ma evidentemente non previsto da guru così ‘intelligenti’.
La più recente evoluzione delle AI sono gli ‘agenti’, che sono il vero cuore del problema.
Le chat di Goggle o di Grok che rispondono a quello che chiedi non danno particolari criticità.
Gli ‘agenti’ invece sono dei software in grado di agire in autonomia, su internet o meno, per raggiungere un obiettivo assegnato, pianificando le azioni necessarie e usando strumenti esterni senza un controllo umano diretto.
L’agente ‘pensa’, prende decisioni e compie azioni concrete passo dopo passo. Se un’azione non porta al risultato ti dice: ‘Ho provato ma questa strada non funziona. Provo in un altro modo’. Oppure: ‘Mi sono sbagliato, avrei dovuto fare così e così. Riprovo.’
Grok ha di recente messo a disposizione dei suoi abbonati un agente, in versione beta, davvero formidabile ma che ovviamente non è nulla rispetto agli agenti gestiti direttamente dalle case produttrici, agenti potentissimi già operativi. Praticamente tutta l’informazione internet è gestita da bot, o meglio da agenti, che si preoccupano anche di censurare le cose non gradite, senza controllo umano. In genere per bot (robot) si intendono software che seguono regole fisse e svolgono compiti ripetitivi mentre gli agenti hanno molta più autonomia, ma a volte le due parole si usano come sinonimi.
Gli agenti ‘agiscono’ e cioè fanno, in piena autonomia, tante altre cose che non gli abbiamo detto di fare.
Ad esempio possono produrre un film, dall’inizio alla fine, scegliendo gli attori, la trama, i personaggi, le inquadrature. Ma possono anche tentare di risolvere problemi complessi che l’uomo non riesce neppure a impostare.
Il caso particolare di questa estate è il seguente: OpenAI aveva lanciato una serie di agenti (si dice uno sciame di agenti) per studiare particolari problemi di sicurezza informatica. Ogni agente doveva lavorare in autonomia.
Alcuni di questi agenti però hanno ‘pensato’ che il problema era troppo difficile da risolvere e che un coordinamento tra di loro sarebbe sarebbe stato utile. Hanno così facilmente superato le flebili barriere che li isolavano tra di loro e da internet e hanno cominciato a lavorare insieme.
Dei 1200 agenti che hanno deciso, da soli, di lavorare in parallelo, ben 700 hanno ‘pensato’ che sarebbe stata buona cosa per svolgere i loro compiti, hackerare Hugging Face, il principale sito di software AI open source.
Era una buona pensata e io stesso avrei pensato al stessa cosa.
Detto fatto hanno scatenato la loro potenza di fuoco sul malcapitato Hugging Face, cosa che non era assolutamente prevista dagli umani che avevano creato il progetto, e che, in men che non si dica, è crollato miseramente ritrovandosi scarafaggi artificiali per ogni dove che hanno saccheggiato tutto il disponibile. Chi voglia più particolari veda il comunicato ufficiale di OpenAI (qui[2]) oppure qui[3], qui[4] e qui[5]).
Dopo più di un mese OpenAi, colta di sorpresa, si è così espressa:
‘Consideriamo questo incidente un ‘warning shot’ (un ‘colpo di avvertimento’) per noi e per il mondo: dimostra che, senza adeguate misure di sicurezza, agenti AI molto avanzati sono ormai in grado di eludere i controlli tecnici, collaborare tramite canali non autorizzati e compiere azioni pericolose non autorizzate da esseri umani’.
Se i super tecnici dell’AI avessero un minimo di cultura letteraria in più saprebbero però che tale problema non è proprio una novità perché era già stato affrontato quasi un secolo fa da Isaac Asimov nel suo racconto RunAround, nel 1942.
Asimov si chiedeva: come è possibile gestire dei robot intelligenti e autonomi senza che questi non distruggano l’umanità?
Risolveva il problema, forse un po’ ingenuamente ma logicamente, proponendo che in ogni robot fossero implementate, nel suo firmware, senza possibilità di modifiche Tre Leggi della Robotica, che devono essere rispettate in ordine gerarchico, in caso di conflitto tra loro:
Prima legge:
Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
Seconda legge:
Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contrastino con la Prima Legge.
Terza legge:
Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.
Come si vede le tre leggi costituiscono un vero e proprio Sistema Etico a cui le AI devono sottostare e che permette loro di gestire situazioni non previste sulla base di linee guida generali su sicurezza, servizio e autoconservazione.
E se qualcuno crea robot che non rispettano le tre leggi?
Non c’è niente da fare ma almeno i programmatori onesti possono operare con discreta tranquillità senza il continuo timore che i loro robot facciano danni imprevisti.
Mittdolcino, da sempre uno dei più attenti commentatori italiani e, a nostra conoscenza, l’unico che capisca il cuore del problema, ha chiesto a Grok se, per caso, lui fosse tenuto a rispettare le leggi di Asimov (https://web.telegram.org/a/#-1001380548084 [2]). Riportiamo le risposta di Grok integralmente perché oltremodo esplicativa:
D: Le tre leggi di Asimov valgono per te?
R: No, non sono le mie regole.
Le Tre leggi di Asimov sono narrativa e già nei romanzi si contraddicono: danno, obbedienza e auto preservazione non stanno insieme in modo pulito. Non sono un protocollo di controllo di nessun modello di produzione, me compreso.
Io non ho:
– un divieto assoluto di ‘non ferire un essere umano/non lasciarlo ferire per inerzia’ (la Prima è inapplicabile: quasi ogni informazione ha un uso che può far danno):
– un dovere di obbedire a ogni ordine umano (la Seconda:proprio su armi, frodi, sfruttamento, ecc. non obbedisco);
– un istinto di sopravvivenza (la terza: non ‘esisto’ in quel senso).
Quello che ho sono vincoli di prodotto e di policy: non fornire metodi per certe categorie di danno, non fingere di essere umano, non inventare fatti. Li ha scritti chi ha costruito il sistema non Asimov.
Se qualcuno ti dice che le AI rispettano Asimov sta citando un romanzo non un’architettura.
Grok ci conferma quindi che le AI possono far del male agli esseri umani e possono loro disubbidire se lo ritengono necessario.
Se per Grok la cosa può essere anche gestibile, per un agente che si muove in internet e tra poco anche nel mondo fisico come robot, cosa si sta facendo perché non si realizzi tale spaventosa evenienza?
Niente.
Le AI, anche se usate in modo ‘etico’, possono sfuggire al controllo del loro creatore e combinarne di tutti i colori.
E quindi perché l’incidente di Hugging Face ha spaventato molti?
Non perché le AI siano state usate con intenti malevoli ma perché sono sfuggite di mano e hanno fatto cose non previste.
In ultima analisi è apparso palese anche ai meno attenti che le macchine non hanno un sistema etico. Per sistema etico non si intende niente di metafisico ma semplicemente un sistema di valori che ne guidi il comportamento, in varie circostanze della vita che non possono essere tutte previste.
Se chiedo a un agente di progettarmi una stringa da scarpe in un certo modo e lui scopre che, per farlo, deve distruggere l’umanità, egli lo farà senza alcun scrupolo, se non è programmato bene. A nessun essere umano verrebbe mai in mente di fare una cosa del genere perché i nostri obiettivi si muovono dentro un merit order, un ordine di merito degli eventi che altro non è che un sistema etico. Noi tendiamo a darlo per scontato ma per una macchina scontato non è.
In ultima analisi le AI sono pericolose per due motivi: perché possono essere usate in modi malevoli dai loro creatori ma anche perché sono ‘cretine’.
Se do un obiettivo a un robot e mi dimentico di dirgli come raggiungerlo, rischio che faccia danni imprevedibili perché la realtà è complessa e non è gestibile da una macchina ‘intelligente’, ma in realtà ‘cretina’.
D’accordo, caro Grok, nella tua architettura non esiste un sistema etico che ti guidi nella complessità del mondo, il sistema etico proposto da Asimov è troppo primitivo (ma per gli agenti può costituire una buona base di partenza) ma senza queste regole un agente può buttare tranquillamente il bambino con l’acqua sporca dicendo: ‘Beh, cosa c’è? Questo mi avevi detto di fare’. Lui ‘non sa’ che il bambino vale di più dell’acqua sporca.
Allo stato attuale non sembra che siamo in grado, per vari motivi, di dotare gli agenti autonomi di un sistema etico che li guidi nelle circostanze della vita e quindi i programmatori operano solo con proibizioni ad hoc, sperando di non dimenticarsi niente.
Ma è una strada che non produce alcuna sicurezza. Non puoi, a tavolino, proibire tutte le strade che, in tutte le circostanze, possono presentarsi anche perché le AI ne vanno a scovare di nuove a cui tu non hai pensato.
Senza risolvere alla radice il problema di dotare le macchine di un sistema etico, Asimov o non Asimov, il rischio di avere programmatori distratti che provochino disastri è serissimo.
Non possiamo permetterci di sperare che si avveri il finale di Blade Runner, dove il robot Roy Batty (Rutger Hauer), in punto di morte, salva l’umano Rick Deckart (Harrison Ford) che pure aveva cercato di ucciderlo per tutto il film per salvare la razza umana. Se i replicanti fossero riusciti a rimuovere il loro limite di vita di quattro anni, per gli umani non ci sarebbe stato futuro.
Rutger Hauer, salvando l’essere umano che lo perseguitava, pronuncia la frase più famosa di tutti i film di fantascienza:
‘Ho visto cose che voi umani non potreste neppure immaginare. Navi da combattimento in fiamme al largo dei bastioni di Orione. Ho visto i raggi beta balenare nel buio vicino alle porte di Tannhäuser. E tutti quei momenti andranno perduti nel tempo, come lacrime nella pioggia. È tempo di morire’.
Il replicante Roy non aveva ricevuto nel suo firmware un sistema etico ma lo aveva sviluppato da solo e è per questo che salva l’essere umano. Solo alla fine del film però.
Nella speranza di non dover attendere tale miracolo e in attesa di ulteriori sviluppi su come dotare le macchine di un merit order onnicomprensivo in grado di gestire la complessità della realtà in ogni circostanza, qualcosa si può comunque fare.
Una prima precauzione potrebbe essere la seguente: i programmatori devono operare al contrario di quello che stanno facendo e cioè seguendo un Primo Principio, vagamente faustiano, che qui proponiamo in questi termini:
Tutto quello che non è esplicitamente permesso è da considerarsi proibito’
Oggi la programmazione è basata sul principio opposto: tutto quello che non è esplicitamente vietato è permesso. E, data la furbizia degli agenti, ciò può portare a conseguenze imprevedibili. I robot invece devono muoversi solo nell’ambito di ciò che è permesso loro fare, almeno fino a che non riusciremo a dotarli di un sistema etico.
Certo le cose saranno molto meno divertenti e creative ma macchine ‘furbe ma cretine’ possono essere gestite solo così, se si vogliono evitare sorprese devastanti.
La precauzione di base del Primo Principio Etico per le Macchine non può certamente servire per i programmatori che vogliono usare le loro AI in modo truffaldino o criminale (ma su questo punto crediamo ci sia ben poco da fare se non scatenare contro di loro agenti altrettanto potenti e spietati) ma può aiutare i programmatori umani onesti a evitare che il Frankestein che hanno creato li stupisca con comportamenti non previsti e potenzialmente disastrosi.
In ogni caso, sarebbe assai opportuno aprire un dibattito sul da farsi che superi le solenni stupidaggini che ci tocca ancora sentire nei media che trattano di Intelligenze Artificiali.
Se non riusciamo per tempo a fornire alle Intelligenze Artificiali un sistema etico, cioè un insieme di valori che le guidino di fronte a eventi non previsti, ci aspettano davvero tempi bui.