Google. Un 'pulsante rosso' per disattivare le AI.

Google sta studiando un sistema per la disattivazione da remoto delle AI (Intelligenze Artificiali). L’evoluzione repentina delle macchine, ha spinto il colosso a decidere di introdurre un tasto di emergenza. Non che un futuro alla Terminator sia così vicino. Ma, come si dice? Meglio prevenire che curare.

Google e DeepMind tentano di impedire alle macchine intelligenti di diventare padrone di loro stesse.

La creazione macchine intelligenti, sempre più complesse e evolute, ha portato alla nascita prodotti e servizi fino a poco tempo fa impensabili. Ma cosa succederebbe se questo sviluppo sfuggisse al controllo? Cosa accadrebbe se le Macchine diventassero un pericolo per il genere umano? Sembra strano ma è proprio una delle aziende che più ha spinto per questa evoluzione a porsi il problema. Di chi stiamo parlando? Di Google ovviamente.

Le Macchine diventano ogni giorno più intelligenti e autonome. Questo avviene soprattutto grazie agli sforzi di Big come Google, Facebook, Microsoft, e molti altri. Un laboratorio di ricerca di Google, situato a Londra, sta lavorando a un ‘pulsante rosso’ di emergenza, per la disattivazione delle Macchine nel caso in cui il loro controllo sfuggisse di mano. Lo studio comincia in un momento storico importante in cui sono forti gli investimenti sulle intelligenze artificiali, soprattutto da parte della Silicon Valley.

Sono i ricercatori di DeepMind e dell’Università di Oxford a collaborare a questo progetto. Safely Interruptible Agents. L’idea è quella di creare un “pulsante rosso” che non solo sia in grado di stoppare le azioni di una intelligenza artificiale, ma sia anche capace di impedire che un sistema troppo sviluppato possa capire e aggirare questa interruzione. Il problema, secondo gli esperti, è riuscire a capire “se tutti i tipi di algoritmo possano essere ‘interrotti’ facilmente e in modo sicuro“.

Conoscete tutti il film Terminator? Quello dove robot umanoidi cercano di sterminare la razza umana? Se non lo avete visto correte ai ripari, mi raccomando! Tornando a noi: robot che pensano da soli, scenari apocalittici, sterminio, fine dell’umanità, eccetera, eccetera. La solita solfa? Lascio a voi i giudizi. Google, nel dubbio, ha deciso di prevenire e inventandosi un sistema per ‘staccare la spina’ alle intelligenze artificiali.

Secondo Nick Bostrom, a capo del The Future of Humanity Institute e direttore del DeepMind, le macchine diventeranno più intelligenti degli uomini entro 100 anni e potrebbero rivoltarsi contro i propri creatori. “Credo che quando verrà raggiunta l’equivalenza con il genere umano, non passerà molto tempo prima che le macchine diventino super intelligenti. Potrebbe volerci molto tempo per arrivare al livello umano, ma penso che il passo da lì alla super intelligenza sarà molto rapido. Credo che queste macchine con potrebbero essere molto potenti, per le stesse ragioni per cui noi esseri umani siamo molto potenti rispetto ad altri animali su questo pianeta. Non è perché i nostri muscoli sono più forti o i nostri denti più affilati, ma perché i nostri cervelli sono migliori”.

I ricercatori che lavorano al progetto Safely Interruptible Agents dichiarano, a supporto di questa teoria, che è improbabile che le intelligenze artificiali si comportino sempre in modo ottimale e per questo “di tanto in tanto può essere necessario che un operatore umano prema il grosso pulsante rosso che impedisca all’agente d’intelligenza artificiale di continuare una sequenza nociva di azioni – nocive sia per l’agente o per l’ambiente – e riportarlo in una situazione più sicura”.

Apocalisse robot o meno, l’idea di Google non è niente male. In fondo, non è meglio avere un pulsante che ‘nel caso’ potrebbe arrestare le AI, piuttosto che non averlo affatto?