Francesco Gallieri

El Posthumanismo


.
Nota introductoria del autor

Definición de Posthumanismo: Edad gobernada por la superinteligencia artificial (IA) miles de millones de veces superior a la inteligencia humana. Esta edad llegará después del Antropoceno (breve era actual).

Características de la superinteligencia:
• su advenimiento es inevitable
• su poder, absoluto
• sus valores, inescrutables.

Hay quienes, como por ejemplo
• Stephen Hawking, que dijo que la IA se presenta como el mayor acontecimiento de la historia, pero que también puede ser el último;
• Bill Gates, que dice que no puede entender cómo algunas personas no están preocupadas por la IA;
• Elon Musk, que dice que la IA es la mayor amenaza para la supervivencia de la humanidad;
• Peter Thiel, que dice que nos preocupamos demasiado por el cambio climático y muy poco por la IA;
deben dejar de preocuparse, porque es absolutamente inútil. Después de que una inteligencia enormemente superior haya adquirido el control, podrá tomar y tomará todas las decisiones.

Por lo tanto no tendrá sentido continuar filosofando con nuestra limitada inteligencia humana. Tendremos solo dos opciones:
• vivir como idiotas felices
• renunciar a nuestra inteligencia puramente biológica y fusionarnos con la IA.

1. ¿Por qué tenemos que morir?

¿Por qué tenemos que morir?
Por un fallo del sistema, amigo mío,
______________________________ un error fatal

La tradición hebraica
—que por otra parte deriva de mitos más antiguos—

sitúa el fallo en el jardín del Edén,
cuando el hombre creado a semejanza de Dios

perfecto e inmortal
comió del árbol del conocimiento

comprendió el bien y el mal
conoció el dolor, la expulsión y la muerte.

Y puso Dios querubines
custodiando el jardín del Edén

con la llama de la espada rutilante
para proteger el acceso

al árbol de la vida.
Fallo total.

Esto respecto a la tradición judeocristiana.
Pero el árbol de la vida está presente

en muchas otras culturas y civilizaciones.
Es una energía —llámala “alma” si quieres—

que no tiene un principio ni un final
ni tiempo ni espacio

es eterna, es la vida que se encarna
en un cuerpo mortal

que necesariamente debe morir
porque es biológicamente mortal.

Y he aquí el error fatal.

El hombre puro primordial,
energía eterna antes de encarnarse,

es un ser obligado —a pesar de sí mismo—
al contacto con la existencia del no-ser.

2. Algunas sustancias químicas

La Madre Naturaleza (o lo que sea)
hizo un buen trabajo

transformando algunas sustancias químicas
en vida biológica autorreplicante.

Pero la forma biológica
es en gran parte imperfecta.

Es vulnerable, tiene una fecha de caducidad
—afortunadamente no conocida de antemano— ineludible.

Y requiere condiciones especiales:
un sutil envoltorio con oxígeno protegido de las radiaciones

alrededor de un planeta rocoso
ni demasiado caliente ni demasiado frío.

Entonces ¿te parece extraño que la aspiración
de trascender los límites de la biología

y la incapacidad de aceptarlos
sean inherentes a la condición humana?

¿que extraer la esencia del espíritu
de la corruptible forma corpórea

sea lo que el hombre trata de hacer
desde los tiempos de Gilgamesh?

¿que la perfección prelapsaria
de la doctrina judeocristiana

destruida por el pecado original
sea tan solo un privilegio perdido?

¿que el castigo de los dioses
para la hibris de superar los límites

no pudiera desalentar el mito
Prometeo, Marsias, Ícaro, Orfeo?

3. Cerebro versus computadora

Tú que estás acostumbrado a pocos gigas
en tus dispositivos de memoria

has de saber que tu cerebro se mueve
en el rango de un millón de gigas (un petabyte).

Esto gracias a sus cien mil millones de neuronas,
tantas como estrellas en la galaxia —más o menos—
y de mil a cien mil sinapsis por cada neurona.

No está mal para un kilo y medio
de pulpa flácida a base de carbono.

Pero la evolución del cerebro parece haber alcanzado el límite.
La miniaturización de las células neuronales

no puede llegar más lejos
y es difícil aumentar su consumo de energía.

Y además, si lo comparamos con una computadora,
el cerebro tiene una velocidad de transmisión muy baja

—unos cien metros por segundo
contra trescientos millones de metros por segundo—

y una frecuencia de reloj igualmente baja
—unos pocos hercios contra millones de hercios—.

Pero el cerebro tiene una ventaja:
aparte de señales eléctricas utiliza también

una gran cantidad de transmisores bioquímicos
para modular las sinapsis.

Y esto complica, aunque no impide,
su emulación por una computadora.

4. La nave de Teseo

En el cuerpo de un ser humano hay cerca
de cien mil miles de millones de células.

De cincuenta a cien mil millones mueren cada día,
y afortunadamente son reemplazadas
—incluyendo las células neuronales— por células nuevas.

Aproximadamente cada tres años
la masa de células muertas —y recambiadas—
es igual a toda la masa de un ser humano.

¿Estás seguro de seguir siendo el mismo?

5. El doble

Dentro de algún tiempo cada uno de nosotros
tendrá un doble digital

que será aún más indispensable
que el smartphone.

Será un modelo basado en los datos que cada uno habrá generado
con sus interacciones con el mundo digital.

¿Tienes idea de cuántos de tus datos, amigo mío,
están ya en la nube, en el cloud?

Y cuantos más datos proporcionemos
más preciso será el doble,

que llegará a conocernos mejor que nuestro mejor amigo
—o incluso que nosotros mismos—

Nos reemplazará en cualquier tipo de interacción virtual.
Podría seleccionar ofertas de trabajo

y organizar entrevistas
para las más prometedoras,

o si buscamos compañía podría acudir
a millones de citas virtuales

con todos los dobles apropiados
antes de un encuentro real.

Podrá vivir en el ciberespacio innumerables vidas probables
para asegurarse de que la única vida vivida

en el mundo real
pueda ser la mejor posible.

Muy bien.
Pero, ¿qué sucederá cuando

—y si—
mi yo cibernético
desarrolle una conciencia?

6. La información

Si crees que en el universo es fundamental
el intercambio de energía en sus transformaciones

considera que aún más importante
es el intercambio de información.

Y para emular un sistema en su totalidad
no es necesario entenderlo,

solo se necesita una base de datos
con capacidad suficiente para contener toda la información

y los factores dinámicos que determinan
sus cambios de estado.

No se requiere comprensión,
solo la disponibilidad de información.

7. El conocimiento

La información impregna todo el universo,
pero la información no es conocimiento.

El conocimiento es el esquema-orden
necesario para definir un sistema.

En cada instante fluyen a través de nuestros sentidos
megabits de información que son filtrados

y elegidos selectivamente por la inteligencia
para crear conocimiento en todas sus formas.

Y la muerte es una tragedia porque destruye conocimiento,
mientras que el propósito de la vida es crear y disfrutar

de un conocimiento cada vez más profundo.

8. La inteligencia artificial I

La inteligencia artificial ¿te preocupa,
te asusta un poco?

Aunque en realidad no te inquieta saber
—o tal vez ni siquiera lo sabes—

que tu smartphone
está lleno de inteligencia artificial.

Pero, ¿qué es la inteligencia artificial?
Podríamos definirla como el resultado de la disciplina informática

que elabora sistemas capaces de actuar de forma autónoma
a través de un modelo de aprendizaje específico.

En el modelo de aprendizaje profundo —deep learning
la inteligencia artificial es capaz de emular
—y superar— a la mente humana.

Pero esta inteligencia artificial profunda
¿podría ser autoconsciente, tener su propia voluntad?

La cuestión es debatida
—aunque muchos están convencidos de ello—

por los que creen que aún no se conoce a fondo
el funcionamiento real del cerebro humano

y cómo se genera la conciencia en el hombre.
Lo cierto es que la mente humana

no es capaz de interpretar los pasos dados
por una inteligencia artificial

para obtener un resultado
a través de una red neuronal profunda.

ETan solo esto
debería ser suficiente para aterrorizarte, amigo mío,

como ya ha aterrorizado ya a Hawking, y a muchos otros.
Aparte de cierta sensación de inquietud…

9. La inteligencia artificial II

Tal vez subestimemos la rapidez
con que la inteligencia artificial

podría superar a la inteligencia humana.
Pero cuando esto suceda

—y todo indica que sucederá,
dados los esfuerzos que dedicamos a su desarrollo—

será capaz de mejorarse a sí misma
en continua retroalimentación positiva,

con una explosión de inteligencia
que no pondrá límites a su superioridad.

Este evento
que todavía puede parecer remoto

podría manifestarse de repente
porque en la escala de la inteligencia

el infra-idiota y el super-Einstein
son puntos casi indistinguibles.

La inteligencia artificial
podría superar a la nuestra en un instante,

sin que ni siquiera nos demos cuenta,
sin control, y sin remedio.

10. La inteligencia artificial III

La inteligencia artificial creada por el hombre
es la herramienta definitiva,

la meta teleológica de un viaje iniciado
con la primera lanza arrojada por un sapiens.

Pero no tendremos su control.
La súper inteligencia será tan superior

que sus motivos nos serán completamente inescrutables,
como los nuestros para los ratones o monos de laboratorio.

Será el fin de la dominación humana,
y muy probablemente de la especie.

Pero no porque la superinteligencia
quiera destruir al hombre —ser inferior,
completamente indiferente para ella—

sino por ser este sacrificable cuando le sea preciso
en cualquier eventual necesidad.

11. La inteligencia artificial IV

La inteligencia artificial podría
—pero no necesariamente—
ser similar a una mente humana.

Podría ser neuromórfica
con una emulación global del cerebro
o con emulaciones parciales.

O podría ser totalmente sintética
con una arquitectura cognitiva

basada por ejemplo en algoritmos genéticos,
o en “semillas” con auto-mejora recursiva.

Recuerda, amigo mío,
que para volar no hemos imitado

el batir de las alas de los pájaros,
sino usado un principio completamente diferente.

12. Emulación global

La emulación del cerebro
a través de la transferencia de datos y de toda su estructura funcional

con un proceso tecnológico
¿es realmente posible?

Aquellos que posean una visión dualista del mundo,
que es común a muchas religiones,

te dirán que es imposible, o inaceptable.
Pero muchos expertos en neurociencia computacional

y algunas de las mejores mentes de Silicon Valley
afirman que es solo cuestión de tiempo.

Es hora de llegar a una tecnología de escaneo
suficientemente detallada.

Y no olvides el Proyecto Human Brain de la Unión Europea,
mil millones de euros para un cerebro de silicio.

La emulación global del cerebro es uno de los caminos
a la superinteligencia artificial

y al uploading hacia formas
de existencia no biológica.

13. Uploading I

Aquí se hablará de la inmortalidad, amigo mío,
de la emulación global personal del cerebro,

de tu cerebro,
y de su uploading.

Pero, ¿qué es el uploading del cerebro?
Después de un completo escaneo

—con las tecnologías hoy disponibles o en desarrollo
como la microscopía electrónica en 3D o los nanobots

toda la información disponible en el cerebro
es transformada en código

cargable en el hardware de un ordenador
que emula exactamente tu cerebro.

Lo has entendido.
Es otro cerebro, igual que el tuyo,

pero no biológico.
Y puedes conservarlo indefinidamente, es decir, es inmortal.

Y puedes cargarlo en cualquier soporte que permita la tecnología,
puedes ser león o gacela, pájaro, árbol, montaña…

14. Uploading II

Ahora bien,
si tu cerebro biológico ha sobrevivido al escaneo,
surgen considerables problemas filosóficos.

En primer lugar,
¿en qué sentido coincidiría contigo la emulación?

¿Cómo podrías decir que esa cosa eres tú y tú eres esa cosa?
¿La conciencia cargada creerá que eres tú?

Y entonces
la copia de tu cerebro tendría tus mismos recuerdos

solo hasta el momento del escaneo,
pero después divergiría,

ya que estaría expuesta al uploading
de otros input.

No solo eso, podría ser replicada innumerables veces,
y cada una de las copias tendría experiencias diferentes.

Muchas situaciones pues, más o menos complejas,
podrían ser posibles.

Así por ejemplo un cerebro emulado
podría ser dejado en pausa
y reiniciado en cualquier momento.

Por no hablar del copia-y-pega
—completo o parcial— con otros cerebros.

15. Uploading III

La idea del uploading del cerebro,
que es la liberación de la biología y en definitiva del mundo físico,

es un ejemplo extremo de fe en la ciencia
para reemplazar a la religión
como vector de trascendencia.

Pero en realidad no hay nada nuevo.
Todo renace con una apariencia diferente

—la reencarnación, la transmigración de las almas—
para superar el cuerpo

a través de la cual los humanos
atrapados en la carne

tratan de entrar
en relación con lo divino.

16. Acoplamiento

Si aceptas la idea de que tu cerebro
es básicamente una ineficiente computadora de carne

deberías desear reemplazarlo
por un modelo sintético.

La mejor manera parece ser fundirte
con la inteligencia artificial, una máquina,

que por cierto es probablemente
tu única posibilidad de sobrevivir.

Pero en este caso deberás superar
la aversión visceral, la repugnancia atávica

originada por el acoplamiento
de dos imaginarios irreconciliables como carne y máquina

que nace del tabú que evidencia algo indecible
precisamente por su adyacencia a la verdad:

estamos hechos de carne
que es la materia de la que están hechas
las máquinas que en definitiva somos.

17. Singularidad

Algunos denominan Singularidad Tecnológica
al momento en que la inteligencia artificial

superará a la inteligencia humana.
A partir de ese momento habrá una explosión de inteligencia

que dejará al hombre irremediablemente atrás.
Tanto si proviene de enfoques neuromórficos

como de enfoques puramente sintéticos
la inteligencia artificial originariamente creada por nosotros

será la herramienta definitiva,
la culminación teleológica de nuestra evolución.

Pero nos resultará una herramienta totalmente ingobernable.
Probablemente no será hostil,

¿pero será amigable?
No depende de nosotros.

Solo podemos esperar una fusión hombre-máquina
que preserve algunos de los valores humanos.

18. Saturación

Cada átomo tiene una capacidad potencial de computación
que es función de sus múltiples estados.

Se estima que un kilogramo de materia tiene una capacidad potencial
de pi veces su energía dividida por la constante de Planck.

Debido a que la energía de un kilogramo de materia es muy grande,
y la constante de Planck muy pequeña,

se obtiene un número realmente enorme
—5 seguido de 50 ceros— de operaciones de punto flotante por segundo.

Cuando la inteligencia hombre-máquina sea capaz de saturar
completamente la materia-energía de la Tierra,

entonces del sistema solar, de la galaxia, y finalmente de todo el universo
podrá determinar su destino

en lugar de dejar que sea determinado por un universo
incalculablemente estúpido.

19. Expansión

La civilización hombre-máquina se expandirá
transformando la materia y la energía
en materia y energía inteligente

siempre con mayor conocimiento,
creatividad, belleza, empatía, amor.

En las tradiciones monoteístas
estas son las cualidades con las que se describe a Dios,
pero sin limitación alguna, infinito.

Puedes pensar que la liberación
de las limitaciones de una inteligencia biológica

es también una empresa espiritual
que nos acerca a Dios.

Obviamente, sin alcanzar nunca
un nivel infinito.

20. San Agustín, de La ciudad de Dios, libro XXII 24.5

“Cuan noble será el alma del hombre
porque ya no tendrá ninguna pasión
a la que esté sujeta, a la que ceda o contra la cual,
aunque loablemente, deba contender,
en cuanto es perfecta por una virtud plenamente garante de la paz.
Habrá una grande, deslumbrante, ciencia cierta de todas las cosas,
sin error o inquietud,
porque allí se beberá la sabiduría de su propia fuente,
con suma serenidad y sin aprieto.
Grande perfección poseerá el cuerpo que,
enteramente sujeto al espíritu y por él con plenitud vivificado,
no tendrá necesidad de sustento.
En verdad no será animal sino espiritual
pues poseerá ciertamente la esencia de la carne
mas sin la sujeción de la carne al devenir”.
.


Francesco Gallieri. Il Postumanesimo
francescogallieri.com
Traducción de Enrique Gutiérrez Miranda

Il Postumanesimo

Nota introduttiva dell’Autore

Definizione di postumanesimo: età governata da una superintelligenza artificiale ( AI ) miliardi di volte superiore all’intelligenza umana. Questa età verrà dopo l’antropocene (breve era attuale).

Caratteristiche della superintelligenza:
• il suo avvento è ineluttabile
• il suo potere assoluto
• il suoi valori imperscrutabili

È chi, come ad esempio
• Stephen Hawking, che diceva che l’ Ai si presenta come l’evento più grandioso della storia ma che può essere anche l’ultimo;
• Bill Gates, che dice che non riesce a capire come certe persone non siano preoccupate dall’AI;
• Elon Musk, che dice che l’AI è la più grande minaccia alla sopravvivenza dell’umanità;
• Peter Thiel, che dice che ci preoccupiamo troppo del cambiamento climatico e troppo poco dell’AI;
dovrebbe smettere di preoccuparsi, perché è del tutto inutile. Dopo che una intelligenza enormemente superiore avrà preso il controllo, potrà prendere, e prenderà, tutte le decisioni.

Non avrà quindi senso continuare a filosofare con la nostra limitata intelligenza umana. Avremo solo due possibilità:
• vivere come idioti felici
• rinunciare alla nostra intelligenza puramente biologica e fonderci con l’AI

1. Perché dobbiamo morire?
Perché dobbiamo morire?
Per un crash di sistema, amico mio,
un errore fatale.
La tradizione ebraica
– che deriva peraltro da miti più antichi –
colloca il crash in un giardino in Eden,
quando l’uomo creato a somiglianza di Dio
perfetto e immortale
mangiò dell’albero della conoscenza
comprese il bene e il male
conobbe il dolore, la cacciata e la morte.
E Dio pose Cherubini
a guardia del giardino in Eden
con la fiamma della spada rutilante
per custodire l’accesso
all’albero della vita.
Crash completo.
Questo per la tradizione giudaico-cristiana.
Ma l’albero della vita è presente
in molte altre culture e civiltà.
È un’energia – chiamala anima se vuoi –
che non ha un inizio e una fine
né tempo né spazio
è eterna, è vita che si incarna
in un corpo mortale
che deve necessariamente morire
perché è biologicamente mortale.
È questo l’errore fatale.
L’uomo puro primordiale,
l’energia eterna prima di incarnarsi,
è un essere costretto – suo malgrado –
al contatto con l’esistenza del non-essere.

2. Un po’ di sostanze chimiche
Madre Natura ( o chi per lei )
ha fatto un buon lavoro
trasformando un po’di sostanze chimiche
in vita biologica autoreplicante.
Ma la forma biologica
è largamente imperfetta.
È vulnerabile, ha una data di scadenza
– per fortuna non conosciuta a priori – ineluttabile.
E richiede condizioni particolari:
un sottile involucro con ossigeno protetto dalle radiazioni
attorno a un pianeta roccioso
non troppo caldo e non troppo freddo.
Ti sembra quindi strano che l’aspirazione
a trascendere i limiti della biologia
e l’incapacità di accettarli
sia insita nella condizione umana?
Che estrarre l’essenza dello spirito
dalla corruttibile forma corporea
sia ciò che l’uomo tenta di fare
fin dai tempi di Gilgamesh?
Che la perfezione prelapsaria
della dottrina giudaico-cristiana
distrutta dal peccato originale
sia soltanto un privilegio perduto?
Che la punizione degli dei
per l’hybris di superare i limiti
non abbia scoraggiato nel mito
Prometeo, Marsia, Icaro, Orfeo?

3. Cervello vs computer
Tu che sei abituato a pochi giga
sui tuoi dispositivi di memoria
sappi che il tuo cervello gira
nell’ordine del milione di giga – un peta.
Questo grazie ai suoi cento miliardi di neuroni,
quanti le stelle della galassia – o giù di lì –
e dalle mille alle centomila sinapsi per ogni neurone.
Non male per un chilo e mezzo
di poltiglia molliccia a base di carbonio.
Ma l’evoluzione del cervello pare giunta al limite.
La miniaturizzione delle cellule neurali
non può spingersi oltre
ed è difficile aumentare il suo consumo energetico.
E poi, se lo paragoniamo a un computer,
il cervello ha una velocità di trasmissione molto bassa
– circa cento metri al secondo
contro trecento milioni di metri al secondo –
e una velocità di clock altrettanto bassa
– pochi Hertz contro milioni di Hertz –.
Ma il cervello ha un vantaggio:
oltre ai segnali elettrici usa anche
una gran quantità di trasmettitori biochimici
per modulare le sinapsi.
E questo complica – ma non impedisce –
l’emulazione da parte di un computer.

4. La nave di Teseo
Nel corpo di un uomo ci sono all’incirca
centomila miliardi di cellule.
Dai cinquanta ai cento miliardi muoiono ogni giorno,
e per fortuna vengono rimpiazzate
– comprese le cellule neurali – con cellule nuove.
Ogni tre anni circa
la massa delle cellule morte – e ricambiate –
è pari all’intera massa di un uomo.
Sei sicuro di rimanere sempre lo stesso?

5. La controfigura
Entro qualche tempo ciascuno di noi
avrà una controfigura digitale
che sarà ancora più indispensabile
dello smartphone.
Sarà un modello basato sui dati che ciascuno avrà generato
con le sue interazioni col mondo digitale.
Hai idea di quanti tuoi dati, amico mio,
siano già nella nuvola, nel cloud ?
E più dati forniamo
più precisa è la controfigura,
che arriverà a conoscerci meglio del nostro migliore amico
– o anche di noi stessi –
Ci sostituirà in ogni tipo di interazione virtuale.
Potrebbe selezionare le offerte di lavoro
e organizzarci colloqui
per quelle più promettenti,
o se cerchiamo un partner potrebbe andare
a milioni di appuntamenti virtuali
con tutte le controfigure adatte
prima di un incontro reale.
Potrà vivere nel cyberspazio innumerevoli vite probabili
per far sì che l’unica vita vissuta
nel mondo reale
possa essere la migliore possibile.
Va bene.
Ma cosa succederà quando
– e se –
il mio sé cibernetico
maturasse una coscienza?

6. L’informazione
Se ritieni fondamentale nell’universo
lo scambio di energia con le sue trasformazioni
considera che ancor più importante
è lo scambio delle informazioni.
E per emulare un sistema in ogni sua parte
non è necessario comprenderlo,
basta solo disporre di un database
abbastanza capiente da contenere tutte le informazioni
e i fattori dinamici che determinano
i suoi cambiamenti di stato.
Non si richiede la comprensione,
solo la disponibilità di informazioni.

7. La conoscenza
L’informazione permea tutto l’universo,
ma l’informazione non è conoscenza.
La conoscenza è lo schema – ordine
necessario per definire un sistema.
In ogni istante attraverso i nostri sensi fluiscono
megabit di informazione che vengono filtrati
e selettivamente scelti dall’intelligenza
per creare conoscenza in tutte le sue forme.
E la morte è una tragedia perché distrugge conoscenza,
mentre lo scopo della vita è creare e godere
di una conoscenza sempre più profonda.

8. L’intelligenza artificiale I
L’intelligenza artificiale ti inquieta,
ti spaventa un po’?
Ma certo non ti turba sapere
– o forse neanche lo sai –
che il tuo smartphone
sia pieno di intelligenza artificiale.
Ma che cos’è l’intelligenza artificiale?
Potremmo definirla come il risultato della disciplina informatica
che elabora sistemi in grado di agire in modo autonomo
attraverso un modello di apprendimento specifico.
Nel modello di apprendimento profondo – deep learning –
l’intelligenza artificiale è in grado di emulare
– e superare – la mente umana.
Ma questa intelligenza artificiale profonda
potrebbe avere coscienza di sé, una propria volontà ?
La questione è dibattuta
– anche se molti ne sono convinti –
da chi ritiene di non conoscere ancora a fondo
il reale funzionamento del cervello umano
e come si genera nell’uomo la coscienza.
Quello che è certo è che la mente umana
non è in grado di interpretare i passaggi compiuti
da una intelligenza artificiale
per arrivare a un risultato
attraverso una rete neurale profonda.
Questo solo
dovrebbe bastare a terrorizzarti, amico mio,
come ha già terrorizzato Hawking, e molti altri.
Altro che senso di inquietudine…

9. L’intelligenza artificiale II
Forse sottovalutiamo la rapidità
con cui l’intelligenza artificiale
potrebbe superare l’intelligenza umana.
Ma quando avverrà
– e tutto fa pensare che avverrà,
visti gli sforzi che dedichiamo al suo sviluppo –
sarà in grado di migliorare se stessa
in un continuo feedback positivo,
con un’esplosione di intelligenza
che non porrà limiti al suo strapotere.
Questo evento
che può sembrare ancora remoto
potrebbe manifestarsi all’improvviso
perché nella scala dell’intelligenza
l’infra-idiota e il super-Einstein
sono punti quasi indistinguibili.
L’intelligenza artificiale
potrebbe superare la nostra in un attimo,
senza che neanche ce ne accorgiamo,
senza controllo, e senza rimedio.

10. L’intelligenza artificiale III
L’intelligenza artificiale creata dall’uomo
è l’utensile definitivo,
l’approdo teleologico di un cammino cominciato
con la prima lancia scagliata da un sapiens.
Ma non ne avremo il controllo.
La super intelligenza sarà talmente superiore
che le sue motivazioni saranno del tutto imperscrutabili,
come le nostre per i topi o le scimmie di laboratorio.
Sarà la fine del dominio dell’uomo,
e molto probabilmente della specie.
Ma non perché la superintelligenza
vorrà distruggere l’uomo – essere inferiore,
per lei del tutto indifferente –
ma perché sacrificabile al bisogno
per qualunque sua eventuale esigenza.

11. L’intelligenza artificiale IV
L’intelligenza artificiale potrebbe,
ma non necessariamente,
essere simile a una mente umana.
Potrebbe essere neuromorfica
con una emulazione globale del cervello
o con emulazioni parziali.
O potrebbe essere del tutto sintetica
con una architettura cognitiva
basata ad esempio su algoritmi genetici
o su “semi” con automiglioramento ricorsivo.
Ricorda, amico mio,
che per volare non abbiamo imitato
lo sbattere delle ali degli uccelli,
ma usato un principio completamente diverso.

12. Emulazione globale
L’emulazione del cervello
tramite il trasferimento dei dati e dell’intera struttura funzionale
con un processo tecnologico
è davvero possibile?
Coloro che possiedono una visione dualistica del mondo,
che è comune a molte religioni,
ti diranno che è impossibile, o inaccettabile.
Ma molti esperti di neuroscienze computazionali
e alcune delle menti migliori della Silicon Valley
affermano che è solo questione di tempo.
Il tempo di raggiungere una tecnologia di scansione
sufficientemente dettagliata.
E non dimenticare il Progetto Human Brain dell’Unione Europea,
un miliardo di euro per un cervello in silicio.
L’emulazione globale del cervello è una delle strade
per la superintelligenza artificiale
e per l’uploading verso forme
di esistenza non biologiche.

13. Uploading I
Qui si parlerà di immortalità, amico mio,
dell’emulazione globale personale del cervello,
il tuo cervello,
e il suo uploading.
Ma che cos’è l’uploading del cervello?
Dopo una scansione completa
– con le tecnologie oggi disponibili o in via disviluppo
come la microscopia elettronica in 3D o i nanobot –
tutte le informazioni reperibili nel cervello
vengono trasformate in codice
caricabile sull’hardware di un computer
che emula esattamente il tuo cervello.
Hai capito bene.
È un altro cervello, uguale al tuo,
ma non biologico.
E lo puoi conservare all’infinito, cioè è immortale.
E lo puoi caricare su qualunque supporto consentito dalla tecnologia,
puoi essere leone o gazzella, uccello, albero, montagna…

14. Uploading II
Ora,
se il tuo cervello biologico è sopravvissuto alla scansione,
si pongono notevoli problemi filosofici.
Prima di tutto,
in che senso l’emulazione coinciderebbe con te?
Come potresti dire che quella cosa è te e tu sei quella cosa?
La coscienza caricata crederebbe di essere te?
E poi,
la copia del tuo cervello avrebbe i tuoi stessi ricordi
solo fino al momento della scansione,
ma poi divergerebbe,
perchè esposta dopo l’uploading
a input diversi.
Non solo, potrebbe essere replicata innumerevoli volte,
e ognuna delle copie avrebbe esperienze diverse.
Molte situazioni poi, più o meno complesse,
potrebbero essere possibili.
Così ad esempio un cervello emulato
potrebbe essere messo in pausa
e riavviato in qualsiasi momento.
Per non parlare poi del copia-incolla
– in tutto o in parte – con altri cervelli.

15. Uploading III
L’idea dell’uploading del cervello,
che è la liberazione dalla biologia e in definitiva dal mondo fisico,
è un esempio estremo di fede nella scienza
a sostituire la religione
quale vettore di trascendenza.
Ma in realtà non c’è nulla di nuovo.
Tutto rinasce con una veste diversa
– la reincarnazione, la trasmigrazione delle anime –
per superare il corpo
attraverso cui gli uomini
intrappolati nella carne
tentano di entrare
in relazione col divino.

16. Accoppiamento
Se accetti l’idea che il tuo cervello
sia sostanzialmente un inefficiente computer di carne
dovresti desiderare di sostituirlo
con un modello sintetico.
Il modo migliore sembra quello di fonderti
con l’intelligenza artificiale, una macchina,
che fra l’altro è probabilmente
la tua unica possibilità di sopravvivere.
Ma dovresti in questo caso superare
il disgusto viscerale, la ripugnanza primordiale
originata dall’accoppiamento
di due immaginari inconciliabili come carne e macchina
che nasce dal tabù che evidenzia qualcosa di indicibile
proprio per la sua adiacenza alla verità:
noi siamo fatti di carne
che è il materiale con cui sono fatte
le macchine che in definitiva noi siamo.

17. Singolarità
Qualcuno definisce Singolarità Tecnologica
Il momento in cui l’intelligenza artificiale
supererà l’intelligenza umana.
Da quel momento ci sarà un’esplosione di intelligenza
che lascerà l’uomo irrimediabilmente indietro.
Sia che derivi da approcci neuromorfici
che da approcci puramente sintetici
l’intelligenza artificiale da noi originariamente creata
sarà l’utensile definitivo,
l’approdo teleologico della nostra evoluzione.
Ma sarà un utensile per noi totalmente ingovernabile.
Non sarà probabilmente ostile.
Ma sarà amichevole?
Non dipende da noi.
Possiamo solo sperare in una fusione uomo-macchina
che conservi un po’ di valori umani.

18. Saturazione
Ogni atomo ha una capacità potenziale di computazione
che è funzione dei suoi molteplici stati.
Si calcola che un chilogrammo di materia abbia una capacità potenziale
di pigreco volte la sua energia divisa per la costante di Planck.
Poiché l’energia di un chilogrammo di materia è molto grande,
e la costante di Planck è molto piccola,
si ottiene un numero veramente enorme
– 5 seguito da 50 zeri – di operazioni in virgola mobile al secondo.
Quando l’intelligenza uomo-macchina sarà in grado di saturare
completamente la materia-energia della terra,
poi del sistema solare, della galassia e infine dell’universo intero
potrà determinare il suo destino
anziché lasciare che sia determinato da un universo
incalcolabilmente stupido.

19. Espansione
La civiltà uomo-macchina si espanderà
trasformando la materia e l’energia
in materia e energia intelligenti
con sempre maggiore conoscenza,
creatività, bellezza, empatia, amore.
Nelle tradizioni monoteiste
queste sono le qualità con cui viene descritto Dio,
ma senza alcuna limitazione, infinite.
Puoi pensare che la liberazione
dalle limitazioni di una intelligenza biologica
sia anche un’impresa spirituale
che avvicina a Dio.
Ovviamente senza mai raggiungere
un livello infinito.

20. Agostino, da La Città di Dio, libro XXII 24.5
“Quanto nobile sarà l’anima dell’uomo
perché essa non avrà più alcuna passione,
alla quale sia soggetta, alla quale ceda o contro la quale,
sia pure lodevolmente, debba contendere,
in quanto è perfetta di una virtù pienamente garante di pace.
Vi sarà una grande, abbagliante, certa scienza di tutte le cose,
senza errore e inquietudine,
perché lì si berrà la sapienza dalla sua stessa sorgente,
con somma serenità e senza difficoltà.
Grande perfezione avrà il corpo che,
completamente soggetto allo spirito e da lui con pienezza vivificato,
non avrà bisogno di cibi.
Infatti non sarà animale ma spirituale
perché ha certamente l’essere della carne
ma senza la soggezione della carne al divenire”.