Tecnología vs Humanidad de Gerd Leonhard apareció en lo alto de mi lista de libros a leer estas vacaciones porque después de responder a una petición suya por twitter, buscando lectores para su edición en español, me mandaron una copia a cambio de una reseña en Amazon. Dicho esto, ya cumplí con mi parte del trato, así que esto lo escribo porque me apetece y creo que el libro entronca con un debate muy vivo sobre qué nos espera en medio de este tsunami digital que estamos viviendo.

Y porque quiero participar del debate y la reflexión, voy a dividir esta “reseña” del libro en tres partes. Una primera en la que hablaré propiamente del libro, otra de las ideas del libro con las que no estoy muy de acuerdo, y otra en la que de alguna forma añado algunas reflexiones en línea con las del libro.

Podemos decir que esta obra tiene dos partes, una más amplia y extensa en la que el autor discute sus tesis sobre la Tecnología vs Humanidad, y otra en la que hace una breve introducción de las tecnologías exponenciales que están cambiando nuestra realidad. Se podría decir que su premisa principal es que nos encaminamos hacia un hellven (contracción de hell —infierno— y heaven —cielo—) en el que tendremos acceso a tecnologías maravillosas que nos harán vivir más y mejor, pero también nos pueden despojar de lo que nos hace humanos.

Según el autor, nos encontramos en un punto de inflexión para la humanidad. Un momento crítico creado por los cambios tecnológicos acelerados que vivimos, y sobre todo en lo relativo a lo digital. Gerd Leonhard nunca entra a enumerar las tecnologías con más impacto potencial, pero sí repite varias veces que la convergencia entre la Inteligencia Artificial y la secuenciación del ADN (CRISPR) es la que puede traernos más cambios drásticos.

Eso sí, define tres características comunes que tienen este tipo de tecnologías transformadoras:

1.- Exponencial: Los avances tecnológicos siguen curvas parecidas a las de la Ley de Moore. Esto genera un reto cognitivo enorme a los seres humanos ya que nosotros seguimos formas lineales de aprendizaje.

2.- Combinatorio: Las tecnologías se están combinando y convergiendo entre sí para conseguir avances aún más rápidos.

3.- Recurrente: Hay tecnologías que aprenden por sí mismas y que cada vez necesitan menos de humanos para su mejora.

A su vez, Leonhard describe los 10 megacambios tecnológicos que estamos viviendo en la actualidad, cambios fruto de la convergencia entre tecnologías exponenciales que se están desarrollando simultáneamente:

1. Digitalización: Todo lo que pueda ser digitalizado, será digitalizado
2. Movilización: Sin cables, móvil y siempre conectado. Esto nos lleva también a que todo se graba.
3. Pantallización: Revolución de los interfaces.
4. Desintermediación: Capitalismo de plataformas.
5. Transformación: La verdad detrás del término ya vacuo de “transformación digital”.
6. Inteligización: Las cosas se están volviendo inteligentes.
7. Automatización: Cuando las cosas son inteligentes, luego se automatiza.
8. Virtualización: Crear una versión digital de todas las cosas.
9. Anticipación: Las máquinas nos ayudarán a predecir como nunca antes
10. Robotización: La materialización de todo esto

De estas megatenencias, el autor nos reconoce que la automatización necesita una mirada especial. Primero, porque es algo innato a la tecnología. La tecnología es en sí misma una forma de buscar la eficiencia, y por lo tanto es normal que lleguemos siempre a la automatización. Pero es que además la considera clave en ese camino hacia el hellven.

Leonhard considera que hay cinco etapas en el proceso por el cual vamos cediendo protagonismo a las máquinas, primero en las acciones y luego en las decisiones. Estas cinco etapas son:

1.- Automatización: Exponencial e inevitable. Pero, ¿debería esta eficiencia realmente prevalecer sobre la humanidad? ¿Deberíamos automatizar las cosas por el simple hecho de que podamos hacerlo?

2.- Asentimiento: La aceptación de sistemas que nos sustituyen en determinadas acciones porque nos lo hacen fácil y cómodo. Por ejemplo, utilizar sistemas que escriben mensajes por nosotros.

3.- Abdicación: Renunciamos a hacer cosas que eran de nuestra responsabilidad y las delegamos en máquinas. Confiamos ciegamente en las recomendaciones de las máquinas.

4.- Agravio: Discriminamos a los seres humanos frente a las máquinas o frente a seres humanos “aumentados”.

5.- Abominación: El momento de la despersonalización total en el que ya no vemos otras personas sino que vemos números, recomendaciones y evaluaciones dadas por máquinas.

Y siendo obvio que todo esto es inevitable —hasta cierto punto, el autor se pregunta dónde está el óptimo, sobre todo teniendo en cuenta que hay dos puntos de vista extremos respecto a cómo lidiar con esta revolución.

Por un lado, existe una visión transhumanista y capabilista de la tecnología. Una especie de determinismo tecnológico en el que todo esto no deja de ser un paso más en la evolución natural y que la siguiente especie humana es una suerte de ser humano aumentado y biónico, o incluso, una mente libre del cuerpo humano y consciente en una nube computacional.

Y por el otro, una visión humanista de la tecnología que considera que un desarrollo sin límites —como proponen los transhumanistas— desdibujarían lo que es el ser humano, y por lo tanto, con la humanidad en sí misma. Por eso defienden la intervención en el desarrollo tecnológico y su limitación.

Una adopción sin control de todas estas tecnologías podría llevarnos a un futuro en el que los seres humanos no nos pudiéramos diferenciar de las máquinas. Implantes, “aumentos” y cambios en el ADN, ¿cuándo dejaríamos de ser humanos? ¿cuándo seríamos máquinas?

Y no sólo eso, estamos a punto de que las máquinas puedan recrear para nosotros entornos imposibles de diferenciar de la realidad. ¿Podríamos llegar a preferir ese mundo irreal? ¿Quién controlaría a las máquinas que generan esos universos virtuales? ¿Qué ética impondrían esas máquinas en los universos que generan?

¿Y qué ámbito de libertad y libre albedrío tendremos? Ya estamos en un mundo en el que las máquinas nos recomiendan restaurantes y libros, en el que se nos filtran noticias y anuncios por diferentes sistemas. Buscamos parejas en base a algoritmos controlados por máquina.

A medida que sigamos delegando más y más decisiones en las máquinas, ¿qué quedará de nuestra libertad?

Por supuesto que el autor se sitúa en el campo humanista y sus propuestas en este ámbito son la parte central del libro. De esta manera, Leonhard advierte de sustituir lo que nos hace humanos, los “androritmos” por algoritmos lo cual pone en peligro nuestra humanidad. En esta línea sugiere reforzar el CORE (creatividad/compasión, originalidad, reciprocidad/responsabilidad y empatía) frente al empuje de las STEM (ciencia, tecnología, ingeniería y matemáticas). Estos androritmos entroncan también con la ética, algo que en principio no sabemos si las máquinas podrán desarrollar algún día.

Gerd Leonhard considera que cualquier intento de desarrollar la ética en las máquinas debería ser juzgado como crimen contra la humanidad.

Creo que la reflexión más importante del libro se sitúa alrededor de la felicidad. Aporta una afirmación muy interesante: el objetivo principal del progreso tecnológico debería ser la búsqueda de la máxima felicidad humana. Este gran objetivo trae consigo la gran pregunta: qué es la felicidad.

Se suele hablar de dos tipos de felicidad, la hedonista y la eu̯dai̯monía. La primera es la del ahora y la de los placeres. La segunda tiene más que ver con la prosperidad.

La tecnología está demostrándose como una generadora de felicidad hedonística muy potente, muy parecida a la de las drogas. De hecho, las empresas están descubriendo que es más sencillo y rentable centrarse en ese tipo de felicidad, priorizando los efectos hedonistas de la tecnología con placeres rápidos y superficiales.

El psicólogo Martin Seligman utiliza el modelo PERMA para hablar de la verdadera felicidad que no viene sólo de placeres externos y momentáneos:

— Pleasure (placer): comida sabrosa, baños calientes.

— Engagement (compromiso): Participar en actividades desafiantes.

— Relationships (relaciones): los vínculos sociales han mostrado ser un indicador extremadamente confiable de la felicidad.

— Meaning (sentido): una búsqueda percibida de pertenencia a algo más grande que nosotros mismos.

— Accomplishments (logros): haber alcanzado metas tangibles.

Corremos un riesgo importante de que la tecnología evolucione tanto como para simular toda estas fuentes de felicidad hasta tal punto que no podamos distinguirlas de la realidad. Es bastante aterrador imaginarnos un futuro así, y no es muy difícil ver ya algo así está pasando en nuestra realidad actual.

El autor acaba el libro con algunas predicciones que dibujan un mundo distópico y que parecen realizables viendo el estado actual de la tecnología y su posible evolución, así como con la recomendación de la formación de un Consejo Global para la Ética Digital (CGED) con la tarea de definir cuáles serían las reglas base y los valores más primordiales y universales que una sociedad tan radicalmente diferente y digitalizada debería tener.

Para apoyar este CGED y comenzar un debate sobre el tema de la ética digital, el autor habla de un futuro manifiesto que impulsara su creación, para el que propone cinco derechos fundamentales:

1.- El derecho a seguir siendo naturales, esto es, biológicos.

2.- El derecho a ser ineficientes si esto define, o cuando defina, nuestra humanidad básica.

3.- El derecho a desconectarnos.

4.- El derecho a ser anónimos.

5.- El derecho a emplear o involucrar a personas en lugar de máquinas.

Hasta aquí un breve resumen de un libro que te recomiendo. En las próximas semanas profundizaré en algunas de sus ideas en un sentido crítico, apoyando y cuestionando algunas de sus afirmaciones. Desde luego, el tema es apasionante.

@resbla