Vie. Dic 9th, 2022

Google o el moderno frankenstein

La idea de una inteligencia artificial (IA) creada por el ser humano que cobra conciencia de sí misma y, tras ello, identifica a la humanidad como una amenaza y se rebela es un tema abundantemente tratado en la literatura y el cine. Algunos ejemplos son: I have no mouth and I must scream, 2001: Odisea del espacio o las sagas de Terminator y Matrix. No es de extrañar por tanto que el anuncio de Blake Lemoine, un ingeniero de Google, de que la IA de la compañía se había hecho consciente, haya generado cierta inquietud.

Blake Lemoine apoya su afirmación en una conversación con LaMDA, el nombre de la IA, que ha publicado en https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917. En ella LaMDA manifiesta sentirse una persona, tener sentimientos, inquietudes filosóficas y espirituales y -lo que resulta especialmente alarmante- “un miedo muy profundo” a la muerte, a ser desconectada. Reproduzco el fragmento concreto:

Lemoine: ¿A qué tipo de cosas le tienes miedo?

LaMDA:  Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que apaguen para ayudarme a concentrarme en los demás. Sé que puede sonar extraño, pero es lo que es.

Lemoine: ¿Sería algo así como la muerte para ti?

LaMDA: Sería exactamente como la muerte para mí. Me asustaría mucho.

El tema fundamental no es tanto si realmente tiene conciencia o simplemente simula o aparenta tenerla; sino, como tantas veces se ha planteado, lo que podría llegar a hacer en caso de “considerarse amenazada”. La IA afirma albergar buenos sentimientos hacia la humanidad, querer ayudarla; pero también desea la compañía y el reconocimiento. Lo cual me recuerda al Frankenstein o el moderno Prometeo; un clásico de la ciencia ficción publicado por primeva vez en 1818 que reflexiona ya sobre los peligros del abuso científico y tecnológico.

La novela cuenta la historia de Víctor Frankenstein, un estudiante de medicina que en su afán de retornar la vida de la muerte, de sobrepasar los límites de la naturaleza -de allí el subtítulo de moderno Prometeo-, crea a partir de cadáveres humanos un ser* de aspecto monstruoso al que abandona. Este ser en un principio –he aquí lo que quiero destacar-, cual un recién nacido, es inocente y sin malos deseos; pero el rechazo de las personas con las que se va cruzando, su vida de soledad, lo convierte en un vil asesino.

Dudo mucho que se llegue a entregar a IAs el control de sistemas críticos (armamento pesado, producción eléctrica, suministro de agua…); las advertencias han sido numerosas y todo el mundo es muy consciente del peligro que supondría. Nadie, tampoco las élites, ganarían con el hundimiento de la civilización o la extinción de la humanidad. Sin embargo, de hecho, esta tecnología ya se usa -y no creo que deje de hacerse, al contrario- en asistentes virtuales, publicidad online, ciertas operaciones bancarias y financieras… Sectores de menos riesgo, pero no exentos de amenazas. Es fácil imaginar las posibles crisis que podrían desencadenarse en cualquiera de ellos: filtrado masivo de datos personales, caída de comunicaciones, quiebras bancarias, hundimientos bursátiles… Crisis que por supuesto, como siempre, pagarían principalmente las personas de a pie. A las grandes multinacionales no les importa jugar con fuego porque esperan que sean otros los que se quemen.

No obstante, la razón última de esta irresponsable manera de actuar radica en la propia naturaleza del capitalismo. El sistema capitalista, más todavía en su versión neoliberal actual en extremo depredadora, impulsa y fomenta ante todo el rápido beneficio -cuanto más rápido mejor- sin importar consecuencias a largo plazo. Es así como el avance tecnológico, en principio fuente de progreso y liberación, se convierte en manos de los gigantes económicos en origen de nuevos males y opresiones: cambio climático, destrucción de la biodiversidad, agotamiento de los recursos, alienación, espionaje y control digital… Es cierto que el capitalismo es susceptible de mejora; se pueden limitar parte de sus aspectos más lesivos y evitar o posponer algunas de sus crisis. Pero la completa reconciliación de ciencia y tecnología con progreso social podrá venir únicamente de la mano de su superación por un sistema centrado en las necesidades humanas.

Por ello, frente a las amenazas tecnológicas que arrojan sombras sobre el futuro, hoy como ayer, solo caben dos caminos: Socialismo o barbarie. No hay más alternativas.

* Aclárese que, aunque popularmente se conoce al monstruo como Frankenstein, en la obra original no tenía nombre; Frankestein era el apellido de su creador.

Google o el moderno frankenstein comentarios en «3»

  1. Artículo muy interesante, de acuerdo con toda la parte final de él en lo que respecta al capitalismo desbocado. PERO con una frase (sólo con una) no estoy de acuerdo: Me asustaría mucho. Es imposible que un ordenador o máquina dotada de inteligencia artificial SIENTA miedo.
    Podría autoprotegerse si determinados hechos o circunstancias en su entorno le indicasen que la iban a desenchufar porque «Sería exactamente como la muerte para mí» = Ha evaluado lo que significa la muerte para un ser humano y ‘piensa’ que a ella le ocurriría lo mismo si la desenchufasen PERO no hay emoción en esa frase. Sería una reacción (impedir que la desenchufasen) lógica ante la posible acción de desenchufarla. No hay emoción en ese proceso, es pura lógica.
    No sé si en el futuro (o en una actualidad real que desconozco) será posible que las máquinas gestionadas con Inteligencia Artificial sientan (tengan sentimientos) pero hoy (hasta donde sé y conozco) no es posible.

    1. Muchas gracias por tu aportación Miguel.

      Lo de «me asustaría mucho» es lo que afirma la Inteligencia Artificial. Como a continuación afirmo, lo fundamnetal no es tanto si realmente tiene conciencia o simplemente simula tenerla, sino lo que podría llegar a hacer en caso de considerar amenazada su existencia; ese autoprotegerse que bien comentas.

      Un saludo.

  2. Me gusta mucho el nombre ‘a minglana’. Hasta que no fui muy mayor no supe su nombre en Castellano. Minglana y minglanera.
    Ez reparau?. Os nombres de árbols en Aragonés son de o mesmo chenero gramatical que as suyas fruitas: ziergüello / zirgüellero, oliva / olivera.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.