Whispers of a machine. Personalidad e IAs

Hoy quiero hablar de una aventura gráfica bastante reciente: Whispers of a machine, de 2019. Temática de ciencia ficción y policíaca, pixelada y point and click, con una historia muy interesante. En este caso, a diferencia de otras aventuras gráficas modernas, si disponemos de traducción al castellano, y además con una traducción muy lograda y divertida.

Por desgracia, en otros casos los que no tenemos suficiente dominio del inglés hemos dependido de las impresiones iniciativas del fandom. Quiero comentarlo porque me parece loable: Fans de videojuegos, traductores, que al margen de las compañías, emprenden por mero altruismo la tarea de traducir las aventuras gráficas que les gustan para compartirlas. Un proyecto, en esta línea que sigo muy de cerca es la traducción de Disco Elysium, otra aventura gráfica muy laureada. Ánimo a todos los que puedan colaborar con iniciativas similares.

Volviendo a Whispers of a machine, Aquellos que seguís Thalassa sabéis que en el terreno de los videojuegos, mi debilidad son las aventuras gráficas. Y ademas si son de ciencia ficción, ¡pues mucho más! En este mismo blog tengo entradas dedicadas a Technobabylon y a Gemini Rue. Para los antes del ciberpunk, los misterios y la intriga, ¡Por favor! Probad estos videojuegos. Su narrativa no os defraudará.

Desgraciadamente las jornadas laborales y las responsabilidades domésticas limitan mi tiempo libre. Por suerte, poco a poco he podido «pasarme» Whispers of the machine.

El azul

Antes de nada explicar un poco su argumento. Manejamos a Vera, una detective de la policía enviada a una pequeña ciudad nórdica, Nordsund, a investigar un asesinato.

El universo de Whispers of the machine transcurre en un mundo que ha sufrido una terrible crisis, La Caída, tras la cual la humanidad ha prohibido las Inteligencias Artificiales. Sin embargo, esa prohibición no impide que el Estado esté investigando con una sustancia llamada azul con la que los humanos pueden tener mejoras cibernéticas. Vera, para mejorar su trabajo policial, tiene tres mejoras:

Un escáner forense para procesar escenarios del crimen, tomar huellas, muestras de ADN…
Un analizador biométrico que le permitirá, por ejemplo en un interrogatorio controlar el ritmo cardíaco de su interlocutor.
Un incremento temporal de su fuerza, para en pequeños instantes poseer una fuerza sobrehumana.

Estas habilidades son un punto de partida. A medida que manejemos a Vera podremos definir su personalidad y, dependiendo del camino que desarrollemos, tendremos nuevas habilidades. Vera deberá decantarse por desarrollar una personalidad empática, una asertiva o una analítica.

Un mundo postIA

El mundo de Vera es postapocalíptico y ciberpunk a la par. Nordsund se nos presenta como un pequeño pueblo orgulloso de su pasado vikingo, rodeado e inundado de ruinas tecnológicas, restos del mundo anterior a La Caída. La presencia constante de restos robóticos enfatiza la importancia que tenía la tecnología antes del desastre.

El pueblo también ha apostado por la agricultura urbana, con pequeños huertos dentro del pueblo. Puede ser la necesidad de alimentarse tras una gran catástrofe económica motivada por La Caída. Cuando hace muchos años trabajé un mes en Caracas, recuerdo que se potenciaban estos huertos urbanos, no solo para aprovechar espacios vacíos, sino también para ocupar a desempleados y alimentar a una población empobrecida.

Desconocemos que pasó en La Caída, pero sabemos que las IA están prohibidas. Hay museos que muestran retazos de cómo era la vida antes de La Caída. Era nuestra actual civilización, un poco más desarrollada. Es como si La Caída fuera a producirse dentro de pocos años.

Misticismo en Whispers of a machine

En torno a esa prohibición se han formado dos tendencias políticas enfrentadas.

Por un lado El Conducto. Es una organización terrorista partidaria radical de volver a desarrollar las IA hasta el punto de que defienden desarrollar la mayor y más inteligente IA y entregarle todo el poder y dominio del mundo: convertirla en Dios de la humanidad. La culpa de la Caída la tiene la humanidad y sus egoístas limitaciones.

En el extremo opuesto esta la Iglesia EPOS. Ultrarreligiosos contrarios a cualquier desarrollo tecnológico. Para ellos la IA es el pecado y la Caída fue un castigo divino a nuestra soberbia.

Como vemos, ambas posiciones antagónicas caen en el misticismo. Unos, creyendo en el Dios supremo tradicional. Los otros, queriendo construir una deidad artificial. Tras un apocalipsis es comprensible que mucha gente regrese (si alguna vez se fueron) a las ideas religiosas y espirituales.

Ya hoy en día muchos estudiosos creen que bajo esta época de gran desarrollo tecnológico, capitalismo voraz, perdida de valores tradicionales, aislamiento y globalización, se está larvando una nueva revolución ideológica que rompa con la situación actual. Y ésta podría adoptar una forma religiosa en contraste a la situación actual.

El futuro de las IA

Desde luego las IA son uno de los temas cruciales que determinarán nuestro futuro.

La ciencia ficción ha tratado la relación de la humanidad con las máquinas inteligentes desde muchos puntos de vista. Ellison nos muestra, por ejemplo, un mundo dominado por una IA en No tengo boca y debo gritar, AM, el padre de Skynet. Leckie en Justicia auxiliar nos presenta otra realidad en la que hay una relación más simbiotica entre las IA y los humanos.

En Dune, el enfoque es distinto e interesante: Herbert desarrolló un universo en el que precisamente se ha dado una gran confrontación entre la humanidad y las máquinas. Nuestros descendientes ganaron la guerra y prohibieron cualquier forma de Inteligencia Artificial. Para contrarrestar su ausencia, se han buscado formas de potenciar la inteligencia humana: mediante drogas, mediante cruces genéticos…

En Whispers of a machine hay un enfoque que recuerda este trasfondo de Dune. El Azul es el equivalente a esos intentos herbertianos de potenciar al ser humano, de convertirlo en un ser superior. En la película de 2001 también se deja caer que el desarrollo de las IA, en este caso ejemplarizado en HAL 9000, es un callejón sin salida en el desarrollo de la humanidad hacia el superhombre planteado por Nietzsche.

Nuestra personalidad

La personalidad es un aspecto central en este videojuego. Algunos personajes, recuerdo por ejemplo el escabroso y divertido médico forense, tienen personalidades muy marcadas.

En nuestra propia toma de decisiones, como ya comentamos, la personalidad que estemos desarrollando en Vera será fundamental. Marcará tanto la evolución de nuestras habilidades, cómo la manera de resolver los puzzles.

Lo curioso es el triángulo de rasgos que nos presenta el juego, sobre todo en una persona con las mejoras cibernéticas y el azul. El rasgo analítico es el más, por decirlo de alguna manera, apropiado para una detective «mejorada». De una IA se puede esperar una gran capacidad analítica. ¿Pero la empatía y la asertividad?

Para empezar empatía, asertividad y capacidad analítica no son rasgos excluyentes. Una persona empática puede ser muy analítica. Es verdad que la capacidad analítica no requiere, en principio, ni de empatía ni de asertividad. Pero estos otros dos rasgos si suelen estar vinculados. Una persona asertiva, que defiende sus convicciones sin caer en la agresividad, necesita algo de empatía.

Humanidad e IA

El juego busca demostrar que en cualquiera de los tres caminos hay razones para elegir uno u otro final, que no voy a desvelar. Y eso es verdad sobre todo porque pese al azul, Vera sigue siendo humana. La gran pregunta que me ronda es: ¿Podrán las IA desarrollar empatía (hacia los humanos y/o hacia otras IA) o desarrollar asertividad?

Para el mundo de los negocios, el marketing, la venta, es esencial que las IA aprendan a imitar la empatía humana para tratar con humanos. Es lo que llaman empatía artificial. Están invirtiendo mucho dinero en ese camino porque les resultará muy rentable para cualquier negocio online.

¿Será mejor vendedor un humano muy empático, audaz y comunicador, o una IA con acceso a toda la información online sobre hábitos y gustos del cliente, programada para ser audaz e imitar la empatía? Hasta qué punto imitar la empatía se pueda convertir en sentir empatía, nos lo dirá la evolución de las IA.

La asertividad es también compleja. Para defender tu punto de vista, tienes que tener —o creer que tienes— un punto de vista. ¿Las IA desarrollarán puntos de vista distintos a los de sus programadores? Si aprenden se supone que sí lo harán. ¿Sus «puntos de vista» serán datos y argumentos objetivos, basados en sus análisis analíticos, o, como los humanos, desarrollarán valores, conclusiones morales, extrapolaciones, abstracciones… Y llegado ese punto, ¿trataran de defender esos puntos de vista? Aunque siempre es mejor que sean asertivas en esa defensa, que agresivas ¿No?

Temores y esperanzas

Las Inteligencias artificiales son casi una realidad. En los próximos años puede que veamos un gran salto en esta materia. Entonces comenzaremos a desvelar su verdadero potencial. Sobre todo si realmente se convierten en verdaderas Inteligencias artificiales, un nuevo tipo de vida inteligente, o no dejan de ser asesores ultracomplejos muy sofisticados. Antes tenía bastante claro que la lógica informática de unos y ceros no sería capaz de emular al cerebro humano, por mucho que sea capaz de procesar más información y a más velocidad. Y no me refiero a un alma mística. El pensamiento humano no sólo emplea procedimientos cuantitativos, sino también cualitativos, dialécticos. Pero quizás la clave sea la capacidad de la máquina de aprender, y de aprender de nosotros y de ellas mismas. Ya lo veremos.

En ese caso, descarto que tengamos una AM o una Skynet dispuesta a dominar a la humanidad. Aunque por el camino puede que nos encontremos con algún HAL 9000, siempre por culpa de los programadores, y tras ellos, de los intereses políticos y económicos. En cualquier caso, sería una situación que despertaría verdaderas polémicas. Sobre todo si su desarrollo está monopolizado por los intereses empresariales y no para mejorar la vida de la humanidad. Habrá mucha polémica y polarización. Tendremos equivalentes a El Conducto, así como a la Iglesia EPOS. Tendremos ludistas enfrentados a entusiastas de las IA, convencidos de que ellas guiarán mejor a la humanidad que nosotros mismos. Habrá transhumanistas que quieran «evolucionar» y convertirse en software. Y habrá naturalistas, que defiendan romper con la tecnología y volver a la naturaleza.

Será un futuro muy interesante.

¿Y tú qué opinas de todo esto? ¿Has jugado a Whispers of a machine? ¿Qué te pareció?