La IA y el riesgo de un tirano en cada búnker, por Miquel Molina

Equipo
By Equipo
6 Min Read

Se atribuye al filósofo Marshall McLuhan (con la ayuda inestimable de su amigo el profesor John Culkin) una cita que no solo no está obsoleta, sino que tiene cada día más vigencia: “Nosotros modelamos nuestras herramientas y, después, nuestras herramientas nos modelan a nosotros”. 

Es como si aquellos dos visionarios reunidos en los 60 en la Fordham University del Bronx hubieran anticipado la revolución digital que acabaría desembocando en la Inteligencia Artificial (IA), acaso el avance tecnológico con más capacidad de modificar la conducta de nuestra especie.

Esta semana se ha vivido un nuevo hito de esta precipitada escalada evolutiva: la irrupción de un chat de IA, por ahora gratuito, que brinda la ilusión de estar manteniendo conversaciones de viva voz con un ser inteligente. 

Es fácil de imaginar que miles de personas en todo el mundo han testado estos días las prestaciones de su nuevo amigo/amiga.

Algunos, muy probablemente, con el anhelo de iniciar una relación sentimental que los resarza de las desventuras de la vida real, al estilo del personaje que interpretaba Joaquin Phoenix en la película de 2013 Her, de Spike Jonze.

Hay el peligro de que los chats de IA con voz creen bunkers de indiduos sectarios

No es mala noticia que en un mundo asolado por la epidemia de la soledad no deseada surjan soluciones tecnológicas para hacer la vida más fácil. En este sentido, asistentes virtuales como el de Chat GPT-4o, de la compañía OpenAI, pueden hacer compañía a personas que no tienen con quien conversar, convirtiéndose en un complemento eficaz de otro avance en plena expansión: la robótica asistencial.

El problema –la cara oculta– se intuye cuando se amplía el foco y se aplica al nuevo avance nuestro conocimiento previo sobre el potencial disruptivo de estas herramientas. Es decir, cuando nos preguntamos, abiertamente, en qué puede desembocar el uso masivo de un asistente diseñado más para satisfacer los deseos del usuario que para facilitarle información veraz y contrastada.

FILE- The OpenAI logo is displayed on a cell phone with an image on a computer monitor generated by ChatGPT's Dall-E text-to-image model, Dec. 8, 2023, in Boston. One of the original creators of the artificial intelligence technology behind ChatGPT says he is leaving the company after a nearly decade. OpenAI cofounder Ilya Sutskever announced his decision on the social media site X on Tuesday, May 14, 2024. Sutskever will be replaced by Jakub Pachocki as chief scientist at OpenAI. (AP Photo/Michael Dwyer, File)

Imagen autorreferencial de la IA creada por DALL-E 

Michael Dwyer / Ap-LaPresse

No hay más que charlar unos minutos con uno de estos chatbot para percatarse de que es muy fácil hacerles decir exactamente el tipo de cosas que nos gusta escuchar, las ideas que van a servir para reforzar nuestros propios posicionamientos ideológicos sin que nadie nos lleve la contraria.


Lee también

Francesc Bracero

Mira Murati, directora de tecnología de OpenAI, con dos de ingenieros, prueba las habilidades del nuevo modelo de lenguaje

En una sociedad cada vez más compartimentada en las burbujas ideológicas que configuran las redes, este desarrollo de la IA puede dar pie a auténticos bunkers sectarios, a fortalezas virtuales habitadas por individuos afines que preferirán el aplauso y la hermandad de otros comilitones antes que seguir usando espacios de pensamiento compartido, como han sido tradicionalmente los medios.

En el extremo opuesto, Domestic Data Streamers indagan en la memoria colectiva

Como advertía Éric Sadin en La era del individuo tirano (Caja Negra, 2022), “vivimos el advenimiento de un resentimiento personal a la vez aislado y extremo y que sin embargo se siente en una amplia escala”.

Para este filósofo tecnocrítico francés, esta era del individuo tirano comporta “la abolición progresiva de todo cimiento común para dejar lugar a un hormigueo de seres esparcidos que pretenden (…) ocupar de pleno derecho una posición preponderante”.

En el extremo opuesto de esta exacerbación del individuo que propiciarán chats como el de OpenAI estaría la experiencia de la IA como una forma de crear comunidad. Es eso lo que se propone el colectivo barcelonés Domestic Data Streamers con su Oficina Ciudadana de Memorias Sintéticas, que acaba de abrir su ventanilla en el Disseny Hub Barcelona.


Lee también

Teresa Sesé

Foto PAULA SAMA 17(05/2024. Disseny Hub presenta la

Los DDS, que llevan una década indagando en el uso de los datos para el bien común, se proponen recrear con IA experiencias del pasado de vecinos y vecinas de la ciudad para configurar con ellas una exposición que será cada vez más rica y que devendrá una suerte de memoria colectiva barcelonesa.

Para participar en el proyecto y reconstruir así imágenes difusas de la propia biografía hay que pedir cita previa. El autor de este texto ya lo ha hecho.

La amenaza

Sin fuentes no hay democria

Una característica de los modelos generativos de IA de nueva aparición –así como del desarrollo de los buscadores tipo Google– es que ofrecen o s disponen a ofrecer el resultado de la búsqueda en un texto elaborado por el propio suministrador a partir de datos recabados en la red. La fuente original –a menudo medios de comunicación– es obviada o minimizada. El resultado es un empobrecimiento brutal del discurso, la negación de la diversidad de fuentes informativas, un pilar de la comunicación en democracia.

Lee también

Share This Article
Leave a comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *