Desafíos de la comunicación en la era de la Inteligencia Artificial

Introducción

En todas partes se habla sobre los desafíos de la comunicación en la era de la inteligencia artificial (IA). Se dice que está llevando al mundo a una nueva revolución industrial, con un gran impacto en la comunicación; sin embargo, no todo lo que se dice es positivo; en la era digital en la que vivimos la comunicación y la IA han coincidido de manera significativa, dando lugar a nuevas posibilidades y desafíos. La rápida evolución de la tecnología ha transformado la forma en que nos comunicamos y la IA ha desempeñado un papel fundamental en este proceso. El objetivo es examinar críticamente las implicaciones de esta coincidencia y reflexionar sobre cómo se influyen mutuamente.

Lo que en realidad sucede es que la comunicación debe adaptarse a los nuevos tiempos y a las nuevas tecnologías, que pueden ser un gran apoyo y complemento, por lo que nos adentraremos en los retos éticos y legales asociados con su uso. Se consideran las consecuencias en la privacidad y la autenticidad de la comunicación mediada por IA, además de que se examinan los escenarios presentes y futuros en los que ésta juega un papel clave en los procesos de comunicación.

Desafíos de la comunicación e inteligencia artificial (IA)

La combinación de la IA en los procesos de comunicación plantea una serie de retos significativos, desde una perspectiva ética y legal. Uno de los principales retos éticos es el uso responsable de los datos personales. Con el fin de brindar servicios personalizados y adaptados a las necesidades individuales, los sistemas recopilan y analizan grandes cantidades de datos de los usuarios; sin embargo, esto plantea interrogantes sobre la privacidad y la seguridad de la información personal. Es crucial avalar la privacidad de los individuos, así como asegurar que se cumplan las regulaciones y leyes de protección de datos.

Además, existe un reto relacionado con la transparencia y comprensión de los algoritmos utilizados en la comunicación mediada por IA. A medida que los sistemas se vuelven más complejos, se torna difícil comprender cómo toman decisiones y generan respuestas. Esto plantea inquietudes sobre la falta de transparencia y la posibilidad de sesgos algorítmicos, ya que los usuarios pueden no saber cómo se utilizan sus datos o cómo se llega a ciertas conclusiones. Moya y Le (2021) señalan que el sesgo algorítmico “ocurre cuando una decisión algorítmica crea resultados injustos que privilegian injustificada y arbitrariamente a ciertos grupos sobre otros”. 

Estos sistemas a menudo son complejos y difíciles de entender, porque sus respuestas pueden orientarse hacia una conducta occidentalizada donde exista un bajo posicionamiento de matrices de sentido e ideológicas, como temas de subalternidad, afrodescendencia, responsabilidad medioambiental, etnicidad, género, etcétera, disminuyendo todo lo concerniente a las epistemologías del sur. Esto plantea el desafío de garantizar la transparencia y la explicabilidad de los algoritmos utilizados en la comunicación. Las personas deben poder comprender cómo se toman las decisiones y se utilizan los datos en estos procesos (UNESCO, 2023), “la IA tiene un enorme potencial para el bien social y la promoción de la consecución de los Objetivos de Desarrollo Sostenible (ODS) si se desarrolla de una manera que beneficie a la humanidad, respete las normas y estándares mundiales, y esté anclada en la paz y el desarrollo”.

Desde el punto de vista legal, otro reto importante es determinar la responsabilidad en caso de errores o consecuencias negativas causadas por sistemas de IA en la comunicación. Si un sistema proporciona información errónea o realiza acciones perjudiciales, ¿quién es responsable: el desarrollador del sistema, el proveedor de servicios o el usuario final? Establecer un marco legal claro para abordar estas cuestiones se vuelve esencial para proteger los derechos de los usuarios y asegurar la rendición de cuentas. A medida que la IA desempeña un papel más destacado en la comunicación, es esencial establecer mecanismos claros de responsabilidad y rendición de cuentas. Esto implica determinar quién es responsable en caso de decisiones erróneas o maliciosas tomadas por estos sistemas, así como establecer formas de rectificación y compensación.

Ciudadanía y ciudadanía digital: contexto general…

El concepto moderno de ciudadanía ha sido relacionado con el proceso político electoral y la consecuente emisión del voto; sin embargo, incluye también diversos aspectos relacionados tanto con la acción colectiva y la participación activa en las políticas públicas, como en los movimientos sociales comunitarios. Sin duda la Revolución Francesa se instituye como un parteaguas sobre la conceptualización de la ciudadanía moderna, a través de la Declaración de los Derechos del “Hombre”, donde se identifica al ciudadano como portador de derechos y obligaciones, más allá de los supuestos medievales relacionados con la esclavitud y la servidumbre, reivindicando la igualdad y el estatus de ciudadanía política. Recordemos que el proceso de ciudadanía para las mujeres abarcó un mayor período de tiempo, a pesar de representar la mitad de la población mundial, logrando su reivindicación ciudadana a lo largo del siglo XX, en primera instancia a través del voto y luego en la búsqueda de la equidad en diversos espacios de representación y participación política y social.

Es necesario puntualizar acerca del planteamiento más influyente y la base para abordar la ciudadanía moderna, propuesto por Marshall y Bottomore en la década de 1950, y con el contexto de la Segunda Guerra Mundial. Su propuesta se fundamenta en la importancia de garantizar los derechos políticos, civiles y sociales, con el fin de logar el pleno ejercicio de la ciudadanía, otorgada como condición para quienes son considerados “miembros plenos de una comunidad” (Marshall y Bottomore, 1998, pág. 37), e incluye tres dimensiones que se relacionan con los derechos que adquiere el ciudadano y la ciudadana sólo por el hecho de ser miembro de una comunidad social: el derecho civil; el derecho político, y el derecho social (Molina et al., 2023, pág. 207). (1)

Si bien el Estado es el que otorga la ciudadanía, son las y los ciudadanos quienes, a partir de valores y pautas de comportamiento, la hacen real; así, Robert Dahl introduce el término de “ciudadanía activa” en 1992 y compromete al sujeto con el Estado, al mantener una mayor participación de la ciudadanía, tanto en la vida política como en los asuntos públicos (Dahl, 1992). La “ciudadanía crítica”, planteada por Barry Clarke (2000, citado en Buenrostro, 2012), describe una visión más amplia, de conciencia y toma de decisión, tanto política como social y comunitaria, abarcando la vida cotidiana y la realidad inmediata. La “ciudadanía social”, por su parte, abarca aspectos relacionados con la identidad –étnica, religiosa, regional y nacional–, la capacidad de tolerancia y el trabajo conjunto para el bien común (Kymlicka,1996; Freijeiro, 2008; Sen, 2000). 

El proceso de incorporación a las TIC se lo han apropiado de forma significativa las personas jóvenes en nuestro país, quienes han usado los espacios virtuales de manera más completa y compleja, frente a otros grupos etarios, como la niñez o la población adulta.(2)

En este sentido, el proceso de interacción, participación e incidencia en los espacios virtuales, en forma permanente, hace relevante abordar el concepto de ciudadanía digital como: “habilidades, pensamientos y acciones en internet que permiten a la gente comprender, navegar, involucrarse y transformarse a sí mismos, a la comunidad, a la sociedad y al mundo” (Choi, Glassman y Cristol, 2017, pág. 107).

Es importante precisar que si bien el derecho a la ciudadanía digital es universal, el hacer uso de éste debe pasar por una serie de factores, como las habilidades, destrezas y capacidades que son necesarias para el uso provechoso de una red digital; en segundo lugar, y específicamente abordando nuestro objeto de estudio, las juventudes y las juventudes universitarias no son homogéneas, ya que en su definición y análisis profundo se observan fragmentaciones diversas, mismas que condicionan las formas de acceso, los usos, el aprovechamiento y las formas de participación ciudadana en los espacios digitales, evidenciando una brecha digital y brecha digital de género –al reproducirse diferencias en el acceso, los usos y la participación ciudadana entre hombres y mujeres. (3)

En este sentido, para abordar la ciudadanía digital en las juventudes universitarias es necesario acotar los canales de interacción que se generan, mediante las redes digitales, mismos que determinan las formas de participación, en primera instancia desde la verticalidad (top-down), haciendo uso de la vigilancia y el control, desincentivando una implicación y la toma de decisiones entre las y los internautas. En sentido paralelo, el nivel bottom-up puntualiza maneras alternativas de interacción en las redes digitales, a través de una participación más integradora, involucrando a la ciudadanía en una forma vinculante y activa (Cáceres, Brändle, Ruiz y Morales, 2020, pág. 330).

Desde este panorama de análisis, podemos definir la participación ciudadana de las juventudes universitarias, a partir de tres niveles de ciudadanía digital: nivel bajo (alfabetización digital, uso de redes sociales y aprovechamiento de funciones para tareas escolares o laborales); nivel medio (comunicación en redes digitales, mediante la participación e interacción –se aprueban o desaprueban contenidos y se comparten), y nivel alto (creación de contenidos, participación colaborativa en comunidades digitales para un fin específico; confrontación-colaboración con plataformas digitales, para cambios sustantivos que regulen y beneficien a las y los internautas).

Los algoritmos de IA pueden verse influenciados por sesgos inherentes a los datos con los que son entrenados. Esto quizá lleve a resultados discriminatorios o injustos en la comunicación, como la selección sesgada de información o la segmentación errónea de audiencias. Es vital abordar estos sesgos y garantizar la equidad en su uso. La utilización de estos sistemas en la creación de contenido y en la generación automática de texto o imágenes plantea cuestiones relacionadas con la propiedad intelectual y los derechos de autor. Es necesario definir los límites y las regulaciones en cuanto a la atribución y protección de la propiedad intelectual en el contexto de la comunicación impulsada por IA.

Es importante abordar estos retos éticos y legales de manera proactiva para garantizar que el uso de la IA en la comunicación sea ético, justo y benéfico para todos los involucrados con una política inclusiva y participativa. Esto implica la cooperación de diferentes actores, incluyendo legisladores, expertos en ética, desarrolladores de IA y usuarios finales, en la creación de marcos regulatorios y estándares éticos sólidos. Pero como las grandes herramientas tecnológicas llamadas a salvar la humanidad que se han sucedido a lo largo de la historia, seguramente no será la fórmula mágica que resolverá por sí sola todos nuestros problemas y, para alcanzar los efectos positivos que se esperan, requerirá de conducción política adecuada (Mota, 2023, p. 17).

En cuanto a la autenticidad de la comunicación mediada por IA, surge un reto adicional. Los avances en la generación de lenguaje natural por parte de estos sistemas han llevado a la creación de chatbots y asistentes virtuales capaces de entablar conversaciones que pueden ser difíciles de distinguir de las interacciones humanas. Esto plantea interrogantes sobre la veracidad y la confianza en la comunicación, ya que los usuarios pueden no distinguir si están interactuando con una persona real o con un sistema automatizado.

Este es un fenómeno en constante crecimiento que tiene beneficios y desafíos. Algunos de los beneficios son agilizar y automatizar procesos de comunicación, como la respuesta a consultas frecuentes o la gestión de interacciones en línea, lo que permite una respuesta más rápida y eficiente; donde se analizan datos y patrones de comportamiento de los usuarios para ofrecer contenido y recomendaciones personalizadas, lo que mejora la experiencia de comunicación al adaptarse a las necesidades individuales. Dichos algoritmos son capaces de analizar grandes volúmenes de información y ayudar a identificar tendencias, detectar errores o mejorar la calidad de la comunicación al proporcionar información más precisa y relevante.

Entre los principales desafíos se encuentra que, aun cuando ésta puede ser eficiente, carece de la capacidad de empatía y conexión emocional que se da en la comunicación humana, lo que puede afectar la calidad de las interacciones y la percepción de autenticidad en la comunicación. Además, los sistemas de IA podrían verse afectados por sesgos inherentes a los datos con que se les entrena, lo que quizá lleve a resultados discriminatorios o injustos en la comunicación, perpetuando las desigualdades y políticas de liderazgo occidentales existentes. La comunicación mediada por IA implica el intercambio de datos personales, lo que plantea preocupaciones sobre la privacidad y la seguridad de la información, por lo que es fundamental garantizar la protección de los datos y establecer salvaguardas adecuadas. Por lo tanto, los algoritmos a menudo son complejos y difíciles de entender, lo que genera desconfianza y dificulta la comprensión de cómo se toman las decisiones y se generan los resultados.

En ese sentido, la comunicación mediada por IA tiene el potencial de mejorar la eficiencia y la personalización de la comunicación, pero también plantea desafíos en términos de empatía, privacidad y transparencia. Es fundamental tener en cuenta estos desafíos éticos, y garantizar que se utilice de manera responsable y benéfica para todos los participantes en la comunicación. Los retos éticos y legales son numerosos, ya que la protección de la privacidad y la transparencia en el uso de datos, la determinación de responsabilidades legales y la preservación de la autenticidad en la comunicación, son aspectos clave que deben abordarse de manera adecuada para garantizar un uso responsable y ético de la IA.

Consideraciones finales

Así, la correlación de la comunicación y la inteligencia artificial ha dado lugar a una serie de retos y escenarios fascinantes, que requieren una comprensión profunda y una reflexión crítica. Es fundamental abordar de manera responsable y ética el uso de datos personales. La protección de la privacidad y la transparencia en el uso de datos son aspectos fundamentales para garantizar la seguridad de los usuarios y preservar sus derechos individuales. Es conveniente que los marcos legales y las regulaciones se adapten y evolucionen rápidamente para abordar estos desafíos en constante cambio. 

Es evidente que la transparencia en los algoritmos utilizados en la comunicación mediada por IA es trascendental. Los usuarios deben comprender cómo se toman las decisiones y se generan las respuestas con el fin de evaluar la validez y la confiabilidad de la información proporcionada. La explicabilidad de los algoritmos no sólo promoverá la confianza, sino también ayudará a identificar y abordar posibles sesgos algorítmicos. Por lo tanto, establecer un marco legal claro para determinar la responsabilidad en caso de errores o consecuencias negativas causadas por sistemas de IA es fundamental. La rendición de cuentas debe ser garantizada, ya sea por parte de los desarrolladores, los proveedores de servicios o los usuarios finales. Establecer límites y responsabilidades claras ayudará a mitigar los riesgos asociados con el mal uso o las fallas de estos sistemas.

La preservación de la autenticidad es un desafío que debe abordarse, porque a medida que los sistemas se vuelven más sofisticados en la generación de lenguaje natural, es fundamental que los usuarios distingan claramente entre interacciones con personas reales y sistemas automatizados. Esto ayudará a evitar posibles equivocaciones y preservar la confianza en la comunicación. Por consiguiente, la relación entre la comunicación y la inteligencia artificial es compleja y llena de desafíos; sin embargo, al abordar estos retos éticos y legales, al observar sigilosamente los escenarios presentes y futuros, podemos aprovechar su potencial para mejorar y enriquecer nuestros procesos de comunicación. Al hacerlo, debemos asegurarnos de que los valores éticos, la inclusión, la participación, la responsabilidad social y la transparencia sean los pilares fundamentales que guíen nuestro enfoque hacia una comunicación mediada por IA.