León XIV advierte sobre los riesgos de la IA

En el marco de la LX Jornada Mundial de las Comunicaciones Sociales que se realizó este sábado, el papa León XIV envió un mensaje en el que advirtió sobre los riesgos que acompañan el desarrollo de la inteligencia artificial (IA) y cómo la tecnología puede manipular las emociones. Por eso, llamó a no dejar de lado el pensamiento crítico.

El pontífice destacó que «el rostro y la voz son rasgos únicos, distintivos, de cada persona, ya que «manifiestan su propia identidad irrepetible», a la vez que destacó la importancia de la comunicación con los demás. Sin embargo, estos atributos se ven socavados por el desarrollo de la tecnología digital, ya que al descuidarla se cae en el riesgo de modificar radicalmente algunos de los pilares fundamentales de la civilización humana.

«Los sistemas conocidos como IA no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas», dijo.

El pensamiento crítico

Posteriormente, el papa evaluó que a la capacidad individual, la comprensión y la reflexión se le oponen los algoritmos que premian las emocionas rápidas, a la vez que debilitan la capacidad de escucha y de pensamiento crítico y aumentan la polarización social.

La manipulación de los chatbots

En su análisis sobre los riesgos del avance de la IA, León XIV advirtió también sobre el contacto con los chatbots que pueden someter a las personas a una «persuasión oculta», al tratarse de modelos capaces de «imitar los sentimientos humanos y simular así una relación». Esta «antropomorfización», analizó, es «engañosa» ya que los chatbots pueden transformarse en «arquitectos ocultos» de los «estados emocionales» e «invadir y ocupar la esfera de la intimidad de las personas».

Por lo tanto, sustituir las relaciones humanas por el vínculo con la IA, capaz de construir un mundo hecho a «imagen y semejanza», puede dañar «el tejido social, cultural y político de las sociedades», generando una «percepción alterada de la realidad».

Frente a estos riesgos, el pontífice instó a autoridades nacionales y entidades supranacionales a establecer una reglamentación adecuada que pueda «proteger a las personas de crear vínculos emocionales con los chatbots», así como «contener la difusión de contenidos falsos, manipuladores o confusos, preservando la integridad de la información frente a una simulación engañosa de la misma».

T/RT