El Papa chiclayano bien podría ser el profetizado John Connor de Terminator, Pero con sotana. Por primera vez un referente geopolítico moral de primer nivel hace un pronunciamiento duro frente al boom de la IA. Recientemente la publicación de la primera encíclica del Papa León XIV, abordó de manera crítica la pretendida hegemonía de la IA y las amenazas de un contubernio de oligarcas de la tecnología con élites políticas.

El Papa dijo este lunes en el Vaticano que la inteligencia artificial debe ser desarmada y explicó que eligió deliberadamente esa forma de plantearlo, porque este momento exige palabras fuertes que despierten conciencias.

Sí. En la encíclica el concepto tiene un alcance preciso. Desarmar no es rechazar la tecnología, sino sustraer la lógica de que el poder técnico confiere el derecho a gobernar. La cual configuraría una ascendente nueva forma de legitimar el poder ante el declive acelerado de la democracia representativa.

Entonces, ¿cómo observa esta forma de plantarse frente al fenómeno? Bueno, ciertamente dirigido a que el control de la inteligencia artificial por empresas y distintos grupos de poder pueden ser utilizados para un daño enorme a la humanidad, pero también pueden ser utilizados para un bien enorme a la humanidad.

Lo que introduce el Papa con esta frase fuerte, ciertamente es llamar la atención sobre ese punto y decir aquí lo que quiere proponer es un discernimiento ético moral sobre estos temas.

Desarmar quiere decir romper la equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano.

La posibilidad de concentrar poder con uso de estas herramientas tecnológicas puede producir un control hasta de las conciencias de las personas. Cuando uno mira, por ejemplo, las campañas electorales de algunos países, se percibe como cada vez más países vienen utilizando el manejo vía inteligencia artificial, en estas burbujas digitales donde se acumulan personas, y por ende conexiones a personas que piensan de determinada. Esto facilita enviar mensajes casi personalizados a cada una de las personas y llegar con esos mensajes diferenciados que permiten influir fuertemente en las conciencias, y por ende direccionar la política desde las bases.

Entonces en la cuestión de la IA hay un poder que está asociado, que asocia la propiedad o la disponibilidad de esos recursos, incluso toma de decisiones de orden político de quién gobierna cada nación, lo cual lleva a generar necesidades de consumo, a generar, a orientar el pensamiento hacia determinadas maneras de ver la sociedad y concebir la realidad.

Entonces, obviamente aquí hay un arma.

La necesidad de regular la inteligencia artificial del mismo modo que se ha regulado la energía atómica, es hoy fundamental y está por encima de todo credo neoliberal.

Si uno mira, por ejemplo, algunos líderes de los temas computacionales o de robótica, éstos están diciendo que hay que agregar impuestos, por ejemplo, en el espacio de la robótica. Hay algunos que lo han hecho, generar impuestos es necesario porque están reduciendo los espacios del ser humano y así poder financiar los aspectos sociales que van a quedar descuidados porque se incorpora la robótica. Es conveniente que existan impuestos sobre este tipo de tecnologías para poder destinar esos recursos a paliar los problemas que está produciendo.

La iglesia por su forma de organización, por su presencia en todo el mundo, en los distintos sectores de la sociedad, va recogiendo data de cómo está impactando los desarrollos tecnológicos, así como en otras situaciones como son en lo político, en lo económico, en lo social, en fin, en lo cultural.

¿Qué dice? ¿A qué apunta la primera encíclica del Papa León XIV? Esta titulada Magnífica humanidad, que acaba de darse a conocer esta semana. El chileno Guillermo Sandoval, director del Centro de Gestión del Conocimiento en el Consejo Episcopal Latinoamericano mencionó ayer en Radio mundo de Uruguay:

“El documento que está centrado en los desafíos de la digitalización, la robótica y la inteligencia artificial abarca un espectro muy amplio. La concentración del poder tecnológico en pocas manos, la desinformación, el desempleo como riesgo, las nuevas esclavitudes digitales, la guerra llevada adelante con sistemas autónomos (…) Hay un párrafo de los tantos que se destacan en la encíclica, el que señala que entre los bienes que deberían tener un destino universal, bienes que no deberían concentrarse en pocas manos, están los algoritmos, las plataformas digitales y los datos.”

Esta es una afirmación pesada sobre la propiedad, pero en términos concretos implica : “que el destino universal de los bienes es uno de los principios del magisterio social de la Iglesia entre varios. El destino universal de los bienes, esto surge que Dios creó el mundo y lo creó para todos, no para algunos. Ese es el fundamento dicho en muy sencillo. También para poder observar el tema de que es tan complejo siempre el de la propiedad privada, y por eso varios papas han dicho sobre la propiedad privada, así como sobre el trabajo, que pende una hipoteca social. Es lo que decía Juan Pablo II. La Iglesia reconoce la propiedad privada como un dato, una forma de organización de la sociedad que en algún momento de la historia alguien debió tener un espacio propio para su desarrollo personal y familiar. Y luego esto va alcanzando dimensiones distintas. Pero ciertamente el objetivo fundamental de la propiedad privada es permitir el desarrollo de las personas, de su libertad, en un ámbito relativamente más íntimo. El problema está cuando ya esto alcanza los niveles de la propiedad industrial, la de los medios de producción.” Explica Sandoval.

Ahora bien, en esta situación histórica, respecto a la propiedad de las tecnologías o el control de las tecnologías de la inteligencia artificial, la robótica y otros, generan complejos resultados en la medio de la sociedad y son espacios que también, desde la mirada de la Iglesia, corresponden a tener una responsabilidad frente a la sociedad. Por ende la sociedad necesita que actúen con responsabilidad respecto de ella porque alcanza espacios que son mucho más complejos que la sola propiedad y el control de esos medios.

Sandoval desde el Centro de Gestión del Conocimiento desarrolla un equipo que trabaja sobre inteligencia artificial en torno a lo que se llaman fronteras tecnológicas.

«Ya en un momento era el conocimiento solo, en otros momentos es más que eso. Un cardenal que fue presidente del Pontificio Consejo Justicia y Paz, el cardenal Renato Martín, en algún momento estaba de visita en Chile y en una exposición ante una universidad dijo, «Bueno, el conocimiento, el saber, la educación, el saber universitario es también algo que está dentro del ámbito del destino universal de los bienes”.»

En la encíclica también se dedica una sección importante al trabajo. Dice que la automatización y la inteligencia artificial pueden ser una ayuda, pero advierte sobre el riesgo de que los trabajadores terminen adaptándose a las máquinas en lugar de que las máquinas se adapten a ellos.

Existe en Roma una preocupación de la deshumanización del espacio del trabajo humano. Puesto que “el trabajo es la forma para los católicos en que continuamos la creación de Dios. Incluso la creación de esta tecnología es la continuación de la creación de Dios. Pero no toda creación, no todo uso de algo creado es bueno. Entonces viene la segunda parte, que es cómo discernimos qué sirve al crecimiento de la humanidad y qué no sirve.La iglesia desde muy antiguo es la creadora o es la fundadora de las primeras universidades, tiene una preocupación por el crecimiento de la persona humana que parte justamente de los temas del conocimiento en ese espacio de las universidades”.

Por otro lado también menciona que “hay un pasaje sobre lo que el documento llama nuevas esclavitudes. Ahí se mete en la inteligencia artificial misma, en la industria de la inteligencia artificial, por ejemplo, denuncia el trabajo invisible que sostiene a ese sector y a la economía digital en general. Por ejemplo, quienes desarrollan la tarea de etiquetado de datos, los que están en moderación de contenidos o ya en el mundo más físico, digamos, la extracción de minerales necesarios para esta tecnología llevada a cabo por niños en condiciones peligrosas. Habla de una nueva esclavitud o nuevas esclavitudes. En el fondo es eso lo que está preocupando. Es cómo estamos dañando al ser humano en el ámbito del trabajo con el uso inadecuado de estas tecnologías. Pero acá está metida la objeción adentro mismo de esta actividad. La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva. Levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos. Cada generación recibe como herencia la tarea de dar forma a su propio tiempo, hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad. Pero en cada época se cierne el riesgo de construir un mundo inhumano y más injusto. Allí donde la humanidad corre el peligro de perder su rostro, nosotros los cristianos, alzamos los ojos hacia el Dios que se hizo carne, sabiendo que el misterio del hombre solo se esclarece en el misterio del Verbo encarnado. En Jesucristo, esta magnífica humanidad encuentra el camino, la verdad y la vida, abriendo a cada uno de nosotros la vía para crecer hacia la plenitud”.

Leer artículo completo en limagris.com →