La técnica no debe considerarse, en sí misma, como una fuerza antagónica respecto a la persona. El progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión que lo guía y los fines que persigue. Cada etapa del progreso ha puesto de manifiesto el lado ambiguo de instrumentos capaces de causar daño cuando no se orientan hacia el bien.

Hoy los principales motores del desarrollo son actores privados. Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades.

Quienes controlan las plataformas digitales y los medios de comunicación tienen una notable capacidad para influir en el imaginario colectivo y presentar como deseable una determinada visión de la realidad. La desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador.

Hay riesgo de que el paradigma tecnocrático haga parecer justa y normal una visión antihumana y controlarlo todo. Los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores.

Las ventajas en términos de eficiencia y las potencialidades de mejora de algunos servicios son evidentes; sin embargo, una adopción rápida y acrítica nos expone a diversos riesgos. Las innovaciones tecnológicas no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades. El Papa Francisco denunció una «cultura del “descarte”»: la tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas. Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo.

Hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo. Y, sin embargo, no tienen una conciencia moral. Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero lo hacen de modo diferente al de la persona humana. Es más bien una adaptación estadística que puede ser muy eficaz, pero no implica un crecimiento interior.

La velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta simplifican nuestras vidas, pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad. La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado.

La imitación artificial de una comunicación humana positiva—palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal. La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro.

El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», pudiendo así producir nuevas formas de descarte.

La mayoría de las personas permanece a la espera. Ninguna es tan débil como para no poder ofrecer su contribución. Ha de redescubrir la propia tarea de hacer presente en lo cotidiano los principios. Asumir con firmeza la propia responsabilidad en la construcción de una sociedad más humana y fraterna.

Existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas. Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable. Desarmar la IA significa romper esta equivalencia entre poder tecnológico y derecho a gobernar. Significa sustraerla a los monopolios.