La tècnica no ha de considerar-se, en si mateixa, com una força antagònica respecte a la persona. El progrés tècnic, valuós en si mateix, requereix un discerniment sobre la visió que el guia i els fins que persegueix. Cada etapa del progrés ha posat de manifest el costat ambigu d’instruments capaços de causar mal quan no s’orienten cap al bé.

Avui els principals motors del desenvolupament són actors privats. Quan un poder de tal magnitud es concentra en poques mans, tendeix a fer-se opac i a eludir el control públic, i creix el risc d’un desenvolupament distorsionat que provoca noves dependències, exclusions, manipulacions i desigualtats.

Els qui controlen les plataformes digitals i els mitjans de comunicació tenen una notable capacitat per a influir en l’imaginari col·lectiu i presentar com a desitjable una determinada visió de la realitat. La desinformació no sorgeix amb la IA, però troba avui en ella un potent multiplicador.

Hi ha risc que el paradigma tecnocràtic faci semblar justa i normal una visió antihumana i controlar-ho tot. Els processos interns que condueixen a un resultat poden ser poc transparents, i això fa més difícil atribuir responsabilitats i corregir els errors.

Els avantatges en termes d’eficiència i les potencialitats de millora d’alguns serveis són evidents; no obstant això, una adopció ràpida i acrítica ens exposa a diversos riscos. Les innovacions tecnològiques no són neutrals; poden augmentar la participació i la justícia, o ampliar les desigualtats. El Papa Francesc va denunciar una «cultura del “descarti”»: la tendència a deixar que la lògica de l’eficiència, del control i del lucre governi per si sola les decisions personals, socials i econòmiques. Per a un algorisme, l’error és una cosa que cal corregir; per a una persona, pot ser l’inici d’un canvi profund.

Cal evitar l’equívoc d’equiparar aquesta “intel·ligència” a la humana. Aquests sistemes imiten unes certes funcions de la intel·ligència humana. En fer-ho, sovint la superen en velocitat i amplitud de càlcul. I, no obstant això, no tenen una consciència moral. Poden imitar llenguatges, comportaments, valoracions; poden simular empatia o comprensió, però ho fan de mode diferent del de la persona humana. És més aviat una adaptació estadística que pot ser molt eficaç, però no implica un creixement interior.

La velocitat i la senzillesa amb la qual és possible obtenir indicacions, elaboracions complexes, continguts mediàtics i formes d’assistència concreta simplifiquen les nostres vides, però també poden acostumar-nos a delegar massa i a buscar respostes ràpides, afeblint el judici personal i la creativitat. La impressió d’objectivitat que les respostes i les propostes d’aquests sistemes poden suscitar, corre el risc de fer-nos oblidar que aquestes reflecteixen els paràmetres culturals dels qui les han projectat i ensinistrat.

La imitació artificial d’una comunicació humana positiva—paraules de consell, d’empatia, d’amistat, d’amor— pot resultar gratificant i fins i tot útil, però en usuaris poc conscients pot induir a engany i fer la falsa impressió d’estar en una relació amb un autèntic subjecte personal. La imitació artificial de la relació de cura o d’acompanyament pot ser perillosa quan s’introdueix en un context pobre de relacions i d’afectes reals; llavors el risc no és tant que una persona cregui que està parlant amb una altra persona, sinó que perdi el desig mateix de buscar realment a l’altre.

L’ús de la IA mai és un fet purament tècnic: quan entra en processos que incideixen en la vida de les persones, afecta als seus drets, oportunitats, reputació i llibertat. Les decisions delicades que repercuteixen en el treball, l’accés a serveis, i la reputació de les persones, corren el risc de ser confiades completament a sistemes automatitzats que no coneixen «la compassió, la misericòrdia, el perdó i, sobretot, l’obertura a l’esperança de canvi en l’individu», podent així produir noves formes de descarti.

La majoria de les persones roman a l’espera. Cap és tan feble com per a no poder oferir la seva contribució. Ha de redescobrir la pròpia tasca de fer present en el quotidià els principis. Assumir amb fermesa la pròpia responsabilitat en la construcció d’una societat més humana i fraterna.

Existeix sovint un desequilibri entre la velocitat del desenvolupament tecnològic i el ritme al qual maduren la consciència, les normes. Demanar prudència, controls rigorosos i, a vegades, també un alentiment en l’adopció de la IA no significa estar en contra del progrés, sinó exercitar una cura responsable. Desarmar la IA significa trencar aquesta equivalència entre poder tecnològic i dret a governar. Significa sostreure-la als monopolis.