L’ètica no és un manual d’instruccions
Hi ha un moment, en alguna conversa recent, on em vaig adonar que ja no sabia ben bé on era quan parlava amb algú per WhatsApp. Vull dir: era a casa, sí. Però la conversa era real, el pes emocional era real, les conseqüències eren reals. ¿On estava passant, aquella conversa? ¿Al digital o al físic?
La pregunta sembla filosòfica fins que t’adones que la fas cada dia, sense plantejar-te-la.
La línia que ja no existeix
Gregori Mora ho diu amb una claredat que em costa rebattre: avui és gairebé impossible distingir on acaba l’entorn físic i on comença el digital. I crec que té raó, però no en el sentit que el digital hagi “envaït” el físic com si fos un organisme extern. És més subtil que això.
El digital ja és el teixit on es desenvolupa bona part de la nostra vida social, cultural i política. No és un lloc on anem. És un lloc on vivim, intermitentment però constantment. Els debats que configuren l’opinió pública passen a Twitter o a Instagram. Les amistats es mantenen per missatgeria. Els moviments socials s’organitzen en grups de Telegram. La feina, en molts casos, existeix principalment en servidors remots.
I si és on vivim, llavors les preguntes ètiques que fem sobre el món físic —com tractem els altres, quines normes ens donem, quin tipus de comunitat construïm— s’apliquen aquí també. No hi ha una suspensió moral quan ens connectem.
El que potser sí que hi ha és una il·lusió de distància. Com si la pantalla fos un vidre que atenua les conseqüències.
L’ètica no és nova. El context, sí.
Adela Cortina —i trobo que és una de les veus més assenyades en tot això— diu que l’ètica digital no és una ètica nova. És la mateixa de sempre, aplicada a nous desafiaments. I em sembla un punt important perquè desmunta una trampa en la qual caiem fàcilment: la de pensar que el món digital té les seves pròpies regles morals, separades de les del món “real”.
No. Un comentari que humilia una persona en públic fa mal igual si és en un bar o en un fil de Twitter. Una mentida que es difon causa el mateix dany si és de boca en boca o si és un bulo viral. La dignitat de les persones no canvia de format.
Però sí que canvia d’escala. I d’velocitat. I d’accessibilitat.
Una persona amb una queixa justa podia, abans, explicar-la als seus coneguts. Ara pot arribar a milers de persones en qüestió d’hores. Això no és inherentment dolent. Però exigeix una consciència diferent. Si el meu radi d’acció moral s’ha ampliat exponencialment, la responsabilitat que ve amb ell també.
I aquí és on l’ètica, entesa no com un manual de “coses que no pots fer” sinó com un saber pràctic que t’obliga a preguntar-te qui vols ser, adquireix una urgència nova.
La pantalla com a mirall
Hi ha una imatge de Mark Coeckelbergh que no he pogut treure’m del cap des que la vaig llegir. Diu que els robots —i jo hi afegiria la IA en general— funcionen com a miralls que ens retornen una imatge de la nostra pròpia moralitat. De la societat que estem construint.
Si li demanem a un sistema d’IA que generi contingut i el contingut és racista, el problema no és la màquina. La màquina ha après de nosaltres. El mirall ens torna el que hi havia davant.
Això és incòmode d’acceptar. Perquè és molt més còmode pensar que la tecnologia és neutral i que els biaixos vénen d’algun lloc extern, d’algun error tècnic que es pot corregir amb un pegat de codi. Però no. Els sistemes d’IA s’entrenen amb dades humanes. Reflecteixen decisions humanes. Prioritzen el que els humans —o alguns humans amb poder de decisió— han decidit que han de prioritzar.
I si és un mirall, llavors la pregunta no és “és bona o dolenta, la IA?” La pregunta és: ¿estem contents amb el que veiem quan ens hi mirem?
No es tracta de protegir dades. Es tracta de persones.
Quan es parla d’ètica digital en entorns institucionals o corporatius, sovint es redueix a dues coses: protecció de dades i ciberassetjament. Com si la moral digital es pogués encapsular en un reglament de compliment normatiu i un protocol d’actuació.
No dic que sigui innecessari. Però és insuficient.
L’informe de la UNESCO sobre entorns digitals assenyala que aquests espais no són neutrals: estan configurats per influir en la nostra conducta i en com percebem els altres. Els algorismes decideixen què veiem. Quines veus s’amplifiquen i quines queden silenciades. Quins productes, idees i persones ens resulten familiars i quins ens semblen estranys o perillosos.
Que una plataforma promogui o inhibeixi l’empatia no és una qüestió tècnica. És una qüestió profundament ètica. I la major part de les decisions que configuren això les prenen un nombre molt petit de persones, en empreses privades, amb criteris que sovint no es fan públics.
Aquí no n’hi ha prou amb tenir bones intencions individuals. Calen també estructures, regulació, transparència. L’ètica personal és necessària però no és suficient si el sistema en el qual actuem incentiva exactament el contrari.
El que fem darrere una pantalla aterrarà en un cos
Vull acabar —o deixar a mitges, que és el que fan els jardins— amb una cosa que em sembla fonamental i que de vegades s’oblida en els debats sobre IA i entorns digitals.
Tot el que passa en línia acaba afectant persones reals, amb cossos, amb vides, amb vulnerabilitats específiques. Un rumor que circula en un grup de WhatsApp afecta la reputació d’algú al seu barri. Una decisió d’un algoritme de contractació determina si una persona cobra o no a final de mes. Un vídeo generat per IA que imita la veu d’algú pot destruir una relació de confiança que ha tardat anys a construir-se.
L’impacte sempre és humà. I per això l’ètica sempre és rellevant, per molt digital que sigui el context.
Potser la pregunta que hauria de guiar-nos —en cadascuna de les nostres interaccions digitals, i sobretot en les decisions que prenen les persones i les institucions que dissenyen aquests sistemes— no és “és legal?” ni tan sols “és útil?”. Potser la pregunta és: ¿en qui ens convertim quan fem això?
Jardí en construcció permanent. Aquestes notes no estan acabades. Tampoc la reflexió.