El projecte internacional de recerca PROCLAIM ha iniciat la seva activitat amb la participació de la Universitat de les Illes Balears per combatre el discurs d’odi ocult que es difon a través d’algoritmes, xarxes socials i tecnologies d’intel·ligència artificial. Aquesta iniciativa europea, finançada pel programa Horizon Europe de la Unió Europea, s’estendrà durant els pròxims tres anys i reuneix un consorci de 10 institucions de recerca i organitzacions de la societat civil. L’objectiu principal és desenvolupar noves eines de detecció basades en la IA, programes educatius per a joves i estratègies basades en l’evidència perquè aquest tipus d’expressions camuflades trobin menys espais on amagar-se en l’entorn digital i no erosionin les societats democràtiques.
Aliança internacional contra l’extremisme digital
El projecte, coordinat pel doctor Seunghyun Song de la Universitat de Tilburg, compta a les Illes Balears amb el lideratge del doctor Jordi Fairhurst Chilton, investigador del Departament de Filosofia i Treball Social de la UIB. El consorci europeu està integrat per una xarxa interdisciplinària d’entitats que inclou la Queen Mary University of London, la Universitat de Swansea, la Universitat Babeș-Bolyai, la VU Amsterdam, la Universitat d’Hèlsinki, el Centre Internacional per al Contraterrorisme (ICCT), el Netherlands Helsinki Committee (NHC) i De Kiesmannen.
Els investigadors de diferents disciplines, com ara la filosofia política, el Dret, la informàtica, els estudis de mitjans, la psicologia i la comunicació pública, treballaran conjuntament per frenar un fenomen accelerat pels avenços en intel·ligència artificial i els grans models de llenguatge (GML). La finalitat d’aquest equip és estrènyer la relació entre la recerca acadèmica, la innovació en noves tecnologies i l’impacte social real.
Identificació de l’odi encobert en mems i codis
La investigació de PROCLAIM posa el focus en el discurs d’odi que esquiva els reguladors de la Unió Europea i els algoritmes tradicionals mitjançant l’ús de mems, frases ambigües, ironies o un llenguatge codificat que aparenta ser neutral. Aquesta sofisticació dificulta la detecció automàtica i la regulació institucional, contribuint directament a processos de polarització social i radicalització.
Segons detalla l’investigador Jordi Fairhurst Chilton, l’estudi de la gènesi i la transformació d’aquests missatges en entorns digitals és una responsabilitat acadèmica de primer ordre en una època marcada per la digitalització. El treball de la UIB i la resta de socis se centrarà a desxifrar els mecanismes que evitin les conseqüències perjudicials d’aquests continguts nocius en línia que afecten el benestar de les democràcies.
Eines tecnològiques i formació per a joves
Durant els pròxims tres anys, PROCLAIM treballarà en la creació d’un marc conceptual teòric fonamental que permeti identificar el discurs d’odi multilingüe i multimodal en diverses plataformes en línia. Així mateix, s’exploraran garanties per als grans models de llenguatge i s’aportaran recomanacions per als futurs marcs polítics europeus vinculats a la governança de la IA, la responsabilitat de les plataformes digitals i la democràcia digital.
Més enllà del vessant purament tecnològic, el projecte aplicarà mesures preventives i de participació pública. S’implementaran programes educatius que preveuen arribar a milers de joves i campanyes de sensibilització per enfortir la resiliència ciutadana contra la manipulació i l’extremisme. Finalment, els resultats es traslladaran a aplicacions pràctiques mitjançant taules rodones, tallers i diàlegs internacionals on participaran responsables polítics, científics, entitats civils i empreses de l’àmbit tecnològic.
