Un equip de l’Institut VRAIN de la Universitat Politècnica de València (UPV) ha desenvolupat una metodologia amb un sistema d’intel·ligència artificial (IA) modular capaç d’identificar “amb una precisió més gran la ironia, la crítica mordaç o el sarcasme per a detectar quan el llenguatge polític travessa el llindar de la toxicitat”, segons assenyala la institució acadèmica.
Aquesta metodologia, ha destacat, ja s’ha posat a prova en l’anàlisi de deu sessions de Les Corts Valencianes. En aquest estudi es van seleccionar 875 mostres i quasi en la meitat d’aquestes, 435, es va constatar que “tenien una puntuació de toxicitat superior al 50 per cent”. La UPV ha indicat que això “implica una probabilitat elevada de toxicitat”, alhora que ha afegit que “l’altra meitat tenia una puntuació de toxicitat inferior al 50 per cent”.
L’equip d’investigadors de VRAIN de la UPV -format pels membres del grup PROS Antoni Mestre, Joan Fons, Manoli Albert, Vicente Pelechano i la investigadora del departament d’informàtica de la Universitat de València (UV), Miriam Gil, junt amb l’investigador de la Università degli Studi del Sannio a Benevent (Itàlia), Franccesco Malafarina- és l’encarregat del desenvolupament d’aquesta metodologia les conclusions de la qual s’han presentat recentment.
Aquest treball, titulat “IA enriquida en sentiments per a la detecció de discursos tòxics; Un cas d’estudi de discursos polítics a Les Corts Valencianes”, s’ha exposat en la conferència internacional d’agents i intel·ligència artificial (ICAART) 2025 celebrada a Porto, a Portugal.
“L’estudi, aplicat a intervencions a Les Corts Valencianes, proposa un enfocament innovador que millora els sistemes tradicionals de detecció de discurs tòxic en introduir una ‘zona de confusió’. En lloc d’etiquetar un missatge com simplement tòxic o no tòxic, la IA detecta els casos més ambigus i els sotmet a una anàlisi de sentiment que permet avaluar millor el to emocional del discurs”, ha explicat l’investigador de VRAIN de la UPV Antoni Mestre.
“Mentre que els resultats, sense la zona de confusió, assoleixen una precisió del 80,35 per cent, quan s’incorpora la capa d’anàlisi de sentiment a la detecció de discursos tòxics, sobretot en contextos políticament carregats i lingüísticament complexos com ara Les Corts, la precisió millora fins al 87,89 per cent”, ha afegit la universitat.
“El nostre treball ofereix una visió més matisada del llenguatge polític”, ha apuntat Mestre, que ha ressaltat que “obri noves possibilitats per a la moderació automatitzada de continguts i l’anàlisi del debat públic amb eines més sofisticades i justes”.
“La seua aplicació als parlaments permetria als seus presidents moderar el debat de manera més equitativa i precisa, garantint un discurs més respectuós i constructiu”, ha subratllat Antoni Mestre.
