{rfName}
A

Indexat a

Llicència i ús

Icono OpenAccess

Altmetrics

Grant support

This work has been granted by the EICACS (European Initiative for Collaborative Air Combat Standardisation) project of the Horizon Europe programme of the European Commission, under grant agreement No. 101103669. The work of Paulo Novais is financed by National Funds through the Portuguese funding agency, FCT-Fundacao para a Ciencia e a Tecnologia within project DSAIPA/AI/0099/2019.

Anàlisi d'autories institucional

González-Sendino, RAutor o coautorSerrano, EAutor o coautorBajo, JAutor o coautor

Compartir

13 defebrer de 2024
Publicacions
>
Review

A Review of Bias and Fairness in Artificial Intelligence

Publicat a:International Journal Of Interactive Multimedia And Artificial Intelligence. 9 (1): 5-17 - 2024-12-01 9(1), DOI: 10.9781/ijimai.2023.11.001

Autors: González-Sendino, R; Serrano, E; Bajo, J; Novais, P

Afiliacions

Univ Minho, ALGORITMI Res Ctr, LASI, Braga, Portugal - Autor o coautor
Univ Politecn Madrid, Dept Inteligencia Artificial, ETSI Informat, Ontol Engn Grp, Madrid 28660, Spain - Autor o coautor

Resum

Automating decision systems has led to hidden biases in the use of artificial intelligence (AI). Consequently, explaining these decisions and identifying responsibilities has become a challenge. As a result, a new field of research on algorithmic fairness has emerged. In this area, detecting biases and mitigating them is essential to ensure fair and discrimination-free decisions. This paper contributes with: (1) a categorization of biases and how these are associated with different phases of an AI model's development (including the data-generation phase); (2) a revision of fairness metrics to audit the data and AI models trained with them (considering agnostic models when focusing on fairness); and, (3) a novel taxonomy of the procedures to mitigate biases in the different phases of an AI model's development (pre-processing, training, and post-processing) with the addition of transversal actions that help to produce fairer models.

Paraules clau

BiasFairnessResponsible artificial intelligence

Indicis de qualitat

Impacte bibliomètric. Anàlisi de la contribució i canal de difusió

El treball ha estat publicat a la revista International Journal Of Interactive Multimedia And Artificial Intelligence a causa de la seva progressió i el bon impacte que ha aconseguit en els últims anys, segons l'agència Scopus (SJR), s'ha convertit en una referència en el seu camp. A l'any de publicació del treball, 2024 encara no hi ha indicis calculats, però el 2023, es trobava a la posició , aconseguint així situar-se com a revista Q1 (Primer Cuartil), en la categoria Computer Networks and Communications.

Independentment de l'impacte esperat determinat pel canal de difusió, és important destacar l'impacte real observat de la pròpia aportació.

Segons les diferents agències d'indexació, el nombre de citacions acumulades per aquesta publicació fins a la data 2025-07-16:

  • WoS: 6
  • Scopus: 8

Impacte i visibilitat social

Des de la dimensió d'influència o adopció social, i prenent com a base les mètriques associades a les mencions i interaccions proporcionades per agències especialitzades en el càlcul de les denominades "Mètriques Alternatives o Socials", podem destacar a data 2025-07-16:

  • L'ús d'aquesta aportació en marcadors, bifurcacions de codi, afegits a llistes de favorits per a una lectura recurrent, així com visualitzacions generals, indica que algú està fent servir la publicació com a base del seu treball actual. Això pot ser un indicador destacat de futures cites més formals i acadèmiques. Aquesta afirmació està avalada pel resultat de l'indicador "Capture", que aporta un total de: 107 (PlumX).

És fonamental presentar evidències que recolzin l'alineació plena amb els principis i directrius institucionals sobre Ciència Oberta i la Conservació i Difusió del Patrimoni Intel·lectual. Un clar exemple d'això és:

  • El treball s'ha enviat a una revista la política editorial de la qual permet la publicació en obert Open Access.
  • A més, el treball s'ha enviat a una revista classificada com a Diamant en relació amb aquest tipus de política editorial.

Anàlisi del lideratge dels autors institucionals

Aquest treball s'ha realitzat amb col·laboració internacional, concretament amb investigadors de: Portugal.

Hi ha un lideratge significatiu, ja que alguns dels autors pertanyents a la institució apareixen com a primer o últim signant, es pot apreciar en el detall: Primer Autor (GONZÁLEZ SENDINO, RUBÉN) .