{rfName}
In

Indexado en

Licencia y uso

Icono OpenAccess

Altmetrics

Investigadores/as Institucionales

García-Cuesta, EstebanAutor (correspondencia)Manrique, DanielAutor o Coautor

Compartir

7 de octubre de 2025
Publicaciones
>
Artículo
Sí

Interpretable Deep Prototype-Based Neural Networks: Can a 1 Look like a 0?

Publicado en: Electronics. 14 (18): 3584- - 2025-09-10 14(18), DOI: 10.3390/electronics14183584

Autores:

Garcia-Cuesta, E; Manrique, D; Ionescu, RC
[+]

Afiliaciones

Univ Politecn Madrid, Dept Inteligencia Artificial, ETSIINF, Madrid 28040, Spain - Autor o Coautor

Resumen

Prototype-Based Networks (PBNs) are inherently interpretable architectures that facilitate understanding of model outputs by analyzing the activation of specific neurons-referred to as prototypes-during the forward pass. The learned prototypes serve as transformations of the input space into a latent representation that more effectively encapsulates the main characteristics shared across data samples, thereby enhancing classification performance. Crucially, these prototypes can be decoded and projected back into the original input space, providing direct interpretability of the features learned by the network. While this characteristic marks a meaningful advancement toward the realization of fully interpretable artificial intelligence systems, our findings reveal that prototype representations can be deliberately or inadvertently manipulated without compromising the superficial appearance of explainability. In this study, we conduct a series of empirical investigations that demonstrate this phenomenon, framing it as a structural paradox potentially intrinsic to the architecture or its design, which may represent a significant robustness challenge for explainable AI methodologies.
[+]

Palabras clave

Activation analysisArtificial intelligence systemsClassification (of information)Classification performanceData sampleInput spaceInterpretabilityInterpretable aiModel outputsNetwork architectureNeural networksNeural-networksPrototype-based networkPrototype-based networksRobustness of explanationRobustness of explanations

Indicios de calidad

Impacto bibliométrico. Análisis de la aportación y canal de difusión

El trabajo ha sido publicado en la revista Electronics debido a la progresión y el buen impacto que ha alcanzado en los últimos años, según la agencia WoS (JCR), se ha convertido en una referencia en su campo. En el año de publicación del trabajo, 2025, se encontraba en la posición 174/368, consiguiendo con ello situarse como revista Q2 (Segundo Cuartil), en la categoría Engineering, Electrical & Electronic. Destacable, igualmente, el hecho de que la Revista está posicionada en el Cuartil Q2 para la agencia Scopus (SJR) en la categoría Electrical and Electronic Engineering.

[+]

Impacto y visibilidad social

Desde la dimensión de Influencia o adopción social, y tomando como base las métricas asociadas a las menciones e interacciones proporcionadas por agencias especializadas en el cálculo de las denominadas “Métricas Alternativas o Sociales”, podemos destacar a fecha 2026-04-25:

Con una intencionalidad más de divulgación y orientada a audiencias más generales podemos observar otras puntuaciones más globales como:

  • El Score total de Altmetric: 1.
  • El número de menciones en la red social X (antes Twitter): 1 (Altmetric).

Es fundamental presentar evidencias que respalden la plena alineación con los principios y directrices institucionales en torno a la Ciencia Abierta y la Conservación y Difusión del Patrimonio Intelectual. Un claro ejemplo de ello es:

  • El trabajo se ha enviado a una revista cuya política editorial permite la publicación en abierto Open Access.
  • Asignación de un Handle/URN como identificador dentro del Depósito en el Repositorio Institucional: https://oa.upm.es/95036/

Como resultado de la publicación del trabajo en el repositorio institucional, se han obtenido datos estadísticos de uso que reflejan su impacto. En términos de difusión, podemos afirmar que, hasta la fecha

  • Visualizaciones: 14
  • Descargas: 4
[+]

Análisis de liderazgo de los autores institucionales

Existe un liderazgo significativo ya que algunos de los autores pertenecientes a la institución aparecen como primer o último firmante, se puede apreciar en el detalle: Primer Autor (GARCIA CUESTA, ESTEBAN) y Último Autor (Ionescu, Radu Constantin).

el autor responsable de establecer las labores de correspondencia ha sido GARCIA CUESTA, ESTEBAN.

[+]