Criterios específicos de valoración según campo de conocimiento 2024: Apéndice

Dimensiones, métricas y fuentes de la Bibliometría Narrativa. Criterios mínimos de los medios de difusión de publicaciones.

Objetivo

  • Proporcionar un inventario, no exhaustivo, de las posibles métricas y fuentes aplicables en la configuración de indicadores de impacto científico, impacto social y ciencia abierta, y en la articulación de narrativas para la valoración de aportaciones científicas presentadas a la convocatoria de sexenios de investigación,
  • Explicitar los criterios mínimos que debe reunir un medio de difusión de la investigación para que las publicaciones que en él se incluyan puedan ser consideradas

Estructura del apéndice:

I. Taxonomía de métricas recomendadas

A. Dimensiones a nivel de aportación Métricas de citación

Estas métricas recurren al nº de citas que una publicación ha recibido en trabajos científicos de diversa naturaleza, recopilables a través de bases de datos bibliográficas que tengan la mayor cobertura posible y sean, preferentemente, de carácter no comercial.

Con el propósito de contextualizar los datos, mitigar sesgos y proporcionar una representación más precisa del impacto efectivo, es recomendable emplear indicadores como la citación normalizada por categoría y un recuento de citaciones que excluya las autocitas

Métricas de uso y lectura Se centran en el volumen de descargas, visualizaciones o visitas que ha registrado una aportación en infraestructuras digitales académicas, repositorios científicos o plataformas editoriales. No será suficiente con aludir al conteo básico, siendo necesario que los datos sean debidamente justificados y contextualizados, por ejemplo, especificando los países, ciudades e instituciones que han accedido a las aportaciones y su relevancia
Métricas de influencia o adopción social

Se orientan a menciones y referencias provenientes de fuentes externas al ámbito académico y a los medios de publicación tradicionales, ofreciendo una perspectiva sobre la influencia, aplicabilidad o adopción de un resultado de investigación en contextos culturales, educativos, políticos o socioeconómicos.

Para su valoración pueden ser pertinentes las menciones o referencias en documentos no académicos, como los informes de políticas públicas y, si fuera el caso, beneficios de su utilización o adopción.

Información proveniente de fuentes directas no académicas, medios de comunicación o plataformas sociales en línea, preferentemente especializadas, incluyendo las menciones o interacciones que las aportaciones científicas reciben, pueden aportar información complementaria sobre las audiencias específicas, tanto sociales como profesionales, que han mostrado interés o han reconocido la contribución del conocimiento científico en diferentes ámbitos de aplicación.

Métricas de visibilidad social Recopilan información proveniente de distintas plataformas sociales en línea, preferentemente académicas y especializadas, incluyendo las menciones o interacciones que las aportaciones científicas reciben. Este tipo de métricas pueden aportar información complementaria significativa sobre la capacidad para la interacción social de la persona solicitante y sobre las audiencias específicas, tanto académicas como profesionales, que han mostrado interés.
B. Dimensiones a nivel de medio de difusión Métricas sobre el impacto científico del medio

Indicadores bibliométricos cuantitativos que evalúan el impacto de una revista o editorial dentro de la comunidad científica. Estas métricas abarcan una variedad de indicadores que buscan determinar la relevancia y la influencia del medio en su ámbito disciplinario, así como comparar su rendimiento con el de otras publicaciones similares.

Métricas sobre calidad en la gestión del medio Se refieren a indicadores que ofrecen información sobre la calidad en la gestión y en los procesos editoriales de un medio. Estas métricas pueden incluir aspectos como tasas de aceptación, tipo de revisión por pares (abierta o no) e internacionalización, y se verifican mediante certificaciones acreditativas que aseguran el cumplimiento de buenas prácticas editoriales estandarizadas.
C. Dimensiones relacionadas con la contribución científica en abierto Depósito o publicación en repositorios digitales de acceso abierto

Se valorará la difusión de las aportaciones en acceso abierto y sin restricciones a través de repositorios institucionales, temáticos o generalistas, por ejemplo, Zenodo o cualquiera de los repositorios agregados por RECOLECTA.

Se valorará también la publicación en revistas y plataformas de acceso abierto sin imposición de tasas a las/os autoras/es ni a las/os lectoras/es (modalidad “acceso abierto diamante"), así como en plataformas de publicación de resultados de investigación como Open Research Europe u otras plataformas impulsadas por otras agencias de financiación.

En ningún caso, la publicación en revistas de acceso abierto, ya sean comerciales (gold) o sin pago de tasas de publicación (diamante), o en revistas híbridas exime el depósito de las publicaciones en un repositorio.

Compartición de datos, metodologías, programas de ordenador y modelos de aprendizaje automático

Se valorará la publicación, siempre que sea posible, de forma abierta y transparente de los datos de investigación, metodologías y programas de ordenador, a través de infraestructuras especializadas o repositorios que cumplan con estándares de metadatos y conservación a largo plazo, facilitando su replicabilidad, reproducibilidad, accesibilidad, reutilización y perdurabilidad, así como el escrutinio científico.

Es relevante que en el caso de los resultados de investigación el depósito y/o publicación en abierto se realice en infraestructuras y/o repositorios agregados o de confianza, que garanticen el cumplimiento de estándares internacionales (por ejemplo, Zenodo, GitHub o cualquiera de los repositorios agregados por RECOLECTA).

Para una adecuada descripción es necesario especificar los repositorios o infraestructuras donde se encuentran depositadas las aportaciones, así como su identificador único persistente (por ejemplo, DOI, Handle, ARK, SWHID o, en general, una URI/URL única permanente).

En este apartado se podrán utilizar evidencias métricas de uso, lectura y reutilización, debidamente contextualizadas. Se recomienda asimismo ofrecer detalles sobre el nivel de cumplimiento de los principios FAIR de los conjuntos de datos presentados (fáciles de encontrar, accesibles, interoperables y reutilizables).

Asimismo, se considera relevante mencionar, en su caso, la reutilización efectiva de estos productos por otros proyectos o equipos de investigación. Finalmente, será necesario consignar la fecha de inclusión de la contribución en los respectivos repositorios o infraestructuras para fomentar el rastreo cronológico de su difusión

Ciencia Abierta a la Sociedad Se valorarán las aportaciones fruto de la generación de conocimiento realizada en colaboración y con la implicación activa de la ciudadanía en todo o parte de proceso de investigación (ciencia ciudadana, ciencia participativa, ciencia comunitaria, etc.) y/o en diálogo con otros sistemas y agentes sociales (administraciones públicas, comunidades locales, colectivos, entidades, organizaciones del tercer sector, etc.).

II. Ejemplos de métricas y fuentes

  • La Tabla ilustra posibles métricas, fuente y dimensiones para evidenciar los indicios de relevancia e impacto de las aportaciones presentadas a evaluación.
  • En esta narración se deberá incorporar una mención específica al alcance de las fuentes consultadas, aportar la fecha de consulta de las fuentes y abstenerse de hacer comparaciones a nivel individual o de utilizar listas o ránquines autoelaborados.
  • La información contenida en esta tabla debe considerarse como un recurso orientativo sobre métricas y fuentes disponibles; por tanto, no se debe asumir que estas sean las únicas aplicables.
  • Asimismo, la ausencia de ciertas métricas y fuentes no excluye la posibilidad de incluirlas en los indicios de relevancia e impacto de las aportaciones presentadas.
  • Cabe destacar que las métricas abarcan diversas dimensiones y que no es requisito indispensable presentar evidencias para cada una de ellas.
  • Las personas solicitantes podrán seleccionar y presentar las métricas que consideren más representativas y adecuadas en función de la naturaleza, la tradición y el consenso disciplinar y las características específicas de cada una de las aportaciones presentadas a evaluación
MÉTRICA DIMENSIÓN NIVEL ALCANCE EVIDENCIA DE

FUENTES

(orden alfabético)

CONTEXTO

/ NARRATIVA

Nº de citas Citación Aportación Nº de citas recibidas por la aportación excluyendo las autocitas Impacto científico

Dialnet Métricas

Dimensions

Google Académico

OpenCitations

Scopus

WoS (Core Collection)

Citas recibidas por parte de autoras/es influyentes

Citas recibidas en publicaciones influyentes

Citas recibidas en secciones influyentes (metodología, discusión)

Citas recibidas el último / primer año

Citas normalizadas.
Por ejemplo:
Category Normalized Citation Impact (CNCI), Fieldweighted Citation Impact (FWCI), Field Citation Ratio (FCR), etc.
Citación Aportación Nº de citas recibidas considerando el año de publicación, la tipología documental y la disciplina. Impacto científico

Dimensions

InCites

Scopus

Porcentaje de citación respecto al promedio  mundial, u otras  referencias (geográficas o disciplinares).
Percentil Citación Aportación Posición (decil, tercil, cuartil) en el que se  encuentra una aportación en un listado de
aportaciones ordenadas por citas recibidas.
Impacto científico

Dialnet Métricas

Essential Science Indicators

InCites

Lugar de la aportación en el listado correspondiente, indicando el tamaño del listado y/o el prestigio de la fuente que genera el listado.
Cantidad de uso Uso y lectura Aportación Nº de visualizaciones descargas, visitas, inclusión en catálogos bibliotecarios, entre otros, considerando distintas plataformas digitales de comunicación Impacto científico y/o social

Plataformas editoriales de publicación en acceso abierto

Repositorios

Scopus

Nº de países y ciudades diferentes desde donde se ha usado una aportación.
Menciones, referencias Influencia, utilización y/o adopción social Aportación Menciones recibidas por la aportación en documentos no académicos por agentes sociales, culturales, económicos o políticos. Por ejemplo: documentos normativos, patentes, estándares, informes de implementación de políticas públicas, noticias en medios, guías clínicas, etc. Impacto social

Agregadores de métricas alternativas (por ejemplo, Altmetric.com o PlumX)

Fuentes directas de los agentes no académicos

Medios de comunicación o plataformas sociales

Overton

The Lens

Beneficios y trascendencia que ha generado fuera de la academia.

Relevancia y alcance de las organizaciones que hacen uso de la aportación.

Impacto. Por ejemplo: Journal Impact Factor, Citescore, Scimago Journal Rank, IDR, etc Impacto científico del medio Medio de difusión Visibilidad de un medio de difusión a partir del impacto Impacto científico

Dialnet Métricas

Scopus

WoS

Posición (decil, tercil, cuartil) del medio en un listado de medios ordenados por Impacto
Sello de calidad editorial Calidad en la gestión del medio Medio de difusión Obtención por parte del medio de difusión de un reconocimiento a la calidad de su proceso de trabajo. Impacto científico

DOAB

DOAJ

Sello CEA-APQ

Sello de Calidad FECYT

Relevancia de los premios o reconocimientos recibidos por el medio de difusión en el tiempo.
Grado de internacionalización Calidad en la gestión del medio Medio de difusión Porcentaje de personas afiliadas a instituciones extranjeras. Impacto científico El propio medio de difusión o un producto externo con información de medios de difusión. Relevancia de las personas pertenecientes a un comité editorial.
Depósito en acceso abierto de la aportación Depósito en repositorio de acceso abierto Aportación Existencia de una copia legible por máquina de la aportación recogida en una o más plataformas de acceso abierto. Ciencia Abierta

Repositorios institucionales, temáticos o generalistas de acceso abierto.

Plataformas editoriales de publicación en acceso abierto (modelo “diamante”, etc.).

Relevancia de la plataforma.

Métricas de uso de la aportación en cada plataforma.

Vinculación de la aportación con otras aportaciones (publicaciones, conjuntos de datos, programas de ordenador, modelos de aprendizaje automático).

Nº de participantes no académicos o grupos sociales involucrados Ciencia Abierta a la Sociedad Aportación Autoría no académica o contribuciones de no académicos/as explícitamente reconocidas en publicaciones científicas. Ciencia Abierta Scistarter Diversidad de los grupos sociales o instituciones no académicas involucradas.

III. Criterios mínimos que debe reunir un medio de difusión de la investigación para que las publicaciones que en él se incluyan puedan ser consideradas en la evaluación (en caso de que no se cumplan los citados en la Tabla 1)

Criterios concernientes a la calidad de la revista como medio de comunicación científica
  1. Identificación de quienes componen los comités editoriales y científicos.
  2. Instrucciones detalladas a las/os autoras/es.
  3. Información sobre el proceso de evaluación y selección de manuscritos empleados por la revista, editorial o comité de selección, incluyendo, por ejemplo, los criterios, procedimiento e informe para la aceptación de los originales a cargo de revisoras/es o juezas/jueces preferentemente externas/os.
  4. Traducción del sumario, títulos de los artículos, palabras clave y resúmenes al inglés, en caso de revistas.
Criterios sobre la calidad del proceso editorial
  1. Periodicidad de las revistas y regularidad y homogeneidad de la línea editorial en caso de editoriales de libros.
  2. Revisión por pares de los manuscritos (ciego, open peer review, etc.). La revisión da lugar a un informe motivado de su admisión o rechazo.
  3. Comunicación motivada de la decisión editorial, por ejemplo, empleo por la revista, la editorial o el comité de selección de una notificación argumentada de la decisión editorial que incluya las razones para la aceptación, revisión o rechazo del manuscrito, así como los dictámenes emitidos por las personas expertas externas.
  4. Existencia de un consejo asesor, o equivalente, con suficiente representatividad académica y movilidad en su composición, formado por profesionales y personal investigador de reconocida solvencia, sin vinculación institucional con la revista o editorial, orientado a marcar la política editorial y someterla a evaluación y auditoría.
Criterios sobre la calidad científica de las revistas
  1. Porcentaje de artículos de investigación; más del 75 % de los artículos deberán ser trabajos que comuniquen resultados de investigación originales.
  2. Autoría: grado de endogamia editorial, más del 75 % de las/los autoras/es serán externos al comité editorial y ajenas/os a la organización editorial de la revista.

Asimismo, se tendrá especialmente en cuenta la indexación de las revistas en las bases de datos bibliográficas de reconocido prestigio.

Tratándose de libros y capítulos de libros, se valorarán aquellos publicados en editoriales que cuenten con el sello de Calidad en Edición Académica CEA-APQ (ANECA-UNE-FECYT) u otros similares.