<?xml version="1.0" encoding="ISO-8859-1"?><article xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
<front>
<journal-meta>
<journal-id>1657-9534</journal-id>
<journal-title><![CDATA[Colombia Médica]]></journal-title>
<abbrev-journal-title><![CDATA[Colomb. Med.]]></abbrev-journal-title>
<issn>1657-9534</issn>
<publisher>
<publisher-name><![CDATA[Universidad del Valle]]></publisher-name>
</publisher>
</journal-meta>
<article-meta>
<article-id>S1657-95342008000100009</article-id>
<title-group>
<article-title xml:lang="es"><![CDATA[Limitaciones de los indicadores bibliométricos en la evaluación de la actividad científica biomédica]]></article-title>
</title-group>
<contrib-group>
<contrib contrib-type="author">
<name>
<surname><![CDATA[Camps]]></surname>
<given-names><![CDATA[Diego]]></given-names>
</name>
<xref ref-type="aff" rid="A01"/>
</contrib>
</contrib-group>
<aff id="A01">
<institution><![CDATA[,Universidad Católica de Córdoba Facultad de Medicina ]]></institution>
<addr-line><![CDATA[Córdoba ]]></addr-line>
<country>Argentina</country>
</aff>
<pub-date pub-type="pub">
<day>30</day>
<month>03</month>
<year>2008</year>
</pub-date>
<pub-date pub-type="epub">
<day>30</day>
<month>03</month>
<year>2008</year>
</pub-date>
<volume>39</volume>
<numero>1</numero>
<fpage>74</fpage>
<lpage>79</lpage>
<copyright-statement/>
<copyright-year/>
<self-uri xlink:href="http://www.scielo.org.co/scielo.php?script=sci_arttext&amp;pid=S1657-95342008000100009&amp;lng=en&amp;nrm=iso"></self-uri><self-uri xlink:href="http://www.scielo.org.co/scielo.php?script=sci_abstract&amp;pid=S1657-95342008000100009&amp;lng=en&amp;nrm=iso"></self-uri><self-uri xlink:href="http://www.scielo.org.co/scielo.php?script=sci_pdf&amp;pid=S1657-95342008000100009&amp;lng=en&amp;nrm=iso"></self-uri><abstract abstract-type="short" xml:lang="es"><p><![CDATA[El uso de indicadores bibliométricos para estudiar la actividad investigadora, se basa en que las publicaciones científicas son resultado esencial de dicha actividad, y proporcionan información sobre los resultados del proceso investigador, su volumen, evolución, visibilidad y estructura. Así, permiten valorar la actividad científica, e influencia (o impacto) tanto del trabajo como de las fuentes. Los estudios bibliométricos, en conjunto con otros indicadores, permiten la cuantificación de la ciencia en forma objetiva, y se potencian con la explosión actual del conocimiento y su recopilación en las bases bibliográficas de datos.]]></p></abstract>
<abstract abstract-type="short" xml:lang="en"><p><![CDATA[The use of bibliometrics indicators to study research activity is based on which the scientific publications are essential product of this activity, and provide information about the research process, its volume, evolution, visibility and structure. So, they allow to value the scientific activity, and influences (or impact) of the work and the sources. The bibliometrics studies, altogether with other indicators, allows an objective quantification of the knowledge, and are harnessed by the present explosion of the knowledge and its compilation in bibliographical data bases.]]></p></abstract>
<kwd-group>
<kwd lng="es"><![CDATA[Factor impacto]]></kwd>
<kwd lng="es"><![CDATA[Publicaciones]]></kwd>
<kwd lng="es"><![CDATA[Ciencia]]></kwd>
<kwd lng="es"><![CDATA[Conocimiento]]></kwd>
<kwd lng="es"><![CDATA[Latinoamérica]]></kwd>
<kwd lng="en"><![CDATA[Impact factor]]></kwd>
<kwd lng="en"><![CDATA[Publication]]></kwd>
<kwd lng="en"><![CDATA[Science]]></kwd>
<kwd lng="en"><![CDATA[Knowledge]]></kwd>
<kwd lng="en"><![CDATA[Latin America]]></kwd>
</kwd-group>
</article-meta>
</front><body><![CDATA[  <font face="Arial" size="+1">    <p align="center"><b>Limitaciones de los indicadores bibliom&eacute;tricos en la evaluaci&oacute;n de la actividad cient&iacute;fica biom&eacute;dica</b></p></font> <font face="Arial">    <p align="center"><b>Diego Camps, MD*</b></p></font> <font face="Arial" size="-1">    <p align="justify">* Profesor, Facultad de Medicina, Universidad Cat&oacute;lica de C&oacute;rdoba, Argentina. e-mail: <a href="mailto:fmeditor@campus1.uccor.edu.ar">fmeditor@campus1.uccor.edu.ar</a>    <br>Recibido para publicaci&oacute;n julio 24, 2007 Aceptado para publicaci&oacute;n enero 31, 2008</p></font>     <br> <font face="Arial">    <p><b>RESUMEN</b></p>     <p align="justify">El uso de indicadores bibliom&eacute;tricos para estudiar la actividad investigadora, se basa en que las publicaciones cient&iacute;ficas son resultado esencial de dicha actividad, y proporcionan informaci&oacute;n sobre los resultados del proceso investigador, su volumen, evoluci&oacute;n, visibilidad y estructura. As&iacute;, permiten valorar la actividad cient&iacute;fica, e influencia (o impacto) tanto del trabajo como de las fuentes. Los estudios bibliom&eacute;tricos, en conjunto con otros indicadores, permiten la cuantificaci&oacute;n de la ciencia en forma objetiva, y se potencian con la explosi&oacute;n actual del conocimiento y su recopilaci&oacute;n en las bases bibliogr&aacute;ficas de datos.</p>     <p align="center"><b>Palabras clave:</b> Factor impacto; Publicaciones; Ciencia; Conocimiento; Latinoam&eacute;rica.</p>     <p align="justify"><b>Limits of bibliometrics indicators in biomedical scientific research evaluation</b></p>     ]]></body>
<body><![CDATA[<p align="justify"><b>SUMMARY</b></p>     <p align="justify">The use of bibliometrics indicators to study research activity is based on which the scientific publications are essential product of this activity, and provide information about the research process, its volume, evolution, visibility and structure. So, they allow to value the scientific activity, and influences (or impact) of the work and the sources. The bibliometrics studies, altogether with other indicators, allows an objective quantification of the knowledge, and are harnessed by the present explosion of the knowledge and its compilation in bibliographical data bases.</p>     <p align="center"><b>Keywords:</b> Impact factor; Publication; Science; Knowledge; Latin America.</p>     <br>     <p align="justify">En el comienzo del siglo XXI, se registra un proceso de b&uacute;squeda de la identidad de la documentaci&oacute;n e investigaci&oacute;n cient&iacute;fica como ciencias, m&aacute;s que como simples instrumentos de la ciencia<sup><a href="#1">1</a></sup>.</p>     <p align="justify">Dentro de las Ciencias de la Informaci&oacute;n, se encuentra la Bibliometr&iacute;a, subdisciplina que se ocupa del empleo de una rama de las matem&aacute;ticas -la estad&iacute;stica- en ciencias de la informaci&oacute;n, as&iacute; como de leyes o modelos matem&aacute;ticos derivados de dicha aplicaci&oacute;n y que reflejan el comportamiento colectivo de hechos, fen&oacute;menos o relaciones del mundo informativo-documental<sup><a href="#2">2</a></sup>.</p>     <p align="justify">Los primeros estudios bibliom&eacute;tricos consist&iacute;an en recuentos manuales de publicaciones cient&iacute;ficas. A partir de 1960, aparece la denominada &lsquo;ciencia de la ciencia&rsquo;, que nace en la confluencia de la documentaci&oacute;n cient&iacute;fica, la sociolog&iacute;a e historia social de la ciencia, con el objeto de estudiar la actividad cient&iacute;fica como fen&oacute;meno social, mediante indicadores y modelos matem&aacute;ticos<sup><a href="#2">2</a></sup>.</p>     <p align="justify">La bibliometr&iacute;a se utiliza para evaluar &aacute;reas cient&iacute;ficas, y resulta un m&eacute;todo confiable y universal para medir la productividad de un sector, y determina que los estudios bibliom&eacute;tricos sean cada vez m&aacute;s requeridos y utilizados, hecho que se generaliza en los pa&iacute;ses cient&iacute;ficamente con mayor desarrollo<sup><a href="#3">3</a></sup>.</p>     <p align="justify"><b>ANTECEDENTES HIST&Oacute;RICOS</b></p>     <p align="justify">Los antiguos griegos hab&iacute;an ideado un procedimiento para determinar la extensi&oacute;n o medida de los manuscritos con base en distintos coeficientes, procedimiento llamado &lsquo;esticometr&iacute;a&rsquo;, que se emple&oacute; para estimar costos y remuneraciones<sup><a href="#4">4</a></sup>.</p>     ]]></body>
<body><![CDATA[<p align="justify">La introducci&oacute;n de las matem&aacute;ticas a las disciplinas sociales tiene sus antecedentes en la doctrina llamada &lsquo;positivismo&rsquo;, de Augusto Comte, fil&oacute;sofo y matem&aacute;tico franc&eacute;s (1798-1857), que tuvo gran influencia en lossiglos XIX y XX, aunque en la actualidad es cuestionada.</p>     <p align="justify">La antesala de la bibliometr&iacute;a como tal fue la &lsquo;bibliograf&iacute;a estad&iacute;stica&rsquo;. El primer trabajo reconocido dentro de esta disciplina correspondi&oacute; a Cole y Eales en 1917, quienes analizaron publicaciones sobre anatom&iacute;a comparada entre los a&ntilde;os 1550 y 1860, con distribuci&oacute;n por pa&iacute;ses y divisiones del reino animal. En 1923 Hulme, bibliotecario de la British Patent Office, present&oacute; un an&aacute;lisis estad&iacute;stico de historia de la ciencia y en 1926 Gross analiz&oacute; las referencias en art&iacute;culos de revistas indexadas sobre qu&iacute;mica, en The Journal of the American Chemistry Society<sup><a href="#6">6</a></sup>.</p>     <p align="justify">En 1969 Pritchard fue quien primero defini&oacute; &lsquo;Bibliometrics&rsquo; (Bibliometr&iacute;a) como la aplicaci&oacute;n de m&eacute;todos estad&iacute;sticos y matem&aacute;ticos para definir los procesos de la comunicaci&oacute;n escrita, la naturaleza y el desarrollo de las disciplinas cient&iacute;ficas mediante t&eacute;cnicas de recuento y an&aacute;lisis de la comunicaci&oacute;n. Esta idea de mencionar a Pritchard como el primero en proclamar el t&eacute;rmino la cuestiona R&iacute;os<sup><a href="#5">5</a></sup>, quien plantea que el brasile&ntilde;o Edson Nery Fonseca cita en su bibliograf&iacute;a estad&iacute;stica a Wynd-ham Hulme (1923), Paul Otlet (1934), Victor Zoltowski (1955), a los que anteceden J Cole (1917), OL Gross (1927) y BC Vickery (1948), como autoridades que de una u otra forma hab&iacute;an empleado el t&eacute;rmino bibliometr&iacute;a.</p>     <p align="justify">Garfield<sup><a href="#7">7</a></sup> sostuvo que este m&eacute;todo de evaluaci&oacute;n se podr&iacute;a utilizar como un indicador del impacto que una producci&oacute;n cient&iacute;fica ten&iacute;a sobre el medio.</p>     <p align="justify">El indicador &lsquo;Factor de Impacto&rsquo; (FI) que se utiliza para evaluar la calidad de las revistas cient&iacute;ficas, se emple&oacute; como tal por primera vez en 1963 por la publicaci&oacute;n del Science Citation Index (SCI). El concepto era que las revistas cuya publicaci&oacute;n generaran mayor n&uacute;mero de citaciones ten&iacute;an un mayor impacto en la comunidad cient&iacute;fica<sup><a href="#8">8</a>, <a href="#9">9</a></sup>.</p>     <p align="justify"><b>EVALUACI&Oacute;N DE LA ACTIVIDAD CIENT&Iacute;FICA A TRAV&Eacute;S DE LA BIBLIOMETR&Iacute;A</b></p>     <p align="justify">El uso de los indicadores bibliom&eacute;tricos para estudiar la actividad investigadora de un pa&iacute;s o &aacute;rea se basa en que las publicaciones cient&iacute;ficas son un resultado esencial de dicha actividad. Un nuevo conocimiento adquiere valor cuando se da a conocer y se difunde, porque s&oacute;lo as&iacute; podr&aacute; contribuir al avance cient&iacute;fico<sup><a href="#1">1</a>, <a href="#3">3</a></sup>.</p>     <p align="justify">Por ello, la publicaci&oacute;n cient&iacute;fica se convierte en un resultado importante y tangible de la investigaci&oacute;n, y los indicadores bibliom&eacute;tricos adquieren validez como medida de la actividad cient&iacute;fica<sup><a href="#3">3</a>, <a href="#6">6</a></sup>.</p>     <p align="justify">Los an&aacute;lisis bibliom&eacute;tricos de &aacute;reas biom&eacute;dicas se pueden realizar a trav&eacute;s de bases bibliogr&aacute;ficas de datos, especializadas en medicina, como Medline, Excerpta Medica o SCI<sup><a href="#3">3</a></sup>.</p>     <p align="justify">&Eacute;stas son la principal fuente de informaci&oacute;n que se utiliza en los estudios bibliom&eacute;tricos, pero se debe destacar que la validez depender&aacute; que la base de datos seleccionada abarque adecuadamente el &aacute;rea objeto de estudio. Algunas difieren en cobertura tem&aacute;tica, criterios de selecci&oacute;n de revistas o documentos, poseen sesgos geogr&aacute;ficos y ling&uuml;&iacute;sticos y otras caracter&iacute;sticas que modifican la realizaci&oacute;n e interpretaci&oacute;n de un estudio bibliom&eacute;trico<sup><a href="#3">3</a></sup>.</p>     ]]></body>
<body><![CDATA[<p align="justify"><b>INDICADORES BIBLIOM&Eacute;TRICOS</b></p>     <p align="justify">Los indicadores bibliom&eacute;tricos proporcionan informaci&oacute;n sobre los resultados del proceso investigador, su volumen, evoluci&oacute;n, visibilidad y estructura. As&iacute; permiten valorar la actividad cient&iacute;fica, y la influencia (o impacto) tanto del trabajo como de las fuentes. De acuerdo con ello, se pueden clasificar en dos grandes grupos: Indicadores de Actividad e Indicadores de Impacto<sup><a href="#10">10</a></sup>.</p>     <p align="justify"><b>Indicadores de actividad.</b> Los indicadores de actividad cient&iacute;fica permiten visualizar el estado real de la ciencia. Dentro de ellos se encuentran:</p> <ul>    <li>N&uacute;mero y distribuci&oacute;n de publicaciones: miden el n&uacute;mero total de publicaciones por instituciones y su distribuci&oacute;n.</li>     <li>Productividad: n&uacute;mero de trabajos por autor, revista o instituci&oacute;n.</li>     <li>Dispersi&oacute;n de las publicaciones: an&aacute;lisis de las publicaciones sobre un tema o &aacute;rea entre las diversas fuentes de informaci&oacute;n. Permite descubrir n&uacute;cleos de autores o revistas.</li>     <li>Colaboraci&oacute;n en las publicaciones: &iacute;ndice de firmas por trabajo, empleado para determinar la actividad y cooperaci&oacute;n cient&iacute;fica entre grupos de cient&iacute;ficos o instituciones.</li>     <li>Vida media de la citaci&oacute;n o envejecimiento: n&uacute;mero de a&ntilde;os, transcurridos desde la publicaci&oacute;n, en el cual las citas disminuyen a 50% de su valor inicial.</li>     <li>Conexiones entre autores: estudio de referencias que un trabajo hace a otro, y estudio de citas que &eacute;ste recibe de aquel. Los datos obtenidos son muy importantes porque a partir de ellos se pueden obtener otros indicadores, el &iacute;ndice de obsolescencia o envejecimiento, vida media y detecci&oacute;n de colegios invisibles.</li>    </ul>     ]]></body>
<body><![CDATA[<p align="justify">Cabe destacar que los estudios de productividad por autores han sido investigados por Lotka, y arrojan como resultado la existencia de un peque&ntilde;o grupo de personas muy productivas, al lado de un gran n&uacute;mero de personas que apenas publican<sup><a href="#2">2</a>, <a href="#10">10</a></sup>.</p>     <p align="justify">La productividad por revistas fue estudiada por Bradford, quien determin&oacute; que una gran cantidad de publicaciones sobre un tema determinado est&aacute;n presentes en un n&uacute;cleo peque&ntilde;o de revistas<sup><a href="#2">2</a>, <a href="#10">10</a></sup>.</p>     <p align="justify"><b>Indicadores de impacto.</b> Con los indicadores de impacto se pueden valorar el impacto de autores, trabajos o revistas.</p> <ul>    <li><b>Documentos recientes muy citados (hot papers).</b> Los documentos alcanzan su m&aacute;ximo de citas entre 2 y 4 a&ntilde;os despu&eacute;s de ser publicados, pero algunos muestran una actividad de citas inusualmente alta poco tiempo despu&eacute;s de su publicaci&oacute;n con respecto a otros documentos del mismo campo de investigaci&oacute;n y antig&uuml;edad similar.</li>     <li><b>Impacto de las revistas.</b> Se obtiene mediante los datos publicados peri&oacute;dicamente por el Institute for Scientific Information (ISI) en el Journal Citation Report (JCR), que presenta datos estad&iacute;sticos cuantificables y proveen una v&iacute;a para evaluar las revistas m&aacute;s importantes a nivel mundial, as&iacute; como su impacto e influencia en la comunidad de investigaci&oacute;n<sup><a href="#11">11</a></sup>. A partir del a&ntilde;o 2005, el JCR Web se encuentra disponible a trav&eacute;s del ISI Web of Knowledge. Incluye adem&aacute;s del an&aacute;lisis del nivel de revistas, el de nivel por categor&iacute;a tem&aacute;tica. Tiene una cobertura de m&aacute;s de 7, 500 revistas de las cuales cerca de 5, 900 son de ciencias biom&eacute;dicas y 1, 700 de ciencias sociales<sup><a href="#11">11</a></sup>. Esta base de datos est&aacute; sesgada idiom&aacute;tica y geogr&aacute;ficamente hacia pa&iacute;ses angloparlantes<sup><a href="#12">12</a></sup>, y presenta algunos errores en datos publicados<sup><a href="#13">13</a></sup>. Se encuentra muy criticada, aunque sus indicadores son referencia para instituciones cient&iacute;ficas en Latinoam&eacute;rica a fin de calificar, apoyar e impulsar investigaciones. Entre los indicadores que utiliza el ISI pueden mencionarse, entre otros el &Iacute;ndice de Inmediatez, n&uacute;mero de art&iacute;culos por revista, n&uacute;mero de art&iacute;culos por autor, vida media de las citas, &iacute;ndice de colaboraci&oacute;n, n&uacute;mero de art&iacute;culos por categor&iacute;a, n&uacute;mero de revistas por categor&iacute;a<sup><a href="#11">11</a></sup>. La f&oacute;rmula utilizada por el ISI para obtener el FI de una revista es el n&uacute;mero de citaciones realizadas a art&iacute;culos publicados en una revista en un per&iacute;odo determinado (citaciones hechas por distintas revistas indexadas en el ISI) dividido por el total de art&iacute;culos de esa revista<sup><a href="#8">8</a></sup>. El &iacute;ndice de impacto de un autor se calcula como el cociente entre el n&uacute;mero de sus citas y el de sus art&iacute;culos, considerando toda su carrera acad&eacute;mica registrada en el SCI del ISI. Algunos autores han cuestionado la autonom&iacute;a que pueda llegar a tener esta entidad privada, y proponen la creaci&oacute;n de una entidad aut&oacute;noma que se encargue de esta labor bajo el control de una comisi&oacute;n internacional<sup><a href="#8">8</a></sup>.</li>     <li><b>European Journal Quality Factor.</b> Surge como resultado de un movimiento de las instituciones acad&eacute;micas europeas. Incluye m&aacute;s de 500 revistas biom&eacute;dicas europeas y propone una nueva f&oacute;rmula para el c&aacute;lculo del FI<sup><a href="#14">14</a>-<a href="#16">16</a></sup>.</li>     </ul>     <p align="justify"><b>LIMITACIONES DE LOS INDICADORES BIBLIOM&Eacute;TRICOS</b></p>     <p align="justify"><b>De actividad.</b> Los indicadores bibliom&eacute;tricos son v&aacute;lidos en aquellas &aacute;reas en las que las publicaciones son un resultado esencial de la investigaci&oacute;n. Por esta raz&oacute;n, su validez es de m&aacute;xima relevancia en el estudio de las &aacute;reas b&aacute;sicas, donde predominan publicaciones cient&iacute;ficas, y menor en las &aacute;reas tecnol&oacute;gicas o aplicadas<sup><a href="#1">1</a></sup>.</p>     <p align="justify">S&oacute;lo aportan informaci&oacute;n sobre la cantidad de publicaciones, pero no sobre su calidad, por lo que tiene mucho inter&eacute;s combinar estos indicadores con los de impacto y/o juicio de expertos<sup><a href="#3">3</a></sup>.</p>     ]]></body>
<body><![CDATA[<p align="justify">Adem&aacute;s, no deben efectuarse comparaciones entre &aacute;reas tem&aacute;ticas, porque los h&aacute;bitos de publicaci&oacute;n y la productividad de los autores difieren. Estas diferencias son especialmente importantes entre las distintas &aacute;reas cient&iacute;ficas (ciencias sociales, ingenier&iacute;a y tecnolog&iacute;a, ciencias naturales y experimentales), y tambi&eacute;n existen entre las diversas disciplinas que componen un &aacute;rea. En el caso de la medicina son claras las diferencias que atienden al car&aacute;cter b&aacute;sico o cl&iacute;nico de la actividad<sup><a href="#1">1</a>, <a href="#3">3</a>, <a href="#17">17</a></sup>.</p>     <p align="justify">Con respecto a limitaciones sobre citaciones, algunos estudios revelan que no se citan todas las influencias, y que sin embargo se incluyen trabajos que no se han utilizado realmente en la investigaci&oacute;n<sup><a href="#7">7</a></sup>. Otros autores resaltan que los art&iacute;culos tienden a citar de preferencia art&iacute;culos de la misma lengua, e incluso de la misma revista donde son publicados<sup><a href="#17">17</a>, <a href="#18">18</a></sup>.</p>     <p align="justify">Cabe destacar que el tipo de publicaci&oacute;n puede influir sobre el n&uacute;mero de citas que recibe. Los documentos metodol&oacute;gicos, que introducen t&eacute;cnicas o m&eacute;todos que se referencian luego en cada uso, refieren una alta tasa de citaciones. Asimismo, las revisiones y por extensi&oacute;n las revistas especializadas en revisiones, obtienen tasas de citaci&oacute;n m&aacute;s altas que otros tipos documentales, debido a que manejan una amplia bibliograf&iacute;a<sup><a href="#3">3</a></sup>.</p>     <p align="justify">El ritmo de envejecimiento de la bibliograf&iacute;a en las distintas &aacute;reas de las ciencias de la salud, var&iacute;a en funci&oacute;n de la velocidad con que progresa la investigaci&oacute;n en cada una de ellas y es un elemento determinante de la rapidez con que son citados los trabajos. En las &aacute;reas de r&aacute;pido crecimiento los investigadores tienden a citar trabajos recientes, como en neurociencias, mientras que en las de lento crecimiento, como en cirug&iacute;a, se citan trabajos mucho m&aacute;s antiguos<sup><a href="#3">3</a></sup>.</p>     <p align="justify"><b>De impacto.</b> Las limitaciones expuestas para el an&aacute;lisis de citas son tambi&eacute;n v&aacute;lidas para el uso del factor de impacto, ya que este indicador se calcula en funci&oacute;n de las citas que reciben las revistas. As&iacute;, las &aacute;reas cl&iacute;nicas presentan los FI m&aacute;s bajos, mientras que los factores de impacto m&aacute;s elevados corresponden a &aacute;reas b&aacute;sicas, como la bioqu&iacute;mica y la biolog&iacute;a molecular. Adem&aacute;s, las &aacute;reas con un r&aacute;pido envejecimiento de la bibliograf&iacute;a presentan valores altos de FI<sup><a href="#17">17</a></sup>.</p>     <p align="justify">En el &aacute;rea biom&eacute;dica el FI es m&aacute;s alto en revistas de medicina general que en revistas de una determinada especialidad, lo que no significa que trabajos publicados en revistas muy espec&iacute;ficas sean de calidad diferente. Los criterios para elegir publicar en una revista incluyen otros factores adem&aacute;s del FI<sup><a href="#9">9</a></sup>.</p>     <p align="justify">Por otra parte, en un trabajo previo, al analizar las tendencias de citaciones en tesis de doctorado en Ciencias de la Salud<sup><a href="#18">18</a></sup>, se detect&oacute; que la vida media de las citaciones es mayor al promedio que habitualmente se considera en cada &aacute;rea, por lo que una publicaci&oacute;n requiere un plazo mayor para tener un impacto en la actividad de tesistas, y se sugiere que deben desarrollarse indicadores espec&iacute;ficos para esta &aacute;rea aunque los trabajos al respecto son escasos y se deben hacer nuevas investigaciones.</p>     <p align="justify">Seglen<sup><a href="#19">19</a></sup> agrup&oacute; los problemas fundamentales que surg&iacute;an al utilizar el FI de las revistas biom&eacute;dicas para valorar la investigaci&oacute;n cient&iacute;fica, dentro de los cuales se destacan:</p> <ul>    <li>El FI de una revista no es estad&iacute;sticamente representativo de sus art&iacute;culos individuales.</li>     <li>Los autores se gu&iacute;an por m&uacute;ltiples criterios diferentes al FI para remitir sus art&iacute;culos a una revista.</li>     ]]></body>
<body><![CDATA[<li>Los art&iacute;culos de gran longitud recogen muchas citas y dan altos FI a las revistas.</li>     <li>La base de datos utilizada para calcular el FI tiene una cobertura incompleta, con claro sesgo a favor de la lengua inglesa, dominada por publicaciones norteamericanas, no corrige autocitaciones ni discrimina entre los tipos de publicaciones que citan o referencian (cartas, originales, comunicaciones breves, revisiones).</li>    </ul>     <p align="justify">Sobre este &uacute;ltimo punto, autores como Amin y Mabe<sup><a href="#20">20</a></sup> afirman que deber&iacute;an discriminarse los &lsquo;art&iacute;culos v&aacute;lidos&rsquo; (t&eacute;rmino definido en 1978 por el Council of Biology Editors, que pretende destacar aquellos art&iacute;culos con informaci&oacute;n suficiente como para asegurar las observaciones, repetir las experiencias y evaluar los procesos intelectuales), de los dem&aacute;s tipos de publicaciones.</p>     <p align="justify">Como propuesta a las diferentes objeciones que se realizan al FI, Sombatsompop et al.<sup><a href="#21">21</a></sup> introdujeron la vida media de las citaciones en el c&aacute;lculo del FI, indicador que Rosseau llam&oacute; &lsquo;Median Impact Factor&rsquo;<sup><a href="#22">22</a></sup>. Van Leeuwen y Moed<sup><a href="#23">23</a></sup>, bas&aacute;ndose en aspectos cr&iacute;ticos del FI, desarrollaron un indicador llamado &lsquo;Journal to Field Impact Source&rsquo;.    <br>Actualmente el entorno web es una realidad tangible y las publicaciones cient&iacute;ficas electr&oacute;nicas han cobrado gran importancia por lo que para su evaluaci&oacute;n ser&aacute; necesario considerar otros criterios<sup><a href="#1">1</a>, <a href="#11">11</a>, <a href="#18">18</a></sup>.</p>     <p align="justify">Por ello, en la evaluaci&oacute;n de las revistas electr&oacute;nicas es indispensable tener conocimiento respecto a si se trata de revistas de acceso abierto (open acess) o si son revistas de distribuci&oacute;n comercial con embargo temporal para la consulta en Internet. Esto influir&aacute; directamente sobre un indicador como es la cantidad de visitas recibidas en un sitio.</p>     <p align="justify">Para las revistas de acceso abierto se encuentra disponible el Directory of Open Acess Journals (DOAJ). Seg&uacute;n Aguillo<sup><a href="#14">14</a></sup>, este directorio tiene como criterios de inclusi&oacute;n los siguientes: cobertura informativa, acceso, metadatos y calidad, considera como control de calidad la inclusi&oacute;n de aquellas revistas que tienen control de calidad sobre los art&iacute;culos mediante una redacci&oacute;n, un comit&eacute; editorial y/o un sistema de revisi&oacute;n por pares o evaluadores capacitados (peer review).</p>     <p align="justify">Una de las prerrogativas de las publicaciones electr&oacute;nicas con respecto a las impresas, es el hipertexto que posibilita el enlace de distintas fuentes cient&iacute;ficas y ampl&iacute;a exponencialmente el campo de la investigaci&oacute;n, por lo que los enlaces o links desde una fuente a otra se debieran considerar como otro indicador para tener en cuenta.</p>     <p align="justify"><b>COMENTARIOS</b></p>     ]]></body>
<body><![CDATA[<p align="justify">La bibliometr&iacute;a constituye un medio para situar la producci&oacute;n de un pa&iacute;s con respecto al mundo, una instituci&oacute;n en relaci&oacute;n con su pa&iacute;s y hasta los cient&iacute;ficos en relaci&oacute;n con sus propias comunidades.</p>     <p align="justify">Un an&aacute;lisis bibliom&eacute;trico es una valiosa herramienta, tanto para el estudio del estado de las distintas disciplinas cient&iacute;ficas, como para el de producci&oacute;n cient&iacute;fica de una determinada regi&oacute;n, disciplina o tema. Su objeto de estudio son los productos del pensamiento representados f&iacute;sicamente en documentos. En otras palabras, el conocimiento intelectual apoyado en soporte material<sup><a href="#1">1</a>, <a href="#5">5</a>, <a href="#18">18</a></sup>.</p>     <p align="justify">La comunidad internacional, en particular la Organizaci&oacute;n para la Cooperaci&oacute;n y Desarrollo Econ&oacute;mico (OCDE) y la Unesco, desarrollaron metodolog&iacute;as para elaborar indicadores, que pueden resumirse en tres manuales de referencia obligada: el Manual de Frascati (1963, 1970, 1976, 1981, 1983 y 2002), el Manual de Oslo (1992 y 1996) y el Manual de Canberra (1995)<sup><a href="#2">2</a></sup>.</p>     <p align="justify">Estos manuales ofrecen procedimientos para medir las actividades de investigaci&oacute;n y desarrollo experimental, determinar los recursos humanos dedicados a ciencia y tecnolog&iacute;a e interpretar la innovaci&oacute;n tecnol&oacute;gica. Los estudios bibliom&eacute;tricos son parte de estos procedimientos, y en conjunto con otros indicadores, pueden ayudar a valorar el estado actual de la ciencia y apoyar la toma de decisiones y direcci&oacute;n de la investigaci&oacute;n.</p>     <p align="justify">Para cada problema y &aacute;rea que se aborda, existe un indicador espec&iacute;fico, por lo que no es una buena pr&aacute;ctica utilizar s&oacute;lo un indicador para evaluar la actividad de investigadores; sobre todo, si los investigadores no pertenecen al mismo campo de investigaci&oacute;n o a la misma disciplina o &aacute;rea cient&iacute;fica. Sin embargo, en Latinoam&eacute;rica las instituciones de ciencia y tecnolog&iacute;a emplean sistem&aacute;ticamente el FI para evaluar, categorizar e incentivar los investigadores.</p>     <p align="justify">En pa&iacute;ses como Brasil, Chile y Argentina, las instituciones que eval&uacute;an la actividad cient&iacute;fica utilizan el impacto y la publicaci&oacute;n en revistas del JCR para categorizar y subsidiar a cient&iacute;ficos e instituciones. La situaci&oacute;n en Colombia no es muy diferente, Colciencias emplea un pol&eacute;mico sistema de evaluaci&oacute;n de revistas cient&iacute;ficas (y de los investigadores que publican en ellas)<sup><a href="#12">12</a>, <a href="#13">13</a>, <a href="#24">24</a>, <a href="#25">25</a></sup>.</p>     <p align="justify">De esto resulta un empobrecimiento de las publicaciones peri&oacute;dicas latinoamericanas, con investigadores que prefieren publicar sus manuscritos en revistas de habla inglesa, en desmedro de revistas regionales<sup><a href="#26">26</a></sup>. Algunas de estas revistas son consideradas como las mejores en sus pa&iacute;ses (tienen alto impacto local y regional), pese a no tener un FI elevado<sup><a href="#25">25</a>, <a href="#26">26</a></sup>.</p>     <p align="justify">Se debe destacar tambi&eacute;n que la manipulaci&oacute;n con fines interesados hace que carezcan de credibilidad o se pierda confianza en sus capacidades m&eacute;tricas, como sucede con el FI. En 1997, la revista Leucemia fue acusada de manipular su FI, al solicitar en los procesos de revisi&oacute;n a los autores que suscrib&iacute;an manuscritos que incluyeran m&aacute;s citas de art&iacute;culos de esa revista<sup><a href="#15">15</a></sup>. En 2002 se inform&oacute; otro caso similar<sup><a href="#27">27</a></sup>. Adem&aacute;s, art&iacute;culos interesantes pero con datos fraudulentos, o documentos retractados por otros art&iacute;culos, pueden atraer la atenci&oacute;n de la comunidad cient&iacute;fica y ser citados con frecuencia, distorsionando el FI de la revista. Desde el a&ntilde;o 2000 se puso &eacute;nfasis en corregir esta situaci&oacute;n<sup><a href="#28">28</a>, <a href="#29">29</a></sup>.</p>     <p align="justify">La bibliometr&iacute;a y el empleo de sus indicadores, constituyen herramientas cient&iacute;ficas necesarias, porque permiten la cuantificaci&oacute;n de la ciencia en forma objetiva, pues se potencian con la explosi&oacute;n del conocimiento actual y su recopilaci&oacute;n en bases bibliogr&aacute;ficas de datos. No hay duda que, a pesar de las objeciones que se pueden y se deben hacer, los indicadores bibliom&eacute;tricos facilitan la comprensi&oacute;n de la actividad investigadora.</p>     <p align="justify"><b>REFERENCIAS</b></p></font> <font face="Arial" size="-1">    ]]></body>
<body><![CDATA[<!-- ref --><p align="justify">1<a name="1"></a>. Camps D, Recuero Y, Avila R, Samar M. Estudio bibliom&eacute;trico de un volumen de la revista Archivos de Medicina. (sede Web). Oviedo, Espa&ntilde;a. Arch Med 2: 3. (fecha de acceso noviembre 25 de 2006). Disponible en: <a href="http://www.archivosdemedicina.com/ojs/index.php/archmed/article/view/0203001/0" target="_blank">http://www.archivosdemedicina.com/ojs/index.php/archmed/article/view/0203001/0</a>    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000083&pid=S1657-9534200800010000900001&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 2<a name="2"></a>. Rousseau R. Indicadores bibliom&eacute;tricos y econom&eacute;tricos en la evaluaci&oacute;n de instituciones cient&iacute;ficas. (sede Web). Ciudad de La Habana, Cuba. ACIMED. 2001; 9: 23-29. (fecha de acceso noviembre 29 de 2006). Disponible en: <a href="http://scielo.sld.cu/scielo.php?pid=S1024-94352001000400008&amp;script=sci_arttext" target="_blank">http://scielo.sld.cu/scielo.php?pid=S1024-94352001000400008&amp;script=sci_arttext</a>    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000084&pid=S1657-9534200800010000900002&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 3<a name="3"></a>. Bordons M, Zulueta MA. Evaluaci&oacute;n de la actividad cient&iacute;fica a trav&eacute;s de indicadores bibliom&eacute;tricos. Rev Esp Cardiol. 1999; 52: 790-800.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000085&pid=S1657-9534200800010000900003&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 4<a name="4"></a>. Rios DR. La bibliometr&iacute;a: nivel de penetraci&oacute;n en la ense&ntilde;anza bibliotecol&oacute;gica universitaria y su aplicaci&oacute;n en el campo bibliotecario en los pa&iacute;ses del MERCOSUR. (sede Web). Jerusalem, Israel. 66th IFLA Council and General Conference. (fecha de acceso 28 de noviembre 2006). Disponible en: <a href="http://www.ifla.org/IV/ifla66/papers/162-127s.htm" target="_blank">http://www.ifla.org/IV/ifla66/papers/162-127s.htm</a>    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000086&pid=S1657-9534200800010000900004&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 5<a name="5"></a>. Garc&iacute;a-R&iacute;o F. Evaluation of the scientific activity of Anales Espa&ntilde;oles de Pediatr&iacute;a. An Esp Pediatr. 2002; 57: 107-9.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000087&pid=S1657-9534200800010000900005&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 6<a name="6"></a>. P&eacute;rez-Matos N. La bibliograf&iacute;a, bibliometr&iacute;a y las ciencias afines. (sede Web). Ciudad de La Habana, Cuba. ACIMED. 2002; 10: 1-2. (fecha de acceso diciembre 1 de 2006). Disponible en: <a href="http://scielo.sld.cu/scielo.php?pid=S1024-94352002000300001&amp;script=sci_arttext" target="_blank">http://scielo.sld.cu/scielo.php?pid=S1024-94352002000300001&amp;script=sci_arttext</a>    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000088&pid=S1657-9534200800010000900006&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 7<a name="7"></a>. Garfield E. Journal impact factor: a brief review. CMAJ. 1999; 161: 979-80.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000089&pid=S1657-9534200800010000900007&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 8<a name="8"></a>. Rueda-Clausen G&oacute;mez CF, Villaroel-Guti&eacute;rrez C, Rueda-Clausen Pinz&oacute;n CE. Indicadores bibliom&eacute;tricos. Origen, aplicaci&oacute;n contradicci&oacute;n y nuevas propuestas. Med UNAB. 2005; 8: 29-36.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000090&pid=S1657-9534200800010000900008&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 9<a name="9"></a>. Beltr&aacute;n-Galvis OA. Impact factor. Rev Colomb Gastroenterol. 2006; 21: 57-61.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000091&pid=S1657-9534200800010000900009&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 10<a name="10"></a>. Spinak E. Indicadores cienciom&eacute;tricos. Ci Inf. 1998; 27: 141-8.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000092&pid=S1657-9534200800010000900010&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 11<a name="11"></a>. Institute for Scientific Information. The ISI impact factor. (sede Web) Philadelphia, USA. (fecha de acceso septiembre 12 de 2006). Disponible en: <a href="http://www.isinet.com" target="_blank">http://www.isinet.com</a>    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000093&pid=S1657-9534200800010000900011&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 12<a name="12"></a>. Leon-Sarmiento FE, Le&oacute;n ME, Contreras VA. El factor de impacto: &iquest;Mito o realidad? Colomb Med. 2007; 38: 290-6.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000094&pid=S1657-9534200800010000900012&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 13<a name="13"></a>. Leon-Sarmiento F, Bayona-Prieto J, Le&oacute;n ME. Concepciones, confusiones y contraindicaciones del factor de impacto en Colombia. Rev Esp Salud Publica. 2007; 81: 147-54.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000095&pid=S1657-9534200800010000900013&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 14<a name="14"></a>. Aguillo IF. Evaluaci&oacute;n de revistas electr&oacute;nicas. Prof Inf. 2005; 14: 324-5.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000096&pid=S1657-9534200800010000900014&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 15<a name="15"></a>. Dong P, Loh M, Mondry A. The &#8216;impact factor' revisited. Biomedical Digital Libraries 2005, 2: 7. (fecha de acceso noviembre 25 de 2006). Disponible en: <a href="http://www.bio-diglib.com/content/2/1/7" target="_blank">http://www.bio-diglib.com/content/2/1/7</a>    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000097&pid=S1657-9534200800010000900015&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 16<a name="16"></a>. Hofbauer R, Frass M, Gmeiner B, Kaye AD. Euro-Factor. The new European scientific currency. Vienna: VICER Publishing; 2002.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000098&pid=S1657-9534200800010000900016&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 17<a name="17"></a>. Alfonso F, Bermejo J, Segovia J. Impactolog&iacute;a, impactitis, impactoterapia. Rev Esp Cardiol. 2005; 58: 1239-45.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000099&pid=S1657-9534200800010000900017&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 18<a name="18"></a>. Camps D, Recuero Y, Samar ME, Avila RE. An&aacute;lisis bibliom&eacute;trico de tesis de doctorado en el &aacute;rea de ciencias de la salud. Primera parte: Odontolog&iacute;a. Rev Fac Cienc Med Univ Nac Cordoba. 2005; 62: 53-6.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000100&pid=S1657-9534200800010000900018&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 19<a name="19"></a>. Seglen PO. Why the impact factor of journals should not be used for evaluating research. Br Med J. 1997; 314: 498-502.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000101&pid=S1657-9534200800010000900019&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 20<a name="20"></a>. Amin M, Mabe MA. Impact factors: use and abuse. Medicina. (Buenos Aires) 2003; 63: 347-54.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000102&pid=S1657-9534200800010000900020&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 21<a name="21"></a>. Sombatsompop N, Markpin T, Premkamolnetr N. A modified method for calculating the impact factor of journals in ISI Journal Citation Reports: Polymer Science Category in 1997-2001. Scientometrics. 2004; 60: 217-35.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000103&pid=S1657-9534200800010000900021&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 22<a name="22"></a>. Rosseau R. Median and percentile impact factors: A set of new indicators. Scientometrics. 2005; 63: 431-41.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000104&pid=S1657-9534200800010000900022&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 23<a name="23"></a>. van Leeuwen TN, Moed HF. Development and application of journal impact measures in the Dutch science system. Scientometrics. 2002, 53: 249-66.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000105&pid=S1657-9534200800010000900023&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 24<a name="24"></a>. Leon-Sarmiento F, Bayona Prieto J, Bayona E, Le&oacute;n M. Colciencias e inconciencias en los cient&iacute;ficos colombianos: de la Edad de Piedra al Factor Impacto. Rev Salud Publica. 2005; 7: 227-35.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000106&pid=S1657-9534200800010000900024&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 25<a name="25"></a>. Pasqualini CD. Priorizar la creatividad sobre el factor de impacto. Medicina. (Buenos Aires) 2003; 63: 358-60.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000107&pid=S1657-9534200800010000900025&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 26<a name="26"></a>. T&eacute;llez-Zenteno JF, Morales-Buenrostro LE, Estanol B. An&aacute;lisis del factor de impacto de las revistas cient&iacute;ficas latinoamericanas. Rev Med Chile. 2007; 135: 480-7.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000108&pid=S1657-9534200800010000900026&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 27<a name="27"></a>. Neuberger J, Coursell C. Impact factors: uses and abuses. Eur J Gastroenterol Hepatol. 2002; 14: 209-11.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000109&pid=S1657-9534200800010000900027&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 28<a name="28"></a>. Campanario JM. Fraud: retracted articles are still being cited. Nature. 2000; 408: 288.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000110&pid=S1657-9534200800010000900028&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><br> 29<a name="29"></a>. Brumfield G. Misconduct findings at Bell Labs shakes physics community. Nature. 2002; 419: 419-21.&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000111&pid=S1657-9534200800010000900029&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --> ]]></body><back>
<ref-list>
<ref id="B1">
<label>1<a name=1></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Camps]]></surname>
<given-names><![CDATA[D]]></given-names>
</name>
<name>
<surname><![CDATA[Recuero]]></surname>
<given-names><![CDATA[Y]]></given-names>
</name>
<name>
<surname><![CDATA[Avila]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
<name>
<surname><![CDATA[Samar]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Estudio bibliométrico de un volumen de la revista Archivos de Medicina]]></article-title>
<source><![CDATA[Arch Med]]></source>
<year>2006</year>
<volume>2</volume>
<numero>3</numero>
<issue>3</issue>
</nlm-citation>
</ref>
<ref id="B2">
<label>2<a name=2></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Indicadores bibliométricos y econométricos en la evaluación de instituciones científicas]]></article-title>
<source><![CDATA[ACIMED]]></source>
<year>2001</year>
<volume>9</volume>
<page-range>23-29</page-range></nlm-citation>
</ref>
<ref id="B3">
<label>3<a name=3></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Bordons]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
<name>
<surname><![CDATA[Zulueta]]></surname>
<given-names><![CDATA[MA]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Evaluación de la actividad científica a través de indicadores bibliométricos]]></article-title>
<source><![CDATA[Rev Esp Cardiol.]]></source>
<year>1999</year>
<volume>52</volume>
<page-range>790-800</page-range></nlm-citation>
</ref>
<ref id="B4">
<label>4<a name=4></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rios]]></surname>
<given-names><![CDATA[DR]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[La bibliometría: nivel de penetración en la enseñanza bibliotecológica universitaria y su aplicación en el campo bibliotecario en los países del MERCOSUR]]></article-title>
<source><![CDATA[Jerusalem, Israel. 66th IFLA Council and General Conference]]></source>
<year></year>
</nlm-citation>
</ref>
<ref id="B5">
<label>5<a name=5></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[García-Río]]></surname>
<given-names><![CDATA[F]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Evaluation of the scientific activity of Anales Españoles de Pediatría]]></article-title>
<source><![CDATA[An Esp Pediatr.]]></source>
<year>2002</year>
<volume>57</volume>
<page-range>107-9</page-range></nlm-citation>
</ref>
<ref id="B6">
<label>6<a name=6></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Pérez-Matos]]></surname>
<given-names><![CDATA[N]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[La bibliografía, bibliometría y las ciencias afines]]></article-title>
<source><![CDATA[ACIMED]]></source>
<year>2002</year>
<numero>10</numero>
<issue>10</issue>
<page-range>1-2</page-range></nlm-citation>
</ref>
<ref id="B7">
<label>7<a name=7></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Garfield]]></surname>
<given-names><![CDATA[E]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Journal impact factor: a brief review]]></article-title>
<source><![CDATA[CMAJ.]]></source>
<year>1999</year>
<volume>161</volume>
<page-range>979-80</page-range></nlm-citation>
</ref>
<ref id="B8">
<label>8<a name=8></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rueda-Clausen]]></surname>
<given-names><![CDATA[Gómez CF]]></given-names>
</name>
<name>
<surname><![CDATA[Villaroel-Gutiérrez]]></surname>
<given-names><![CDATA[C]]></given-names>
</name>
<name>
<surname><![CDATA[Rueda-Clausen]]></surname>
<given-names><![CDATA[Pinzón]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Indicadores bibliométricos]]></article-title>
<source><![CDATA[Origen, aplicación contradicción y nuevas propuestas. Med UNAB.]]></source>
<year>2005</year>
<volume>8</volume>
<page-range>29-36</page-range></nlm-citation>
</ref>
<ref id="B9">
<label>9<a name=9></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Beltrán-Galvis]]></surname>
<given-names><![CDATA[OA]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Impact factor]]></article-title>
<source><![CDATA[Rev Colomb Gastroenterol.]]></source>
<year>2006</year>
<volume>21</volume>
<page-range>57-61</page-range></nlm-citation>
</ref>
<ref id="B10">
<label>10<a name=10></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Spinak]]></surname>
<given-names><![CDATA[E]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Indicadores cienciométricos]]></article-title>
<source><![CDATA[Ci Inf.]]></source>
<year>1998</year>
<volume>27</volume>
<page-range>141-8</page-range></nlm-citation>
</ref>
<ref id="B11">
<label>11<a name=11></a></label><nlm-citation citation-type="">
<collab>Institute for Scientific Information</collab>
<article-title xml:lang="en"><![CDATA[The ISI impact factor]]></article-title>
<source><![CDATA[]]></source>
<year></year>
</nlm-citation>
</ref>
<ref id="B12">
<label>12<a name=12></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Leon-Sarmiento]]></surname>
<given-names><![CDATA[FE]]></given-names>
</name>
<name>
<surname><![CDATA[León]]></surname>
<given-names><![CDATA[ME]]></given-names>
</name>
<name>
<surname><![CDATA[Contreras]]></surname>
<given-names><![CDATA[VA]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[El factor de impacto: ¿Mito o realidad?]]></article-title>
<source><![CDATA[Colomb Med.]]></source>
<year>2007</year>
<volume>38</volume>
<page-range>290-6</page-range></nlm-citation>
</ref>
<ref id="B13">
<label>13<a name=13></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Leon-Sarmiento]]></surname>
<given-names><![CDATA[F]]></given-names>
</name>
<name>
<surname><![CDATA[Bayona-Prieto]]></surname>
<given-names><![CDATA[J]]></given-names>
</name>
<name>
<surname><![CDATA[León]]></surname>
<given-names><![CDATA[ME]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Concepciones, confusiones y contraindicaciones del factor de impacto en Colombia]]></article-title>
<source><![CDATA[Rev Esp Salud Publica.]]></source>
<year>2007</year>
<volume>81</volume>
<page-range>147-54</page-range></nlm-citation>
</ref>
<ref id="B14">
<label>14<a name=14></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Aguillo]]></surname>
<given-names><![CDATA[IF]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Evaluación de revistas electrónicas]]></article-title>
<source><![CDATA[Prof Inf.]]></source>
<year>2005</year>
<volume>14</volume>
<page-range>324-5</page-range></nlm-citation>
</ref>
<ref id="B15">
<label>15<a name=15></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Dong]]></surname>
<given-names><![CDATA[P]]></given-names>
</name>
<name>
<surname><![CDATA[Loh]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
<name>
<surname><![CDATA[Mondry]]></surname>
<given-names><![CDATA[A]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[The &#8216;impact factor' revisited]]></article-title>
<source><![CDATA[Biomedical Digital Libraries]]></source>
<year>2005</year>
<volume>2</volume>
<page-range>7</page-range></nlm-citation>
</ref>
<ref id="B16">
<label>16<a name=16></a></label><nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Hofbauer]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
<name>
<surname><![CDATA[Frass]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
<name>
<surname><![CDATA[Gmeiner]]></surname>
<given-names><![CDATA[B]]></given-names>
</name>
<name>
<surname><![CDATA[Kaye]]></surname>
<given-names><![CDATA[AD]]></given-names>
</name>
</person-group>
<source><![CDATA[Euro-Factor. The new European scientific currency]]></source>
<year>2002</year>
<publisher-loc><![CDATA[Vienna ]]></publisher-loc>
<publisher-name><![CDATA[VICER Publishing]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B17">
<label>17<a name=17></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Alfonso]]></surname>
<given-names><![CDATA[F]]></given-names>
</name>
<name>
<surname><![CDATA[Bermejo]]></surname>
<given-names><![CDATA[J]]></given-names>
</name>
<name>
<surname><![CDATA[Segovia]]></surname>
<given-names><![CDATA[J]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Impactología, impactitis, impactoterapia]]></article-title>
<source><![CDATA[Rev Esp Cardiol.]]></source>
<year>2005</year>
<volume>58</volume>
<page-range>1239-45</page-range></nlm-citation>
</ref>
<ref id="B18">
<label>18<a name=18></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Camps]]></surname>
<given-names><![CDATA[D]]></given-names>
</name>
<name>
<surname><![CDATA[Recuero]]></surname>
<given-names><![CDATA[Y]]></given-names>
</name>
<name>
<surname><![CDATA[Samar]]></surname>
<given-names><![CDATA[ME]]></given-names>
</name>
<name>
<surname><![CDATA[Avila]]></surname>
<given-names><![CDATA[RE]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Análisis bibliométrico de tesis de doctorado en el área de ciencias de la salud. Primera parte: Odontología]]></article-title>
<source><![CDATA[Rev Fac Cienc Med Univ Nac Cordoba.]]></source>
<year>2005</year>
<volume>62</volume>
<page-range>53-6</page-range></nlm-citation>
</ref>
<ref id="B19">
<label>19<a name=19></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Seglen]]></surname>
<given-names><![CDATA[PO]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Why the impact factor of journals should not be used for evaluating research]]></article-title>
<source><![CDATA[Br Med J.]]></source>
<year>1997</year>
<volume>314</volume>
<page-range>498-502</page-range></nlm-citation>
</ref>
<ref id="B20">
<label>20<a name=20></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Amin]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
<name>
<surname><![CDATA[Mabe]]></surname>
<given-names><![CDATA[MA]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Impact factors: use and abuse]]></article-title>
<source><![CDATA[Medicina. (Buenos Aires)]]></source>
<year>2003</year>
<volume>63</volume>
<page-range>347-54</page-range></nlm-citation>
</ref>
<ref id="B21">
<label>21<a name=21></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Sombatsompop]]></surname>
<given-names><![CDATA[N]]></given-names>
</name>
<name>
<surname><![CDATA[Markpin]]></surname>
<given-names><![CDATA[T]]></given-names>
</name>
<name>
<surname><![CDATA[Premkamolnetr]]></surname>
<given-names><![CDATA[N]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[A modified method for calculating the impact factor of journals in ISI Journal Citation Reports: Polymer Science Category in 1997-2001]]></article-title>
<source><![CDATA[Scientometrics.]]></source>
<year>2004</year>
<volume>60</volume>
<page-range>217-35</page-range></nlm-citation>
</ref>
<ref id="B22">
<label>22<a name=22></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rosseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Median and percentile impact factors: A set of new indicators]]></article-title>
<source><![CDATA[Scientometrics.]]></source>
<year>2005</year>
<volume>63</volume>
<page-range>431-41</page-range></nlm-citation>
</ref>
<ref id="B23">
<label>23<a name=23></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[van Leeuwen]]></surname>
<given-names><![CDATA[TN]]></given-names>
</name>
<name>
<surname><![CDATA[Moed]]></surname>
<given-names><![CDATA[HF]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Development and application of journal impact measures in the Dutch science system]]></article-title>
<source><![CDATA[Scientometrics.]]></source>
<year>2002</year>
<volume>53</volume>
<page-range>249-66</page-range></nlm-citation>
</ref>
<ref id="B24">
<label>24<a name=24></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Leon-Sarmiento]]></surname>
<given-names><![CDATA[F]]></given-names>
</name>
<name>
<surname><![CDATA[Bayona Prieto]]></surname>
<given-names><![CDATA[J]]></given-names>
</name>
<name>
<surname><![CDATA[Bayona]]></surname>
<given-names><![CDATA[E]]></given-names>
</name>
<name>
<surname><![CDATA[León]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Colciencias e inconciencias en los científicos colombianos: de la Edad de Piedra al Factor Impacto]]></article-title>
<source><![CDATA[Rev Salud Publica.]]></source>
<year>2005</year>
<volume>7</volume>
<page-range>227-35</page-range></nlm-citation>
</ref>
<ref id="B25">
<label>25<a name=25></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Pasqualini]]></surname>
<given-names><![CDATA[CD]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Priorizar la creatividad sobre el factor de impacto]]></article-title>
<source><![CDATA[Medicina. (Buenos Aires)]]></source>
<year>2003</year>
<volume>63</volume>
<page-range>358-60</page-range></nlm-citation>
</ref>
<ref id="B26">
<label>26<a name=26></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Téllez-Zenteno]]></surname>
<given-names><![CDATA[JF]]></given-names>
</name>
<name>
<surname><![CDATA[Morales-Buenrostro]]></surname>
<given-names><![CDATA[LE]]></given-names>
</name>
<name>
<surname><![CDATA[Estanol]]></surname>
<given-names><![CDATA[B]]></given-names>
</name>
</person-group>
<article-title xml:lang="es"><![CDATA[Análisis del factor de impacto de las revistas científicas latinoamericanas]]></article-title>
<source><![CDATA[Rev Med Chile.]]></source>
<year>2007</year>
<volume>135</volume>
<page-range>480-7</page-range></nlm-citation>
</ref>
<ref id="B27">
<label>27<a name=27></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Neuberger]]></surname>
<given-names><![CDATA[J]]></given-names>
</name>
<name>
<surname><![CDATA[Coursell]]></surname>
<given-names><![CDATA[C]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Impact factors: uses and abuses]]></article-title>
<source><![CDATA[Eur J Gastroenterol Hepatol.]]></source>
<year>2002</year>
<volume>14</volume>
<page-range>209-11</page-range></nlm-citation>
</ref>
<ref id="B28">
<label>28<a name=28></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Campanario]]></surname>
<given-names><![CDATA[JM]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Fraud: retracted articles are still being cited]]></article-title>
<source><![CDATA[Nature.]]></source>
<year>2000</year>
<volume>408</volume>
<page-range>288</page-range></nlm-citation>
</ref>
<ref id="B29">
<label>29<a name=29></a></label><nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Brumfield]]></surname>
<given-names><![CDATA[G]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Misconduct findings at Bell Labs shakes physics community]]></article-title>
<source><![CDATA[Nature.]]></source>
<year>2002</year>
<volume>419</volume>
<page-range>419-21</page-range></nlm-citation>
</ref>
</ref-list>
</back>
</article>
