SciELO - Scientific Electronic Library Online

 
vol.62 issue153The Meaning of Imagination in William WordsworthPhilosophy and Violence From the Absolute to Action in Eric Weil's Logic of Philosophy author indexsubject indexarticles search
Home Pagealphabetic serial listing  

Services on Demand

Journal

Article

Indicators

Related links

  • On index processCited by Google
  • Have no similar articlesSimilars in SciELO
  • On index processSimilars in Google

Share


Ideas y Valores

Print version ISSN 0120-0062

Ideas y Valores vol.62 no.153 Bogotá Sept./Dec. 2013

 

¿DECISIÓN UTILITARISTA O DECISIÓN ALEATORIA? CRÍTICA A UNA TESIS ATRINCHERADA EN LA NEUROCIENCIA COGNITIVA*

Utilitarian Decision or Random Decision? Critique of a Thesis Rooted in Cognitive Neuroscience

Decisão utilitarista ou decisão aleatória? Crítica a uma tese refugiada na neurociência cognitiva

ALEJANDRO ROSAS**
ESTEBAN CAVIEDES***
ALEJANDRA ARCINIEGAS****
ANDREA ARCINIEGAS*****
Universidad Nacional de Colombia

*Alejandra Arciniegas y Andrea Arciniegas agradecen el apoyo de la Facultad de Ciencias Humanas de la Universidad Nacional de Colombia a través de la Convocatoria Orlando Fals Borda. Alejandro Rosas agradece el apoyo de la John Simon Guggenheim Memorial Foundation. Alejandro Rosas y Esteban Caviedes agradecen el apoyo de la Vicerrectoría de Investigación de la Universidad Nacional de Colombia, código Hermes 16012.
**arosasl@unal.edu.co
***esteban.caviedes@gmail.com
****maarciniegasg@gmail.com
*****andreaarciniegasg@gmail.com

Artículo recibido: 01 de febrero del 2013; aceptado: 27 de mayo del 2013.


RESUMEN

Diversos estudios han concluido que los pacientes con daño en la Corteza Frontal –CF– o Corteza Prefrontal Ventromedial –CPV– muestran una disposición a herir directamente a otra persona con el fin de salvar varias vidas en sus respuestas a los "dilemas morales personales", revelando una posible carencia de empatía. No obstante, cuando evalúan conductas carentes de empatía sin justificación utilitarista, sus respuestas son normales. Defendemos aquí que los pacientes sufren una deficiencia cognitiva relacionada con la hipótesis de marcador somático de Damasio y con juicios de valor. Criticamos la hipótesis del "paciente utilitarista", que se ha atrincherado en la neurociencia cognitiva.

Palabras clave: ciencia cognitiva, deontología, empatía, juicio moral, utilitarismo.


ABSTRACT

In their answers to questions regarding "personal moral dilemmas", patients with lesions to the Frontal Cortex –FC– or Ventromedial Prefrontal Cortex –vmPFC– display a disposition to directly injure another person in order to save lives, thus revealing a possible lack of empathy. However, their answers are normal when they evaluate behaviors lacking in empathy but without a utilitarian justification. We here defend that those patients suffer from a cognitive deficiency associated with Damasio's somatic marker hypothesis and with value judgments. The article critiques the "utilitarian patient" hypothesis that has become deeply rooted in cognitive neuroscience.

Keywords: cognitive science, deontology, empathy, moral judgment, utilitarianism.


RESUMO

Diversos estudos têm concluído que os pacientes com danos no Córtex Frontal (CF) ou Córtex Pré-frontal Ventromedial (CPV) mostram uma disposição a ferir diretamente a outra pessoa com o objetivo de salvar várias vidas em suas respostas aos "dilemas morais pessoais", o que revela uma possível carência de empatia. Contudo, quando avaliam condutas carentes de empatia sem justificativa utilitarista, suas respostas são normais. Defendemos aqui que os pacientes sofrem uma deficiência cognitiva relacionada com a hipótese de marcador somático de Damásio e com juízos de valor. Criticamos a hipótese do "paciente utilitarista", que vem se refugiando na neurociência cognitiva.

Palavras-chave: ciência cognitiva, deontologia, empatia, juízo moral, utilitarismo.


A partir de los trabajos de Damasio (1996; 2007) sobre el deterioro de la respuesta afectiva y de la habilidad para tomar decisiones en pacientes con lesiones corticales, neurólogos, neuropsicólogos y filósofos se han involucrado en un programa interdisciplinario de investigación, con el fin de entender la naturaleza de la cognición social y moral.1 En un trabajo pionero, Greene et al. (2001) sondearon el juicio moral de sujetos sin daño neurológico con una batería de 60 dilemas.2 Los dilemas estaban clasificados en tres categorías: Dilemas No-Morales (DN-M), Dilemas Morales Personales (DMP) y Dilemas Morales Impersonales (DMI). Greene et al. (2001) encontraron un resultado importante en las respuestas a los DMP,3 en los que el sujeto experimental responde si, dado el caso, haría daño directamente a otra persona con el fin de salvar vidas. Encontraron allí una activación de los centros cerebrales de la emoción, cuyo control depende de la Corteza Prefrontal Ventromedial (CPV), la corteza cingulada anterior y la amígdala (cf. Damasio 1996; 2007). Sin embargo, el estudio no permite afirmar que las emociones sean constitutivas del juicio moral, ya que podrían ser meros efectos de este (cf. Greene et al. 2001 2107). Ciaramelli et al. (2007) y Koenigs et al. (2007a) se propusieron resolver esta duda con la aplicación de los DMP a pacientes con daño en la CPV, y asumieron que, si las emociones son constitutivas del juicio, los pacientes con daños corticales mostrarían un déficit en sus respuestas. Pero además, a partir de la sugerencia de Greene et al. (2004) sobre la existencia de dos sistemas éticos en el cerebro, uno deontológico/emocional y otro utilitarista/racional, predijeron que los pacientes responderían como utilitaristas a los DMP, es decir, aprobarían una violación de los mandatos deontológicos contra el daño a inocentes en pro de salvar más vidas (cf. Koenigs et al. 2007a 908; Ciaramelli et al. 2007 85). Así, se origina lo que podría llamarse la "hipótesis del paciente utilitarista". En este artículo criticamos esta hipótesis y presentamos una alternativa.

En primer lugar, comenzamos reseñando e interpretando el trabajo de Damasio en pacientes con daño en la CPV (secciones 1, 2 y 3). Este autor estudió en ellos la toma de decisiones prudenciales, no morales, pero sus resultados son relevantes y tienen que integrarse a los de los estudios sobre el juicio moral. Damasio y su equipo sostienen que los pacientes tienen un conocimiento de lo que deben hacer, pero no lo hacen. Nosotros ponemos en duda esa interpretación y defendemos una posibilidad pasada por alto: que los pacientes deciden aleatoriamente en el "Gambling Task" porque no saben lo que deben hacer. Esta interpretación es concordante con la carencia de marcadores somáticos postulada por Damasio, que interpretamos como una incapacidad para entender representaciones de futuros posibles como "buenas" o "malas" en sentido prudencial. En segundo lugar (sección 4), reseñamos los estudios que proponen la hipótesis del paciente utilitarista. También aquí proponemos una interpretación distinta: los datos presentados por ellos son compatibles con la hipótesis de que los pacientes responden de manera aleatoria a los DMP. Ello concuerda con atribuirles una deficiencia fundamental en su cognición moral, que se revela al evaluar situaciones dilemáticas inusuales más que en las cotidianas y que, en todo caso, no podría describirse como "moral utilitarista". En las secciones 5 y 6 intentamos precisar exactamente el déficit en su cognición moral, sin perder de vista que esta debe guardar alguna relación con su incapacidad para entender "bueno" y "malo" en sentido prudencial. Presentaremos nuestras conclusiones en la sección 7.

1. La "hipótesis del marcador somático"

La "hipótesis del marcador somático" (HMS) propuesta por Damasio (1996; 2007) postula que, en el momento de tomar una decisión en relación con situaciones previamente vividas, una persona corticalmente sana experimenta ciertas emociones, es decir, estados corporales que "marcan" con una valencia positiva o negativa las consecuencias posibles y orientan la decisión (cf. Bechara & Damasio 2005 339). "Emoción" debe entenderse aquí como "la colección de cambios en los estados corporales y cerebrales, disparados por un sistema cerebral dedicado a responder al contenido específico de las percepciones propias, actuales o recordadas, relativas a un objeto o evento particular" (Bechara & Damasio 2005 399). Así, previo al razonamiento consciente, quien decide experimenta una serie de cambios corporales que le ayudan a evaluar las opciones y a evitar situaciones desventajosas (cf. Bechara & Damasio 2005 348).

Para evaluar la toma de decisiones en pacientes con lesiones en el sistema emocional del cerebro, Bechara y Damasio se valieron de la "tarea del juego de apuesta" (Gambling Task, GT). El GT es un juego cuyo objetivo es obtener la mayor ganancia monetaria posible. Consiste en pedir al jugador que escoja cartas en turnos sucesivos, una por vez, de uno de los cuatro mazos ofrecidos (A, B, C y D), compuesto por cuarenta cartas cada uno. Los jugadores pueden cambiar de mazo cuantas veces y en el momento que quieran. Hay dos tipos de cartas en cada mazo: las que asignan solo ganancias y las que asignan tanto ganancias como pérdidas, pero qué carta es de qué tipo solo se sabe después de escoger. Las cartas de ganancia de los mazos A y B son más atractivas (dan siempre $100) que las de C y D (dan siempre $50); pero las cartas con pérdidas de A y B castigan mucho más que las de C y D. De hecho, es más ventajoso escoger cartas de los mazos C y D, que de A y B, pero los jugadores no lo saben. Solo se les dice que hay unos mazos más ventajosos que otros. Como el juego termina cuando cada jugador ha seleccionado cien cartas, hay una posibilidad de aprender, experimentando con todos los mazos, cuáles son buenos y cuáles son malos. Y esto es muy importante para los resultados que los autores obtienen e interpretan. Al parecer, los pacientes con daño cerebral no aprenden, al menos no como los sanos (Bechara, et al. 2000 2192-2193; Bechara & Damasio 2005 344-345).

Bechara y Damasio aplicaron el GT a sujetos sin daño neuronal (controles), a pacientes con daño bilateral en la corteza prefrontal ventromedial (ventromediales) y, en algunos experimentos, también a pacientes con daño bilateral en la amígdala. Sus resultados arrojan que, conforme avanza el juego, los controles prefieren escoger cartas de los mazos favorables (C y D), en tanto que los otros grupos de pacientes insisten en escoger cartas de los mazos desfavorables (A y B) como lo muestra la figura 1.

2. Interpretación de los resultados en el Gambling Task

¿Cómo explicar que los pacientes insistan en sacar cartas de los mazos desventajosos? La hipótesis del marcador somático sugiere que su déficit en la toma de decisiones se debe a un problema en la pro- ducción y el procesamiento de emociones. Bechara y Damasio midieron la conductancia de la piel (Skin Conductance Response, SCR) de los participantes. Encontraron que, en primer lugar, salvo los pacientes con daño en la amígdala, los demás participantes generaban SCR en el momento de ser premiados o castigados. En segundo lugar, hallaron que la SCR de los controles era más elevada antes de escoger una carta de los mazos desfavorables que de los favorables una vez los habían identificado así. En contraste, los pacientes con daño en la corteza prefrontal ventromedial no generaban SCR antes de escoger cartas de cualquier mazo (cf. Bechara & Damasio 2005 346). En el contexto de la hipótesis del marcador somático, este dato sugiere que los pacientes con daño en la CPV no pueden marcar somáticamente los posibles signos de un desenlace desventajoso. Este es un dato clave para interpretar el comportamiento de los jugadores. El otro dato importante es el conocimiento explícito que los jugadores reportan sobre las diferencias entre los mazos. Los autores les preguntaron a los jugadores a intervalos regulares durante el juego: a) "Dime todo lo que sabes acerca de lo que pasa en este juego", b) "Dime qué intuyes acerca de este juego" (Bechara et al. 1997). Las respuestas indicaron que el 70% de los sanos y el 50% de los pacientes ventromediales reportaron haber aprendido hacia el final del juego cuáles mazos eran ventajosos y cuáles no. Los sanos reportaron una "corazonada" cuando llegaron a la mitad del juego; en cambio, los pacientes con daño cerebral nunca lo hicieron. Los investigadores distinguieron cuatro periodos en el juego: "pre-castigo", "pre-corazonada", "corazonada" y "conocimiento explícito". Aunque algunos sanos no llegaron al conocimiento explícito, en su comportamiento prefirieron los mazos buenos desde el período "corazonada". En cambio, los pacientes que llegaron al conocimiento explícito persistieron en preferir los mazos malos (cf. Bechara et al. 1997; Bechara & Damasio 2005 348). Aparentemente tomaban malas decisiones a sabiendas de que el mazo era desventajoso, lo cual parece sustentar la idea de que tomar buenas decisiones es un asunto que depende en gran medida del buen funcionamiento de la CPV y su procesamiento de emociones.

La siguiente gráfica muestra el porcentaje de controles y ventromediales que alcanzaban periodos del juego clasificados en relación con el conocimiento de la ventaja o desventaja de los distintos mazos, el promedio de sus SCR durante cada período y el número de cartas de mazos ventajosos frente al de mazos desventajosos en cada periodo (cf. Bechara & Damasio 2005 349):

En esta comparación se puede notar que los controles mejoraron sus elecciones progresivamente. Así, en el primer periodo hay una ligera preferencia por los mazos desventajosos, que se explica porque sus cartas ofrecen $100 de ganancia, contra $50 ofrecidos en los mazos ventajosos. Sin embargo, conforme van apareciendo los castigos, los controles tienden a elegir los mazos que ofrecen $50. Debe notarse, no obstante, que los controles escogen con igual eficiencia en el periodo "corazonada" (i.e. el periodo en el que no están seguros del sistema de pagos y castigos del juego) y en el periodo "conceptual" (i.e. en el que están seguros del sistema de pagos y castigos). Es decir, el conocimiento explícito no parece ser una ventaja para la decisión; esta se realiza con igual eficiencia con base en los marcadores somáticos expresados en las SCRs. Aquí Damasio y su equipo asumen una independencia excesiva, incluso temporalmente, entre la marcación somática y el conocimiento del valor. No nos parece que esto sea necesario para la HMS. Además, ello dio pie a un cuestionamiento interesante y parcialmente válido (cf. Maia & McClelland). Sus autores, a partir de métodos más precisos para sondear el conocimiento, muestran que las decisiones eficientes o ventajosas de los participantes en el GT coinciden temporalmente con declaraciones de conocimiento explícito o semi-explícito (saber qué mazo es bueno o malo sin saber bien por qué). Con ello creen quitarle el piso a la HMS. No queremos entrar en este debate, pero nos parece que la precedencia temporal no es requerida para la HMS. Los marcadores somáticos se mantienen como un requisito necesario para el conocimiento explícito o semiexplícito de las valencias de las opciones del entorno, aun cuando sean simultáneos con, o precedan solo en milisegundos, a la conciencia explícita o semi-explícita del valor.

Si se tiene en cuenta estos resultados y se presupone que la CPV genera los marcadores somáticos, el daño cortical de los pacientes explica su comportamiento defectuoso en el GT. Como explicación neurofisiológica es plausible. Obviamente, con vistas a un diálogo con otras disciplinas como la psicología y la filosofía, hace falta interpretar la carencia de marcación somática en términos psicológicos y cognitivos. Y aquí es donde manifestamos dudas sobre la interpretación de Damasio y su equipo y proponemos una alternativa.

3. ¿Qué saben los pacientes en el GT?

Damasio y su equipo ligaron la carencia de marcadores somáticos en los pacientes a una descripción de su deficiencia que puede llamarse ejecutiva, porque los pacientes saben lo que deben hacer, pero actúan en desacuerdo con su juicio (cf. Mendez 2006 414; 2009 614).

Por lo tanto, aunque el paciente ventromedial puede adquirir plena conciencia de lo que está bien (right) y lo que está mal (wrong), falla por no actuar en concordancia. Es decir, puede decir qué es lo debido, pero hace lo indebido. (Bechara & Damasio 2005 348)

La base de esta afirmación es el hallazgo de que el 50% de los pacientes (3 de 6) "describieron correctamente cuáles mazos eran buenos y cuáles malos" (Bechara et al. 1997 1293) y aun así persistieron en escoger cartas de los mazos malos. Damasio y su equipo creen que los pacientes saben de las consecuencias futuras de sus acciones, pero son "generalmente insensibles a las consecuencias futuras, positivas o negativas, y así su conducta se guía mayormente por expectativas inmediatas" (Damasio 1996 1418). Si se juntan estas dos afirmaciones, ¿habría que decir, entonces, que los pacientes tienen un "conocimiento insensible" de las consecuencias futuras? ¿Y qué puede querer decir esto? Básicamente, que aunque el paciente pueda describir lo que sucederá en el futuro, no logra comprender la dimensión valorativa o la valencia de los estados de cosas futuras que se representa.

Si esto es así, creemos pertinente cuestionar afirmaciones del tipo: "el paciente sabe lo que está bien y lo que está mal" o "el paciente describe correctamente qué mazos son buenos y qué mazos son malos". Si el paciente no puede representarse la valencia, es decir, el significado positivo o negativo de los estados de cosas representadas como posibles, no tiene sentido afirmar: "el paciente sabe que esto es bueno o es malo". El significado de esos predicados pierde mucho de su contenido, si no todo, cuando no se puede conectar con una valencia positiva o negativa.

Parece que Damasio y su equipo no hubieran advertido el alcance de la HMS. Por ejemplo, en la manera como formulan la insensibilidad al futuro en el pasaje que acabamos de citar, percibimos la siguiente incongruencia: al decir que el paciente se guía por las "perspectivas inmediatas", están asumiendo que el paciente es "sensible" al futuro inmediato. Esto es inconsistente con la HMS. Según esta hipótesis, quien no pueda marcar somáticamente sus experiencias, es incapaz de captar la valencia o el valor de un estado de cosas que se representa como futuro. Esto afecta también a las consecuencias inmediatas, que por inmediatas que sean solo son accesibles como futuros posibles (representados) antes de la decisión. Cuando se carece de marcadores somáticos, los futuros posibles, sean lejanos o inmediatos, no tienen valencia positiva o negativa, porque solo son accesibles como representados y el paciente los representa sin valencia por carecer de marcadores somáticos.4

Esto nos lleva a pensar que el paciente no tiene ninguna orientación para decidir, y que no es correcto describirlo como guiado por las consecuencias inmediatas. Sería más pertinente decir que no sabe cómo decidir y que decide aleatoriamente en el GT. Damasio y su equipo se dejan impresionar por el hecho de que los pacientes persisten en tomar cartas de los mazos malos. A veces se expresan como si los pacientes mantuvieran una preferencia por los mazos malos y como si explicar esa preferencia fuese lo más importante. Para corroborar la hipótesis de decisión aleatoria, habría que comparar al interior del grupo de los pacientes sus decisiones y evaluar si la diferencia entre el número de elecciones malas y el de elecciones buenas es estadísticamente significativo. A simple vista no parece serlo, pero sería necesario un análisis estadístico para establecerlo con seguridad. Asimismo, aunque tres pacientes hayan dicho que sabían qué mazos eran buenos y qué mazos eran malos, la HMS nos autoriza a ser cautelosos y más bien escépticos respecto de lo que un paciente, sin la capacidad para marcar somáticamente sus experiencias, entienda por "bueno" o "malo". Si el análisis estadístico de sus respuestas da un patrón aleatorio, se pondría de manifiesto cuán equivocado es suponer una "preferencia" en los pacientes. La carencia de preferencias es congruente con su conducta social y con una explicación basada en la HMS.

4. Dilemas morales personales: ¿utilitarismo o aleatoriedad?

A partir de la metodología de Greene et al. (2001), Ciaramelli et al. y Koenigs et al. (2007a) se llevaron a cabo experimentos para establecer el rol de las emociones en el juicio moral. Ambos equipos utilizan historias de la batería de Greene et al. (2001)5 y obtienen resultados que muestran una divergencia entre pacientes y sanos (controles) en las respuestas a los DMP. El primero de esos estudios encuentra que el 39% de las respuestas de los pacientes aprueban las acciones presentadas en 15 DMP, contra un 28% en los sanos (Ciaramelli et al. 88) (fig. 3 a). Koenigs et al. hacen dos mediciones con 21 DMP. En la primera computan el promedio de respuestas aprobatorias: 45% contra 21% en los sanos (fig. 3 b). En la segunda medición, los 21 DMP separan en 8 DMP de "bajo conflicto" (DMPbc) y 13 de "alto conflicto" (DMPac) (Koenigs et al. 2007a 909). En los DMPbc no hay diferencia entre sanos y pacientes: todas las respuestas son desaprobatorias. En cambio, en los 13 DMPac los porcentajes de aprobación son del 72% en pacientes y del 36% en sanos (Koenigs et al. 2007a 910) (fig. 3 c). ¿Cuál es la diferencia entre los DMPbc y los DMPac? Los autores observan que en 8 dilemas las respuestas de pacientes y controles coinciden en ser desaprobatorias y que los tiempos de reacción de los controles son menores que en los 13 DMPac. Los clasifican como de bajo conflicto y los sacan de la medición. Al sacarlos, el porcentaje promedio de aprobación de los pacientes pasa del 45% al 72%.

Pero, ¿qué hay en el contenido de los DMPbc que suscita la de-saprobación de los pacientes? Esta es una pregunta muy seria que los autores no se plantean y que no podemos tratar aquí con detalle. Diremos brevemente que no todos los ítems que pasan por DMP en la batería utilizada son realmente dilemas morales personales. Hay además variables ajenas a la pura oposición entre deontología y utilitarismo que son relevantes para interpretar las respuestas (Rosas et al. sometido). Un dato curioso es que uno de esos dilemas es Transplant, un dilema típicamente utilitarista, en donde se plantea si está bien que un doctor sacrifique a un cliente sano para salvar la vida de cinco pacientes terminales que necesitan sus órganos. Todos los pacientes respondieron de acuerdo a la norma deontológica.

En un estudio de Mendez et al. (2005b) se examinó la alteración del juicio moral en pacientes que padecen las primeras etapas de la Demencia Fronto-Temporal variante Frontal (DFT-vF) (193). Este estudio es relevante aquí porque los síntomas presentados por los pacientes que se encuentran en estas etapas de la DFT-vF coinciden con aquellos con lesiones en la CPV.6 En su estudio, Mendez et al. (2005b) se valieron tanto de un Inventario de Conducta Moral (ICM) como de dos dilemas morales –un DMP (Footbridge) y un DMI (Trolley Car)– con el fin de analizar las respuestas de los pacientes en relación con conductas carentes de empatía o de sentido de equidad. El equipo de Mendez et al. concluye normalidad en sus respuestas al ICM, pero anormalidad en sus respuestas a los DMP: un 57.7% de los pacientes con DFT-vF responden afirmativamente al DMP Footbridge frente a un 19.2% de los sujetos sanos utilizados como controles (Mendez et al. 2005b 195). Gleichgerrcht et al. (6) aplicaron el dilema Footbridge a 22 pacientes con DFT-vF y hallaron que el 41% (9 de 22) aprobaron la acción "utilitarista". Los porcentajes de aprobación de Mendez y Gleichgerrcht concuerdan con los presentados en los estudios de Ciaramelli et al. y Koenigs et al. (2007a).

El estudio de Gleichgerrcht et al. es más inquisitivo que las demás investigaciones, pues busca explicar la diferencia de juicio entre los pacientes. Se trata en efecto, también para nosotros, de una pregunta clave. No encontraron diferencias demográficas ni de cognición social o moral significativas entre los pacientes que aprobaron y los que desaprobaron, salvo que los que aprobaron tuvieron un puntaje significativamente menor en un test de teoría de la mente afectiva (Mind in the eyes). Aun así, los autores no pueden explicar por qué hubo diferencia en ese test y no en los distintos componentes del test de la empatía (IRI). Nuestra sospecha, que justificaremos a continuación, es que los pacientes responden al azar cuando se enfrentan a verdaderos DMP, y, por tanto, no hay explicación de la diferencia entre pacientes que aprueban y desaprueban.

Estos estudios interpretan que los pacientes responden a los DMP de manera utilitarista, en contraposición a la tendencia deontológica exhibida por los grupos control. En esto han seguido una sugerencia de Greene, según la cual nuestro cerebro cuenta con dos sistemas morales, uno que juzga deontológicamente mientras que el otro juzga de manera utilitarista (cf. Greene et al. 2004). El sistema deontológico se guía por las emociones y está ausente o deteriorado en los pacientes. El debate original sufrió un giro, pues la idea ahora es que las emociones son necesarias para una moral deontológica, pero no para una utilitarista. Asimismo, la diferencia entre pacientes y sanos en cuanto a sus respuestas a los DMP se toma como una prueba de que efectivamente hay dos sistemas morales en el cerebro, y solo uno de ellos depende de las emociones procesadas en la zona cortical. Esta interpretación se ha atrincherado en la literatura neurocientífica y nadie parece haberla puesto en duda.7

Sin embargo, los datos de estos estudios, así como los de los trabajos de Damasio ya mencionados, suscitan la sospecha de que los pacientes han respondido de manera aleatoria a los DMP. Esta sospecha surge al notar que estos estudios, salvo el de Gleichgerrcht et al., se concentran en la comparación entre sanos y pacientes. De hecho, los pacientes exhiben más respuestas afirmativas que los sanos a los DMP. Pero consideradas las respuestas de los pacientes en sí mismas, no se puede afirmar que se inclinen más al utilitarismo. En efecto, en el estudio de Ciaramelli et al., el 61% desaprueba la acción utilitarista. Los porcentajes de aprobación son 39% para 15 DMP (Ciaramelli et al. 88), 45% para 21 DMP (Koenigs et al. 2007 910), 57.7% para 1 DMP (Mendez et al. 2005b 195) y 41% para 1 DMP (Gleichgerrcht et al.). Estos datos, al parecer, son compatibles con lo que cabría esperar si sus respuestas son aleatorias porque no saben cómo responder. De ser este el caso, los pacientes no perciben la utilidad general como un elemento clave para determinar sus respuestas, es decir, no son utilitaristas.

En todo caso, y si se tiene en cuenta que las muestras de pacientes son pequeñas, habría que hacer el análisis estadístico para confirmar si la diferencia entre respuestas afirmativas y negativas en los pacientes es significativa. También es posible, en principio, verificar si hay un patrón aleatorio al mirar los datos individuo por individuo. Sin embargo, existe un obstáculo serio para realizar este análisis intrapersonal: las historias de los DMP tendrían que ser estructuralmente idénticas en cuanto a las variables independientes. La homogeneidad no es una virtud de los DMP utilizados en estos estudios, que son tomados de la batería de Greene et al. (2001). En otro trabajo realizamos una crítica a esta batería de dilemas mostrando que los DMP no siguen el patrón esperado de enfrentar deontología a utilitarismo (Rosas et al. sometido).

5. ¿Qué saben los pacientes en el test con DMP?

Para defender la hipótesis de una deficiencia moral/cognitiva distinta a la hipótesis del paciente utilitarista, es necesario explicar la incongruencia entre las respuestas de los pacientes al ICM, mencionado arriba en relación con el estudio de Mendez et al. (2005b), y a los DMP.

Mendez et al. (2005b 195) reportan que los pacientes DFT-vF responden normalmente –esto es, igual que los sujetos control sin daño neurológico– al evaluar las conductas presentadas en el ICM. En ese test se les pide a los sujetos entrevistados que manifiesten su acuerdo o desacuerdo con respecto a una lista de acciones (el ICM), tales como "dejar que otros siempre paguen al comer en un restaurante", "ignorar a un extraño hambriento", o "tomar crédito por el trabajo de otros" (Mendez et al. 2005b 194, tabla 1). Responder igual que los sujetos control en el ICM implica, aparentemente, reconocer y juzgar como malas las acciones cuya peculiaridad es precisamente la falta de empatía o la incapacidad de ver a otro como un igual. ¿Significa esto que los pacientes saben lo que está bien o mal? Creemos que no es así. Un sujeto con lesión en la CPF y la CF puede recordar las reglas sociales propias de su comunidad. Los pacientes recuerdan las reglas aprendidas de su entorno que reclaman su asentimiento, pero esto no significa que "sepan lo que está bien y lo que está mal", pues no pueden insertar esas reglas en sus razonamientos prácticos cotidianos que tienen como función preceder y motivar su acción; y aun cuando las insertaran, su comportamiento cotidiano sugiere que no tienen el efecto que debieran tener. Sugerimos que, aunque un paciente etiquete una situación como "buena" o "mala", "debida" o "indebida", "apropiada" o "inapropiada", etc., la falta de influencia de esas etiquetas sobre sus acciones cotidianas indica que no se representan adecuadamente el significado de esos términos. En una situación controlada, como las que se producen en un laboratorio, cuyas condiciones especifican que los sujetos entrevistados escojan una respuesta, los pacientes responden simplemente a partir de un recuerdo abstracto de las reglas.

Cuando los pacientes se enfrentan a una situación que presenta un choque de dos reglas morales (utilitarismo vs. deontología), especialmente en los DMPac, no les es posible hacer uso del recuerdo de reglas sociales propias de su comunidad. Por un lado, las situaciones que se presentan en tales dilemas no son cotidianas y no hay tales reglas consensuadas para resolverlas. En efecto, en la vida real no es común tener que decidir si arrojar del puente o no a la persona voluminosa para salvar cinco vidas. Aunque recordasen las dos reglas en conflicto, carecen de las emociones que guían a las personas sanas para resolverlo. Los pacientes no disponen de esa orientación para responder. Por otro lado, dentro de la sintomatología de los pacientes con lesiones en la CF y la CPV se encuentra una tendencia a no tomar decisiones. Cuando se ven obligados a hacerlo, lo hacen al azar. Así, el número de respuestas aprobatorias a los DMP es similar al número de respuestas desaprobatorias.

Precisamente porque los DMP ponen a los pacientes ante situaciones inusuales, revelan una deficiencia cognitiva que queda oculta en un test con el ICM. Hemos sugerido que la deficiencia cognitiva consiste en que no pueden representarse adecuadamente el significado de términos valorativos como "bueno", "malo", "debido", indebido", "apropiado", "inapropiado". Pero hace falta que demos una justificación de esta sugerencia.

6. La hipótesis cognitiva

Sugerimos en la sección anterior que el déficit cognitivo de los pacientes consiste en su comprensión deficiente de términos como "bueno", "malo", "debido" o "indebido". Estos términos tienen usos prudenciales y morales. Algunos filósofos (Hume, por ejemplo) arguyeron convincentemente que, en su uso cotidiano, esos términos implican una motivación o una razón para actuar. Otra forma de decirlo es que un uso competente de estos implica poder insertarlos en razonamientos prácticos que concluyan en una decisión y en una acción concordante. Así, por ejemplo, los pacientes de Damasio podrán decir que un mazo es "malo" o algo equivalente, pero no insertan ese juicio en los procesos que los llevan a decidir en el GT. No usan "malo" con el significado valorativo y prescriptivo que tiene cuando figura en juicios que culminan en una decisión y una acción.

El uso moral de estos términos puede entenderse en analogía con el uso prudencial o racional egoísta. "Bueno" y "malo", en sentido prudencial, califican consecuencias para mi bienestar; mientras que en su sentido moral califican consecuencias para un "nosotros". Si bien sentirme concernido por mi bienestar no parece requerir mayor explicación, explicar cómo me siento concernido por otros en el "nosotros" es algo que ha fascinado a filósofos, psicólogos, biólogos evolucionistas y, recientemente, a las neurociencias. Hay casi un consenso en que el fenómeno conocido como empatía proporciona la identificación necesaria con otros que explica el "nosotros" moral. Si mi identificación con otros es la respuesta a cómo y por qué me siento concernido por otros, es plausible que entender "bueno" y "malo" referido a mi bienestar sea una condición para comprender "bueno" y "malo" referido al bienestar de otros. No es extraño, entonces, que pacientes con dificultades en el uso prudencial de esos términos tengan dificultades en su uso moral.

Vale la pena detenerse un momento para considerar lo poco que se sabe sobre la empatía y la identificación necesaria con el otro para el uso moral. Con "empatía" se hace referencia a dos capacidades distintas que la literatura a menudo confunde. Por un lado está la capacidad que tiene un sujeto para representarse el mismo estado emocional que otro individuo experimenta, ya sea sentido, imaginado, intuido o representado de manera abstracta.8 Pero una cosa distinta es la capacidad de mostrar que se está concernido por los estados emocionales negativos de otra persona. Es posible que la capacidad de sentir lo mismo que el otro, con cualquier intensidad, sea una condición de posibilidad de sentirse concernido o tocado por la situación del otro. Pero sabemos muy poco sobre cómo podrían estar ambas cosas conectadas, y en el camino para descubrirlo es importante diferenciarlas. Resumimos brevemente lo que actualmente es consenso en lo que toca a la empatía y a su relación con el conocimiento de los estados mentales.

Mediante el término "Teoría de la Mente" [Theory of Mind; ToM] se hace referencia a la habilidad, propia de los seres humanos, tanto de hacer inferencias sobre el estado mental de otros (por ejemplo, creencias, deseos, intenciones) como de predecir su comportamiento basándose en esos estados mentales (Stone 253; Brownell et al. 306). Las inferencias abarcan tanto los estados epistémicos (la cognición "fría") como los estados afectivos o emocionales (la cognición "caliente") (Stone 254). Ahora bien, en cuanto que la cognición "caliente" supone la capacidad de reconocer estados afectivos en otros, ello implica que tal tipo de cognición debe incluir algún mecanismo que permita, como primera medida, acceder a tales estados afectivos. A partir de lo dicho por Preston y de Waal, puede considerarse que este acceso es posible a través de un "mecanismo de percepción-acción", con base en el cual ellos proponen su modelo acción-percepción de la empatía (PAM=Perception-Action Model of Empathy):

Un modelo percepción-acción de la empatía afirma específicamente que la percepción atendida del estado del objeto activa automáticamente en el sujeto las representaciones del estado, situación y objeto y que la activación de estas representaciones automáticamente dispara o genera las respuestas autonómicas y corporales asociadas, salvo que sean inhibidas. (Preston & Waal 4)

Waal (37) aclara que el mecanismo percepción-acción es solo el núcleo de su modelo de empatía. Es el mecanismo neural más antiguo. Es un mecanismo compartido con muchas especies animales que evoluciona en organismos que viven en grupos y que se enfrentan a peligros comunes por los beneficios adaptativos de representar las acciones y las emociones de otros mediante los mismos recursos neurales que preparan la respuesta motora. El núcleo del PAM introduce así una identificación básica entre yo y el otro: proporciona acceso a los estados emocionales de otro reproduciéndolos en uno mismo. Esta identificación básica, que constituye una especie de "contagio emocional", se derivaría en fenómenos más complejos, a saber, la empatía cognitiva y la identificación propiamente moral. Pero poco se sabe acerca de los circuitos que se añaden a ese núcleo ancestral para facilitar la empatía propiamente moral y no puede decirse que dispongamos actualmente de una explicación neuropsicológica que se acerque siquiera a elucidar esa cuestión. La identificación moral implica valorar el dolor del otro como si fuera mío y ser motivado a aliviarlo.

A partir de la suposición de que la identificación empática se realiza mediante mecanismos neuronales que estamos empezando a descubrir, se nos plantea la pregunta: ¿están ellos dañados en los pacientes ventromediales de modo que impidan el acceso a los emociones de otras personas? Es posible, pues Preston y Waal son claros en afirmar que el circuito de su modelo de empatía es difuso e involucra muchas áreas del cerebro. De allí que deficiencias o desórdenes localizados en áreas muy distintas puedan conducir a una discapacidad en la empatía. La HMS sugiere que, en el caso de los pacientes ventromediales, la deficiencia se produce en los circuitos evolutivamente más recientes de las áreas corticales que almacenan la experiencia aprendida. Los pacientes no pueden marcar somáticamente (asignar una valencia) los estados de cosas representados a los que se accede en los procesos de decisión. Esas representaciones no tienen una valencia que guíe la decisión, y, por ello, cuando describen sus representaciones en términos de "bueno", "malo", y otros semejantes, estos no tienen un sentido valorativo. Tampoco pueden asignar valencias a sus representaciones de estados de cosas que involucran a otros, aunque el mecanismo ancestral que facilita la forma más primitiva de identificación con otros esté intacto. Aún más, es posible que no puedan marcar somáticamente la valencia positiva o negativa de las emociones que se representan en otros. De este modo, su comprensión de las emociones de otros queda fundamentalmente mutilada. Representarse una emoción sin valencia positiva o negativa es casi lo mismo que no poder representarse una emoción.

En resumen, nuestra hipótesis es que sentir una posibilidad como "buena" o "mala" para mí es condición necesaria de sentirla como "buena" o "mala" para otros, aquí media una capacidad de identificarme con los otros. Ese "sentir" es la base para la atribución de valencias que expresamos en los juicios de valor o prescriptivos y conducentes a la acción. Podemos entonces enunciar una hipótesis, alternativa a la hipótesis ejecutiva, que exprese el déficit cognitivo observado en los pacientes. Esta se puede formular de la siguiente manera:

Hipótesis cognitiva/moral: los pacientes nosaben lo que es prudencial o moralmente bueno o malo. Sus juicios no tienen el carácter prescriptivo o motivante que debieran tener. Una cognición moral debe incluir esos aspectos para ser propiamente cognición moral.

De esta manera, la falta de empatía que típicamente se observa en las personas con daño en la CPV, así como en quienes sufren de las primeras etapas de la DFT-vF, puede deberse a la incapacidad para marcar con una valencia positiva o negativa las representaciones de situaciones que afectan su bienestar o el de otros. Esto dificulta la toma de decisiones y genera, por falta de orientación, un patrón de respuesta aleatorio en las decisiones prudenciales y en las respuestas a situaciones representadas en el test con los DMP. Las respuestas al ICM se basan en memorias de reglas morales comunes, y no en una comprensión del importe prescriptivo de esas reglas.

7. Conclusiones

Los estudios de Greene et al. (2001), Ciaramelli et al., Mendez et al. (2005b) y Koenigs et al. (2007a), establecen una diferencia entre las evaluaciones morales de pacientes con daño en la CPV y personas sin ningún daño neurológico. Estamos de acuerdo con que la diferencia existe, pero cuestionamos la validez de que se les atribuya un juicio anormalmente utilitarista. Basados en los trabajos de Damasio y su equipo, que muestran un déficit en las decisiones prudenciales de pacientes con los mismos daños, damos un giro interpretativo a la HMS propuesta por ellos y construimos una explicación diferente que concuerda con los datos del GT (Bechara et al. 1997; Bechara & Damasio 2005) y arroja una luz nueva sobre los datos de los experimentos con DMP. Según esta explicación, los pacientes no logran comprender el significado prudencial de "bueno" y "malo" de estados de cosas representados. Ello afecta también su capacidad de entender su significado moral, que se apoya en el prudencial. En consecuencia, es altamente probable que decidan aleatoriamente en el GT y respondan aleatoriamente en los experimentos con DMP. Comprobar estas hipótesis requiere de un nuevo análisis de los datos del GT y, para el caso de sus respuestas a los DMP, de estudios con una batería de DMP más cuidadosamente seleccionada que la de Greene et al. (2001) para mantener la estructura de conflicto entre utilitarismo y deontología.


Notas

1Bechara et al. (1997; 2000; 2005), Blair, Ciaramelli et al. (2007), Greene et al. (2001; 2004), Haidt (2001), Hauser (2006), Hauser et al. (2008), Koenigs et al. (2007a), Mendez (2006; 2009), Mendez et al. (2005a; 2005b), Montañez & Brigard (2011), Prinz (2007), entre otros.
2Una introducción panorámica a la filosofía experimental viene a ser el "manifiesto" de Knobe y Nichols (2008). Cabe anotar que algunos ítems de la batería de dilemas de Greene et al. (2001 2105) se inspiran en experimentos mentales propios de la literatura filosófica sobre el juicio moral (por ejemplo, Thomson 1986).
3La diferencia DMP y DMI se explica en Greene et al. (2001 2106, nota 9). Para una crítica de la falta de homogeneidad en los DMP, ver Rosas et al. sometido).
4En una revisión previa de este artículo se señaló que la distinción entre consecuencias inmediatas y consecuencias a mediano y largo plazo es conceptualmente clara y hace sentido evolutivo. Sin duda, la distinción es importante para entender los problemas de control de impulsos o akrasia. La HMS, sin embargo, no parece diseñada para explicar por qué un sujeto puede sucumbir a las recompensas inmediatas o resistirlas. La HMS reconduce la valencia de todo evento futuro, lejano o cercano sin excepción, a una marcación somática de representaciones; pues, el futuro, inmediato o no, solo existe como representación en el sujeto. Cuando dos eventos futuros representados están conectados y tienen valencias opuestas, la HMS no puede explicar por qué a veces nos guiamos por el más inmediato y a veces no. Para ese propósito haría falta postular un mecanismo adicional.
5Koenigs et al. (2007a) utilizaron 21 DMP de la batería de Greene et al. (Koenigs et al. 2007b 11-17), en tanto que Ciaramelli et al. utilizaron 15 DMP de la misma batería (Ciaramelli et al. 86).
6En efecto, la DFT-vF es una degeneración neuronal que inicia en las regiones de la cingulada anterior, la orbitofrontal y la anterior insular, y sus características se resumen en Viskontas & Miller (47-48).
7Estudios recientes que se guían por ella son: Bartels & Pizarro; Koenigs et al. (2012); Moretto et al.; y Thomas et al.
8Cabe aclarar que "empatía" es un concepto sobre el que todavía no hay un consenso establecido. Así, Batson enumera los siguientes fenómenos a los que diversos investigadores han aludido con dicho término:

  1. Saber el estado interno del otro (tanto pensamientos como sentimientos).
  2. Adoptar la postura ("matching") o las respuestas neurales del otro.
  3. Sentir lo que el otro siente.
  4. Intuir (proyectarse) en la situación del otro.
  5. Imaginar cómo está pensando o sintiendo el otro.
  6. Imaginar cómo debería uno pensar y sentir si se está en la posición del otro.
  7. Sentir indirectamente ("vicarious") pena ("distress") al contemplar el sufrimiento del otro.
  8. Sentir por el otro que sufre.

Los fenómenos 1 a 6 son fuentes de conocimiento sobre el otro, en tanto que 7 y 8 son reacciones frente a ese conocimiento. Ahora bien, la explicación completa de la capacidad moral supone, por un lado, poder entender emociones, especialmente las que implican dolor, tales como tristeza, frustración e indignación, entre otras. Pero esto no es suficiente porque, presumiblemente, alguien puede entender las emociones de otros sin que esos otros le importen en lo más mínimo. Por eso se necesitan capacidades como 7 y 8 que, a su vez, suponen capacidades como 1 a 6. Es posible que la capacidad de sentir lo que otro siente (3) sea necesaria para "sentir por el otro" (7).


Bibliografía

Bartels, D. M. & Pizarro, D. A. "The Mismeasure of Morals: Antisocial Personality Traits predict Utilitarian Responses to Moral Dilemmas", Cognition 121/1 (2011): 154-161.         [ Links ]

Batson, C. D. "These Things called Empathy: Eight Related but Distinct Phenomena". The Social Neuroscience of Empathy, Decety, J. & Ickes, W. (eds.). Cambridge, MA: MIT Press, 2009. 3-15.         [ Links ]

Bechara, A., Damasio, H., Tranel, D. & Damasio, A. R. "Deciding Advantageously before knowing the Advantageous Strategy", Science 275/5308 (1997): 1293-1295.         [ Links ]

Bechara, A., Tranel, D. & Damasio, H. "Characterization of the Decision-making Deficit of Patients with Ventromedial Prefrontal Cortex Lesions", Brain 123/11 (2000): 2189-2202.         [ Links ]

Bechara, A. & Damasio, A. R. "The Somatic Marker Hypothesis: A Neural Theory of Economic Decision", Games and Economic Behavior 52 (2005): 336-372.         [ Links ]

Blair, R. "A Cognitive Developmental Approach to Morality: Investigating the Psychopath", Cognition 57/1 (1995): 1-29.         [ Links ]

Brownell, H., Griffin, R., Winner, E., Friedman, O. & Happé, F. "Cerebral Lateralization and Theory of Mind". Understanding Other Minds. Perspectives From Developmental Cognitive Neuroscience, Baron-Cohen, S., Tager-Flusberg, H. & Cohen, D. J. (eds.). Oxford/New York: Oxford University Press, 2000. 306-333.         [ Links ]

Ciaramelli, E., Muccioli, M., Làdavas, E. & di Pellegrino, G. "Selective Deficit in Personal Moral Judgment following Damage to Ventromedial Prefrontal Cortex", Social Cognitive and Affective Neuroscience 2/2 (2007): 84-92.         [ Links ]

Damasio, A. "The Somatic Marker Hypothesis and the Possible Functions of the Prefrontal Cortex", Philosophical Transactions of the Royal Society London Series B. 1346/351 (1996): 1413-1420.         [ Links ]

Damasio, A. El error de Descartes, Ros, J. (trad.). Barcelona: Crítica, 2007.         [ Links ]

Gleichgerrcht, E., Torralva, T., Roca, M., Pose, M., & Manes, F. "The Role of Social Cognition in Moral Judgment in Frontotemporal Dementia", Social Neurocience 6/2 (2011): 113-122.         [ Links ]

Greene, J. D., Sommerville, R. B., Nystrom, L. E., Darley, J. M. & Cohen, J. D. "An fMRI Investigation of Emotional Engagement in Moral Judgment", Science 293 (2001): 2105-2108.         [ Links ]

Greene, J. D., Nystrom, L. E., Engell, A. D., Darley, J. M. & Cohen, J. D. "The Neural Bases of Cognitive Conflict and Control in Moral Judgment", Neuron 44/2 (2004): 389-400.         [ Links ]

Haidt, J. "The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgment", Psychological Review 108/4 (2001): 814-834.         [ Links ]

Hauser, M. D. "The Liver and the Moral Organ", Social Cognitive and Affective Neuroscience Advance 1/3 (2006): 214-220.         [ Links ]

Hauser, M. D., Young, L. & Cushman, F. "'Reviving Rawls' Linguistic Analogy: Operative Principles and the Causal Structure of Oral Actions". Moral Psychology. The Cognitive Science of Morality: Intuition and Diversity. Vol. 2, Sinnott-Armstrong, W. (ed.). New York: Oxford University Press, 2008. 107-143.         [ Links ]

Knobe, J. & Nichols, S. "An Experimental Philosophy Manifiesto". Experimental Philosophy, Knobe, J. & Nichols, S. (eds.). New York: Oxford University Press, 2008. 3-14.         [ Links ]

Koenigs, M., Young, L., Adolphs, R., Tranel, D., Cushman, F., Hauser, M. & Damasio, A. "Damage to the Prefrontal Cortex increases Utilitarian Moral Jugdements", Nature 446/7138 (2007a): 908-911.         [ Links ]

Koenigs, M., Young, L., Adolphs, R., Tranel, D., Cushman, F., Hauser, M. & Damasio, A. (2007b) Supplementary Information to "Damage to the Prefrontal Cortex increases Utilitarian Moral Judgments". Recuperado de http://www.nature.com/nature/journal/v446/n7138/suppinfo/nature05631.html        [ Links ]

Koenigs, M., Kruepke, M., Zeier, J. & Newman, J. P. "Utilitarian Moral Judgment in Psychopathy", Social Cognitive and Affective Neuroscience 7/6 (2012): 708-714.         [ Links ]

Maia, T. V. & McClelland, J. L. "A Reexamination of the Evidence for the Somatic Marker Hypothesis: What Participants Really Know in the Iowa Gambling Task", Proceedings of the National Academy of Sciences of the United States of America 101/45 (2004): 16075-16080.         [ Links ]

Mendez, M. F., Chen, A. K., Shapira, J. S. & Miller, B. L. "Acquired Sociopathy and Frontotemporal Dementia", Dementia and Geriatric Cognitive Disorders 20/2-3 (2005a): 99-104.         [ Links ]

Mendez, M. F., Anderson, E. & Shapira, J. S. "An Investigation of Moral Judgement in Frontotemporal Dementia", Cognitive and Behavioral Neurology 18/4 (2005b): 193-197.         [ Links ]

Mendez, M. F. "What Frontotemporal Dementia reveals about the Neurobiological Basis of Morality", Medical Hypotheses 67/2 (2006): 411-418.         [ Links ]

Mendez, M. F. "The Neurobiology of Moral Behavior: Review and Neuropsychiatric Implications", CNS Spectrums 14/11 (2009): 608-620.         [ Links ]

Montañés, P. & Brigard, F. Neuropsicología clínica y cognoscitiva. Bogotá: Universidad Nacional de Colombia, 2011.         [ Links ]

Moretto, G., Làdavas, E., Mattioli, F. & Pellegrino, G. "A Psychophysiological Investigation of Moral Judgment after Ventromedial Prefrontal Damage", Journal of Cognitive Neuroscience 22/8 (2010): 1888-1899.         [ Links ]

Preston, S. D. & Waal, F. B. "Empathy: its Ultimate and Proximate Bases", Behavioral and Brain Sciences 25/1 (2002): 1-20.         [ Links ]

Prinz, J. The Emotional Construction of Morals. New York: Oxford University Press, 2007.         [ Links ]

Rosas, A., Arciniegas, A., Arciniegas, M. A. & Caviedes, E. "Neuropsicología del juicio moral: sobre las causas de las respuestas contra-intuitivas a los dilemas morales" (sometido).         [ Links ]

Stone, V. E. "The Role of the Frontal Lobes and the Amygdala in Theory of Mind". Understanding Other Minds. Perspectives From Developmental Cognitive Neuroscience, Baron-Cohen, S., Tager-Flusberg, H. & Cohen, D. J. (eds.). Oxford/New York: Oxford University Press, 2000. 253-273.         [ Links ]

Thomas, B. C., Croft, K. E. & Tranel, D. "Harming Kin to save Strangers: Further Evidence for Abnormally Utilitarian Moral Judgments after Ventromedial Prefrontal Damage", Journal of Cognitive Neuroscience 23/9 (2011): 2186-2196.         [ Links ]

Thomson, J. J. "The Trolley Problem". Rights, Restitution, and Risk: Essays in Moral Theory. Thomson, J. J. (ed.). Cambridge, MA: Harvard University Press, 1986. 94-116.         [ Links ]

Viskontas, I. V. & Miller, B. L. "Frontotemporal Dementia". The Behavioral Neurology of Dementia. Miller, B. L. & Boeve, B. F. (eds.). Cambridge: Cambridge University Press, 2009. 45-55.         [ Links ]

Waal, F. B. Primates and Philosophers. How morality evolved. Princeton: Princeton University Press, 2006.         [ Links ]