DOI: http://dx.doi.org/10.14482/eidos.22.6381

¿En qué consiste el problema de marco?
Confluencias entre distintas interpretaciones

María Inés Silenzi
ines_silenzi@hotmail.com
Centro de Lógica y Filosofía de la Ciencia - Universidad Nacional del Sur, Bahía Blanca, Argentina.
Consejo Nacional de Investigaciones Científicas

Fecha de recepción: mayo 13 de 2014
Fecha de aceptación: junio 16 de 2014

El problema de marco (frame problem) cuestiona cómo los procesos cognitivos determinan qué información, de entre toda la disponible, es relevante dada una tarea determinada. Aunque postulamos una definición posible, especificar de qué trata este problema es una tarea complicada (dificultad definitional). Una manera de obtener claridad sobre esta cuestión es explorar distintas interpretaciones del problema de marco, interpretación lógica y filosófica, para dilucidar luego la dificultad en común.

Como resultado de nuestro análisis concluimos que, sea la interpretación del problema de marco que se tenga en mente, la dificultad subyacente es la misma: examinar vasta cantidad de información. La dificultad de la vastedad de información, a modo de puente entre ambas interpretaciones, permitiría no solo comprender más claramente de qué trata el problema de marco sino también resolverlo (dificultad resolutiva).

PALABRAS CLAVE: problema de marco, dificultad definitional, interpretación lógica, interpretación filosófica, dificultad de la vastedad de información, dificultad resolutiva.

Abstract

The frame problem questions how cognitive processes determine what information is relevant, among all available, given a particular task. Although we proposed a possible definition, it is a difficult task to specify what this problem is about (definitional difficulty). One way to get insight into this matter is to explore different interpretations of the frame problem, a logical interpretation and a philosophical interpretation, to then elucidate the difficulty in common. The conclusion drawn from our analysis is that, irrespective of the interpretation of the frame problem you may have in mind, the underlying difficulty is the same: to examine a vastness of information. The difficulty posed by the vastness of information, taken as a bridge between both interpretations, would not only allow a clearer insight into the frame problem but also to solve it (resolutive difficulty).

KEYWORDS: frame problem, definitional difficulty, logical interpretation, philosophical interpretation, vastness of information, resolutive difficulty.

El problema de marco (frameproblem)¹, interpretado como un problema de determinación de la relevancia, ha sido motivo en las décadas de los 80-90 de grandes debates y controversias. Sin embargo, este problema ha resurgido en la actualidad, convirtiéndose en un problema vigente en las Ciencias Cognitivas. Una de las principales controversias que aún rodean el problema de marco, y con la cual se tendrá que convivir a lo largo de este trabajo, gira en torno a la dificultad de definirlo. En efecto, al examinar la literatura sobre el problema de marco se puede observar que la mayoría de las veces se menciona, especialmente al principio de cada tratamiento particular del problema, la complicación de definirlo. A esta dificultad la llamaremos dificultad definicional.

Efectivamente, al revisar la literatura clásica del problema ya se pueden encontrar en los compilados de Pylyshyn (1987), Brown (1987) y Ford & Pylyshyn (1996), entre otros, la mención de esta dificultad y los debates que en torno a ella se han suscitado durante la década de los 80-90. Ford & Hayes (1991) toman como punto de partida para su análisis la discusión entre Fetzer (1991) y Hayes (1991) acerca de la naturaleza del problema de marco, analizando cada uno de los argumentos y contraargumentos que se sostienen respecto a las distintas definiciones del problema. Lormand (1991), a propósito de esta misma dificultad, titula su artículo Framing the frameproblem (Enmarcando el problema de marco), resaltando la misma controversia: "¿Por qué uno debe suponer que de lo que se está hablando es del 'problema del marco', y por qué uno debe suponer que éste es un problema?" (p. 286). Perlis (1990) ha encontrado hasta dieciséis definiciones distintas del problema de marco, mientras que van Brakel (1992,1993) propone una lista de definiciones y una familia de problemas relacionados con el problema de marco. Morgenstern (1996) titula precisamente una sección de su artículo "¿De qué trata realmente el problema del marco y qué se ha entendido por éste?" (p.107) y Stein (1990) utiliza una metáfora que refleja claramente la confusión que se plantea al querer definir el problema de marco: "La definición del 'problema del marco' es más difícil de conseguir que el Santo Grial" (p. 371).

Sin dudas, la tarea de especificar de qué trata el problema de marco es realmente una tarea difícil (Dennett, 1984). Sin embargo, una manera de obtener claridad sobre esta cuestión es diferenciar las distintas interpretaciones que se han propuesto del mismo. Resulta conveniente al respecto realizar una primera distinción entre el "problema lógico del marco" y "el problema filosófico del marco". Es esta misma distinción la que propone Crockett (1994, p. 72) al diferenciar el problema general del marco del problema específico del marco, y la que otros varios autores proponen al diferenciar el problema técnico del marco del problema epistemológico del marco (Shanahan, 1997, 2009; Kamermans & Schmits, 2004). Tal vez esta reiterada división responda a un punto de vista histórico, pues existe un acuerdo general en cuanto a que es en la Inteligencia Artificial en la que se ha originado este problema, dando lugar a distintas interpretaciones filosóficas.

Pero ¿realmente ambas interpretaciones del problema de marco se refieren a dos problemas totalmente distintos o, contrariamente, ambas se refieren a una misma dificultad? Esta pregunta guiará nuestro trabajo. La cuestión clave que se va a resolver en este trabajo es evaluar si ambas interpretaciones del problema de marco se refieren a un mismo problema o si, por el contrario, cada una de ellas aborda problemáticas distintas. Si encontramos una misma dificultad, común a ambas, comprenderemos con más claridad de qué trata el problema de marco, contribuyendo así con la ardua tarea de definirlo. Nuestro objetivo apunta, pues, a resolver, al menos parcialmente, la dificultad resolutiva del problema de marco.

Para resolver nuestra cuestión clave comenzaremos por describir el problema filosófico del marco y sus principales aspectos, procurando destacar su dificultad subyacente; en virtud de revertir la poca importancia que se le da a la versión original del problema de marco describiremos, en detalle y a continuación, el aspecto lógico del problema de marco enfatizando también su dificultad central; finalmente, analizaremos algunas resoluciones del problema de marco para evaluar si efectivamente la dificultad dilucidada, la "dificultad de la vastedad de información", es la dificultad esencial del problema de marco; en los comentarios finales se repasará brevemente lo expuesto y se presentarán algunas conclusiones a la luz de lo desarrollado en los apartados precedentes.

El problema filosófico del marco

Debido al particular impacto y trascendencia que el filósofo Jerry Fodor le ha atribuido al problema de marco con respecto al progreso de las Ciencias Cognitivas, en este trabajo se atenderá especialmente a su particular tratamiento. En efecto, Fodor (1986, 2003) postula un peculiar pesimismo con respecto a la resolución del problema de marco: la no resolución de este problema limitaría el progreso de las Ciencias Cognitivas. Con otras palabras, el futuro de las Ciencias Cognitivas depende crucialmente de la resolución del problema de marco. En este apartado analizaremos la responsabilidad y el alcance que Fodor le ha atribuido al problema de marco en las Ciencias Cognitivas:

Pero antes de avanzar tal vez sea conveniente aclarar que el problema filosófico del marco se planteó por primera vez en la perspectiva cognitivista de las Ciencias Cognitivas, específicamente en la Teoría del Lenguaje del Pensamiento. Esta teoría, defendida principalmente por el propio Fodor, concibe los procesos cogniti-vos como procesos de inferencia demostrativa, siendo incapaz de dar cuenta de aquellos procesos cognitivos que implican inferencia no demostrativa. Como veremos más adelante, precisamente son este último tipo de procesos los que realmente les interesan a las Ciencias Cognitivas. Teniendo en cuenta estas observaciones, la "solución" al problema del marco podría resultar relativamente fácil: basta con abandonar la idea cognitivista que concibe los procesos psicológicos como de inferencia demostrativa. El reto actual de los denominados "enfoques postcognitivistas" es justamente articular una nueva alternativa (Silenzi, 2014)². Aunque estas observaciones colaboran con la tarea de contextualizar el problema de marco, a continuación atenderemos a aquellos conceptos fundamentales que ayuden a comprender la responsabilidad del problema de marco para el progreso de las Ciencias Cognitivas.

Para Fodor, y de acuerdo con su Teoría Modular de la Mente (1986), nuestro sistema cognitivo está constituido por sistemas de transductores (sensoriales y motores); sistemas modulares (de entrada) que elaboran y representan la información proporcionada por los transductores; sistemas centrales (sistemas no modulares) que al realizar inferencias, razonar, tomar decisiones, resolver problemas, etc., integran la información procedente de los distintos módulos y, finalmente, sistemas modulares (de salida), como la producción del lenguaje y la actividad motora. Pero en la investigación cognitiva los sistemas modulares no tienen el mismo "status" de interés que los sistemas centrales. En efecto, para Fodor, los procesos cognitivos que caracterizan a los seres inteligentes, "los responsables de los grandes logros de la mente humana" (Domingo, 2003, p. 565), se llevan a cabo a través de los sistemas centrales, y es condición, para avanzar en las Ciencias Cognitivas, conocer cómo estos sistemas realizan alguna de sus principales actividades. Es fundamental comprender entonces cómo los sistemas centrales determinan relevancia, actualizan creencias, confirman hipótesis, etc. Ahora bien, es primordial atender a una de las características claves de los sistemas centrales: su no encapsulamiento informativo (Fodor, 1986, p. 106). Los sistemas centrales son "permeables" a toda la información que proceda de cualquier otro sistema y, como consecuencia, al momento de llevar a cabo sus actividades, estos deben examinar la vasta información que suministran los distintos sistemas de entrada.

Esta particularidad de los sistemas centrales es clave para comprender la concepción "fodoriana" del problema de marco. Tal vez sea necesario aclarar que Fodor no presenta una única concepción a lo largo de sus escritos. Tal vez su concepción más amplia del problema consista en la pregunta, no tan sencilla de responder, acerca de cómo trabaja realmente la mente humana: "El problema del marco... es justamente el problema de la inferencia no encapsulada ni demostrativa y este problema es, sin más, el problema de cómo funciona la mente cognitiva" (Fodor, 1991, p. 36). Comprender cómo se llevan a cabo algunas de las actividades cognitivas más interesantes de la mente humana (realizar inferencias, razonar, tomar decisiones, resolver problemas, etc.) es comprender, al fin de cuentas, el problema de marco (Fodor, 2003, p. 57). Pero, por otra parte, Fodor sostiene concepciones más restrictivas del problema, que básicamente consisten en cómo los sistemas centrales realizan alguna de sus actividades principales, a saber: cómo los sistemas centrales determinan relevancia (a esta actividad específica se limita este trabajo), cómo los sistemas centrales actualizan sus creencias, cómo realizan inferencias abductivas, cómo confirman hipótesis, etc. (Fodor, 1983, 1991, 2000, 2008).

Pero sea cual fuere la concepción que se tome en consideración, la dificultad clave es siempre la misma. En principio, para que los sistemas centrales realicen cada instancia de cada una de sus actividades, y en virtud de su ya descripto no encapsulamiento informativo, parecería necesario que hagan una búsqueda exhaustiva entre toda la información que posee el sistema, lo cual es extremadamente implausible: "La totalidad de nuestras convicciones es un espacio desmesuradamente amplio para emprender una búsqueda... de hecho la totalidad de nuestras convicciones epistémicas es desmesuradamente amplia como para buscar cualquier cosa que intentamos entender" (Fodor, 2003, p. 43). Con otras palabras, los sistemas centrales se enfrentarían al desafío de realizar distintas actividades que requieren explorar una vasta cantidad de información con recursos cognitivos y temporales muy limitados. A esta dificultad la denominaremos "dificultad de la vastedad de la información". Esta dificultad es la que en gran medida motiva a Fodor (1986) a confesar estar "muerto de preocupación" por las limitaciones que esta conlleva para el progreso de las Ciencias Cognitivas.

Teniendo en cuenta esta dificultad y las concepciones del problema de marco ya expuestas, de ahora en adelante nos limitaremos a una sola de las actividades que los sistemas centrales llevan a cabo: la determinación de la relevancia y comprender el problema filosófico del marco como el problema que cuestiona cómo los procesos cognitivos determinan qué información, de entre toda la disponible, es relevante dada una tarea determinada. Una gran cantidad de investigadores del área estarían de acuerdo en concebir, como lo hacemos nosotros, el problema de marco como un problema de relevancia (Glymour, 1987; Crockett, 1994; Dreyfus, 1979; Schneider, 2007; Pinker, 2005; Shanahan, 2009; Ludwig & Schneider, 2008, entre otros). Si bien no hay un acuerdo generalizado acerca de cómo concebir este problema, esto no implica que no haya ciertas tendencias. Incluso Fodor coincidiría plenamente en que la determinación de relevancia es una parte crucial del problema de marco. Aunque él probablemente quiera agregar otras actividades de los sistemas centrales, sin dudas, aceptaría este aspecto como uno de los desafíos centrales del problema de marco.

El aspecto computacional de la relevancia

El aspecto computacional de la relevancia involucra el supuesto de que la Teoría Computacional de la Mente requiere que los procesos mentales sean computacionalmente tratables, es decir, que sean especificables en términos algorítmicos (Samuels, 2010). Pero también requiere que estos procesos no demanden ni más tiempo ni más recursos que lo que, se supone, demandarían los humanos.

Uno de los ejemplos más ilustrativos de este particular aspecto del problema de marco es el que presenta Daniel Dennett (1984) en su memorable ensayo "Cognitive Wheels: The frame problem of AI". En este ejemplo se enfatizan ciertos aprietos en los que se encuentra un agente artificial al enfrentarse al problema de marco. Para entender este problema, Dennett apela a un experimento mental en el que invita a imaginarnos un robot imaginario (R1), al que sus diseñadores le encomiendan la tarea de recuperar su batería de repuesto (ver figura 1).

La batería se encuentra dentro de un carro en una habitación cerrada en la que hay una bomba programada para estallar en poco tiempo. R1 infiere la hipótesis de que una cierta acción: Sacar (Carro, Habitación) le permitiría cumplir su tarea. Entra, pues, a la habitación y saca el carro con su batería de repuesto. Desafortunadamente, al estar la bomba también dentro del carro, el robot estalla a los pocos segundos.

Los diseñadores de R1 creen que es necesario que el robot no solo considere las implicaciones intencionadas de sus actos, sino también las implicaciones secundarias. Por consiguiente, diseñan el siguiente robot (llamado R1DÍ), que también encuentra la batería y diseña un plan de acción; sin embargo, cuando acaba de deducir que quitar el carro hacia afuera de la habitación no haría cambiar el color de las paredes de esta y está embarcándose en la comprobación de la siguiente implicación, la bomba explota.

Debido a esta situación, los diseñadores consideran necesario enseñarle al robot a diferenciar, a través de mecanismos de inferencia, aquellas implicaciones que son pertinentes y que debe tener en cuenta al diseñar un plan de acción de aquellas otras que no lo son. El diferenciar tales implicaciones permitiría que el robot no se quede congelado considerando todas y cada una de las implicaciones, relevantes e irrelevantes. Llaman a este tercer robot R2D1 y le dan la misma orden. Cuando el robot localiza la batería, se sienta afuera de la habitación. Los diseñadores, angustiados porque el robot se queda congelado de nuevo, le gritan que haga algo, y el robot responde: "¡Lo estoy haciendo... estoy ignorando diligentemente las miles de implicaciones que determiné improcedentes! ¡Tan pronto descubro una implicación improcedente, la sumo a la lista de las que debo ignorar!" Así, mientras el robot se concentra en omitir consideraciones innecesarias, explota la bomba y el robot se queda sin batería.

Este ejemplo pone de manifiesto que un requisito necesario para poder solucionar el problema de marco es lograr que el programa construido permita tomar las decisiones adecuadas en un tiempo razonable. Ahora bien, ninguno de los tres robots ha solucionado, según Dennett, el problema de marco. El primer robot no tiene un mecanismo que le permita considerar de manera completa las implicaciones de sus actos; el segundo tiene esta capacidad pero carece de la capacidad de distinguir las consecuencias relevantes de las irrelevantes; y finalmente, el tercero posee esta capacidad pero carece de la habilidad de coordinar esa distinción con las acciones necesarias para la tarea, al menos en un tiempo prudencial. Así, se puede argumentar que una de las preguntas que Dennett tiene en mente es: ¿Cómo es que al momento de realizar una determinada tarea y frente a la gran cantidad de información que debe examinar, el sistema cognitivo es capaz de determinar relevancia y generar expeditivamente una secuencia de acciones sin terminar paralizado computacionalmente? Con otras palabras, lo que Dennett cuestiona es cómo un sistema cognitivo resuelve las complicaciones que conlleva examinar vasta información.

Supongamos ahora que los robots de Dennett examinan una limitada, y no desmedida, cantidad de datos. Comprender el alcance de los efectos secundarios de las propias acciones en tiempo real, discriminar las implicaciones relevantes de las inferencias y relacionar estas implicaciones con la interacción con el ambiente no resultaría tan complicado, pues no habría una excesiva carga computacional que dificulte estas tareas. Lo que termina paralizando a los robots de Dennett es la excesiva carga computacional que implica examinar vasta información. Si limitamos tal información, la dificultad de la vastedad de información directamente no surgiría; pero si esta dificultad se disuelve no hay problema de marco por enfrentar. Claramente, la dificultad de la vastedad de información es también la dificultad clave del problema filosófico del marco en su aspecto computacional (C1.1).

Imagínese la siguiente situación. A un agente se le encomendó realizar una tarea; para lo cual, dados sus recursos temporales y cognitivos finitos, analizó solamente una parte de la información de su base de datos, retuvo parte de ella, desechó otra parte y considera que está listo para realizar la tarea en cuestión. A partir de esta situación surgen distintas preguntas. En primer lugar, ¿cómo sabe el agente que la información retenida es genuinamente relevante si, en principio, el conocimiento de la información no considerada podría convertir la información retenida en irrelevante? A su vez, surge la pregunta de cómo saber que la información desechada es genuinamente irrelevante si, en principio, el conocimiento de la información no analizada podría convertir la información rechazada en relevante. Finalmente, surge la pregunta referente a cómo sabría el agente que ya ha considerado suficiente información para realizar la tarea si justamente desconoce la información no analizada. Con otras palabras, la clave consiste en cómo sabe el agente que en cierto punto del análisis de información debe detenerse. Así, cuándo detenerse, cuándo parar de recolectar información, resulta una tarea extremadamente difícil. El algoritmo computacional no puede ir mucho más allá al decidir si lo que computó como relevante ya es suficiente, pues mirar más allá requeriría seguir computando. De alguna manera, sobre la base de información que ya tiene el agente, debería decidir cuándo "lo suficiente es suficiente" (Glymour 1987, p. 70).

Este problema surge porque la relevancia no se puede determinar apriori, y cualquier información puede, en principio, ser relevante. Estos planteos dan lugar al aspecto epistemológico de la relevancia. El aspecto epistemológico del problema de marco se cuestiona cómo un sistema cognitivo "sabe" después de una búsqueda parcial lo que es relevante y que, además, sabe que la información recolectada ya es suficiente para llevar a cabo una tarea determinada. Es a este aspecto al que se refiere Fodor (1991) cuando caracteriza el problema de marco como el problema de Hamlet³: "El problema de marco es el problema de Hamlet: cuándo parar de pensar" (p. 26). El siguiente ejemplo ilustra este particular aspecto.

Considérese una tarea mundana como estimar el tiempo que le llevará a alguien viajar hasta la universidad. Podría considerarse la tardanza que demandaría llegar a la esquina donde ha de tomar el colectivo, el volumen del tráfico, si habría algún accidente o movilización que obstruya el tráfico y hasta el clima que habría (suponiendo que la neblina o la tormenta impliquen una demora). Pero ¿cómo saber cuándo dejar de considerar los factores que le demorarían?, ¿cómo saber que no se tiene que considerar también si el presidente es mujer o varón, si el precio de la carne aumentó o si las Leonas ganaron el mundial de hockey, entre los factores de demora?, ¿cómo saber que estas cosas no son relevantes para el problema en cuestión? El hecho es que no se puede saber a priori que estos hechos (y muchos más) no son relevantes. Tal vez luego se recuerde que según los noticieros si las Leonas ganaban el mundial de hockey iban a cerrar la avenida central por donde pasa el colectivo para ir a la universidad, por lo que entonces el resultado del partido de hockey sí será relevante. Cuándo detenerse, cuándo parar de recolectar información, resulta una tarea extremadamente difícil debido a la vasta cantidad de información que ello implica.

Supongamos ahora que fuera suficiente estimar unos pocos datos, tales como el tiempo que le llevará a alguien viajar hasta la universidad, la tardanza que demandaría llegar a la esquina donde ha de tomar el colectivo y el volumen del tráfico. Si estos pocos datos fueran suficientes, no debe preocuparse por saber cómo saber cuándo dejar de considerar los factores que le demorarían, pues no hay más factores por considerar. Las dificultades que dan lugar al aspecto epistemológico de la relevancia se desprenden de una misma complicación: examinar vasta cantidad de información. Si limitamos tal información, la dificultad de la vastedad de información directamente no surgiría; pero si esta dificultad se disuelve no hay problema de marco por enfrentar. Claramente, la dificultad de la vastedad de información es también la dificultad clave del problema filosófico del marco en su aspecto epistemológico (C1.2).

El aspecto de la eficiencia humana al determinar relevancia

En la literatura se asume que las personas suelen determinar qué es relevante para una tarea dada de manera rápida y adecuada, aunque, por supuesto, de vez en cuando surjan errores. A veces se falla porque las demandas cognitivas son altas o los recursos cognitivos bajos (Samuels, 2010), pero generalmente los seres humanos determinan la relevancia con prontitud y precisión, exhibiendo así cierta eficiencia al determinar la relevancia. No parece plausible atribuir al azar la prontitud y el nivel de éxito y, por lo tanto, una pretendida solución al problema de marco debería explicar cómo los humanos determinan eficientemente la relevancia.

Para desarrollar este aspecto del problema de marco describiremos un ejemplo cotidiano como el de hacer un sándwich y tomarse una cerveza a medianoche (Dennett 1984, p. 134). No se podría hacer un sándwich sin saber ciertas cosas, tales como qué tan importante es el pan para hacerlo, cómo esparcir la mayonesa, cómo abrir la heladera, saber sobre la fricción o la inercia que mantendrá el queso entre las rebanadas de pan y el pan sobre el plato cuando se lleve este de la mesa, etc. Pero para poder hacerlo se necesita también saber, entre otras muchas cosas, ciertas competencias sobre el mundo, tales como quitar la cerveza de la botella para ponerla en un vaso. Gracias a la acumulación previa de experiencia en el mundo el ser humano parece estar "equipado" con todo ese conocimiento mundano para llevar a cabo una tarea tan trivial como hacer un sándwich o tomar un trago. Estos hechos absolutamente banales escapan a la atención cuando se actúa y planea una tarea cotidiana (Dennett, 1984, p. 138).

Pues bien, a través de este ejemplo cotidiano se puede observar, por un lado, cómo el problema de marco involucra la forma en que se representa toda la información empírica obtenida; pero, por otro lado, incluso si se tuviera un excelente conocimiento sobre el mundo, ¿cómo puede solamente el conocimiento que es relevante "venirse a la mente", de entre una cantidad desmesurada de información, en el momento preciso y de manera adecuada, de modo tal que ese conocimiento pueda ser utilizado de manera eficiente?

Supongamos ahora que solo se requiere poca información para hacer un sándwich a medianoche, que sea suficiente saber sobre rebanadas de pan y mayonesa para poder prepararlo. Supongamos también que son pocas las competencias sobre el mundo que debo tener en cuenta para poder tomar una cerveza y que no es necesario estar "equipado" con conocimiento mundano para llevar a cabo una tarea tan trivial como hacer un sándwich o tomar un trago. La eficiencia, a partir de la manipulación de pocos datos, no sería tan difícil de explicar. Se convierte en una tarea difícil cuando se quiere explicar cómo de entre una cantidad desmesurada de información solamente el conocimiento que es relevante "se viene a la mente" de manera eficiente. Por lo tanto, podemos sostener que la dificultad de la vastedad de información es también la dificultad clave del problema filosófico del marco en su aspecto eficiente (C1.3).

El problema lógico del marco

Es común encontrar en la literatura sobre el problema de marco que el mismo fue formulado por primera vez en el artículo "Some Philosophical Problems from the Standpoint of AI" (McCarthy & Hayes, 1969, p. 487). En varias discusiones formales acerca de la interpretación del problema lógico del marco se introduce, para explicar la estructura lógica del problema, el "mundo de los bloques"⁴. Utilizaremos la misma estrategia para introducirlo; pero para ello es necesario describir antes la ontología del "cálculo de situaciones"⁵, la cual incluye situaciones, acciones y fluentes.

Las "situaciones" (s) pueden entenderse como fotos instantáneas del mundo (Shanahan, 1997, p. 2) o, dicho de otra manera, como un completo estado del universo en un momento dado del tiempo (McCarthy & Hayes, 1969, p. 481). Los "fluentes" f pueden ser entendidos como "una función cuyo dominio es el universo Sit de situaciones" (McCarthy & Hayes, 1969, p. 482) y pueden tomar distintos valores en diferente situaciones. Estos pueden también ser pensados como "propiedades variables en el tiempo" (Shanahan, 1993, p. 2). Por último, las "acciones" (a) son un medio por medio de las cuales, al cambiar el valor de algún fluente, se generan nuevas situaciones basadas en las anteriores. El lenguaje del cálculo de situaciones también incluye el predicado "Se tiene" (Holds), que relaciona determinado fluente con aquellas situaciones en la que este es verdadero, y la función "Resultados", que expresa la situación resultante de la ejecución de una acción en una situación determinada (McCarthy & Hayes, 1969, p. 482).

Tal vez el ejemplo del "mundo de los bloques" facilite la comprensión de las nociones recién descriptas. Veamos la figura 2, donde se muestra una situación particular que puede ser descripta utilizando la terminología propuesta.

En esta situación se encuentran dos bloques apilables y lo que se intenta describir son los efectos de mover los bloques. Inicialmente se tiene el bloque A libre (donde "libre" denota que hay espacio suficiente para colocar un bloque sobre otro bloque o sobre la mesa), luego se tiene al bloque A sobre el bloque B (donde "sobre" denota que un bloque está sobre otro bloque o sobre la mesa), luego se tiene al bloque B sobre la mesa y, finalmente, se tiene a la mesa libre (en el sentido ya explicado).

Formalmente:

Se tiene (S0, Libre (bloque A))
Se tiene (S0, Sobre (bloque A, bloque B)) ]]> Se tiene (S0, Sobre (bloque B, Mesa))
Se tiene (S0, Libre (Mesa))

S₀ denota la situación descripta en la figura 1 y el fluente Sobre (bloque A, bloque B) está relacionado con S_g por el símbolo predicativo 'Se tiene". Esta es una manera de describir qué fluentes se sostienen en una determinada situación. Hemos dicho también que el cálculo de situaciones incluye también Resultados, los cuales son símbolos de función que relacionan dos argumentos: el primero es una acción y el segundo una situación entre nuevas situaciones. Por ejemplo, consideremos la acción de poner el bloque A sobre la mesa:

Poner sobre (bloque A, Mesa)

Con Resultados podemos denotar la nueva situación que se produce si la acción previa es realizada en la S:

Resultados (Poner sobre (bloque A, Mesa), S₀)

Y para establecer, por ejemplo, que el bloque B está sobre la mesa luego de esta acción, decimos:

Se tiene (Resultados (Poner sobre (bloque A, Mesa), S₀), Sobre (bloque B, Mesa))

También podemos mencionar dentro del cálculo de situaciones ciertas fórmulas que describen los efectos de ciertas acciones, adecuadamente llamadas Axiomas de Efectos (Ejfect Axioms). Estos deben considerar las precondiciones de una acción, es decir, los fluentes que son necesarios suponer para que ciertas acciones puedan realizarse:

Se tiene (s, libre(x))/\ se tiene (s, libre (y))A mesaA x£ y —Se tiene (Resultados (Poner sobre (x, y), s), Sobre(x,y))

Se tiene (S0, Rojo (bloque A))

¿Se cumple que a partir de este nuevo hecho Se tiene (Resultados (Poner sobre (bloque A, Mesa), S0), Rojo (bloque A))? Claramente cualquiera ser humano diría que no, pues no hay razones para pensar que el bloque A cambia de color solo por el hecho de moverlo de lugar.

Sin embargo, en la formalización del cálculo de situaciones no se habían incluido enunciados que permitieran demostrar esto, es decir, no se había formalizado de manera adecuada lo que se intentaba modelar. Era inminente, pues, introducir en tal formalismo la hipótesis de que las cosas permanecen rojas aun al ser movidas:

Se tiene (s, Rojo(x))—Se tiene (Resultados (Poner sobre (x, y), s),Rojo(x))

Este axioma, denominado Axioma de Marco (Frame Axiom), describe la persistencia de un fluente al no ser afectado por una acción. Aunque pueda o no haber espacio en la mesa como para poner muchos más bloques, sea cual sea la situación, y asumiendo que el bloque B y la mesa pueden tener otros colores, el color que tiene cualquier ente que se encuentre en esa situación no varía después de la acción Poner sobre. Especificaciones acerca de qué propiedad (es) cambia (n) dada una o más acciones tendrán que ser codificadas en un programa. En la Inteligencia Artificial, basada en la lógica clásica, esto se hace mediante la codificación de estos axiomas de marco (Dennett, 1984; Viger, 2006).

Pero varios fluentes permanecen iguales cuando un bloque se mueve. La cantidad de axiomas de marco necesarios para describir las acciones adecuadamente puede volverse engorrosa rápidamente en comparación con el dominio de n fluentes y m acciones porque, en general, la mayoría de los fluentes no se encuentran afectados por la mayoría de las acciones. Obviamente, cuanto más propiedades o acciones se representan, más compleja será la tarea. Esta complicación nos permite comprender el problema lógico del marco como el problema acerca de cómo representar, de la forma más concisa posible, el hecho de que en una situación determinada la mayoría de las propiedades de los objetos permanecen iguales o no son afectadas por la ejecución de una determinada acción.

Veamos con detenimiento la dificultad recién descrita. Cada vez que agregamos una nueva acción tenemos que agregar casi tantos axiomas de marco como fluentes hay y, a su vez, cada vez que agregamos un nuevo fluente tenemos que agregar casi tantos axiomas de marco como acciones hay⁶. Por lo tanto, la cantidad total de axiomas de marco requeridos para un dominio de n fluentes y m acciones será, como máximo, de m x n. Ahora bien, en la medida en que queramos que agentes inteligentes actúen en dominios amplios, tenemos que encontrar una manera de minimizar esos axiomas de marco, pues de lo contrario el tiempo que un sistema cognitivo necesite para predecir una situación determinada sería bastante⁷.

Supongamos ahora aquellas situaciones en las que hay un número muy limitado de fluentes y acciones. La inclusión de axiomas de marco en este caso sí sería exitosa y el problema lógico del marco, como consecuencia directa, se disolvería. Pero si se requeriría algo más que unas pocas acciones y fluentes, tales como la gran mayoría de las tareas que realizamos en el mundo (un mundo real - no artificial⁸), el número de axiomas marco necesarios se convierte rápidamente en una cuestión computacionalmente difícil de manejar. La cantidad de axiomas necesarios para describir las acciones adecuadamente se vuelve engorrosa, debido a la vasta cantidad de propiedades o acciones que se representan. Con otras palabras, la vasta cantidad de información es la que define al problema lógico del marco. Descripto en qué consiste el problema lógico del marco y dilucidada su dificultad principal, podemos sostener que la dificultad de la vastedad de información es también la dificultad clave del problema del marco lógico (C2).

La cuestión clave por resolver en este trabajo fue evaluar si las distintas interpretaciones del problema de marco se refieren a un mismo problema o si, por el contrario, cada una de ellas aborda problemáticas distintas. De acuerdo con los resultados obtenidos, [(C1), (C1.1), (C1.2), (C1.3) y (C2),], podemos afirmar que la dificultad clave del problema de marco es la dificultad de la vastedad de información, sea la interpretación que se tome en consideración. De esta manera, podríamos dar por resuelta nuestra cuestión clave y finalizar aquí nuestro trabajo; sin embargo, proponemos dar un paso más. En el siguiente apartado describiremos dos resoluciones del problema de marco y examinaremos cuál es la dificultad que intentan resolver; los resultados obtenidos nos ayudarán a desestimar o apoyar aun más nuestra propuesta. Por supuesto, nuestro examen no agota la cantidad de soluciones que se han propuesto sobre el problema de marco. Simplemente, creemos que las dos propuestas seleccionadas serán suficientes para llevar a cabo nuestra tarea.

A continuación analizaremos algunas resoluciones del problema de marco para evaluar si efectivamente la dificultad dilucidada es la dificultad clave de dicho problema. Si lo es, entonces cualquier propuesta de resolución, sea la interpretación del problema que se tenga en mente, apuntaría a solucionar esta, y no otra, dificultad. A la inversa, si al menos una propuesta de resolución del problema de marco intenta resolver una dificultad distinta, entonces no estaríamos en condiciones de afirmar que la dificultad de la vastedad de información es la dificultad clave del problema de marco.

Tal vez sea conveniente, antes de comenzar con nuestra tarea, introducir la dificultad resolutiva del problema de marco. En efecto, no solo la dificultad definicional del problema de marco ha sido motivo de debate, sino que también lo ha sido la posibilidad de solucionarlo, es decir, ha sido polémica su dificultad resolutiva. Para Haselager & Van Rappard (1998), el problema de marco ha llevado a caóticos debates, pues no solo parece haber poco acuerdo sobre qué es exactamente el problema del marco, sino también sobre cómo debe ser resuelto. Fodor (2008) va incluso más allá, pues afirma que no está muy claro qué sería una solución al problema de marco, si es que este es un problema y si es que tiene alguna solución. Teniendo en cuenta esta dificultad, a continuación examinaremos algunos intentos de resolución.

Recordemos en qué consiste el problema filosófico del marco. Este problema cuestiona cómo los procesos cognitivos determinan qué información, de entre toda la disponible, es relevante dada una tarea determinada. Las heurísticas, concebidas como reglas prácticas, conscientes o inconscientes, que suelen proveer respuestas razonables en razonamientos y toma de decisiones, ofrecen precisamente una estrategia para limitar la información que se va a examinar al momento de determinar relevancia. Con otras palabras, y desde un punto de vista computacional, las heurísticas son las primeras candidatas para aliviar la carga computacional que conlleva la determinación de relevancia entre vasta información (Carruthers, 2006a, 2006b; Samuels, 2010, y Samuels & Stich, 2004). En efecto, todo tratamiento computacional requiere, para que no sea tan arduo, que los cálculos sean adecuadamente moderados y adecuados, y los procesos de cálculos moderados y precisos efectivamente pueden ser realizados por heurísticas. Mediante el empleo de las heurísticas se limita o se acota considerablemente la vasta cantidad de información, y la tarea de determinar relevancia resulta, como consecuencia, mucho menos compleja.

Tal vez el siguiente ejemplo ilustre claramente la aptitud de las heurísticas recién descritas. Una de las heurísticas propuestas por el programa de Heurísticas y Sesgos es la llamada "Heurística de Representatividad" (Tversky & Kahneman, 1983). Esta heurística se activaría en una variedad de condiciones; entre ellas, cuando se requiere estimar la probabilidad de que un objeto pertenezca a una categoría (por ejemplo, una persona con tales características sea cajera/o de banco). Pues bien, lo que esta heurística hace es brindar una respuesta basándose en el grado de similitud del objeto en cuestión con un caso paradigmático de la categoría en cuestión (ej., el prototípico cajero o la prototípica cajera). Así, hay búsqueda de información y posterior procesamiento, pero esta información es superacotada: se busca el caso prototípico de una categoría⁹. Es mediante las heurísticas que se crean instancias de búsqueda de información específica, lo cual deviene en subconjuntos com-putacionalmente manejables de información. Al limitarse así la información, solo habrá una cantidad pequeña de información contenida en la base de datos del sistema, reduciéndose, de este modo, la cantidad de cálculos necesarios a la hora de determinar relevancia. En este sentido, las heurísticas colaboran claramente en la tarea de delimitar información, superando así las dificultades que conlleva examinar vasta información. Con otras palabras, lo que las heurísticas intentan resolver es la dificultad de la vastedad de información (C3).

Tal vez sea conveniente aclarar que el progreso en la potencia de los procesadores más la persistente apuesta de la Inteligencia Artificial por calcular y estimar cada una de las vastas opciones que se presentan en una tarea, ponen en entredicho los razonamientos de Dennett (1984) respecto al alcance y utilidad de las heurísticas recién expuestas. En efecto, actualmente los algoritmos compu-tacionales analizan gran cantidad de información, ofreciendo así una buena respuesta a los planteamientos sobre su efectiva reali-zabilidad. Sin embargo, y parafraseando a Fodor, aún se discute si realmente "la mente funciona de esta manera". Por cuestiones de espacio no discutiremos este interesante debate, que, sin lugar a dudas, refleja el interés actual en el problema de marco.

Continuando con nuestros propósitos, examinaremos ahora cuál es la dificultad que intentan resolver las varias soluciones del problema lógico del marco. A modo de introducción, tal vez sea adecuado distinguir tres clases de intentos por resolver este problema: procedimental, monótono y no monótono. Desde el enfoque procedimental se propone la solución de Fikes y Nilsson (1971), y desde el enfoque monótono se postulan otras varias soluciones, como aquellas que proponen Reiter (1991), Brown y Park (1987) y Schwind (1987)¹⁰. Nuestro análisis se orientará al razonamiento no monótono, pues es a este tipo de razonamiento al que Shanahan le atribuye haber cerrado el capítulo lógico del problema de marco.

Recordemos que el problema lógico del marco cuestiona cómo representar, de la forma más concisa posible, el hecho de que en una situación determinada la mayoría de las propiedades de los objetos permanecen iguales o no son afectadas por la ejecución de una determinada acción. Según Shanahan (1997), una solución "satisfactoria" del problema lógico del marco debería brindar flexibilidad expresiva, elaboración de la tolerancia y, fundamentalmente, parsimonia representacional (p.10). Shanahan sugiere que tales exigencias pueden satisfacerse formalizando "la ley de sentido común de la inercia". Esta ley asume el supuesto de que dada una acción determinada, a excepción de los efectos conocidos, nada más cambia. Con otras palabras, esta ley establece que la inercia es normal y el cambio es excepcional, que si no existe evidencia de que algo haya cambiado, entonces no ha cambiado (p.18). Esta ley, aunque conocida a través de Shanahan, ya había sido acuñada¹¹ por McCarthy (1969) y utilizada de manera impresa en Lifschitz (1987, pp. 45 y 186). A través de esta original idea, la idea de la circunscripción (circumscription), se minimizan las extensiones de un predicado, o de un conjunto de predicados, tanto como sea posible (Shanahan, 1997, p.18). Esto permite, por ejemplo, describir una proposición tal como "las aves usualmente vuelan" mediante la reformulación "las aves vuelan, a no ser que sean anormales". La clase de pájaros anormales resulta restringida tanto como sea posible: un avestruz podría no ser capaz de volar, pero hasta que no se demuestre que es un pájaro anormal en algún aspecto, sería válido concluir que podría volar.

Sin embargo, esta idea conducía a algunas anomalías (tales como el conocido problema del disparo de Yale¹²), las cuales fueron evitadas mediante un cambio sutil interpretándose esta misma idea como: "Al señalar todo lo que cambia de forma explícita, se ignora todo lo demás asumiendo que se mantuvo de la misma manera" (Kamermans & Schmits, 2004, p. 5).

Shanahan utiliza el cálculo de eventos, y no el cálculo de situaciones, a la hora de resolver el problema lógico del marco. El cálculo de situaciones, ya descrito al introducir el problema lógico del marco, presenta principalmente dos limitaciones: la primera es que, como ya hemos visto en su ontología, las situaciones son puntos instantáneos en el tiempo, lo cual dificulta describir los cambios que ocurren de manera continua; en segundo lugar, el cálculo de situaciones presenta algunas dificultades al querer describir la simultaneidad de situaciones o que las situaciones se relacionan unas con otras por medio de una sola acción. Por supuesto, múltiples acciones podrían ser descritas como acciones compuestas, pero estas acciones compuestas necesitarían nuevos axiomas de marco. El cálculo de eventos tiene una manera de describir estas ocurrencias sin acciones compuestas, conservando la misma fuerza expresiva que el cálculo de situaciones¹³. Shanahan intenta obtener las ventajas y beneficios del cálculo de eventos para solucionar al problema lógico del marco utilizando la ley "de sentido común de la inercia" sin necesidad de utilizar una interminable lista de axiomas marco. Véase que esta ley permite expresar de manera sucinta lo que no cambia, es decir, lo que intenta es limitar la cantidad de información (propiedades y acciones) que se va a representar. Con otras palabras, esta solución lo que intenta resolver es la dificultad de la vastedad de información (C4).

Comentarios finales

La cuestión clave de este trabajo consistió en evaluar si distintas interpretaciones del problema de marco se refieren a un mismo problema o si, por el contrario, cada una de ellas aborda problemáticas distintas. De acuerdo con los resultados obtenidos, [(C1), (C1.1), (C1.2), (C1.3) y (C2), (C3) y (C4)], concluimos que cualquiera que sea la interpretación del problema de marco que se tenga en mente, la dificultad subyacente es la misma.

El destacar la dificultad de la vastedad de información, a modo de "factor común", entre distintas interpretaciones, colabora en la tarea de acortar las distancias entre el problema lógico y filosófico del marco. Al respecto, para Crockett (1994), el problema filosófico del marco es un "viejo problema disfrazado con traje de cálculo moderno" (p. 3) e, inversamente, para Glymour (1987), aunque le concede a la Inteligencia Artificial haberle dado un nuevo giro al problema, el problema del marco ya se encontraba estrechamente relacionado con otros problemas considerados por él como "viejos amigos de la filosofía" (p. 65).

Pero también, el dilucidar la dificultad subyacente al problema de marco colabora con la tarea de definirlo. Esta, sin lugar a dudas, es su consecuencia más relevante. La dificultad definicional del problema de marco es aún hoy un punto de partida para la discusión de varios comentarios, enfrentamientos, teorizaciones e implicancias; una manera de obtener claridad sobre esta cuestión, y en esto radica nuestro aporte, es esclarecer la dificultad clave del problema de marco.

Si bien nos hemos ocupado fundamentalmente de su dificultad definicional, también hemos atendido a su dificultad resolutiva. Quien intente resolver el problema de marco, sea desde el área que sea, se enfrenta a la misma dificultad y asume el mismo propósito: superar la dificultad de la vastedad de información. Explicar cómo tratar vasta información parece ser un desafío apasionante, tanto para los investigadores de la Inteligencia Artificial como para filósofos de la mente. Parafraseando a Stein (1990, p. 371), resolver y definir en qué consiste el problema de marco son tareas tan arduas como encontrar el Santo Grial; sin dudas, el problema de marco es un problema vigente en la agenda de la investigación cognitiva.

Notas

¹La expresión "frame problem" se encuentra traducida en la literatura como "problema de marco" o "problema de cuadro". Shanahan (1997, p. 25) menciona que McCarthy (a quien se le considera el inventor del problema de marco) se encontraba leyendo un libro de geometría cuando acuñó la expresión "frame problem" como análoga del problema de elegir un marco de coordenadas. Dado un conjunto de ejes o un sistema de coordenadas, se utiliza un "marco" de referencia para medir la posición, la orientación o las propiedades de un objeto dentro de ese sistema. Es de acuerdo con esta analogía que la expresión "frame problem" se traduce como "problema de marco". A lo largo de este trabajo se considerará la traducción "problema de marco", siendo fiel a su interpretación original.
²De manera general, si bien se han hecho importantes avances en esta dirección, no se puede sostener aún la resolución definitiva del problema filosófico del marco (Gomila & Calvo, 2008, p. XVIII).
³Desde el comienzo del primer acto de la obra de Shakespeare Hamlet tiene que vengar la muerte de su padre. Pero durante los siguientes cuatro actos hasta el desenlace mortal de la última escena intenta negárselo a sí mismo, lo intelectualiza todo; su cerebro está en constante conflicto con su corazón. No deja de pensar y pensar. Es por estas razones que Fodor utiliza la metáfora de Hamlet para referirse al aspecto epistemológico del problema de marco. ]]> ⁴Por ejemplo, en McCarthy y Hayes (1969), Janlert (1987), Shanahan (1997; 2009), Horty (2001), y en varios manuales de Inteligencia Artificial, como Russell y Norvig (2003; 2010), entre otros.
⁵Utilizaremos la notación que usan McCarthy y Hayes (1969) para describir el cálculo de situaciones. Para ver otras notaciones que se hacen del cálculo, véase Russell y Norving (2003), Reiter (1991 y 2001), Davis (1990), Charniak y McDermottt (1987), Genersereth y Nilsson (1987), entre otros.
⁶Este cálculo sobre el número de axiomas depende del hecho de que no hay acciones concurrentes.
⁷El problema lógico del marco surge entonces cuando uno intenta expresar los efectos de las acciones, o de los eventos involucrados, usando la lógica clásica como herramienta de formalización. A través de esta lógica deberíamos describir (formalmente) no solo qué cambia cuando es realizada una clase particular de acción u ocurre un evento en particular, sino también lo que no cambia.
⁸Destacamos en cursiva el término "real" para enfatizar que desde sus orígenes el problema de marco se refiere a lo que realmente sucede, es decir, a lo que pasa en un "mundo real".
⁹Se admite que aunque en general esta heurística genera resultados razonables, se pueden crear condiciones en las que, al aplicarla, se cometen errores lógicos o probabilísticos Por ejemplo, las personas tienden, al aplicarla, a cometer la falacia de la conjunción: se les dice a los participantes de un experimento que Linda es una chica de 31 años, soltera, extrovertida, inteligente y que le preocupan cuestiones de discriminación social. Las personas tienden a pensar que es más probable que Linda sea una cajera de banco feminista que una cajera de banco en general, feminista o no, lo cual es lógicamente imposible.
¹⁰Puede verse un resumen de estas soluciones lógicas en Sandewall (1972).
¹¹Según Mueller (2006, p. 98), esto se lo comunicó el mismo McCarthy por vía comunicación personal el 18 de mayo de 2005.
¹²Este problema (Hanks & McDermott, 1987, pp. 387-930) emergió como una anomalía cuando se intentó circunscribir la siguiente situación. Tenemos un arma de fuego, que se carga en el momento S0, luego se espera un tiempo indeterminado (que va hacia S1 y en S2) y finalmente se dispara a Fred, nuestro mejor amigo. En circunstancias normales, esto sería equivalente a asesinato, pero en un enfoque cir-cunscriptivo en realidad puede ser el caso de que nuestro mejor amigo podría seguir vivo, debido a dos supuestos que se circunscriben en esta situación. La primera suposición es que los seres humanos por lo general sobreviven y el segundo supuesto es que las armas no se descargan espontáneamente. La situación deseada, en la que esperábamos haber matado a Fred, viola el primer supuesto a través de la acción "disparar", pero también es posible que el segundo supuesto sea violado: mientras no esté explícitamente indicado, el enfoque circunscriptivo permite la posibilidad de que la pistola se descargue en algún momento durante una acción de espera.
¹³ El "cálculo de eventos" es también un formalismo utilizado para reflejar el cambio, cuya principal diferencia con el cálculo de situaciones es que este usa el tiempo lineal, mientras que el primero usa la ramificación del tiempo. Para ver las diferencias entre estos dos cálculos, véase Mueller (2006) y Shanahan (1997). ]]>

Referencias

Brown, F. M. (Ed.) (1987). Proceedings of the 1987 Workshop on the Frame Problem in Artificial Intelligence. Los Altos: Morgan Kaufmann.         [ Links ]

Brown, F. & Park, S. (1987). Actions, reflective possibility and the frame problem. En F. M. Brown (Ed.), Proceedings of the 1987 Workshop on the Frame Problem in Artificial Intelligence (pp. 159-191). Los Altos: Morgan Kaufmann.         [ Links ]

Carruthers, P. (2006a). The architecture of the mind: Massive modularity and the flexibility of thought. Oxford: Oxford University Press.         [ Links ]

Carruthers, P. (2006b). Simple heuristics meet massive modularity. En P. Carruthers, S. Laurence & S. Stich (Eds.), The innate mind: Culture and cognition (pp. 181-198). Oxford: Oxford University Press.         [ Links ]

Charniak E. & McDermott, D. (1987). Introduction to Artificial Intelligence. Reading, MA: Addison-Wesley.         [ Links ]

Crockett, L. (1994). The Turing Test and the Frame Problem: AI's Mistaken Understanding of Intelligence. New Jersey: Ablex Publishing Corporation.         [ Links ]

Davis E. (1990). Representations of Commonsense Knowledge. San Mateo, CA: Morgan Kaufmann.         [ Links ]

Dennett, D. (1984). Cognitive Wheels: The frame problem of AI. En C. Hookway (Ed.), Minds, machines & evolution (pp. 129-152). Cambridge: Cambridge University Press.         [ Links ]

Domingo, J. M. (2003). El proyecto modular de Jerry Fodor (o sobre el porvenir de otra ilusión). Anuario de Psicología, 34 (4), 505-571.         [ Links ]

Dreyfus, H. L. (1979). What computers can't do: The limits of artificial intelligence. New York: Harper Colophon Books.         [ Links ]

Fetzer, J. H. (1991). The frame problem: artificial intelligence meets David Hume. En K. M. Ford & P. J. Hayes (Eds.), Reasoning agents in a dynamical world: the frame problem (pp. 55-69). London: JAI Press.         [ Links ]

Fikes, R. & Nilsson, J. (1971). STRIPS: A New Approach to the Application of Theorem Proving to Problem Solving. Artificial Intelligence, 2 (3-4), 189-208.         [ Links ]

Fodor, J. (1983). The modularity of mind. Cambridge: The MIT Press.         [ Links ]

Fodor, J. (1986). La modularidad de la mente. Madrid: Morata.         [ Links ]

Fodor, J. (1991). Modules, frames, fridgeons, sleeping dogs & the music of spheres. En J. L. Garfield (Ed.), Modularity in knowledge representation and natural-language understanding (pp. 25-36). Cambridge: The MIT Press.         [ Links ]

Fodor, J. (2000). The Mind Doesn't Work That Way: The Scope and Limits of Computational Psychology. Cambridge: The MIT Press.         [ Links ]

Fodor, J. (2003). La mente no funciona así: alcances y limitaciones de la psicología computacional. Madrid: Siglo XXI.         [ Links ]

Fodor, J. (2008). LOT 2: The language of thought revisited. Oxford: Clarendon Press.         [ Links ]

Ford, K. M. & Hayes, P. J. (Eds.) (1991). Reasoning agents in a dynamical world: the frame problem. London: JAI Press.         [ Links ]

Ford, K. M. & Pylyshyn, Z. W. (1996). The robot's dilemma revisited: The frame problem in Artificial Intelligence. Norwood: Ablex Publishing Corporation.         [ Links ]

Genersereth, M. & Nilsson, N. (1987) Logical Foundations of Artificial Intelligence. Palo Alto, CA: Morgan Kaufman.         [ Links ]

Glymour, C. (1987). Android epistemology and the frame problem: Comments on Dennett's cognitive wheels. En Z. W. Pylyshyn (Ed.), The robot's dilemma: Theframe problem in artificial intelligence (pp. 65-77). Norwood: Ablex Publishing Corporation.         [ Links ]

Gomila, A. & Calvo Garzón, F. (2008). Handbook of Cognitive Science. Direction for embodied cognitive science: Towards an integrated approach. Oxford: Elsevier.         [ Links ]

Haselager, W. F. G. & van Rappard, J. F. H. (1998). Connectionism, systematicity, and the frame problem. Minds and Machines, 8 (2), 161- 179. DOI:10.1023/A:1008281603611        [ Links ]

Hayes, P. J. (1991). Commentary on "The frame problem: artificial intelligence meets David Hume". En K. M. Ford. & P. J. Hayes (Eds.), Reasoning agents in a dynamic world: the frame problem (pp. 71-76). London: JAI Press.         [ Links ]

Hanks, S. & McDermott, D. (1987). Nonmonotonic logic and temporal projection. Artificial Intelligence, 33 (3), 379-412. DOI.10.1016/0004-3702(87)90043-9        [ Links ]

Horty, J. (2001). Nonmonotonic Logic. En L. Goble (Ed.), Blackwell Guide to Philosophical Logic (pp. 336-361). Oxford: Blackwell Publishers.         [ Links ]

Janlert, L. (1987). Modeling change - the frame problem. En Z. W. Pylyshyn (Ed.), The frame problem in Artificial Intelligence (pp. 1-40). Norwood, NJ: Ablex Publishing Corporation.         [ Links ]

Kamermans, M. & Schmits, T. (2004). The History of the Frame Problem. Amsterdam: Faculty of Artificial Intelligence, University of Amsterdam.         [ Links ]

Lifschitz, V. (1987). Formal theories of action. En F. M. Brown (Ed.), Proceedings of the 1987 Workshop on the Frame Problem in Artificial Intelligence (pp. 966-972). Los Altos: Morgan Kaufmann.         [ Links ]

Lormand, E. (1991). Framing the frame problem, pistemology and Cognition. En J. H. Fetzer (Ed.), Studies in Cognitive Systems, vol. 6 (pp. 267-289). Dordrecht: Kluwer Academic Publishers.         [ Links ]

Ludwig, K. & Schneider, S. (2008). Fodor's Challenge to the Classical computational Theory of Mind. Mind and Language, 23 (1), 123-143. DOI: 10.1111/j.1468-0017.2007.00332.x        [ Links ]

McCarthy, J. & Hayes, P. (1969). Some Philosophical Problems from the Standpoint of AI. Machine Intelligence, 4, 463-502.         [ Links ]

Morgenstern, L. (1996). The problem with solutions to the frame problem. En K. M. Ford & P. J. Hayes (Eds.), Reasoning agents in a dynamical world: the frame problem (pp. 99-133). London: JAI Press.Hayes.         [ Links ]

Mueller, E. T. (2006). Commonsense reasoning. San Francisco: Morgan Kaufmann, Elsevier.         [ Links ]

Perlis, D. (1990). Intentionality and defaults. International Journal of Expert Systems (Special Issue on the Frame Problem, Part B), 3, issue 4, 345-354.         [ Links ]

Pinker, S. (2005). So How Does The Mind Works? Mind & Language, 20 (1), 1-24.         [ Links ]

Pylyshyn, Z. W. (Ed.) (1987). The Robot's Dilemma: The frame problem in Artificial Intelligence. Norwood: Ablex Publishing Corporation.         [ Links ]

Reiter, R. (1991). The frame problem in the situation calculus: a simple solution (sometimes) and a completeness result for goal regression. Artificial Intelligence and Mathematical Theory of Computation: Papers in Honor of John McCarthy (pp. 359-380).         [ Links ]

Reiter, R. (2001). Knowledge in Action. Logical Foundations for Specifying and implementing Dynamical Systems. London: MIT Press.         [ Links ]

Russell, S. & Norvig, P. (2003). Artificial Intelligence, a Modern Approach(2^a ed.). Upper Saddle River, NJ: Prentice Hall.         [ Links ]

Russell, S. & Norvig, P. (2010). Artificial Intelligence: A Modern Approach(3^a ed.). Upper Saddle River, NJ: Prentice-Hall.         [ Links ]

Samuels, R. (2010). Classical Computationalism and the Many Problems of Cognitive Relevance. Studies in History and Philosophy of Science,41(3), 280-293.         [ Links ]

Samuels, R. & Stitch, S. P. (2004). Rationality and psychology. En P. Rawling & A. Mele (Eds.), The Oxford Handbook of Rationality (pp. 279-300). Oxford: Oxford University Press.         [ Links ]

Sandewall, E. (1972). An approach to the Frame Problem and its Implementation. Machine Intelligence, 7, 195-204.         [ Links ]

Schneider, S. (2007). Yes, it does: a diatribe on Jerry Fodor's The Mind Doesn't Work That Way. Psyche, 13 (1), 1-15.         [ Links ]

Schwind, C. (1987). Action theory and the frame problem. En F. M. Brown (Ed.), Proceedings of the 1987 Workshop on the Frame Problem in Artificial Intelligence (pp.121-134). Los Altos: Morgan Kaufmann.         [ Links ]

Shanahan, M. (1993). Explanation in the situation calculus. En Proceedings of the Thirteenth International Joint Conference on Artificial Intelligence(pp. 160-165).         [ Links ]

Shanahan, M. (1997). Solving the frame problem: A mathematical Investigation of the Common Sense Law of Inertia. Cambridge: The Mit Press.         [ Links ]

Shanahan, M. (2009). The frame problem. En E. N. Zalta (Ed.), The Stanford Encyclopedia of Philosophy. Disponible en: http://plato.stanford.edu/entries/frame-problem.         [ Links ]

Silenzi, M. I. (2014). El problema de marco: alcances y limitaciones de los enfoques postcognitivistas. Bahía Blanca: Ediuns.         [ Links ]

Stein, L. A. (1990). An atemporal Frame Problem. International Journal of Expert Systems, 3(4), 371-381.         [ Links ]

Tversky, A. & Kahneman, D. (1983). Extensional versus intuitive reasoning: The conjunction fallacy in probability judgment. Psychological Review, 90, 293-315. DOI: 10.1037/0033-295X.90.4.293        [ Links ]

Van Brakel, J. (1992). The Complete Description of the Frame Problem. Psycoloquy, 3 (60), art. 2.         [ Links ]

Van Brakel, J. (1993). Unjustified Coherence. Psycoloquy, 4 (23), art. 7.         [ Links ]

Viger, C. (2006). Frame problem. En K. Brown (Ed.), Encyclopedia of Language and Linguistics (pp. 610-613). Oxford: Elsevier.         [ Links ]