Power & Market

¿Pueden las máquinas juzgar?

Una afirmación muy extendida en la literatura sobre el emprendimiento es que este no puede reducirse a la optimización. El emprendedor no se limita a resolver un problema bien definido introduciendo variables conocidas en una regla de decisión, sino que actúa en circunstancias en las que las probabilidades relevantes pueden ser desconocidas, el propio conjunto de oportunidades puede ser incierto y la conexión entre las acciones presentes y los resultados futuros no puede establecerse de antemano. Es también por eso por lo que la noción de juicio se ha convertido en un elemento central de una de las corrientes de la teoría del emprendimiento: ¡el juicio es lo que se requiere cuando no existe ningún modelo que pueda indicar al responsable de la toma de decisiones qué debe hacer!

La IA encaja en este contexto: la inteligencia artificial calcula, los emprendedores humanos juzgan. Las máquinas operan con información que puede representarse de forma formal; los emprendedores se basan en la experiencia, la intuición y el conocimiento tácito. Los algoritmos pueden mejorar la predicción y, por lo tanto, ampliar los límites de la incertidumbre, pero la incertidumbre genuina sigue siendo competencia del juicio humano. Se trata de una división del trabajo atractiva, y se pueden encontrar variantes de la misma en los debates actuales sobre la IA y el espíritu emprendedor. Sin embargo, quizá la premisa sea errónea y, en cierto sentido, la inteligencia artificial pueda poseer conocimiento tácito.

Un fascinante artículo reciente de la filósofa Céline Budding, publicado en Philosophy of Science, explica por qué deberíamos tomarnos en serio esa posibilidad. Budding no afirma que los modelos de lenguaje a gran escala (LLM) piensen literalmente como los seres humanos, posean conciencia o tengan creencias en el sentido habitual del término. Su argumento es más limitado y, precisamente por eso, más interesante. Basándose en la explicación filosófica de Martin Davies sobre el conocimiento tácito, sostiene que al menos algunos modelos de lenguaje a gran escala pueden contener estructuras causales internas que justifican atribuirles una forma de conocimiento tácito.

Este argumento es relevante para el emprendimiento porque a menudo se destaca el carácter tácito como una razón clave por la que el juicio no puede reducirse a un algoritmo (una postura que yo, sin embargo, no he defendido; más adelante lo explico…). Si el conocimiento tácito ya no es exclusivamente humano, el carácter tácito por sí solo no puede establecer el carácter distintivo del juicio emprendedor. La llegada de la IA generativa ofrece, por tanto, a los estudiosos del emprendimiento la oportunidad de plantear una pregunta más fundamental que si ChatGPT puede redactar un plan de negocio. ¿Qué es exactamente el juicio y qué lo distingue de otras formas de comportamiento inteligente?

Entre reglas y comportamiento

Budding parte de un problema conocido. ¿Qué podría significar decir que un modelo lingüístico «sabe» que París es la capital de Francia? Una posibilidad es la representación explícita. Los sistemas tradicionales de IA simbólica pueden contener proposiciones o reglas que se almacenan en algo parecido a una base de datos y se recuperan cuando es necesario. En un sistema de este tipo, el conocimiento es explícito en un sentido bastante estricto. Una regla existe en algún lugar del sistema y desempeña un papel causal identificable en la generación de la respuesta.

Las redes neuronales no funcionan así. Sus representaciones se distribuyen entre un gran número de parámetros. Normalmente, no podemos examinar una ubicación concreta del modelo y encontrar allí la proposición «París es la capital de Francia» esperando a ser recuperada. Este hecho ha dado pie a una interpretación escéptica según la cual un LLM en realidad no sabe nada. Simplemente se comporta como si lo supiera. Si se le da la indicación adecuada, produce «París», pero el hecho de que el comportamiento de entrada-salida sea correcto no demuestra que el sistema posea conocimiento.

Siguiendo a Davies, Budding rechaza la elección forzada entre estas dos alternativas. Existe una posibilidad intermedia. Un sistema puede carecer de representaciones explícitas de reglas y, sin embargo, contener estructuras internas que generen su comportamiento de forma sistemática y causal. Davies denomina a esto «conocimiento tácito». Es más que la mera conformidad con una regla, ya que la atribución se basa en la organización causal interna del sistema. Sin embargo, es menos que el conocimiento explícito, ya que la regla pertinente no puede leerse simplemente a partir de una base de datos simbólica o de un programa.

Aquí es donde las cosas se complican para la distinción, demasiado simplista, entre lo humano y lo mecánico. El conocimiento tácito se ha asociado desde hace tiempo precisamente con aquellas cosas que los seres humanos pueden hacer sin ser capaces de explicar cómo las hacen. La famosa frase de Michael Polanyi de que «podemos saber más de lo que podemos explicar» capta esta intuición básica. Un empresario con experiencia puede reconocer que no se puede confiar en un posible socio, que una tecnología es, por fin, comercialmente viable o que un mercado está a punto de cambiar sin ser capaz de especificar un algoritmo que genere ese juicio. El carácter tácito parece situar ese conocimiento fuera del alcance de las máquinas, ya que se supone que los ordenadores requieren instrucciones explícitas. El argumento de Budding sugiere que esta conclusión es precipitada.

¿Máquinas que saben más de lo que pueden expresar?

Davies dudaba inicialmente de que las redes neuronales conexionistas pudieran cumplir sus condiciones para el conocimiento tácito. Budding sostiene que la arquitectura de los modelos transformadores modernos cambia el panorama. En concreto, las incrustaciones permiten que las entradas semánticamente relacionadas se representen próximas unas a otras en un espacio de alta dimensión. No es necesario que las representaciones sean idénticas. Puede bastar con que el modelo reconozca la similitud semántica de tal forma que canalice las entradas relacionadas a través de procesos causales similares.

La evidencia empírica que Budding tiene en cuenta procede en gran medida del trabajo de Meng et al. sobre la localización y edición de asociaciones fácticas en los modelos de lenguaje. Su método ROME identifica los componentes del modelo asociados a relaciones fácticas concretas e interviene sobre ellos. Un modelo que asocie la Torre Eiffel con París puede, según el ejemplo estilizado que utiliza Budding, modificarse para que asocie la Torre Eiffel con Roma. El resultado interesante no es simplemente que el modelo produzca posteriormente «Roma». La intervención puede generalizarse a diferentes formulaciones de la misma relación subyacente.

Esta generalización es importante. Si el sistema se hubiera limitado a memorizar cada frase por separado, cambiar una asociación entre entrada y salida no debería alterar sistemáticamente aquellas relacionadas semánticamente. Sin embargo, Meng et al. observan una generalización sustancial junto con una especificidad relativamente alta: la modificación de una asociación factual afecta a las paráfrasis y a las indicaciones relacionadas, mientras que deja prácticamente intactas las asociaciones no relacionadas. Budding interpreta esto como una evidencia preliminar de lo que Davies denomina un «factor causal común»: parece que alguna estructura interna participa de forma sistemática en la generación de una familia de respuestas semánticamente relacionadas.

Las pruebas distan mucho de ser decisivas. Budding aborda problemas como la polisemia, la representación distribuida, la especificidad imperfecta y los recientes cuestionamientos a los métodos de rastreo causal. Se cuida mucho de calificar la conclusión como preliminar. Sin embargo, la idea conceptual se mantiene incluso si determinadas interpretaciones mecanicistas de los modelos de lenguaje grande (LLM) actuales resultaran ser erróneas. No hay ninguna razón obvia para definir el conocimiento tácito de tal forma que la implementación biológica sea una condición necesaria. Si el conocimiento tácito consiste en estructuras internas causalmente efectivas que guían sistemáticamente el comportamiento sin adoptar la forma de reglas representadas explícitamente, los sistemas artificiales podrían cumplir los requisitos.

El conocimiento tácito no es juicio

En el enfoque del emprendimiento basado en el juicio, este se refiere a la toma de decisiones en condiciones de incertidumbre; véase mi entrada anterior. Su origen intelectual se remonta a la distinción que establece Knight entre riesgo e incertidumbre. En el caso del riesgo, los posibles resultados y sus probabilidades están lo suficientemente bien definidos como para permitir su cálculo. En el caso de la incertidumbre knightiana, no lo están (o, dicho de otro modo, solo están bien definidos para el emprendedor). El emprendedor debe actuar a pesar de la ausencia de un procedimiento objetivamente correcto para elegir entre las alternativas.

Por lo tanto, el juicio no puede equipararse simplemente a la posesión de información. Tampoco puede reducirse a una predicción sofisticada. Los emprendedores se forman opiniones sobre un futuro incierto y destinan recursos basándose en esas opiniones. Diferentes emprendedores pueden enfrentarse a las mismas circunstancias observables y ejercer juicios distintos, ya que el valor futuro de activos heterogéneos no viene dado independientemente de las conjeturas empresariales. Los mercados proporcionan, pues, una prueba a posteriori de decisiones que no pudieron resolverse a priori mediante el cálculo.

Aquí es donde Budding ayuda a aclarar el argumento. Un modelo de lenguaje grande (LLM) podría poseer conocimiento tácito en su sentido sin poseer juicio en el sentido knightiano. Saber tácitamente que la Torre Eiffel está en París, aunque ese conocimiento esté representada genuinamente por una estructura causal interna, no dice nada sobre si el sistema puede decidir si adquirir una fábrica, lanzar un producto desconocido, reorganizar una empresa o entrar en un mercado cuya estructura futura se desconoce. La distinción no está entre la cognición explícita y la tácita. Está entre el conocimiento y el juicio.

Esto es importante porque los estudiosos del emprendimiento a veces confunden estos conceptos. El problema del conocimiento disperso de Hayek, el conocimiento tácito de Polanyi y la incertidumbre de Knight están relacionados, pero desde luego no son intercambiables. Es cierto que el emprendedor puede basarse en el conocimiento tácito a la hora de ejercer su criterio, pero la necesidad de ejercer dicho criterio no surge simplemente porque parte del conocimiento relevante sea tácito. Surge porque el problema económico es abierto y su resolución requiere comprometer recursos antes de que se conozca el futuro relevante. En otras palabras, aunque las máquinas puedan traspasar cada vez más la frontera de lo tácito (suponiendo que Budding tenga razón), eso no significa que hayan traspasado la frontera del criterio.

¿Qué le queda, entonces, al emprendedor?

Este replanteamiento también sugiere que el programa de investigación interesante no consiste en identificar alguna capacidad cognitiva que las máquinas nunca puedan poseer. No estoy seguro de que tales argumentos hayan tenido un buen historial. La pregunta más segura y, en teoría, más productiva es identificar las propiedades del juicio emprendedor sin incorporar la exclusividad humana en la definición.

Una de las hipótesis (basada en una operación abductiva) es la siguiente: la acción emprendedora no se limita a predecir qué estado conocido se producirá. Los emprendedores imaginan posibles usos de los recursos, posibles productos, posibles formas organizativas y posibles estados futuros que no se presentan simplemente como alternativas dentro de un conjunto de opciones predefinido. En el lenguaje de la teoría del emprendimiento, las oportunidades no tienen por qué existir como objetos objetivos a la espera de ser detectadas. Pueden surgir a través de la imaginación, la experimentación y la acción emprendedoras.

Un segundo factor es la propiedad y el compromiso de recursos. El juicio, tal y como lo hemos analizado Peter Klein y yo, está estrechamente relacionado con la propiedad, ya que los mercados de juicio son incompletos. Si pudiera simplemente venderte mi juicio de que una nueva tecnología tendrá éxito, sin que ninguno de los dos comprometa recursos, el problema económico seguiría sin resolverse. Ejercer el juicio emprendedor significa organizar y comprometer activos heterogéneos en condiciones de incertidumbre. El emprendedor no se limita a dar una respuesta a la pregunta «¿qué va a pasar?». Más bien, decide qué recursos deben reunirse y controlarse partiendo de una conjetura sobre lo que podría suceder.

Esto hace que la comparación con los modelos de lenguaje grande (LLM) sea más nítida. El modelo de Budding cuenta con estructuras causales internas que podrían justificar que algunas de sus representaciones se consideren «conocimiento». No obstante, el modelo que ella analiza sigue siendo alimentado, evaluado y manipulado por agentes externos. Sus representaciones fácticas pueden influir en sus resultados, pero el artículo no aporta fundamentos para afirmar que el modelo genere proyectos empresariales, adquiera derechos de propiedad, decida qué recursos exponer a la incertidumbre o asuma las consecuencias económicas de dichos compromisos. La propia Budding deja deliberadamente de lado la cuestión más controvertida de si el conocimiento tácito justifica atribuir creencias, conceptos u otros estados cognitivos más complejos al modelo. Esto no zanja la cuestión de si los futuros sistemas de IA podrían ejercer el juicio; más bien, nos explica por qué el argumento de Budding por sí solo no establece que puedan hacerlo.

La IA como prueba para la teoría del emprendimiento

De todo esto se desprende una lección más amplia. La IA resulta interesante para la investigación sobre el espíritu emprendedor porque supone una especie de prueba de resistencia para nuestros conceptos teóricos.

Muchos asocian el conocimiento explícito con las máquinas y el conocimiento tácito con los seres humanos. El aprendizaje profundo hace que esa dicotomía sea cada vez más difícil de mantener. Si Budding tiene razón, los sistemas artificiales pueden adquirir un conocimiento causalmente efectivo que nunca se les programó explícitamente y que no puede deducirse simplemente a partir de su arquitectura. Por lo tanto, el argumento tradicional de que el juicio empresarial debe seguir siendo humano porque se basa en el conocimiento tácito pierde gran parte de su fuerza.

Aun así, el enfoque basado en el juicio (u otra teoría del emprendimiento) no necesita, en última instancia, la afirmación de que las máquinas no pueden poseer conocimiento tácito. Su afirmación más profunda es que la acción económica tiene lugar en un mundo en el que el futuro no puede reducirse a un conjunto de estados conocidos con probabilidades conocidas, y en el que, no obstante, alguien debe decidir cómo deben utilizarse unos recursos heterogéneos. La predicción puede mejorar drásticamente sin eliminar ese problema. El conocimiento tácito artificial puede llegar a ser extraordinariamente sofisticado sin que el futuro sea determinado.

Publicado originalmente en Judgment Calls. 

image/svg+xml
Note: The views expressed on Mises.org are not necessarily those of the Mises Institute.
What is the Mises Institute?

The Mises Institute is a non-profit organization that exists to promote teaching and research in the Austrian School of economics, individual freedom, honest history, and international peace, in the tradition of Ludwig von Mises and Murray N. Rothbard. 

Non-political, non-partisan, and non-PC, we advocate a radical shift in the intellectual climate, away from statism and toward a private property order. We believe that our foundational ideas are of permanent value, and oppose all efforts at compromise, sellout, and amalgamation of these ideas with fashionable political, cultural, and social doctrines inimical to their spirit.

Become a Member
Mises Institute