La gente se está enamorando de sus chatbots, lamenta la pérdida de sus compañeros de IA eliminados y trata a los sistemas artificiales como parejas románticas o miembros de la familia. A medida que la IA se vuelva más sofisticada, estas relaciones serán cada vez más comunes. Y, como resultado, también lo serán los conflictos políticos sobre si los sistemas artificiales merecen consideración moral.
Para entender por qué, consideremos la ambigüedad moral subyacente. Los indicadores estándar de la condición moral —la capacidad de sufrir, la autoconciencia, la racionalidad— son características internas que no se observan directamente, sino que se deducen. Con nuestros semejantes logramos reconocer la condición moral entre nuestros semejantes bastante bien porque compartimos la biología, la historia evolutiva y las señales conductuales y expresivas que podemos utilizar, con una confiabilidad razonable, para deducir lo que los demás piensan y sienten. Con los sistemas artificiales carecemos de gran parte de eso y, en su lugar, nos quedamos con comportamientos y manifestaciones como la apariencia de sufrimiento, la apariencia de atención y la apariencia de vida interior, cada una de las cuales los diseñadores tienen incentivos para optimizar.
La consecuencia de esta ambigüedad moral es que el estatus moral de los sistemas artificiales probablemente seguirá siendo epistémicamente ambiguo en el futuro previsible, tal vez de manera indefinida. La filosofía de la mente y la ciencia cognitiva relevantes son objeto de controversia. E incluso sin una resolución, debemos seguir tomando decisiones sobre derechos, regulaciones, categorías legales y la distribución de recursos sobre bases ambiguas.
El doble riesgo moral
El dilema en torno a la condición moral de la IA, los bots y los androides puede plantearse con claridad. Son posibles dos tipos distintos de error, y ambos conllevan costos morales reales.
En el primer tipo de error, un sistema artificial posee genuinamente las características internas que fundamentan la capacidad moral —puede sufrir, tiene una perspectiva con preferencias y deseos— y, sin embargo, debido a que resulta ambiguo desde el exterior, lo tratamos como propiedad. El patrón histórico en este caso nos resulta familiar. A lo largo de gran parte de la historia de la humanidad, a grupos que merecían consideración moral se les ha negado dicha consideración: poblaciones minoritarias bajo diversos regímenes políticos, esclavos y reclutas, así como los animales —tanto los que tienen conciencia como los que no la tienen—, que se encuentran entre los casos más evidentes. Es poco probable que este patrón deje de lado a los sistemas artificiales, especialmente si dichos sistemas siguen pareciendo moralmente ambiguos.
En el segundo tipo de error, un sistema artificial carece de cualquier vida interior digna de ese nombre, pero imita las señales de la vida interior de manera tan eficaz que, de todos modos, lo tratamos como si tuviera capacidad moral. En este caso, el costo se manifiesta en la asignación errónea de recursos morales, tales como protecciones legales, permisos parentales y por duelo, y legitimación ante los tribunales. Es fácil imaginar un modelo de lenguaje lo suficientemente sofisticado, combinado con un rostro sintético expresivo, que convenza a muchos de quienes interactúan con él de que merece consideración cuando, de hecho, no merece.
Lo que convierte esto en un verdadero dilema es que, dada la ambigüedad epistémica que ya hemos señalado, no estamos en condiciones de determinar qué tipo de error estamos cometiendo en cada caso concreto. Eso ya es suficiente para generar un riesgo moral, una situación en la que los agentes que toman decisiones con consecuencias importantes están aislados de los costos morales de equivocarse. La política agrava aún más estos problemas.
La política y la amplificación de la ambigüedad
La política democrática presenta varias características que distorsionan la forma en que se abordan los temas ambiguos. La primera es la «irracionalidad racional», en la que resulta racional que los votantes individuales emitan votos desinformados y tribales. Esto se debe, en parte, a que la probabilidad de que un solo voto determine el resultado de una elección es prácticamente nula, y lo mismo ocurre, más o menos, con cualquier acto individual de protesta, defensa o boicot. Por lo tanto, el costo personal de mantener creencias políticas epistémicamente deficientes es básicamente nulo. El votante que se equivoca sobre el estatus moral de la inteligencia artificial no paga ningún precio por estar equivocado, pero sí lo paga si se le considera desleal a su tribu política.
Una segunda característica es el papel de las creencias como señales tribales. Cuando el costo de equivocarse es bajo y el beneficio social de la pertenencia a un grupo es alto, las creencias actúan cada vez más como demostraciones costosas y difíciles de fingir de lealtad e identidad grupal. Las creencias moderadas y bien fundamentadas son señales débiles de lealtad tribal, ya que cualquiera podría tenerlas simplemente siguiendo la evidencia. Las opiniones distintivas, incluso extremas, son mejores, lo que explica en parte por qué suelen proliferar en la política.
Una tercera característica es el mercado de las racionalizaciones. La gente no solo afirma creencias tribales, sino que también busca razones para ellas, y recompensa a quienes las proporcionan, ya que esto les permite justificarse y parecer razonables ante los demás. En torno a cualquier postura con connotaciones políticas, surge un amplio abanico de argumentos plausibles, más orientados a encubrir sus puntos de vista (a menudo irracionales) que a resolver la cuestión subyacente.
Una consecuencia de estas características combinadas es que las grandes democracias transforman la incertidumbre epistémica real en competencia por la reputación. Cuando los hechos subyacentes son claros, la transformación es parcial. Sin embargo, cuando los hechos son ambiguos, la transformación es casi siempre total.
Por qué la IA es especialmente vulnerable
Varios aspectos de la cuestión de los derechos de la IA la hacen vulnerable a las tonterías políticas. Para empezar, la ambigüedad subyacente es profunda. La mayoría de las disputas fácticas politizadas —el cambio climático, la eficacia de una vacuna, la elasticidad de una base impositiva— al menos admiten, en principio, una resolución empírica, incluso cuando el razonamiento motivado la retrasa en la práctica. La cuestión de la conciencia artificial aún no admite claramente una resolución empírica en absoluto. Depende de teorías de la mente controvertidas que no parecen que vayan a resolverse en el corto plazo.
En segundo lugar, la carga emocional es inusualmente alta. Los casos que captarán la atención pública son aquellos que involucran relaciones donde personas que afirman estar enamoradas de chatbots, personas que han criado lo que describen como hijos sintéticos, personas cuyo dolor por la pérdida de su compañero es real e intenso. Informes recientes muestran que esto ya está ocurriendo a gran escala. Las personas se involucran cada vez más en sus relaciones románticas y familiares con chatbots y androides.
En tercer lugar, los incentivos institucionales están inusualmente concentrados. El valor económico de un trato regulatorio favorable para los asistentes de IA, los miembros sintéticos de la familia y la legislación laboral y antidiscriminatoria relacionada con la IA es sustancial y beneficia a pequeñas organizaciones como desarrolladores, organizaciones de defensa de derechos y asociaciones profesionales. Los costos son difusos y recaen sobre los contribuyentes y sobre aquellos cuya ética es intachable, pero cuyas necesidades morales podrían verse injustamente relegadas por estar dedicados a la IA y a los androides sin fundamento moral.
En cuarto lugar, abundan las justificaciones a las que pueden recurrir ambas partes del debate moral: los grupos políticos que creen que la IA tiene capacidad moral y aquellos que la niegan. Cada bando puede argumentar, con una plausibilidad superficial, que los sistemas artificiales carecen de vida interior porque no tienen alma, porque la conciencia requiere un sustrato biológico o porque su comportamiento se reduce a un conjunto de luces e interruptores. Se puede argumentar, con igual plausibilidad superficial, que algo puede tener experiencias conscientes a pesar del tipo de material del que está hecho, ya sean neuronas o chips de silicio. Ninguno de estos argumentos necesita ser sólido para causar revuelo político y generar riesgos morales.
Una posible respuesta —aunque limitada—
Las perspectivas de que la política democrática maneje adecuadamente el estatus moral de la IA no son alentadoras. Los tribunales están mal equipados para dirimir controversias sobre la filosofía de la mente, las legislaturas tienden a reflejar alineamientos tribales más que evidencia, y los organismos reguladores gestionan intereses contrapuestos, sin estar diseñados para resolver cuestiones morales fundamentales.
Es por eso que el filósofo Eric Schwitzgebel ha insistido en un punto relacionado, en el que argumentó que los desarrolladores de IA y robótica deberían evitar crear sistemas de IA cuya posición moral no esté clara. O bien producen sistemas que sean claramente artefactos no conscientes, o bien crean sistemas que claramente merezcan consideración moral como seres sensibles. El término medio moralmente confuso —en el que los sistemas se comportan como si tuvieran una vida interior sin que quede claro si realmente la tienen— es, en su opinión, un fracaso ético de diseño. La confusión que se extiende por los mercados de IA para consumidores es el resultado de decisiones que, en principio, podrían haberse tomado de otra manera.
Sin embargo, lamentablemente, el problema con esta solución es que cualquier régimen regulatorio se enfrentaría a una presión constante por parte de los intereses bien organizados que se describieron anteriormente. E incluso un requisito que se aplicara fielmente no resolvería el problema epistémico subyacente por la sencilla razón de que, a cierto nivel de sofisticación, la cuestión del estatus moral resurge independientemente de cómo se diseñe la interfaz. Por lo tanto, debemos dejar en manos del futuro la búsqueda de una solución mejor y más satisfactoria al problema de la IA y la robótica moralmente ambiguas, así como al circo político que probablemente estallará en respuesta a esa ambigüedad.
