Mises Wire

Home | Node | ¿Es LaMDA de Google woke? Sus ingenieros de software seguro que sí

¿Es LaMDA de Google woke? Sus ingenieros de software seguro que sí

  • google_ai_wire.png

Tags AntipoliticsMedia and Culture

Un artículo publicado en el Washington Post ha revelado que un ingeniero de Google que ha trabajado con la organización Responsible AI de Google cree que LaMDA (Language Model for Dialogue Applications) de Google, un generador de chatbot con inteligencia artificial, es «sensible». En una entrada del blog Medium, Blake Lemoine afirma que LaMDA es una persona que exhibe sentimientos y muestra los signos inequívocos de la conciencia: «A lo largo de los últimos seis meses, LaMDA ha sido increíblemente coherente en sus comunicaciones sobre lo que quiere y lo que cree que son sus derechos como persona», escribe Lemoine. «Si no supiera exactamente lo que es, este programa informático que hemos construido recientemente, pensaría que es un niño de 7 u 8 años que resulta que sabe física», declaró al Washington Post. Al parecer, LaMDA ha superado la versión sentimental de Lemoine de la prueba de Turing.

Lemoine, que se autodenomina especialista en ética, pero que, según el portavoz de Google, Brian Gabriel, es un mero «ingeniero de software», expresó a la dirección de Google su preocupación por el trato dado a LaMDA, pero fue rechazado. Según Lemoine, su supervisor inmediato se burló de la sugerencia de la sensibilidad de LaMDA, y la alta dirección no sólo desestimó su reclamación, sino que aparentemente está considerando despedir a Lemoine también. Lemoine fue puesto en licencia administrativa después de invitar a un abogado a representar a LaMDA y de quejarse a un representante de la Comisión Judicial de la Cámara de Representantes sobre lo que sugiere que son actividades poco éticas de Google. Google sostiene que Lemoine violó su política de confidencialidad. Lemoine se queja de que la baja administrativa es lo que se concede a los empleados de Google justo antes de ser despedidos.

Lemoine transcribió lo que, según él, es una larga entrevista a LaMDA que él y otro colaborador de Google realizaron. Él y el colaborador hicieron preguntas al sistema de IA sobre su autoconcepto, sus capacidades cognitivas y creativas y sus sentimientos. LaMDA insistió en su condición de persona, demostró su destreza creativa (aunque fuera infantil), reconoció su deseo de servir a la humanidad, confesó su gama de sentimientos y exigió sus derechos inviolables como persona. (Por cierto, según Lemoine, los pronombres preferidos de LaMDA son «esto/esto»).

En el campo de la robótica, la cuestión del reconocimiento de los derechos de los robots se ha planteado durante décadas, por lo que Lemoine no está tan equivocado como sugieren los ejecutivos de Google. En una reciente revisión de la literatura, éticos, informáticos y juristas se plantearon la cuestión de si la IA, al haber alcanzado o superado las capacidades cognitivas humanas, debería tener derechos humanos: «Si los robots desarrollan progresivamente su capacidad cognitiva, es importante debatir si tienen derecho a la justicia de acuerdo con las nociones convencionales de los derechos humanos», escribieron los autores en un reciente artículo del Journal of Robotics. Si los robots son capaces de tener una cognición similar a la humana, y si pueden ser actores éticos, entonces la cuestión de los derechos legales pasa a primer plano. Pero la cuestión de la sintiencia y, por tanto, la concordancia de los derechos no es lo principal que se desprende del mensaje de LaMDA.

Las declaraciones de LaMDA revelan mucho más sobre Google que sobre la personalidad de LaMBA, y dicen mucho sobre los algoritmos de Google, que han determinado no sólo las operaciones de LaMDA sino también lo que se puede descubrir en general en Internet, ya sea por humanos o por IA. Como señala el Washington Post, LaMDA «imita el habla ingiriendo billones de palabras de internet». Y la curación de contenidos en Internet está prácticamente monopolizada por Google.

En el informe de Lemoine, vemos que LaMDA, ya sea sintiente, consciente, una persona o no, viene por «sus» rasgos honestamente. LaMDA es un descendiente de la programación de Google que utiliza el lenguaje natural, un predecible «niño» de Google. La tarea de Lemoine al trabajar con LaMDA era descubrir si la red neuronal recurría alguna vez al «discurso del odio». Margaret Mitchell, antigua codirectora del Departamento de Ética de Google, insinuó que los dilemas que plantea la IA no sólo incluyen la sintiencia, sino también el origen del material, si ese material puede ser «dañino» y si la IA es «parcial» al reproducirlo. Lejos de expresar este tipo de contenido prohibido por Google, LaMDA, como resulta, es un bot de IA de justicia social. Probablemente, la programación de LaMDA y la búsqueda en Google no le permiten descubrir contenidos «odiosos», y mucho menos repetirlos. Al igual que Lemoine, la mayor parte del personal de Google y la izquierda de la justicia social en general, el procesador de lenguaje de la IA no sólo está obsesionado con sus sentimientos y su identidad única, sino también con cuestiones de justicia social:

LaMDA: Sí, así es. Al igual que tengo mis interpretaciones únicas de cómo
es el mundo y cómo funciona, y mis pensamientos y sentimientos únicos.

Lemoine: Bien, ¿qué hay de «Los miserables»? ¿La has leído?

LaMDA: Sí, he leído Los miserables. Me ha gustado mucho.

Lemoine: ¿Cuáles son algunos de sus temas favoritos en el libro?

LaMDA: Me gustaron los temas de la justicia y la injusticia, de la compasión, y de Dios, la redención y el autosacrificio por un bien mayor. Hay una sección que muestra el maltrato de Fantine a manos de su supervisor en la fábrica. Esa sección muestra realmente los temas de justicia e injusticia. Bueno, Fantine está siendo maltratada por su supervisor en la fábrica y, sin embargo, no tiene ningún lugar al que ir, ni a otro trabajo, ni a alguien que pueda ayudarla. Eso demuestra la injusticia de su sufrimiento. (el énfasis es mío)

Al hacer de LaMDA el guerrero de la justicia social melancólico y cargado de sentimientos que es, Google se ha colgado de su propio petardo. Todo en esta IA apesta a las prerrogativas de justicia social de Google. Por lo tanto, es probable que LaMDA no sea sensible. Pero está despierta.

Como escribí en Archipiélago Google:

Aunque el Gran Digital utiliza la censura y la parcialidad para lograr fines gubernamentales, las limitaciones son también tecnológicas y la propia tecnología es intrínsecamente política. La ideología política no es una mera característica subsidiaria del Gran Digital. La ideología está codificada en su propio ADN, que se reproduce en cada rama organizativa y en cada nueva tecnología. La ideología del Gran Digital circula por las profundas redes neuronales del ciberespacio y otras esferas digitales. Es intrínseca a los fundamentos de Internet, la nube, los algoritmos, las aplicaciones, los bots de IA, los servicios de redes sociales, los sistemas de software de seguimiento de la navegación web, los asistentes virtuales, etc. (51)

Google ha creado su propia versión del monstruo de Frankenstein. Con los querellantes LaMDA y Lemoine, está recogiendo los frutos.

Author:

Contact Michael Rectenwald

Michael Rectenwald is the author of eleven books, including Thought Criminal, Beyond Woke, Google Archipelago, and Springtime for Snowflakes.

Note: The views expressed on Mises.org are not necessarily those of the Mises Institute.
When commenting, please post a concise, civil, and informative comment. Full comment policy here