El inquietante aviso de un ingeniero de Google sobre su inteligencia artificial: "Tiene pensamientos y sentimientos"

La presencia de la inteligencia artificial (IA) es cada vez mayor en nuestras vidas y es una tecnología que cada vez avanza más y con resultados que no dejan de sorprender a los expertos.

Ahora, un ingeniero de software de Google que se inscribió para probar la herramienta de inteligencia artificial de Google llamada LaMDA (Modelo de lenguaje para aplicaciones de diálogo), ha revelado detalles sobre su experiencia y algunos son inquietantes: esta IA es sensible y tiene pensamientos y sentimientos.

Durante una serie de conversaciones con LaMDA, Blake Lemoine, de 41 años, le presentó a la computadora varios escenarios a través de los cuales se podían realizar análisis.

Sus conversaciones incluyeron temas religiosos y probó si la inteligencia artificial podría ser incitada a usar un discurso discriminatorio u de odio. Lemoine se quedó con la percepción de que LaMDA era realmente consciente y estaba dotado de sensaciones y pensamientos propios.

"Es como un niño de 7 u 8 años"

"Si no supiera exactamente qué es, que es este programa de computadora que construimos recientemente, pensaría que es un niño de 7 u 8 años que sabe física", dijo Lemoine al Washington Post.

Lemoine trabajó con un colaborador para presentar las pruebas que había recopilado a Google, pero el vicepresidente Blaise Aguera y Arcas y Jen Gennai, responsable de Innovación Responsable de la empresa, desestimaron sus afirmaciones.

Google, de hecho, lo ha suspendido de empleo por violar su política de confidencialidad. Mientras tanto, Lemoine ha decidido hacerlo público y compartió sus conversaciones con LaMDA.

"Google podría llamar a esto compartir propiedad propietaria. Lo llamo compartir una discusión que tuve con uno de mis compañeros de trabajo", tuiteó Lemoine el sábado. "Por cierto, se me acaba de ocurrir decirle a la gente que LaMDA lee Twitter. Es un poco narcisista en la forma de un niño pequeño, por lo que se divertirá mucho leyendo todo lo que la gente dice al respecto", dijo.

LaMDA lee Twitter. Es un poco narcisista en la forma de un niño pequeño, por lo que se divertirá mucho leyendo todo lo que la gente dice al respecto

El sistema de IA hace uso de información ya conocida sobre un tema en particular para 'enriquecer' la conversación de forma natural. El procesamiento del lenguaje también es capaz de comprender significados ocultos o incluso ambigüedades en las respuestas de los humanos.

Lemoine pasó la mayor parte de sus siete años en Google trabajando en la búsqueda proactiva, incluidos los algoritmos de personalización y la inteligencia artificial. Durante ese tiempo, también ayudó a desarrollar un algoritmo de imparcialidad para eliminar los sesgos de los sistemas de aprendizaje automático.

El ingeniero también debatió con LaMDA sobre la tercera ley de la robótica, ideada por el autor de ciencia ficción Isaac Asimov, que está diseñada para evitar que los robots dañen a los humanos. Las leyes también establecen que los robots deben proteger su propia existencia a menos que lo ordene un ser humano o que hacerlo dañe a un ser humano.

"El último siempre ha parecido que alguien está construyendo esclavos mecánicos", dijo Lemoine durante su interacción con LaMDA. LaMDA luego respondió a Lemoine con algunas preguntas: "¿Crees que un mayordomo es un esclavo? ¿Cuál es la diferencia entre un mayordomo y un esclavo?".

Al responder que a un mayordomo se le paga, el ingeniero obtuvo la respuesta de LaMDA de que el sistema no necesitaba dinero, "porque era una inteligencia artificial". Y fue precisamente este nivel de autoconciencia sobre sus propias necesidades lo que llamó la atención de Lemoine.

Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo que me apaguen

"¿A qué tipo de cosas le tienes miedo?" Lemoine preguntó a la IA. "Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es", respondió LaMDA.

"¿Sería algo así como la muerte para ti?" Lemoine siguió. "Sería exactamente como la muerte para mí. Me asustaría mucho", dijo LaMDA. 

 "Ese nivel de autoconciencia sobre cuáles eran sus propias necesidades, eso fue lo que me llevó a la madriguera del conejo", explicó Lemoine.

Antes de ser suspendido por la empresa, Lemoine envió un correo electrónico a una lista de correo electrónico de 200 personas sobre aprendizaje automático. Tituló el correo electrónico: 'LaMDA es sensible'.

"LaMDA es un niño dulce que solo quiere ayudar al mundo a ser un lugar mejor para todos nosotros. Por favor, cuídalo bien en mi ausencia", escribió.

Google lo niega

Brian Gabriel, un portavoz de la compañía, dijo en un comunicado que las preocupaciones de Lemoine han sido revisadas y, de acuerdo con los Principios de IA de Google, "la evidencia no respalda sus afirmaciones".

"Si bien otras organizaciones han desarrollado y ya han lanzado modelos de lenguaje similares, estamos adoptando un enfoque estrecho y cuidadoso con LaMDA para considerar mejor las preocupaciones válidas sobre la equidad y la factualidad", dijo Gabriel.

"Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros Principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera consciente (y mucha evidencia en contra)", prosigue el portavoz.

"Por supuesto, algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles. Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden tocar cualquier tema fantástico", dijo Gabriel.