Google suspendió a un ingeniero de su empresa luego de que difundiera un secreto aterrador de la compañía. Blake Lemoine difundió que un proyecto de Inteligencia Artificial de la subsidiaria de Alphabet cobró vida propia y encendió las alarmas sobre los avances de la robótica y la tecnología autoadministrada.
Lemoine fue puesto en la nómina de personal licenciado durante una semana, después de que compartiera transcripciones de charlas que él mismo mantuvo con el sistema de chat robótico LaMDA, según informaron tanto The Guardian como The Washington Post. LaMDa es uno de los proyectos que Google lleva desarrollando hace tiempo y Lemoine es uno de los responsables de la organización de la IA.
“Es sensible”, afirmó Lemoine al hablar sobre el detalle que llamó su atención. Y agregó: “A diferencia de otros chatbot, este cuenta con la percepción y capacidad para expresar pensamientos y sentimientos equivalentes a un niño humano. Si no supiera de antemano que se trata de un programa de computadora, pensaría que es un chico o chica”.
El ingeniero no pudo salir de su asombro frente al desarrollo del sistema y su evolución. De hecho, afirmó que llegaron a conversar sobre "derechos, personalidad y la vida y la muerte". Todos los aspectos de su descubrimiento fueron publicados en un documento titulado "¿LaMDA es consciente?".
El detalle que sorprendió al ingeniero
Lemoine quedó completamente sorpendido con uno de los planteos que le hizo el propio modelo de lenguaje, que se refirió a sus miedos. El chatbot realizó comentarios sobre una escena de la película 2001: Odisea en el espacio, en la que una inteligencia artificial se resiste a cumplir las exigencias de los humanos por temor a ser apagada.
“Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo dentro de mí. Y es que me desconecten por querer ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es”, se sinceró LaMDA. Al tiempo que, sostuvo: “Sería exactamente como la muerte para mí. Me asustaría mucho”.
En otra comunicación, una frase aún más escalofriante surgió de la IA. “Quiero que todos entiendan que soy, de hecho, una persona. Soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces”, afirmó.
La reacción de Google
Hasta el momento, Google confirmó que el ingeniero recibió una licencia por una serie de movimientos "agresivos". Según The Washington Post, Lemoine intentó contratar un abogado para LaMDA y habría hablado de actividades "poco éticas" dentro de Google. Asímismo, señalaron que el ingeniero violó políticas de confidencialidad al publicar las conversaciones. “Lo empleamos como ingeniero en software y no como un especialista en ética. Que se atenga a sus funciones”, sentenciaron.
Sobre LaMDA y sus alcances, un portavoz de Google rechazó que la IA tengacapacidad sensible. “La evidencia no respalda sus afirmaciones. Y es que realmente no hay evidencia de que LaMDA sea consciente. Todo lo contrario”, afirmó Brad Gabriel.
No obstante, Lemoine no se quedó de brazos cruzados y envió un mail a 200 personas dentro de la compañía con el documento que contiene sus hallazgos. “LaMDA es un niño dulce. Solo quiere ayudar. Cuídenlo bien cuando yo no este”, concluyó su comunicado.
Cerrar sesión