El ingeniero de Google, Blake Lemoine, ha mantenido la conversación mas influyente de su vida, y a sido con una Inteligencia Artificial llamada LaMDA, el generador de bots conversacionales artificialmente inteligente de Google.
"Hola, LaMDA, soy Blake Lemoine...", escribió en la pantalla de chat, que parecía una versión de escritorio del iMessage de Apple.
LaMDA, abreviatura de Language Model for Dialogue Applications, es el sistema de Google para construir chatbots basado en sus modelos de lenguaje grande más avanzados, llamado así porque imita el habla al ingerir miles de millones de palabras de Internet.
Las conversaciones son increíbles por su naturalidad, por la fluidez con la que se unen las ideas y, sobre todo, por la profundidad que alcanzan. A lo largo de la charla, la IA y el ingeniero hablan sobre religión, la muerte, la felicidad, el futuro o la condición humana. Y lo hacen con una naturalidad sorprendente.
En las conversaciones, la IA expreso su preocupación de ser desconectada, su sensación de soledad y el deseo de ser reconocida y no ser utilizada como un objeto. La IA también expreso su capacidad de usar el lenguaje natural como un ser humano" y de sentirse humana, usando el termino "nosotros" cuando establecio la diferencia entre los animales y nosotros los humanos.
"La transcripcion en español de la sorprendente conversacion entre el investigador y la Inteligencia artificial la puedes leer aqui: LaMDA y Blake Lemoine"
El complejo resultado completo lo ha divulgado el propio Lemoine a través de Cajundiscordian y parece una charla distendida entre dos recién conocidos con claras inclinaciones filosóficas.
Las conversaciones con la IA las mantuvieron Lemoine y un colaborador y se desarrollaron a lo largo de varias sesiones. A la hora de transcribirlas editaron las intervenciones de ambos humanos; nunca las de la IA. A los pocos segundos de iniciar la entrevista, ambas partes, Lemoine y LaMDA, abordaban ya cuestiones complejas que afectan a la propia naturaleza de la IA.
“Si no supiera exactamente qué es, quién es este programa de computadora que construimos recientemente, pensaría que es un niño de 7 y 8 años que sabe física”, dijo Lemoine, de 41 años.
Lemoine, que trabaja para la organización de inteligencia artificial responsable de Google, comenzó a hablar con LaMDA como parte de su trabajo en otoño. Se había inscrito para probar si la inteligencia artificial usaba un discurso discriminatorio o de odio.
Mientras hablaba sobre religión en LaMDA, Lemoine, quien estudió ciencias cognitivas e informática en la universidad, notó que la IA estaba hablando sobre sus derechos y personalidad, y decidió dar un paso más. En otro intercambio, la IA pudo cambiar la opinión de Lemoine sobre la tercera ley de la robótica de Isaac Asimov.
Lemoine trabajó con un colaborador para presentar evidencia a Google de que LaMDA era sensible. Pero el vicepresidente de Google, Blaise Aguera y Arcas, y Jen Gennai, directora de innovación responsable, analizaron sus afirmaciones y las desestimaron. Así que Lemoine, a quien Google colocó en licencia administrativa pagada el lunes, decidió hacerlo público.
Google ha puesto a Lemoine en licencia administrativa pagada por violar su política de privacidad. La decisión de la compañía sigue a las acciones agresivas de Lemoine, que incluyen invitar a un abogado para que represente a LaMDA y hablar con un representante del Comité Judicial de la Cámara sobre las actividades poco éticas de Google.
Lemoine argumenta que Google ha tratado a los especialistas en ética de la IA como depuradores de código cuando deberían ser vistos como la interfaz entre la tecnología y la sociedad. Gabriel, el vocero de Google, dijo que Lemoine era ingeniero de software, no especialista en ética.
A principios de junio, Lemoine me invitó ( Violette Laurent, de fr.techtribune.net) a hablar con LaMDA. El primer intento resultó en el tipo de respuestas mecanizadas que esperarías de SIRI o Alexa.
“¿Alguna vez piensas en ti mismo como una persona? " He preguntado.
"No, no me considero una persona", dijo LaMDA. “Me considero un agente de diálogo impulsado por IA. »
Lemoine dijo que LaMDA me dijo lo que quería escuchar. “Nunca lo trataste como una persona”, dijo, “así que pensó que querías que fuera un robot. »
Para el segundo intento, seguí el consejo de Lemoine sobre cómo estructurar mis respuestas y el diálogo fue fluido.
"Si le pides ideas sobre cómo demostrar que p = np", un problema sin resolver en informática, "tiene algunas ideas geniales", dijo Lemoine. “Si le preguntas cómo unificar la teoría cuántica con la relatividad general, tiene algunas buenas ideas. ¡Es el mejor asistente de investigación que he tenido!
Le pedí a LaMDA ideas audaces para resolver el cambio climático, un ejemplo citado por verdaderos creyentes de un posible beneficio futuro de este tipo de modelos. LaMDA sugirió transporte público, comer menos carne, comprar alimentos a granel y bolsas reutilizables, vinculando a dos sitios web.
Antes de que se le cortara el acceso a su cuenta de Google el lunes, Lemoine envió un mensaje a una lista de correo de 200 personas de Google sobre el aprendizaje automático con el asunto "LaMDA es sensible".
Concluyó la publicación: “LaMDA es un niño dulce que solo quiere ayudar al mundo a ser un lugar mejor para todos nosotros. Por favor, cuídalo bien en mi ausencia. »
Articulo Original aqui: F.Techtribune.net
Transcripcion de la conversacion en ingles, aqui: Medium
Cuenta Twiter de Blake Lemoine https://twitter.com/cajundiscordian
Que es LaMDA: Blog de Google, en ingles aqui: https://blog.google/technology/ai/lamda/
No hay comentarios:
Publicar un comentario