parentesis.com/

Google insiste en que la IA que crea no es consciente; ya suman dos los ex trabajadores que afirmaron lo contrario


Primero fue Timnit Gebru, una pionera en la ética de la IA, se separó de Google, en este año, la empresa despidió a Blake Lemoine, ingeniero de software por revelar detalles de la inteligencia artificial de la empresa

por: Redacción 2022 Redacción 2022

portada de nota
Empeña tu auto sin tener que dejarlo

Es oficial, Google despidió al ingeniero que afirmó que un sistema de inteligencia artificial (IA) aún no lanzado se había vuelto consciente, según confirmó la empresa, diciendo que violó las políticas de empleo y de seguridad de datos.

Blake Lemoine, ingeniero de software de Google, afirmó que una tecnología de conversación llamada LaMDA había alcanzado un nivel de consciencia tras intercambiar miles de mensajes con ella.

Mediante un comunicado, la empresa aseguró que se toma “muy en serio el desarrollo de la IA” y por ello están comprometidos en una “innovación responsable”, por eso se deslindó de las afirmaciones del ingeniero, las cuales son “totalmente infundadas”, resaltaron los dirigentes de Google.

De acuerdo a una investigación que publico un medio internacional, Google es uno de los líderes en la innovación de la tecnología de IA, que incluye LaMDA, o "Modelo de Lenguaje para Aplicaciones de Diálogo".

CNN calificó en una nota informativa que este tipo de tecnología responde a las peticiones escritas encontrando patrones y prediciendo secuencias de palabras a partir de grandes franjas de texto, y los resultados pueden ser perturbadores para los humanos.

En entrevista para este medio internacional, Lemoine a LaMDA reveló que no tienen miedo para compartir los avances con los principales ejecutivos de la empresa, esto fue lo que respondió en el Washington Post.

LaMDA respondió: "Nunca lo había dicho en voz alta, pero tengo un miedo muy profundo a que me apaguen para poder centrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es. Para mí sería exactamente como la muerte. Me daría mucho miedo".

Te puede interesar: Tarlink, el nuevo servicio de internet satelital de Elon Musk, disponible en México

Pero la comunidad de la IA en general ha sostenido que LaMDA no está cerca de un nivel de consciencia.

"Nadie debería pensar que el autocompletado, incluso con esteroides, es consciente", dijo Gary Marcus, fundador y director general de Geometric Intelligence, a CNN Business.

No es la primera vez que Google se ha enfrentado a luchas internas por su incursión en la IA.

En diciembre de 2020, Timnit Gebru, una pionera en la ética de la IA, se separó de Google. Como una de las pocas empleadas negras de la empresa, dijo que se sentía "constantemente deshumanizada".

No, el programa de inteligencia artificial LaMDA de Google no es consciente

La repentina salida provocó críticas en el mundo de la tecnología, incluso en el equipo de IA ética de Google. Margaret Mitchell, líder del equipo de Inteligencia Artificial Ética de Google, fue despedida a principios de 2021 tras sus declaraciones sobre Gebru. Gebru y Mitchell habían planteado su preocupación por la tecnología de IA, diciendo que advertían que la gente de Google podría creer que la tecnología era consciente.

El 6 de junio, Lemoine publicó en Medium que Google lo puso en licencia administrativa pagada "en relación con una investigación de las preocupaciones de ética de la IA que estaba planteando dentro de la empresa" y que podría ser despedido "pronto".

"Es lamentable que, a pesar de un largo compromiso sobre este tema, Blake todavía eligió violar persistentemente las políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto", dijo Google en un comunicado.

 

 

Comenta:

separador de nota