Se dice que la IA de Google con «conciencia» es racista

Se dice que el chatbot de Google, LaMDA, ha hecho declaraciones racistas y tiene prejuicios contra las religiones y las minorías.

Mountain View (Estados Unidos). En junio de 2022, el desarrollador de Google Blake Lemoine, quien desde entonces fue despedido, informó que el chatbot LaMDA había desarrollado su propia conciencia y alma. Poco después, la controvertida inteligencia artificial (IA) contrató a un abogado para hacer valer sus derechos e intereses frente a Google. Lemoine ahora también explica a la revista Business Insider que el chatbot de LaMDA hace afirmaciones racistas y prejuicios contra las minorías.

En el departamento responsable de IA de su ex empleado de Google, Lemoine era responsable, entre otras cosas, de examinar la IA en busca de posibles sesgos y discriminación. Para hacer esto, el desarrollador realizó largos diálogos con el chatbot, lo que lo convenció de que la IA estaba consciente.

Chatbot LaMDA hace comentarios racistas

Lemoine solo anunció después de su liberación que el chatbot de LaMDA también hizo declaraciones racistas. Como ejemplo del sesgo de la IA, Lemoine cita una conversación sobre religión en la que el chatbot de LaMDA explicó que los musulmanes son más violentos que los cristianos.

Además, se dice que la IA imitó a un hombre negro del estado estadounidense de Georgia. Según Lemoine, el chatbot dijo: «Vamos a comprar pollo frito y gofres».

Aspectos éticos en el desarrollo

Como explica Lemoine, las consideraciones éticas casi no jugaron ningún papel en el desarrollo de los sistemas de IA en Google. «Solo son ingenieros que construyen sistemas mejores y más grandes para aumentar los ingresos de Google sin pensar en la ética», explica el ex empleado. Describió el trabajo de Google en el campo de la ética de la IA como una «hoja de parra».