La inteligencia artificial lucha contra el discurso de odio en Internet

Una nueva inteligencia artificial (IA) debería encontrar y denunciar automáticamente comentarios de odio en Internet, incluidos insultos e incitaciones. Esto debería hacer que la lucha contra la ciberdelincuencia sea mucho más eficaz.

Berlín (Alemania). Según un estudio de la autoridad estatal de medios de comunicación de Renania del Norte-Westfalia, la mayoría de los internautas alemanes (76%) ya han recibido en Internet comentarios de odio, incluidos insultos e incitaciones. Aunque muchos comentarios, imágenes y vídeos tienen relevancia criminal, sólo unos pocos comentarios de odio se denuncian a la policía. Por ello, investigadores de la Universidad Técnica de Berlín (TU Berlin) están trabajando en una inteligencia artificial (IA) que pueda encontrar automáticamente contenidos relevantes en Internet.

Los científicos que trabajan con el criminólogo Robert Pelzer entrenaron un modelo de inteligencia artificial utilizando conjuntos de datos policiales. Los contenidos de la capacitación incluyen tanto comentarios legales como difamaciones y sedición prohibidas, para que la IA pueda aprender a distinguir contenido criminalmente relevante de contenido inofensivo.

Lucha contra el cibercrimen

Según los desarrolladores, la inteligencia artificial puede leer y analizar miles de mensajes de canales de Telegram de extrema derecha y de espectro en cuestión de segundos. Si estos pudieran tener relevancia criminal, el sistema informa el contenido a la policía para que un humano pueda comprobarlo manualmente.

“Con la herramienta de inteligencia artificial, pudieron preseleccionar rápidamente entre decenas de miles de publicaciones y comentarios. Esto permite a los empleados invertir mucho más rápidamente en el examen de casos penales individuales y en medidas adicionales para identificar a los sospechosos”.

Por lo tanto, la inteligencia artificial facilita mucho la lucha contra el cibercrimen, ya que los agentes de policía sólo tienen que comprobar contenidos preseleccionados que probablemente tengan relevancia delictiva. La investigación criminal final todavía la lleva a cabo exclusivamente un humano.