IA y discurso odio RRSS 2Expertos analizaron el uso de la Inteligencia Artificial en la detección de discursos del odio en redes sociales

 

El 1 de enero de 2018 entró en vigencia en Alemania la Ley de Mejoramiento de la Aplicación del Derecho en Redes Sociales, que establece multas de entre 5 y 50 millones de euros a las proveedoras de redes sociales que no eliminen mensajes de odio.

Con ese ejemplo, el Dr. Alexander Espinoza, investigador y docente del Doctorado en Derecho de la Universidad Autónoma de Chile, abrió el seminario “Inteligencia Artificial y discurso del odio en redes sociales», organizado por el Centro de Regulación y Consumo y el Programa IA y Derecho de esa casa de estudios.

“Es interesante pues pone en manos de los prestadores del servicio la responsabilidad de regular los contenidos. Su aplicación e interpretación es muy compleja pues está estrechamente vinculada a la libertad de opinión e información”, señaló.

IA y discurso odio RRSS 4Para el Dr. Rafael Asís de Roig, catedrático e investigador de la Universidad Carlos III de Madrid (España), “la intervención de la IA en la determinación del discurso de odio puede ser muy beneficioso, pero con condiciones”.

Entre ellos, transparencia y propiedad de los algoritmos. «El que esa máquina esté en manos de privados es complejo; los derechos no pueden quedar en manos de privados sin supervisión, sin una garantía de lo público”.

La Dra. Jhenny Rivas, de la Universidad Autónoma de Chile, precisó que “el punto central es la perspectiva de los derechos fundamentales”. “Por la proyección y difusión casi incontrolable en redes sociales, ese discurso se vuelve particularmente peligroso y el control humano es casi imposible”.

Por último, la Dra. Bárbara Poblete, docente de Computación de la Universidad de Chile e investigadora del Instituto Milenio Fundamento de los Datos, subrayó que “es importante automatizar el proceso”.

Pero sostuvo que “estamos muy lejos de hacerlo bien: las técnicas de IA están mal implementadas, hay mal uso del muestreo estadístico y hay sesgo en los datos utilizados por las máquinas” y resaltó la necesidad de invertir en investigación científica en la academia.

Compartir en