Cómo evitar el discurso de odio en los medios de comunicación y redes sociales a través de la IA?

• Autores: Uxía Carral
• Localización: V Jornadas Innovación Educativa en Comunicación y Alfabetización Mediática: libro de comunicaciones / Jesús Pérez Dasilva (ed. lit.), Koldobika Meso Ayerdi (ed. lit.), Simón Peña Fernández (ed. lit.), 2025, ISBN 978-84-9082-962-2, págs. 39-48
• Idioma: español
• Títulos paralelos:
  • How to prevent hate speech in the media and social networks through AI?
• Enlaces
  • Texto Completo Libro
• Resumen
  • español

    En la era digital, los «nativos sociales», a pesar de crecer con la tecnología digital a menudo carecen de alfabetización mediática efectiva. Esta capacidad crítica para evaluar la información en línea es fundamental en un mundo inundado de datos, desinformación y discursos de odio. Por ello, para combatir la toxicidad online y promover un entorno en línea más saludable y constructivo, en este trabajo se da a conocer Perspective API, una herramienta de inteligencia artificial que utiliza machine learning para identificar y prevenir comentarios tóxicos en plataformas digitales. Esta tecnología es esencial para ayudar a los nativos sociales y a todos los usuarios a desarrollar una alfabetización mediática sólida, alineándose con el concepto del humanismo tecnológico, que busca equilibrar la innovación tecnológica en el mundo mediático digital con los valores éticos de la comunicación y aboga por un uso responsable en pro de la sociedad.

  • English

    In the digital age, «social natives,» despite growing up with digital technology, often lack effective media literacy.

    This critical ability to evaluate online information is critical in a world awash with data, misinformation and hate speech. Therefore, to combat online toxicity and promote a healthier and more constructive online environment, this paper unveils Perspective API, an artificial intelligence tool that uses machine learning to identify and prevent toxic comments on digital platforms. This technology is essential to help social natives and all users to develop a solid media literacy, aligning with the concept of technological humanism, which seeks to balance technological innovation in the digital media world with the ethical values of communication and advocates a responsible use for the benefit of society