El aprendizaje automático o machine learning es una herramienta esencial para clasificar la información falsa.
Opinión21/05/2024
Redacción CuyoNoticias
Las noticias falsas y los bulos que propagan desinformación para influir en grupos y sociedades enteras han existido desde antes de internet. En la sociedad hiperdigitalizada actual, las redes sociales y otros medios se han convertido en los principales canales para la difusión de desinformación. La información falsa no solo incluye texto, sino también la manipulación de imágenes digitales, vídeos y audio.
La difusión de noticias falsas en redes sociales ha tenido un impacto palpable en la realidad, como se observó en las elecciones presidenciales de Estados Unidos del 2016.
La detección de desinformación, que incluye las noticias falsas, es un campo de investigación que integra disciplinas como ciencias de la comunicación, sociología, análisis de datos e informática.
El aprendizaje automático o machine learning es una herramienta esencial para clasificar la información falsa. Este consiste en el entrenamiento de modelos de redes neuronales con amplios conjuntos de datos para identificar patrones y características distintivas de las noticias falsas y las legítimas.
La aplicación exclusiva del aprendizaje automático en este contexto presenta algunos inconvenientes. En primer lugar, la constante evolución de las tácticas empleadas por los creadores de noticias falsas los impulsa a adaptarse rápidamente a las nuevas tecnologías y enfoques de detección. En este ciclo constante de mejora, ambos lados se ven envueltos en un bucle infinito.
Imaginemos un escenario donde los creadores de noticias falsas utilizan algoritmos de inteligencia artificial generativa para producir contenido cada vez más sofisticado y convincente. Frente a esta amenaza, los modelos de aprendizaje automático utilizados para la detección de desinformación se ajustan y mejoran para reconocer los patrones más recientes de creación de deepfakes. Sin embargo, esta respuesta desencadena una contraadaptación por parte de los generadores de noticias falsas, quienes refinan sus estrategias para evadir las nuevas medidas de detección.
Esta dinámica conlleva una competición infinita de mejora constante, donde tanto los generadores de noticias falsas como los detectores se enfrascan en una carrera armamentística.
Además, los métodos de detección basados exclusivamente en machine learning presentan otro inconveniente. Aunque la precisión y la eficacia de los modelos existentes son muy elevadas, incluso una pequeña cantidad de falsos positivos puede tener repercusiones importantes.
En el entorno digital actual, con millones de contenidos generados diariamente, la mínima fracción de falsos positivos puede llevar a la identificación errónea de grandes cantidades de información legítima como desinformación.
La inevitabilidad de los falsos positivos puede socavar la confianza en las herramientas de detección de desinformación por parte de los usuarios. Por lo tanto, reducir la incidencia de falsos positivos es una prioridad acuciante en el desarrollo de soluciones para la detección de desinformación.
El watermarking digital emerge como una herramienta poderosa en este contexto. Se trata de un conjunto de técnicas que permiten incrustar información oculta de manera imperceptible en contenidos multimedia e incluso en texto. Esto abre un abanico de posibilidades cruciales en la lucha contra la desinformación.
El watermarking se clasifica en dos categorías principales: robusto y frágil.
Las marcas robustas, resistentes a modificaciones, permiten identificar el origen o el propietario de un contenido. Así se ayuda a legitimar la información procedente de agencias y medios de prestigio. El mecanismo de extracción de las marcas ocultas facilita la identificación de la fuente en contenidos previamente marcados.
Las marcas frágiles y semifrágiles son muy eficaces para detectar manipulaciones fraudulentas. Al incrustarlas antes de distribuir el contenido, los detectores pueden identificar fácilmente fragmentos modificados sin apenas falsos positivos.
Confirmación del origen de noticias legítimas. Al integrar marcas digitales robustas en contenidos de noticias para validar su origen, las agencias y los medios de comunicación pueden beneficiarse de una trazabilidad irrefutable. Esto descartaría sospechas de noticias falsas en contenidos legítimos y fortalecería la confianza en la veracidad de las fuentes.
Autenticación de noticias legítimas. Si se incrustan marcas frágiles o semifrágiles en contenidos de noticias, los usuarios podrían verificar la legitimidad de la información recibida. Esta tecnología no solo protegería contra la difusión de información falsa, sino que también capacitaría a la ciudadanía para tomar decisiones autónomas e informadas sobre la credibilidad de las noticias que reciben.
Trazabilidad de noticias falsas. Frente a la proliferación de noticias falsas, la trazabilidad implica la inserción de marcas rastreables en contenidos que luego se han identificado como falsos. Estas marcas actuarían como migas de pan digitales, permitiendo rastrear la fuente de la desinformación hasta sus orígenes y desacreditar a los creadores de información fraudulenta.
La integración de técnicas de watermarking en la detección de desinformación ofrece una estrategia innovadora para abordar los desafíos que plantea el uso exclusivo del aprendizaje automático.
Una aproximación híbrida que combine watermarking con machine learning no solo aumenta la precisión de la detección, sino que también introduce consistencia y aborda los problemas fundamentales asociados al uso exclusivo del aprendizaje automático.
Al romper la dinámica de la carrera armamentística y reducir el porcentaje de falsos positivos, la aplicación integrada de watermarking y aprendizaje automático proporciona un enfoque equilibrado y efectivo para enfrentar los desafíos complejos de la desinformación en la era digital.
En un entorno digital saturado de información, combatir la desinformación constituye un desafío crucial que requiere soluciones innovadoras. Al explorar el potencial del watermarking en combinación con el aprendizaje automático no solo abordamos las limitaciones de la carrera armamentística y los falsos positivos, sino que también trazamos un camino hacia una defensa más consistente contra la manipulación de la información.
La capacidad de validar la autenticidad de las noticias, rastrear su origen y mitigar los riesgos de identificación errónea sugiere que el futuro de la detección de desinformación reside en la diversificación de estrategias tecnológicas que ofrezcan apoyo a la ciudadanía para tomar decisiones informadas.
Ante el desafío que conlleva la desinformación, unir esfuerzos para fortalecer nuestras defensas es esencial. Aprovechando diferentes enfoques, podemos forjar un futuro donde la confianza en la información prevalezca y cada persona sea una defensora activa de la información rigurosa en la red.
Este artículo es fruto de la Cátedra Internacional ARTEMISA de Ciberseguridad. Una iniciativa financiada por INCIBE a través de los fondos del Plan de Recuperación, Transformación y Resiliencia, financiados por la Unión Europea (Next Generation), el proyecto del Gobierno de España que traza la hoja de ruta para la modernización de la economía española, la recuperación del crecimiento económico y la creación de empleo, para la reconstrucción económica sólida, inclusiva y resiliente tras la crisis de la COVID-19, y para responder a los retos de la próxima década.
Escrito por David Megías Jiménez, se publicó originalmente en The Conversation el 5 de marzo de 2024.
Julio Cobos, diputado nacional, sobre los resultados de los exámenes, promedio general debajo de 6, sólo un aspirante obtuvo la nota más alta en Lengua, 9.73 y menos de cinco 10 en matemática
En el Día Internacional contra el bullying, la UNESCO destaca la urgencia de combatir la violencia en y a través de la educación, así como de invertir en alianzas intersectoriales.
Por Partido Demócrata de Mendoza
Firmado por Frente Sindical de Universidades Nacionales Federación Universitaria Argentina (FUA) Consejo Interuniversitario Nacional (CIN)
por Foro de Periodismo Argentino
La sexualidad, según las investigaciones científicas, es un pilar fundamental para el bienestar físico y psicológico, clave para mejorar la calidad de vida
La ruta del lado argentino sigue cortada por los temporales de los últimos días, debido a que la limpieza del camino del lado argentino se está haciendo de forma deficiente y lenta.
Ambos fueron encontrados sanos y salvo en medio de un gran operativo de búsqueda por una zona desértica pre cordillerana en la provincia de San Juan.
Un accidente fatal ocurrió este domingo a las 19:25 en la intersección de la Ruta 160 y calle Rojo, en el departamento de San Rafael en la provincia de Mendoza.
El presidente del Hospital Central Dr Ramón Carrillo, Adolfo Sánchez de León, resaltó el trabajo realizado por el equipo médico que realizó el primer trasplante en la provincia y destacó que es el inicio de algo histórico para el sistema público de salud de San Luis.
Es una iniciativa de la Sociedad de Cardiología de Córdoba que busca instaurar el primer miércoles de diciembre como la fecha para hablar sobre esta problemática de salud
Esta iniciativa es una nueva etapa de cooperación que se apoya en las ventajas de trabajo digital que posee el Registro Civil, para revisar las actas de la institución europea.
