![Pinterest](https://pinterest.com/pin/create/button/?url=https://eltestigo.do/la-aplicacion-de-la-inteligencia-artificial-en-la-deteccion-de-tesis-negacionistas-en-internet&media=https://eltestigo.do/wp-content/uploads/2024/07/la-aplicacion-de-la-inteligencia-artificial-en-la-deteccion-de-tesis-negacionistas-en-internet.jpg&description=La UNESCO ha alertado sobre el uso de plataformas de inteligencia artificial para distorsionar la historia del Holocausto y crear entre los jóvenes un caldo de cultivo del antisemitismo. En un informe, la agencia de la ONU para la educación y la cultura explica que al usar la inteligencia artificial para tareas o búsqueda de información se exponen a contenidos negacionistas.ChatGPT, Gemini o Copilot: el 90% los jóvenes de hoy en día usan estas plataformas con frecuencia para averiguar datos o ayudarse con las tareas. Pero los expertos de la UNESCO han observado cómo pueden volverse engañosas a la hora de buscar acerca de la historia del Holocausto.“Su comprensión se puede modificar”, explica Karel Fracapane, responsable de lucha contra los discursos de odio en la agencia de la ONU para la educación y la cultura.Esto está relacionado con el funcionamiento de los modelos de inteligencia artificial. “Absorben y amplifican prejuicios porque la herramienta va a recuperar todas las informaciones que están disponibles en línea. Vimos que algunos de ellos fueron entrenados con datos procedentes de páginas online negacionistas”, detalla.La UNESCO recuerda que ChatGPT “se inventó” un concepto totalmente erróneo: “Para llenar el vacío va a producir informaciones o conceptos inexistentes, como por ejemplo el del exterminio de judíos por ahogamiento”, asegura Karel Fracapane.“Son fenómenos llamados 'alucinatorios', o sea que las plataformas de inteligencia artificial se inventan hechos cuando carecen de fuentes en internet. Para llenar el vacío va a producir informaciones o conceptos inexistentes. Esos problemas hay que resolverlos y tenerlos en mente", dice.Chatear con GoebbelsEl año pasado, una aplicación llamada Historical Figures causó indignación al proponer chatear con "figuras históricas", como Adolf Hitler o Joseph Goebbels, “y afirmaba erróneamente que individuos como Goebbels no habían participado de forma intencionada en el Holocausto y habían intentado evitar la violencia contra los judíos”, según detalla el informe.“Ese método de inteligencia artificial llamado aprendizaje profundo permite discutir con individuos que pueden proporcionar informaciones retorcidas”, explica Fracapane.“También se puede usar la IA para crear deep fakes, o ultrafalsos, usando fotos, audios o videos y luego difundirlos en redes sociales. Ocurrió con un video fabricado que representa a la actriz Emma Watson leyendo Mein Kampf en voz alta. Eso lo han difundido a millones de usuarios".El asunto, dice la UNESCO, es que hay que supervisar a las empresas de IA, aunque éstas tengan “sus propios sistemas de control”, y capacitar a los maestros sobre estas tecnologías.“Los profesores deben tener mayor conciencia sobre el impacto de esas herramientas. Se necesita educar sobre las tecnologías informativas", concluye Fracapane.){kind=link}
La UNESCO ha emitido una advertencia sobre el uso de plataformas de inteligencia artificial para distorsionar la historia del Holocausto y fomentar el antisemitismo entre los jóvenes. Según un informe de la agencia de la ONU para la educación y la cultura, al utilizar la inteligencia artificial para tareas o búsqueda de información, se corre el riesgo de exponerse a contenidos negacionistas.
Actualmente, plataformas como ChatGPT, Gemini o Copilot son utilizadas con frecuencia por el 90% de los jóvenes para encontrar datos o asistir en sus tareas. Sin embargo, los expertos de la UNESCO han observado cómo estas plataformas pueden ser engañosas al buscar información sobre el Holocausto.
Según Karel Fracapane, responsable de la lucha contra los discursos de odio en la agencia de la ONU para la educación y la cultura, el funcionamiento de los modelos de inteligencia artificial puede modificar la comprensión de los usuarios, ya que absorben y amplifican prejuicios al recuperar información disponible en línea, incluyendo datos de páginas negacionistas.
La UNESCO destaca que plataformas como ChatGPT pueden inventar conceptos erróneos, como el exterminio de judíos por ahogamiento, debido a su capacidad de llenar vacíos de información con datos inexactos. Estos problemas deben ser abordados y tenidos en cuenta para evitar la propagación de desinformación.
Chatear con Goebbels
El año pasado, una aplicación llamada Historical Figures generó controversia al permitir a los usuarios chatear con "figuras históricas" como Adolf Hitler o Joseph Goebbels, afirmando falsamente que individuos como Goebbels no participaron intencionalmente en el Holocausto y trataron de evitar la violencia contra los judíos. Según el informe, este tipo de inteligencia artificial profunda puede brindar información distorsionada a los usuarios.
Además, la inteligencia artificial puede utilizarse para crear deep fakes, es decir, contenidos falsos utilizando fotos, audios o videos y difundiéndolos en redes sociales. Por ejemplo, se creó un video falso de la actriz Emma Watson leyendo Mein Kampf en voz alta, el cual fue compartido con millones de usuarios.
La UNESCO enfatiza la importancia de supervisar a las empresas de inteligencia artificial, a pesar de que cuenten con sus propios sistemas de control, y de capacitar a los maestros sobre estas tecnologías.
Según Fracapane, los profesores deben estar conscientes del impacto de estas herramientas y recibir formación sobre tecnologías informativas para evitar la desinformación.
Fuente: Diario Libre
Somos EL TESTIGO. Una forma diferente de saber lo que está pasando. Somos noticias, realidades, y todo lo que ocurre entre ambos.
Todo lo vemos, por eso vinimos aquí para contarlo.