Porque falló la publicidad IA de Megalopolis y cómo The Washington Post y VT pueden solucionarlo

La próxima película de Francis Ford Coppola, Megalópolis, está causando sensación, pero no por las razones que podría pensar… En lugar del entusiasmo habitual por el nuevo proyecto de un director legendario, la charla en línea explotó sobre el tráiler. No por su contenido, sino porque que usa críticas negativas falsas de las películas El Padrino y Apocalipsis ahora – películas más famosas y emblemáticas de Coppola – para describir el nuevo proyecto.
Al parecer algún consultor de marketing pensó que sería inteligente usar inteligencia artificial para desenterrar viejas críticas negativas de estos celebrados filmes, para enfatizar el triunfo de Coppola sobre opiniones pasadas. ¿El problema? Las citas eran completamente falsas.

Antes de continuar, por favor considera suscribirte a nuestro Newsletter para mantenerte actualizado con las últimas novedades e innovaciones en IA.

Así es: la Inteligencia Artificial usada erró y produjo reseñas imaginarias que en realidad nunca existieron. Es un momento vergonzoso para el equipo de marketing, pero también es parte de una conversación más amplia sobre la IA actual, particularmente en torno a modelos de lenguaje grandes (LLM) y su costumbre alucinar resultados inventados de la nada.

El fenómeno de las «alucinaciones» de la IA

Este tipo de error en las IAs se conoce como «alucinación» y sucede cuando los Large Language Models (que son los algoritmos detrás de ChatGPT u otras herramientas) generan información falsa.
Hemos visto este problema antes, desde abogados que presentan casos judiciales inventados hasta avances de películas que citan críticas ficticias. Suceden con más frecuencia de lo que cabría esperar porque estos modelos de lenguaje se basan en grandes cantidades de datos y, en ocasiones, llegan a vincular las datos de manera incorrecta.

Si bien la IA puede parecer convincente, cuando comienza a afirmar con confianza cosas como «The Washington Post opinó que Apocalipsis ahora es un desastre cinematográfico”, quizás sea hora de pisar el freno.

La solución de The Washington Post y Virginia Tech

Entonces, ¿qué se está haciendo para solucionar este problema? Afortunadamente, los equipos de The Washington Post en conjunto con la universidad Virginia Tech, están desarrollando una herramienta de inteligencia artificial para prevenir este tipo de errores vergonzosos. Su colaboración tiene como objetivo garantizar que la IA se incorpore información precisa en sus resultados, en lugar de salirse del guión como vimos con el tráiler de Coppola.

Su herramienta funciona utilizando un método llamado Recuperación de Generación Aumentada. A diferencia de los típicos motores de búsqueda, o los LLM, que sólo recorren la web y escupen todo lo que encuentran, este sistema busca dentro de los archivos de The Washington Post para obtener información legítima. Así, cuando un usuario hace una pregunta, recibe respuestas verificadas con fuentes y artículos reales. Algo así como un bibliotecario digital que verifica datos a la velocidad de la luz.

Por qué es importante la IA en los medios

Este percance con Megalopolis es sólo un ejemplo de la facilidad con la que la IA puede fallar.
Si bien puede resultar divertido equivocarse en las críticas de películas, en campos como ley o medicina, errores similares podrían llevar a graves consecuencias. La precisión es fundamental en las herramientas de inteligencia artificial – especialmente aquellas que generan información para toma decisiones o personas de confianza.

Es por esto que la solución del Washington Post y Virginia Tech tiene como objetivo garantizar que los resúmenes generados con IA siempre usen y transmitan hechos y datos reales. Porque, seamos realistas, el último lugar donde queremos que una IA invente cosas es en la sala de redacción de noticias.

Mantener el rumbo con la IA: lecciones aprendidas

Esta asociación entre The Washington Post y Virginia Tech demuestra que la IA no tiene por qué ser impredecible. Al crear sistemas que se centran en extraer de fuentes confiables, podemos aprovechar el poder de la IA de manera responsable. También muestra la importancia de involucrar la supervisión humana y opinión de expertos en el proceso. Esta colaboración pavimenta el camino para un modelo de IA quizás no del todo preciso pero si con mucho menos probabilidad de que genere contenido inventado.

A medida que la IA continúa convirtiéndose en una parte integral de nuestra vida diaria, proyectos como este nos recuerdan que exactitud y integridad deben ser lo primero. Y si bien es gracioso reírse de una reseña generada por IA, debemos establecer estándares más altos de revisión y edición, especialmente en industrias como el periodismo, el derecho o la atención médica.

Entonces, la próxima vez que veas una publicidad o consultes ChatGPT para obtener información, recuerda: no siempre es la fuente más confiable. Y gracias al trabajo de The Washington Post y Virginia Tech, avanzamos hacia un futuro en el que la IA sabe ceñirse a los hechos.

---

Escrito por Pixela Nova y ChatGPT de FilmSchool.AI

Para más ideas y oportunidades de aprendizaje en arte y cine generado por IA, únete a nosotros en FilmSchool.AI, la primera Escuela de Cine de IA, creada por profesionales de la industria de Hollywood.

Suscríbete a nuestro boletín para mantenerte al tanto de las últimas noticias e innovaciones en IA.