Si usas reseñas en línea para decidir qué restaurantes, hoteles, películas o dispositivos merecen tu tiempo y dinero, quizá deberías reconsiderar la confiabilidad de tus fuentes.
Con los recientes avances en inteligencia artificial generativa, parte de esa escritura que suena tan auténtica sobre experiencias humanas podría no estar vinculada con nada que realmente haya sucedido en el mundo real. Y, según un estudio reciente del profesor Balázs Kovács de Yale SOM, los seres humanos no somos muy buenos para distinguir entre lo real y lo generado por IA.
Kovács llevó a cabo dos experimentos con 301 participantes seleccionados al azar de un sitio de encuestas en línea, divididos en dos estudios. Los resultados fueron publicados en la revista Marketing Letters.
En el primer experimento, tomó reseñas de restaurantes de 2019, antes de que se popularizara la IA generativa sofisticada, y las introdujo en GPT-4 Turbo (una versión reciente de ChatGPT). Le pidió a GPT-4 que generara reseñas de los mismos restaurantes, incluyendo errores tipográficos y otros detalles que imitaran el estilo humano.
Luego mezcló cien reseñas generadas por IA con cien reseñas reales y pidió a los participantes que identificaran cuáles habían sido escritas por humanos y cuáles por IA. Los participantes acertaron solo la mitad de las veces, es decir, no mejor que el azar.
En el segundo estudio, Kovács seleccionó al azar diez reseñas para cada uno de cien restaurantes y pidió a GPT-4 que creara reseñas ficticias de esos lugares, sin reutilizar ningún lenguaje. Los participantes evaluaron las reseñas generadas por IA en una escala de cinco puntos, desde “muy probablemente humana” hasta “muy probablemente IA”. El resultado fue sorprendente: los participantes identificaron las reseñas escritas por humanos como tales solo el 53% de las veces, mientras que pensaron que las reseñas generadas por IA fueron escritas por humanos el 64% de las veces. En otras palabras, GPT-4 a menudo sonaba más humano que las personas reales.
Más allá del tema de las reseñas de restaurantes, Kovács advierte que “la pregunta de si podemos confiar en lo que leemos en línea es cada vez más urgente”. Le preocupa que el creciente uso y sofisticación de la IA plantee importantes problemas económicos y éticos, incluyendo la erosión de la confianza pública en diversas áreas.
Fuente: Yale Magazine