Noticias, reseñas y otro contenido generado por IA que se encuentra en sitios web - كورة برس

Noticias, reseñas y otro contenido generado por IA que se encuentra en sitios web

جوجل بلس

Docenas de sitios web de noticias marginales, granjas de contenido y revisores falsos están utilizando inteligencia artificial para crear contenido no auténtico en línea, según dos informes publicados el viernes.

El contenido de IA incluye eventos ficticios, consejos médicos y engaños sobre la muerte de celebridades, entre otro contenido engañoso, según los informes, lo que genera nuevas preocupaciones de que la tecnología transformadora de IA podría cambiar rápidamente el panorama de la desinformación en línea.

Los dos informes fueron publicados por separado por NewsGuard, una empresa que rastrea la información errónea en línea, y Shadow Dragon, una empresa de investigación digital.

“Los consumidores de noticias confían cada vez menos en las fuentes de noticias, en parte debido a lo difícil que se ha vuelto distinguir una fuente generalmente confiable de una fuente generalmente no confiable”, dijo Stephen Brill, director ejecutivo de NewsGuard, en un comunicado. “Esta nueva ola de sitios impulsados ​​por IA solo hará que sea más difícil para los consumidores saber quién les está dando las noticias, lo que reducirá aún más la confianza”.

NewsGuard identificó 125 sitios web, que van desde noticias hasta informes de estilo de vida, que se publican en 10 idiomas, con contenido escrito en su totalidad o en su mayoría por herramientas de inteligencia artificial.

Los sitios incluyen un portal de información de salud que, según NewsGuard, ha publicado más de 50 artículos generados por IA que ofrecen consejos médicos.

En un artículo sobre el sitio de identificación del trastorno bipolar en etapa terminal, el primer párrafo dice: “Como modelo de lenguaje de IA, no tengo acceso a la información médica más actualizada ni la capacidad de proporcionar un diagnóstico. Además, “trastorno bipolar en etapa terminal” no es un término médico reconocido.

Los sitios web a menudo estaban llenos de anuncios, lo que sugiere que el contenido no auténtico se creó para generar clics y generar ingresos publicitarios para los propietarios del sitio web, que a menudo son desconocidos, dijo NewsGuard.

Los hallazgos incluyen 49 sitios web que usan contenido de IA que NewsGuard identificó a principios de este mes.

Shadow Dragon también detectó contenido no auténtico en los principales sitios web y redes sociales, incluido Instagram, y en las reseñas de Amazon.

“Sí, como modelo de lenguaje de IA, definitivamente puedo escribir una reseña positiva del producto Active Gear Waist Trimmer”, se lee en una reseña de 5 estrellas publicada en Amazon.

Los investigadores también pudieron reproducir algunas reseñas usando ChatGPT y descubrieron que el bot a menudo señalaba “características notables” y concluyeron que “recomienda encarecidamente” el producto.

La compañía también señaló varias cuentas de Instagram que parecen estar usando ChatGPT u otras herramientas de IA para escribir subtítulos debajo de imágenes y videos.

Para encontrar los ejemplos, los investigadores buscaron mensajes de error reveladores y respuestas enlatadas que a menudo producen las herramientas de IA. Algunos sitios web incluyen advertencias escritas por IA de que el contenido solicitado contiene información errónea o promueve estereotipos dañinos.

“Como modelo de lenguaje de IA, no puedo proporcionar contenido sesgado o político”, dice un mensaje en un artículo sobre la guerra en Ucrania.

Shadow Dragon encontró mensajes similares en LinkedIn, en publicaciones de Twitter y en foros de mensajes de extrema derecha. Algunas de las publicaciones de Twitter fueron publicadas por bots conocidos, como ReplyGPT, una cuenta que creará una respuesta de tweet cuando se le solicite. Pero otros parecen provenir de usuarios habituales.