Los gigantes de las redes sociales como Facebook, Instagram y TikTok han luchado por mantener políticas estrictas de moderación de contenido, particularmente en lo que respecta a los anuncios explícitos, que incluyen «novias» de IA con apariencias provocativas.
A pesar de los esfuerzos por prohibir la desnudez y eliminar contenido relacionado con la salud y la seguridad sexual, una nueva ola de contenido sexualmente sugerente se ha infiltrado en sus plataformas en forma de anuncios de chatbots impulsados por inteligencia artificial (IA), según NBC News.
Según se informa, numerosas nuevas empresas tecnológicas han mostrado anuncios explícitos en estas plataformas, prometiendo experiencias «no seguras para el trabajo» (NSFW). Estos anuncios comercializan aplicaciones que ofrecen imágenes explícitas, personajes digitales personalizados y chats sin censura, que a menudo presentan «novias» creadas digitalmente con apariencias provocativas.
NBC News informó que descubrió 35 desarrolladores de aplicaciones que publicaban anuncios sexualmente explícitos en plataformas propiedad de Meta , la empresa matriz de Facebook e Instagram. Estos desarrolladores publicaron colectivamente más de 1000 anuncios de este tipo. Además, se encontraron 14 desarrolladores de aplicaciones que mostraban anuncios similares en TikTok.
Sin embargo, NBC News informó que aún no está claro cuántos de estos anuncios fueron visibles para los usuarios en los EE. UU., ya que la biblioteca de anuncios de TikTok solo ofrece transparencia para los anuncios en Europa.
El aumento de los anuncios de contenido explícito impulsados por IA refleja una tendencia más amplia dentro de la industria tecnológica, que aprovecha el creciente interés en los chatbots impulsados por IA. Este interés aumentó con la popularidad del producto ChatGPT de OpenAI, que demostró las capacidades de los chatbots de IA.
Si bien Meta y TikTok tomaron medidas para eliminar los anuncios de IA sexualmente explícitos tras la notificación de NBC News, las tácticas empleadas para evitar los filtros de contenido inicialmente no están claras.
La proliferación de estos anuncios se extiende desde las plataformas de redes sociales hasta las tiendas de aplicaciones de Apple y Google. Sin embargo, según NBC News, la escala exacta de la publicidad en estas plataformas sigue sin revelarse, ya que estos gigantes tecnológicos no divulgan información sobre sus anunciantes.
Google afirmó la política de su tienda de aplicaciones contra los servicios diseñados para la gratificación sexual y posteriormente suspendió aplicaciones y anuncios específicos que salieron a la luz NBC News. Por otro lado, Apple aún no ha emitido ningún comunicado al respecto.
Las empresas de chatbots de IA que publican estos anuncios son generalmente empresas tecnológicas pequeñas y menos conocidas, muchas de las cuales tienen su sede en el extranjero. Según el informe, algunos carecen de información detallada y sólo revelan una dirección de correo electrónico.
Si bien la idea de combinar chatbots con romance o sexo no es nueva, aún no está claro en qué medida estas aplicaciones utilizan capacidades avanzadas de inteligencia artificial. Ofrecen a los usuarios varias funciones, incluida la generación de imágenes NSFW o la participación en narraciones explícitas.
A pesar de la prevalencia de este tipo de anuncios, las circunstancias que rodean su aprobación y moderación en plataformas como Meta y TikTok difieren de su estricta aplicación contra los creadores de contenido humano.
