Vendrá un spam personalizado y más persuasivo

Todos los días, los mensajes de príncipes nigerianos, vendedores ambulantes de drogas maravillosas y promotores de inversiones imperdibles obstruyen las bandejas de entrada de los correos electrónicos.

Pero ahora, la carrera armamentista entre los bloqueadores de spam y los remitentes está a punto de intensificarse con la aparición de una nueva arma: La inteligencia artificial generativa.

Puede interesarte: ¿Recibes notificaciones de Shein en Instagram? Te explicamos cómo bloquearlas

Con los recientes avances en IA que ChatGPT hizo famosos, los spammers podrían tener nuevas herramientas para evadir los filtros, captar la atención de las personas y convencerlas de que hagan clic, compren o den información personal.

Como director del laboratorio de Razonamiento Humano y de Máquinas Avanzados en la Universidad del Sur de Florida, investigo la intersección de la inteligencia artificial, el procesamiento del lenguaje natural y el razonamiento humano.

He estudiado cómo la IA puede aprender las preferencias individuales, las creencias y las peculiaridades de la personalidad de las personas.

Esto se puede usar para comprender mejor cómo interactuar con las personas, ayudarlos a aprender o brindarles sugerencias útiles. Pero esto también significa que debe prepararse para un spam más inteligente que conoce sus puntos débiles y puede usarlos en su contra.

¿Pero qué es exactamente el spam?

Sólo por si alguien aún no lo sabe, el spam se define como correos electrónicos comerciales no solicitados enviados por una entidad desconocida. El término a veces se extiende a mensajes de texto, mensajes directos en las redes sociales y reseñas falsas sobre productos. Los spammers quieren empujarlo hacia la acción: comprar algo, hacer clic en enlaces de phishing, instalar malware o cambiar vistas.

El spam es rentable. Una explosión de correo electrónico puede generar US$1,000 en solo unas pocas horas, lo que le cuesta a los spammers solo unos pocos dólares, sin incluir la configuración inicial. Una campaña de spam farmacéutico en línea podría generar alrededor de $ 7,000 por día.

Los anunciantes legítimos también quieren empujarlo a la acción: comprar sus productos, realizar sus encuestas, suscribirse a boletines informativos, pero mientras que un correo electrónico de un vendedor puede tener un enlace al sitio web de una empresa establecida y contener una opción para darse de baja de acuerdo con las regulaciones federales, un correo electrónico no deseado puede no.

Los spammers tampoco tienen acceso a las listas de correo a las que se suscribieron los usuarios. En su lugar, los spammers utilizan estrategias contrarias a la intuición, como la estafa del “príncipe nigeriano”, en la que un príncipe nigeriano afirma que necesita su ayuda para desbloquear una cantidad absurda de dinero y promete recompensarlo muy bien.

Los nativos digitales inteligentes descartan de inmediato tales súplicas, pero lo absurdo de la solicitud en realidad puede seleccionar por ingenuidad o edad avanzada, filtrando a los que tienen más probabilidades de caer en las estafas.

Sin embargo, los avances en IA significan que los spammers podrían no tener que depender de tales enfoques impredecibles. La IA podría permitirles dirigirse a individuos y hacer que sus mensajes sean más persuasivos en función de información de fácil acceso, como publicaciones en redes sociales.

El futuro del correo no deseado

Es probable que haya oído hablar de los avances en modelos generativos de lenguajes grandes como ChatGPT. La tarea que realizan estos LLM generativos es engañosamente simple: dada una secuencia de texto, predecir qué token viene a continuación. Luego, prediga qué token viene después de eso. Y así sucesivamente, una y otra vez.

De alguna manera, el entrenamiento sólo en esa tarea, cuando se realiza con suficiente texto en un LLM lo suficientemente grande, parece ser suficiente para dotar a estos modelos de la capacidad de desempeñarse sorprendentemente bien en muchas otras tareas.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Ya han surgido múltiples formas de usar la tecnología, lo que demuestra la capacidad de la tecnología para adaptarse rápidamente y aprender sobre las personas. Por ejemplo, los LLM pueden escribir correos electrónicos completos en su estilo de escritura, con solo algunos ejemplos de cómo escribe. Y está el ejemplo clásico, que ya tiene más de una década, en el que Target se da cuenta de que una clienta estaba embarazada antes que ella.

Todas las nuevas tecnologías pueden resultar tanto en asombro como en peligro. La diferencia radica en quién crea y controla las herramientas y cómo se utilizan.

* Profesor Asistente de Ciencias de la Computación y Director de AMHR Lab, Universidad del Sur de Florida.