Los primeros sistemas de detección de spam basados en algoritmos de aprendizaje automático surgieron en la década de 1990. Desde entonces, la IA se ha ido integrando gradualmente en las soluciones de seguridad del correo electrónico para detectar amenazas como el phishing y el malware. Con el tiempo, las técnicas se han ido perfeccionando, pero la seguridad del correo electrónico sigue requiriendo la intervención humana.
La inteligencia artificial para filtrar los spams
Las capacidades de la IA en la lucha contra el spam son innegables. Detecta amenazas analizando los correos electrónicos para identificar esquemas de phishing, archivos adjuntos maliciosos o enlaces fraudulentos. Filtra el spam escaneando el contenido de los mensajes e identificando las características comunes de los correos electrónicos no deseados. Otra función es el análisis del comportamiento, que supervisa las interacciones de los usuarios con el correo electrónico para detectar actividades sospechosas, que podrían indicar un compromiso de la cuenta o un intento de suplantación de identidad.
Alinto ha estado incorporando nuevas tecnologías de IA en sus soluciones desde 2019, desarrollando programas basados en modelos de aprendizaje alimentados por muestras para mejorar la seguridad del correo electrónico. Sin embargo, la eficacia de estos programas proviene de su capacidad para operar en tiempo real, lo que requiere restricciones en el tamaño y la velocidad de los modelos utilizados. El reto consiste en mantener un alto rendimiento al tiempo que se garantizan unos tiempos de procesamiento aceptables.
Inteligencia humana para mejorar los algoritmos de filtrado
A pesar de las proezas de la IA, el elemento humano sigue siendo indispensable en la lucha contra el spam: las capacidades cognitivas humanas son insustituibles en esta fase para hacer frente a los falsos positivos y falsos negativos generados por los algoritmos antispam. La inteligencia humana es, por tanto, esencial para analizar en profundidad las nuevas amenazas e identificar posibles fallos en los sistemas de seguridad. De este modo, los humanos continúan alimentando los algoritmos con reglas y modelos de aprendizaje basados en las nuevas prácticas identificadas. Por su parte, Alinto mejora de manera constante sus filtros antispam.
De hecho, la optimización automática de los filtros antispam por parte de la IA a medida que se recogen los errores no es una alternativa concebible. Expondría el sistema a sesgos cognitivos o ataques de envenenamiento: el pirata informático podría modificar el comportamiento del filtro o del modelo introduciendo datos maliciosos, corrompiendo así el sistema. Además, la IA por sí sola no es capaz de anticiparse a las nuevas técnicas desarrolladas por los piratas informáticos.
Es más, los propios hackers utilizan la inteligencia humana para saltarse los filtros y contaminar los sistemas. Por tanto, es necesario contrarrestarlos con inteligencia humana. En definitiva, esta carrera entre inteligencias pone de manifiesto la necesidad de una estrecha complementariedad entre el hombre y la máquina para detectar eficazmente los nuevos ataques: la IA como herramienta para caracterizar las amenazas (por ejemplo, detectar URL dudosas) y lanzar alertas más rápidamente, pero dejando a los humanos el análisis y la decisión sobre las optimizaciones que deben introducirse en los modelos.
Lo que está en juego es tan importante, y la pertinencia de una regla puede tener efectos tan contradictorios, que el elemento humano conserva el lugar que le corresponde en un equipo de expertos antispam más conocido como Spamfight.
En lo que concierne a la seguridad del correo, la contribución del equipo de Spamfighter no reside, por tanto, en el filtrado en tiempo real. Sin embargo, es esencial para analizar los falsos positivos y decidir si se añaden o no nuevas reglas al software antispam. Un filtro sin IA sería ineficaz (ya que permite automatizar al máximo la detección de amenazas), del mismo modo que la IA sin intervención humana que la enriquezca perdería su relevancia. Por tanto, la solución reside en la colaboración entre la IA y los humanos, donde cada uno aporta capacidades de análisis distintas para garantizar la mejor seguridad posible del correo electrónico.
