AI crea documentos falsos que falsifican a los piratas informáticos
Los piratas informáticos mejoran constantemente al penetrar las defensas cibernéticas para robar documentos valiosos. Así que algunos investigadores proponen usar un algoritmo de inteligencia artificial para confundirlos irremediablemente, una vez que entren, escondiendo el verdadero negocio en medio de una montaña de falsificaciones convincentes.
El algoritmo, llamado motor de generación de repositorios en línea falsos basado en Word Embedding (WE-FORGE), genera señuelos de patentes en desarrollo. Pero algún día podría “crear muchas versiones falsas de cada documento que una empresa sienta que debe proteger”, dice su desarrollador, el investigador de seguridad cibernética de Dartmouth College, VS Subrahmanian.
Si los piratas informáticos persiguieran, por ejemplo, la fórmula de un nuevo fármaco, tendrían que encontrar la aguja pertinente en un pajar de falsificaciones. Esto podría significar verificar cada fórmula en detalle, y tal vez invertir en algunas recetas sin salida. “El nombre del juego aquí es, ‘Hazlo más difícil’”, explica Subrahmanian. “’Inflige dolor a los que te roban’”.
Subrahmanian dice que abordó este proyecto después de leer que las empresas desconocen los nuevos tipos de ataques cibernéticos durante un promedio de 312 días después de que comienzan. “El malo tiene casi un año para irse con todos nuestros documentos, toda nuestra propiedad intelectual”, dice. “Incluso si eres un Pfizer, es tiempo suficiente para robar casi todo. ¡No son solo las joyas de la corona, son las joyas de la corona, las joyas de la doncella y el reloj de la secretaria!
Los documentos falsificados producidos por WE-FORGE también podrían actuar como «cables trampa» ocultos, dice Rachel Tobac, directora ejecutiva de la consultora de seguridad cibernética SocialProof Security. Por ejemplo, un archivo tentador puede alertar a la seguridad cuando se accede a él. Las empresas suelen utilizar falsificaciones creadas por humanos para esta estrategia. “Pero ahora, si esta IA puede hacer eso por nosotros, entonces podemos crear muchos documentos nuevos que sean creíbles para un atacante, sin tener que hacer más trabajo”, dice Tobac, que no participó en el proyecto.
El sistema produce señuelos convincentes al buscar palabras clave en un documento. Para cada uno que encuentra, calcula una lista de conceptos relacionados y reemplaza el término original por uno elegido al azar. El proceso puede producir docenas de documentos que no contienen información patentada pero que aún parecen plausibles. Subrahmanian y su equipo pidieron a estudiantes de posgrado en informática y química que evaluaran patentes reales y falsas de sus respectivos campos, y los humanos encontraron que los documentos generados por WE-FORGE eran muy creíbles. Los resultados aparecieron en la Association for Computing Machinery’s Transacciones sobre Sistemas de Información Gerencial.
WE-FORGE eventualmente podría expandir su alcance, pero Subrahmanian señala que un documento que recomiende un curso de acción, por ejemplo, sería mucho más complejo que una fórmula técnica. Aún así, tanto él como Tobac creen que esta investigación atraerá el interés comercial. “Definitivamente podría ver una organización aprovechando este tipo de producto”, dice Tobac. «Si esto… crea señuelos creíbles sin revelar detalles sensibles dentro de esos señuelos, entonces creo que tienes una gran victoria allí».
