Así funciona la IA con la que Facebook ha detectado (y eliminado) miles de millones de cuentas falsas

El problema de Facebook con las cuentas falsas es casi tan grande (o más) que el que tiene con la desinformación en su plataforma, y la compañía lo sabe. Miles de millones de cuentas falsas que en muchas ocasiones se utilizan con fines maliciosos: durante el tercer trimestre de 2019 Facebook bloqueó alrededor de 1.700 millones de cuentas, y eso no incluye las cuentas que no permite que sean creadas en primer lugar.

Pero a pesar de que Facebook busca eliminar esta plaga que ha atiborrado su red social desde hace algún tiempo, ningún ejército humano ha logrado controlar los millones de cuentas falsas. Es más: la plataforma afronta la creciente presión de la regulación en todo el mundo.

Y mientas Facebook se encuentra en el ojo del huracán, decidió tomar cartas en el asunto y ha creado DEC, por las siglas en inglés de Deep Entity Classification, un sistema basado en inteligencia artificial que detecta y elimina cientos de millones de cuentas falsas, superando las limitaciones de los métodos de detección tradicionales (que se centran por ejemplo, en aspectos como si un usuario publica un número exagerado de contenidos o imágenes de productos de una misma marca). Esta podría ser la causa de la desaparición de miles de likes en las páginas de su plataforma en los últimos meses.

El método de detección de cuentas falsas de DEC se basa en el contexto de las páginas y cuentas a las que esté vinculada, y no solo a la IP que utiliza para crear la cuenta, su antigüedad o la cantidad de “me gusta” que tiene, ya que son elementos muy fáciles de evadir. Así, Facebook utilizó “características profundas», como el tipo de conexiones con cuentas, grupos, etc. que tiene cada usuario en la red. En el caso de los grupos, se valoran aspectos como el número de administradores que tienen, y el perfil de administradores y usuarios que pertenecen a ellos.

Una vez que la red neuronal ejecuta su algoritmo para determinar si la cuenta es normal, spam, o de phishing, Facebook toma este patrón estadístico y lo introduce en el segundo módulo, en el que un árbol de decisión califica cada cuenta para las mismas categorías: spam, cuenta falsa, phishing, bullying, etc., pero basándose en un conjunto mucho más pequeño de datos etiquetados por revisores «humanos» de la empresa.

Tras este escaneo doble y profundo, Facebook determina si tomará medidas contra las cuentas que hayan resultado etiquetadas como falsas, y qué acciones tomará. Este método ha dado como resultado un sistema que, de acuerdo con Facebook, es 97% más preciso a la hora de descubrir cuentas falsas, mucho mejor que cualquier otro que la red social haya implementado.

Y además, si el sistema se equivoca, las cuentas entrarán en un proceso de apelación que les brinda la oportunidad de responder antes de que sean eliminadas por completo.

- Contenido relacionado -