Cinque Terre

Leo García

[email protected]

Diseño y coaching de estrategias para manejo de redes sociales. Experiencia en análisis de tendencias en línea.

La lucha contra el comportamiento no legitimo en línea

El pasado 5 de diciembre la OTAN presentó el estudio “Cómo las compañías de Social Media están fallando en el combatir el comportamiento no legitimo en línea” realizado en conjunto con el laboratorio de ciencia de datos Singularex. En el titulo anticipa la conclusión, las empresas dueñas del entorno social digital global están perdiendo la lucha contra el comportamiento no legitimo en sus plataformas.

OTAN coordino un experimento de lo más sencillo: por 300 euros compraron tres mil 530 comentarios, 25 mil 750 likes, 20 mil visualizaciones y cinco mil 100 seguidores para 105 publicaciones de Facebook, Instagram, Twitter y YouTube. Luego, al analizar esas mismas publicaciones lograron identificar que se utilizaron 18 mil 739 cuentas para esta manipulación artificial del engagement.

Se mantuvieron observando a las cuentas que interactuaron para la manipulación de las métricas de las publicaciones según lo contratado y descubrieron que después de cuatro semanas 4 de cada 5 cuentas utilizadas seguían en línea. Para comprobar la efectividad de los métodos propuestos por las plataformas para permitir al usuario reportar este tipo de comportamientos el mismo laboratorio realizo el reporte de una muestra de cuentas falsas detectadas. Tres semanas después del reporte el 95% de la muestra seguía operando sin problema.

De hecho durante el experimento la mayor parte de las cuentas operó sin problemas.

Es importante mencionar que esto no se limita a la conversación y el contenido de tipo político, más bien suele usarse en campañas comerciales.

OTAN llama la atención en algunos aspectos interesantes adicionalmente, pero posiblemente el de más consideración es el más obvio, las redes sociales están rebasadas en un problema donde la auto regulación cada vez parece menos la solución viable. Y eso es muy grave.

Las plataformas sociales tienen deficiencias en su modelo que ya ha sido aprovechado con fines políticos, militares, comprometiendo objetivos civiles en operaciones de guerra psicológica, de injerencia política de un poder extranjero, además de como método de control social por manipulación de sesgos cognitivos, entre otros muchos.

En las cuatro plataformas analizadas se genera tanto contenido por minuto que no hay forma que moderadores humanos hagan todo el trabajo. Para eso, se han ideado herramientas que identifiquen patrones de manera automática y señalen casos específicos para que sean atendidos por moderadores humanos. Estas herramientas se han vuelto efectivas para ciertas características, pero donde se entra en un área gris es al detectar casos más complejos como los comportamientos no legítimos que si son generados por seres humanos. ¿Por qué?

El factor humano

En este espacio se han dedicado ya muchas líneas para hacer lo posible en explicar las dinámicas y comportamientos de los usuarios y las estrategias de manipulación. Uno de los problemas más complejos por resolver es el humano mismo.

Como se dijo, el objetivo de este tipo de campañas de manipulación tiene varios fines, pero se vuelve un problema en especial delicado cuando se realiza con fines políticos.

Detectar excesos y abusos en comportamientos automatizados es relativamente sencillo. Los (ro)bots son un recurso que se aplica cada vez de manera más acotada solo para generar una percepción de popularidad e interés en contenido de forma artificial.

Conforme ha pasado el tiempo los usuarios son cada vez más renuentes a interactuar con cuentas con rasgos que pueden delatar su origen como cuenta falsa. Es por eso que se aplican técnicas cada vez más elaboradas. Técnicas donde si participan usuarios reales, los agentes de influencia adversa. Se aprovechan precisamente un modelo legítimo de interacción, pero con fines no legítimos al no ser realmente quienes dicen ser.

Es precisamente en el concepto mismo donde inicia el problema. Cuando se habla de comportamiento no legitimo se considera la interacción dentro de las plataformas por quienes se dicen usuarios pero que su perfil, motivos e interacciones no son del origen e intención que dicen ser. Este comportamiento lo que busca es manipular generando afinidad y simpatía en grupos sobre los que se quiere ejercer alguna forma de influencia.

Para ello, estos agentes de influencia lo que hacen es ofrecer contenido de la misma forma que un usuario real presentaría, no tiene que ser contenido falso, ni estar basado en discurso de odio, sino más bien ofrece contenido que busca generar afinidad en grupos formados por audiencias objetivo.

Donde es sensible este comportamiento es cuando se logra generar esa afinidad y entonces poder iniciar ciclos de polarización manipulando los sesgos cognitivos.

Ese es el peor de los escenarios con el que lidian las empresas dueñas de las redes sociales, donde participan usuarios ejerciendo influencia adversa y son amplificados por métodos automatizados, los (ro)bots. En esta lógica, las empresas están considerando la coordinación que se puede asociar a los gobiernos, locales o extranjeros, o cualquier otra forma de comportamiento no autentico.

Para este punto el escenario descrito es de sobra conocido. Las campañas de linchamiento digital dirigidas hacia ciertos objetivos, o de demostraciones de apoyo y simpatía hacia otros tantos, pero que todas se valen de la explotación de un conjunto complejo de recursos. Y además, cuando se señalan los excesos y abusos la respuesta para colmo son más campañas donde sobresale el consabido “#NoSoyBot”.

El desafío al que se enfrentan las redes sociales no es menor, porque adicionalmente cuando se toman acciones y medidas que impliquen afectar el discurso de alguna postura ideológica la respuesta que tampoco es menos grave y se les acusa de censura.

Es un problema de alcance global. Y está lejos de ser resuelto. En el mismo ejercicio hecho por la OTAN confirmaron que el costo de estas campañas sigue siendo muy barato, lo que delata que es sencillo de realizar, operar y el mercado sigue al alza.
Hagamos red, sigamos conectados.


https://www.stratcomcoe.org/how-social-media-companies-are-failing-combat-inauthentic-behaviour-online

Login

Welcome! Login in to your account

Remember me Lost your password?

Lost Password