Secciones
Activistas del discurso de odio encontraron el punto débil de Facebook
Tecnología

Activistas del discurso de odio encontraron el punto débil de Facebook

La crisis de Facebook al abordar los discursos de odio lleva mucho tiempo en la plataforma y no desaparecerá pronoto

por LaVerdad

Activistas del discurso de odio encontraron el punto débil de Facebook

Activistas del discurso de odio encontraron el punto débil de Facebook

Facebook tardó menos de dos horas en reaccionar y lo hizo por una buena razón.

A las 5 p.m.del viernes, Unilever, uno de los anunciantes más grandes del mundo, con una cartera de productos que abarca desde Marmite hasta Vaseline, anunció repentinamente que retiraría todos los anuncios de Facebook, Instagram y Twitter en Estados Unidos.

Debido a la "atmósfera polarizada en los Estados Unidos", dijo la compañía, y el trabajo significativo que queda por hacer "en las áreas de división y discurso de odio ... continuar publicitando en estas plataformas en este momento no agregaría valor a las personas y la sociedad" .

A las 6.47 p.m., Facebook fue sacudido.

Mark Zuckerberg, dijo, estaría "en vivo en su página de Facebook" para discutir el trabajo de justicia racial de la compañía. Trece minutos después de eso, el director ejecutivo más poderoso del mundo apareció en las pantallas. Humillado, anunció una serie de nuevas políticas, que incluyen la prohibición de contenido de odio dirigido a los inmigrantes y más restricciones a las publicaciones que hacen afirmaciones falsas sobre la votación.

Asad Moghal, gerente senior de contenido digital en Byfield Consultancy, dijo que la acción de Unilever obligaría a Zuckerberg a responder: Cuando un gigante internacional de este tipo decide que la inacción ya no es una opción para abordar el lenguaje racista y discriminatorio, las empresas de medios sociales deben escuchar.

Añadió que al tomar medidas financieras, una empresa del tamaño de Unilever puede efectuar cambios y forzar la mano de Twitter y Facebook; la empresa ha decidido que necesita proteger la reputación de su marca y ya puede asociarse con plataformas que ofrecen discursos de odio y contenido divisivo. Pero lo que realmente afectará el cambio es si este movimiento crea un efecto dominó y otras corporaciones de renombre eliminan la inversión de las plataformas.

La franja de anuncios marcó las primeras concesiones de Facebook hacia los objetivos de una coalición, Stop Hate for Profit, que se formó a raíz del asesinato de George Floyd en mayo pero los líderes del grupo dicen que los ajustes no llegan lo suficientemente lejos, y están reiterando sus llamados a un boicot mundial de anunciantes que comenzará el miércoles.

El verdadero peligro para Facebook es si otras marcas deciden que también pueden prescindir de la plataforma.

La crisis en Facebook no desaparece

Históricamente, Facebook ha adoptado una línea más suave sobre el discurso de odio que sobre otros contenidos controvertidos, como los desnudos, en parte debido a la creencia en la ambigüedad inherente del discurso ofensivo, y en parte debido a la dificultad de automatizar dicho trabajo.

La identificación del discurso de odio depende del conocimiento del contexto, las costumbres y la cultura, que pueden ser difíciles de enseñar a los moderadores humanos, y mucho más a las máquinas.

En los últimos años, Facebook ha avanzado en esa área. En el tercer trimestre de 2017, según su informe de estándares de la comunidad, Facebook encontró algo menos de una cuarta parte del discurso de odio por sí mismo; los otros tres cuartos solo se eliminaron después de que los usuarios del sitio lo indicaron manualmente a los moderadores, quienes luego tomaron medidas.

En esta primavera, las proporciones se habían revertido: el 88% del discurso de odio eliminado del sitio fue encontrado por las propias herramientas de Facebook, lo que le permite eliminar o restringir casi cuatro veces más el discurso de odio que dos años antes.

Pero trabajar en contra de la experiencia técnica de Facebook tuvo otro factor: el presidente de los Estados Unidos.

Ya en 2015, según informes del Washington Post, la red social ha tenido dificultades para lidiar con un hombre que, primero como candidato y luego como presidente, empujó los límites de lo que se permitió publicar.

En cambio, Facebook ha modificado sus propias reglas para evitar enojar al presidente: introduciendo en 2015 una excepción para el "discurso político" para permitir un video llamando a prohibir a los musulmanes que ingresen a los Estados Unidos, por ejemplo, o limitando los esfuerzos para abordar "Noticias falsas" por temor a que al hacerlo se afecte desproporcionadamente las páginas y carteles inclinados a la derecha.

Protestas en Facebook

En las protestas provocadas por la muerte de Floyd, Trump nuevamente probó los límites, publicando en Facebook y Twitter un mensaje que dice "cuando comienza el saqueo, comienzan los disparos".

Twitter, al notar la historia racista de la frase e interpretarla como un posible llamado a la violencia, hizo cumplir una política que había promulgado el verano pasado por tal hecho: la compañía restringió el tweet, evitando que se respondiera o le gustara, y lo escondió detrás de una advertencia que declaraba que el tweet rompió sus reglas. Pero lo dejó, citando la importancia periodística inherente de una declaración de un funcionario electo con millones de seguidores.

En Facebook, sin embargo, la publicación quedó intacta. En una publicación en su página personal, Zuckerberg escribió que interpretó la declaración no como una incitación a la violencia sino como "una advertencia sobre la acción del Estado". "A diferencia de Twitter", escribió, "no tenemos la política de poner una advertencia en frente de las publicaciones que pueden incitar a la violencia porque creemos que si una publicación incita a la violencia, debe eliminarse independientemente de si es de interés periodístico, incluso si proviene de un político".

Activistas del discurso de odio encontraron el punto débil de Facebook
Activistas del discurso de odio encontraron el punto débil de Facebook

La decisión se convirtió en un punto crítico para persistir la inquietud sobre los problemas más amplios de Facebook al abordar el odio en su plataforma, al igual que la decisión de Zuckerberg, una semana antes, de aparecer en Fox News para defender una publicación diferente de Trump, en la votación por correo, diciendo que no piensa que su compañía debería convertirse en el "árbitro de la verdad".

El personal de Facebook comenzó a hablar en las redes sociales, realizando una huelga virtual para enfatizar que "no hacer nada no es aceptable". Los moderadores precariamente empleados de la compañía se unieron, arriesgando sus trabajos subcontratados para denunciar la "excepcionalidad blanca y una mayor legitimación de la brutalidad estatal".

Incluso los científicos financiados por la organización benéfica personal de Zuckerberg, la Iniciativa Chan Zuckerberg, hablaron y llamaron a la publicación de Trump "una declaración clara de incitación a la violencia".

Con cierta fanfarria, Zuckerberg nombró en mayo una junta de supervisión, una lista de expertos que tendrán el poder de anular las decisiones de moderación de Facebook, incluyndo a Helle Thorning-Schmidt, un ex primer ministro de Dinamarca; el premio Nobel de la paz Tawakkol Karman; y Alan Rusbridger, un ex editor jefe de The Guardian.

Pero la dificultad de establecer una nueva organización en la era de Covid-19 significa que la junta no pudo quitarle el poder a Zuckerberg.

Chris Moos, experto en liderazgo y profesor de la escuela de negocios Saïd de la Universidad de Oxford dijo que la estrategia de Zuckerberg de tratar con Trump es una combinación incoherente de dos enfoques de liderazgo.

Cuando algunos intentaron encontrar "enfoques prácticos para lidiar con esas tensiones" que encontraron en el trabajo, y otros apelaron "a principios de orden superior", Zuckerberg intentó ambos y no logró ninguno. Explicó que por un lado, ha involucrado a un amplio conjunto de partes interesadas en el debate, arrojando dinero a iniciativas para construir justicia racial y participación de los votantes. Por otro lado, el CEO de Facebook ha tratado de superar la controversia al dejar en claro que su compañía se equivocará debido la libertad de expresión, "incluso cuando se trata de un discurso con el que estamos fuertemente y visceralmente en desacuerdo".

Zuckerberg no puede ser removido de su posición. Si bien solo posee el 14% de la compañía, la clase especial de acciones que posee significa que controla el 57% de los derechos de voto en las reuniones de la junta. Pero la presión de los empleados puede dañarlo, profesional y personalmente: si Facebook ya no parece un lugar de trabajo agradable y gratificante, la compañía tendrá dificultades para contratar y retener al personal altamente calificado en el que se basa para competir en Silicon Valley.

En junio, la campaña Stop Hate for Profit encontró otro punto débil para el sitio: los anunciantes. Si bien Facebook obtiene algunos ingresos directamente de los usuarios, para productos como su videoteléfono Portal o sus auriculares Oculus VR, la gran mayoría de los ingresos anuales de $ 70.7 mil millones de la compañía provienen de la publicidad. El 17 de junio, Color of Change, junto con NAACP, ADL, Sleeping Giants, Free Press y Common Sense Media, lanzó una solicitud pública para que "todos los anunciantes se solidaricen con los usuarios negros de Facebook y envíen el mensaje a Facebook de que deben cambiar sus prácticas pausando toda la publicidad en plataformas propiedad de Facebook para el mes de julio de 2020 ".

Activistas del discurso de odio encontraron el punto débil de Facebook
Activistas del discurso de odio encontraron el punto débil de Facebook

Muchos de esos anunciantes ya estaban incómodos con sus gastos en Facebook antes de la última campaña. El sitio, como sucede con toda la publicidad programática, puede tener problemas de "seguridad de marca" cuando las empresas encuentran sus mensajes junto a contenido extremo u odioso. Mientras tanto, a nivel macro, los especialistas en marketing son muy conscientes de los riesgos de ayudar a consolidar el "duopolio" de Facebook y Google, que entre ellos han asegurado la mayor parte del crecimiento de la industria publicitaria.

Pero incluso si la campaña Stop Hate for Profit estaba empujando a una puerta abierta, el éxito ha sido sorprendente. Al final de la primera semana, Patagonia, North Face y la plataforma independiente Upwork habían firmado. Y la decisión de Unilever de detener la publicidad hasta noviembre, aunque solo dentro de los EE. UU. Y sin citar directamente la campaña, abrió las compuertas. Durante el fin de semana, se le unieron otras megamarcas, incluidas Coca-Cola y el conglomerado de alcohol Beam Suntory.

Moghal indicó que estas plataformas tecnológicas han generado ingresos e interés a partir de este contenido divisivo; no cambiarán sus prácticas hasta que comiencen a ver un recorte significativo en sus ingresos.

Con el boicot oficialmente comenzando el miércoles, los activistas no están aliviando la presión. De hecho, el éxito solo ha impulsado mayores ambiciones.

TE PUEDE INTERESAR: Facebook ahora te alertará antes de compartir artículos antiguos

Jim Steyer, director ejecutivo de Common Sense Media dijo a Reuters que la próxima frontera es la presión globa. Mientras que algunos, incluidos North Face y Patagonia, han expandido sus boicots a nivel mundial, otros actualmente se contentan con retener solo los gastos en los Estados Unidos. Si incluso eso es suficiente para poner a Zuckerberg frente a una cámara en menos de dos horas, los activistas esperan que el poder de la acción mundial pueda motivar un cambio duradero.

Temas

Comentarios