Los anotadores de Nairobi · enero de 2023

II

Hay que explicar para qué servía aquello, porque la mayoría de la gente cree que el filtro es una lista de palabras prohibidas.

No lo es. Un sistema entrenado con texto de internet ha leído de todo, incluido lo peor, y sabe continuar en ese registro con la misma soltura con la que continúa una receta de cocina. Nadie le enseñó a hacerlo; lo aprendió porque estaba en el material.

Para que no lo haga hace falta otro sistema encima que reconozca ese registro y lo corte. Para construir ese segundo sistema hace falta enseñarle qué es lo que tiene que reconocer, con ejemplos, miles de ellos, etiquetados uno por uno por alguien que los ha leído enteros y ha decidido en qué casilla van.

Ahí está el asunto y no tiene vuelta. Para que millones de personas no vean una cosa, unas cuantas docenas tienen que verla toda, seguida, ocho o nueve horas al día, con un objetivo de piezas por turno.

El producto limpio existe porque hay un sitio donde se acumula la suciedad. No es una metáfora. Es una oficina [con horario, con nóminas y con objetivos por turno].

III

Yo pago veintitrés euros al mes por el lado limpio.

Nunca me ha salido nada de eso. En dos años de uso diario no he visto ni una sola vez ninguna de las cosas que aquella gente leyó a destajo, y hasta escribir esto no me había preguntado por qué. Daba por hecho que el sistema «no sabía» esas cosas.

Sabe todas. Lo que hay es una puerta, y la puerta la montaron a mano.

Hice una cuenta que no quería hacer. A dos dólares la hora, mi suscripción mensual equivale a unas doce horas de aquel trabajo. Un año de mi cuenta paga algo más de tres semanas de turnos completos leyendo descripciones de abuso infantil.

No sé qué hacer con ese dato y lo pongo igual, porque es el único de este texto que me incluye.

IV

Por dentro, la parte técnica es de una sencillez que descoloca.

El anotador ve un fragmento en una pantalla y una lista de categorías. Lee, elige, pasa al siguiente. El fragmento puede tener dos líneas o media página. El sistema le cronometra y le cuenta cuántos lleva.

Con esas etiquetas se entrena un clasificador, que es un modelo mucho más pequeño y mucho más tonto que el grande: no conversa, no razona, solo mira un texto y devuelve una probabilidad de que pertenezca a cada categoría. Cuando esa probabilidad pasa de cierto punto, el sistema grande no contesta.

Funciona bien, y los números de aciertos son buenos. La razón hay que entenderla. Un clasificador es fácil de entrenar cuando el juicio humano detrás es consistente, y para que sea consistente hacen falta manuales de decenas de páginas explicando qué cuenta como qué [dónde acaba una categoría y empieza la de al lado], y gente que los aplique igual el lunes a las nueve que el jueves a las seis.

Hay un detalle de esa mecánica que cambia cómo se lee todo lo demás. Un anotador no puede leer en diagonal, porque la decisión depende de matices que están dentro del texto y no en las primeras líneas: quién hace qué a quién, si hay consentimiento, si es ficción o es relato. El trabajo obliga a leer entero y a entender.

La calidad de la puerta depende de lo estable que esté quien la construye. Eso es lo que hace de este trabajo algo distinto de picar piedra: no basta con que la persona aguante, hace falta que además siga juzgando bien mientras aguanta.

No hay ningún mecanismo dentro del sistema que note cuándo eso deja de pasar.

V

Lo que hace singular a esta pieza dentro de la serie es que aquí no hay nadie que se plante.

En las otras hay una carta, una investigadora que publica, un consejo que vota. Aquí hay un contrato entre dos empresas, una oficina en otro continente y un trabajo que la mayoría de la gente hizo hasta que se acabó, porque era el trabajo que había.

Motaung sí se plantó, y lo despidieron, y sigue en los tribunales. Pero la historia principal no es la suya: es la de todos los demás, que no hicieron nada raro. Fueron a trabajar.

El enjambre no funciona porque haya gente mala tomando decisiones malas. Funciona porque hay una cadena de contratos donde cada eslabón es defendible por separado [una empresa de impacto social, un contrato de doscientos mil dólares, un salario por encima del mínimo local, un trabajo que alguien aceptó], y el resultado agregado es que la seguridad de un producto global se fabrica en el sitio donde las horas son más baratas.

Cada eslabón resiste una auditoría. La cadena entera, no.

VI

Contra mí, y es lo más incómodo de esta serie.

Yo quiero el filtro. No estoy escribiendo a favor de quitarlo; si mañana el sistema me contestara con lo que aquella gente leía, dejaría de usarlo esa misma tarde y escribiría un texto indignado sobre la irresponsabilidad de la empresa.

Es decir que exijo el producto limpio y encuentro reprobable el procedimiento que lo limpia, y las dos cosas a la vez son insostenibles. La única salida honesta sería pagar lo que cuesta hacerlo bien [turnos cortos, psicólogos de verdad, sueldos de país rico para un trabajo que destroza igual en todas partes] y eso saldría en la factura.

Veintitrés euros al mes es un precio, y los precios de esta serie siempre acaban significando lo mismo.

VII

Vuelvo a la oficina de Nairobi.

El contrato se canceló antes de tiempo y la oficina siguió trabajando en otros encargos; el intermediario anunció después que dejaba el negocio de moderar contenido y se quedaba con la parte de etiquetar datos —la misma operación, con material menos duro—.

Los trabajadores de la demanda anterior siguieron el proceso durante años. Un tribunal keniano decidió que podía juzgar a la empresa extranjera, cosa que nadie esperaba, y eso sí es un precedente.

Mientras tanto, el trabajo se movió. Hay oficinas equivalentes en otros sitios, con otros nombres, y el sueldo por hora sigue siendo la variable que decide dónde.

Menos de dos dólares la hora.

Unas doscientas personas en la oficina.

Doscientos mil dólares de contrato, cancelado antes de plazo.

Ciento ochenta y cuatro demandantes en el proceso anterior.

Mi suscripción, este mes: veintitrés euros.