Hace unas horas envié a varios amigos, a través de Facebook, un vídeo de Miguel HD que explicaba cómo combatir al fascismo en las redes. Nada clandestino, nada ilegal: un material divulgativo como tantos otros que circulan a diario. Lo que me llamó la atención no fue la respuesta de los destinatarios, sino el comportamiento de la propia plataforma. Cada vez que intentaba replicar el mensaje a alguien, el sistema me obligaba a abrir WhatsApp. Y cuando el mensaje llegaba a su destino, no aparecía como un vídeo que pudiera verse sin más, sino como un aviso de Facebook en el que había que pinchar para acceder a su contenido. Hasta ahora replicaba cualquier información de Facebook a WhatsApp de manera automática y fácil.
Dos pasos. Dos pequeños obstáculos. Nada que, a primera vista, merezca una columna. Y, sin embargo, creo que en esos dos gestos aparentemente triviales se condensa una de las formas más eficaces y menos visibles de control de la información en nuestro tiempo: la censura por fricción.
Conviene empezar por lo que no ha ocurrido. Nadie me ha prohibido enviar el vídeo. Ningún moderador lo ha retirado. No ha habido aviso de infracción de las normas comunitarias, ni bloqueo de cuenta, ni sanción alguna. Si alguien me acusara de exagerar, podría señalar con razón que el mensaje llegó, que quien quiso verlo pudo verlo y que, en sentido estricto, no hubo censura. Ese es precisamente el problema. La censura clásica era visible: el lápiz rojo, el secuestro de la edición, la multa, el cierre del periódico. Era brutal, pero tenía una virtud involuntaria: se dejaba ver, y al dejarse ver podía ser denunciada. La censura contemporánea no necesita prohibir nada. Le basta con encarecer.
La economía conductual lleva décadas mostrando algo que cualquier publicista conoce de memoria: pequeñas variaciones en el coste de una acción producen grandes variaciones en su frecuencia. Un clic de más, una pantalla intermedia, una aplicación que hay que abrir, una confirmación que hay que dar. Cada uno de esos pasos se lleva por delante a una parte de los usuarios. Si en cada salto se pierde una fracción de quienes iban a reenviar o a ver el mensaje, al cabo de tres o cuatro saltos la difusión potencial se ha desplomado. No hace falta suprimir el contenido; basta con que su replicación decaiga por debajo del umbral que le permitiría propagarse. Los epidemiólogos lo llaman el número reproductivo: si cada mensaje genera menos de un reenvío, la cadena se extingue sola.
Esto es lo que quiero llamar incremento de los costes cognitivos. No se trata de dinero, sino de atención, de tiempo y de paciencia, que son los recursos más escasos de la vida digital. Herbert Simon advirtió hace más de medio siglo que una sobreabundancia de información genera una pobreza de atención. Las plataformas han convertido esa pobreza en un instrumento de gobierno. Saben, con una precisión que ningún censor del pasado pudo soñar, cuánta fricción hace falta para que un mensaje deje de circular. Y pueden dosificarla de forma selectiva, invisible y, sobre todo, desmentible.
Porque esa es la otra cara del mecanismo: su perfecta coartada técnica. Siempre habrá una explicación razonable. La integración entre aplicaciones del mismo grupo empresarial, la seguridad del usuario, la lucha contra el spam, la prevención de la desinformación. Algunas de esas razones pueden ser incluso ciertas en abstracto. Pero lo que importa no es la intención declarada, sino el efecto producido. Y el efecto es que determinados contenidos, por las razones que sean, se vuelven más caros de compartir que otros. Lawrence Lessig lo formuló con una fórmula que se ha hecho célebre: el código es ley. La arquitectura de un sistema regula la conducta de quienes lo habitan con tanta o más eficacia que cualquier norma jurídica, y con una ventaja decisiva para quien la diseña: no hay que promulgarla, no hay que motivarla, no hay que someterla a control judicial.
Desde la filosofía del derecho, esto plantea un desafío de primer orden. Toda la teoría garantista, de Beccaria a Ferrajoli, se construyó para someter el poder de castigar y de prohibir a límites, procedimientos y razones públicas. Pero ¿qué garantía cabe frente a un poder que no prohíbe, sino que entorpece? ¿Ante qué tribunal se recurre un clic añadido? ¿Qué derecho fundamental se vulnera cuando un vídeo sigue disponible, pero verlo exige un paso más? La libertad de expresión, tal como la conocemos, protege contra la supresión. No contra la erosión. Y la erosión es hoy el procedimiento dominante.
Carl Schmitt definió al soberano como aquel que decide sobre el estado de excepción. En la esfera digital, el soberano es quien decide sobre la configuración por defecto. Quien determina qué se ve sin esfuerzo y qué exige un esfuerzo; qué fluye y qué se atasca; qué aparece en la pantalla y qué queda escondido tras un enlace que casi nadie pulsará. Esa decisión no se toma en un parlamento ni se publica en un boletín oficial. Se toma en un equipo de ingeniería, se prueba con experimentos sobre millones de usuarios y se implanta sin aviso. Es soberanía sin rostro y sin responsabilidad.
¿Por qué hablar de fascismo? Soy consciente de que el término se ha desgastado por el uso, y de que conviene administrarlo con cuidado. No lo empleo para describir la ideología de quienes programan las plataformas, que probablemente sea tan variada como la de cualquier otro colectivo. Lo empleo para describir una forma de poder. El fascismo histórico no se definió solo por la violencia; se definió por la voluntad de controlar la esfera pública, de decidir qué voces podían circular y cuáles debían quedar ahogadas, y de hacerlo bajo la apariencia de normalidad, orden y eficiencia. Lo que tenemos hoy es una infraestructura capaz de cumplir esa función con una eficacia inédita y con un coste político casi nulo. Esa infraestructura no es fascista por sí misma. Pero está ahí, disponible, para quien quiera usarla. Y la historia enseña que los instrumentos disponibles terminan siendo utilizados.
¿Qué hacer? Lo primero es nombrar el fenómeno. Mientras sigamos pensando la censura únicamente como prohibición, la censura por fricción seguirá operando fuera de nuestro campo de visión. Lo segundo es documentarlo: cada usuario que advierte un obstáculo nuevo, un paso añadido, un cambio en la forma en que se muestran sus mensajes, está aportando un dato. Compartir esas observaciones es ya una forma de resistencia. Lo tercero es exigir transparencia regulatoria. Europa ha dado pasos en esa dirección con la normativa sobre servicios digitales, pero la auditoría de los diseños de interfaz y de sus efectos sobre la circulación de la información sigue siendo una asignatura pendiente. Y lo cuarto, quizá lo más importante, es diversificar los canales: no depender de un único ecosistema empresarial para comunicarnos, apoyar medios independientes, recuperar el correo, las listas, los espacios propios.
Y, mientras tanto, pagar el precio. Si reenviar un mensaje cuesta un clic más, demos ese clic. Si ver un vídeo exige pinchar en un enlace, pinchemos. El mecanismo funciona porque cuenta con nuestra pereza; desactivarlo requiere, simplemente, que no nos rindamos ante el primer obstáculo.
Así funciona, de momento, el fascismo digital: no quemando libros, sino haciendo que abrirlos cueste un poco más de lo que estamos dispuestos a pagar. No silenciando voces, sino haciendo que su eco se apague antes de llegar lejos. Contra la censura que grita podíamos gritar. Contra la censura que susurra, la primera tarea es aprender a escucharla.
Hace unas horas envié a varios amigos, a través de Facebook, un vídeo de Miguel HD que explicaba cómo combatir al fascismo en las redes. Nada clandestino, nada ilegal: un material divulgativo como tantos otros que circulan a diario. Lo que me llamó la atención no fue la respuesta de los destinatarios, sino el comportamiento de la propia plataforma. Cada vez que intentaba replicar el mensaje a alguien, el sistema me obligaba a abrir WhatsApp. Y cuando el mensaje llegaba a su destino, no aparecía como un vídeo que pudiera verse sin más, sino como un aviso de Facebook en el que había que pinchar para acceder a su contenido. Hasta ahora replicaba cualquier información de Facebook a WhatsApp de manera automática y fácil.
Dos pasos. Dos pequeños obstáculos. Nada que, a primera vista, merezca una columna. Y, sin embargo, creo que en esos dos gestos aparentemente triviales se condensa una de las formas más eficaces y menos visibles de control de la información en nuestro tiempo: la censura por fricción.
Conviene empezar por lo que no ha ocurrido. Nadie me ha prohibido enviar el vídeo. Ningún moderador lo ha retirado. No ha habido aviso de infracción de las normas comunitarias, ni bloqueo de cuenta, ni sanción alguna. Si alguien me acusara de exagerar, podría señalar con razón que el mensaje llegó, que quien quiso verlo pudo verlo y que, en sentido estricto, no hubo censura. Ese es precisamente el problema. La censura clásica era visible: el lápiz rojo, el secuestro de la edición, la multa, el cierre del periódico. Era brutal, pero tenía una virtud involuntaria: se dejaba ver, y al dejarse ver podía ser denunciada. La censura contemporánea no necesita prohibir nada. Le basta con encarecer.
La economía conductual lleva décadas mostrando algo que cualquier publicista conoce de memoria: pequeñas variaciones en el coste de una acción producen grandes variaciones en su frecuencia. Un clic de más, una pantalla intermedia, una aplicación que hay que abrir, una confirmación que hay que dar. Cada uno de esos pasos se lleva por delante a una parte de los usuarios. Si en cada salto se pierde una fracción de quienes iban a reenviar o a ver el mensaje, al cabo de tres o cuatro saltos la difusión potencial se ha desplomado. No hace falta suprimir el contenido; basta con que su replicación decaiga por debajo del umbral que le permitiría propagarse. Los epidemiólogos lo llaman el número reproductivo: si cada mensaje genera menos de un reenvío, la cadena se extingue sola.
Esto es lo que quiero llamar incremento de los costes cognitivos. No se trata de dinero, sino de atención, de tiempo y de paciencia, que son los recursos más escasos de la vida digital. Herbert Simon advirtió hace más de medio siglo que una sobreabundancia de información genera una pobreza de atención. Las plataformas han convertido esa pobreza en un instrumento de gobierno. Saben, con una precisión que ningún censor del pasado pudo soñar, cuánta fricción hace falta para que un mensaje deje de circular. Y pueden dosificarla de forma selectiva, invisible y, sobre todo, desmentible.
Porque esa es la otra cara del mecanismo: su perfecta coartada técnica. Siempre habrá una explicación razonable. La integración entre aplicaciones del mismo grupo empresarial, la seguridad del usuario, la lucha contra el spam, la prevención de la desinformación. Algunas de esas razones pueden ser incluso ciertas en abstracto. Pero lo que importa no es la intención declarada, sino el efecto producido. Y el efecto es que determinados contenidos, por las razones que sean, se vuelven más caros de compartir que otros. Lawrence Lessig lo formuló con una fórmula que se ha hecho célebre: el código es ley. La arquitectura de un sistema regula la conducta de quienes lo habitan con tanta o más eficacia que cualquier norma jurídica, y con una ventaja decisiva para quien la diseña: no hay que promulgarla, no hay que motivarla, no hay que someterla a control judicial.
Desde la filosofía del derecho, esto plantea un desafío de primer orden. Toda la teoría garantista, de Beccaria a Ferrajoli, se construyó para someter el poder de castigar y de prohibir a límites, procedimientos y razones públicas. Pero ¿qué garantía cabe frente a un poder que no prohíbe, sino que entorpece? ¿Ante qué tribunal se recurre un clic añadido? ¿Qué derecho fundamental se vulnera cuando un vídeo sigue disponible, pero verlo exige un paso más? La libertad de expresión, tal como la conocemos, protege contra la supresión. No contra la erosión. Y la erosión es hoy el procedimiento dominante.
Carl Schmitt definió al soberano como aquel que decide sobre el estado de excepción. En la esfera digital, el soberano es quien decide sobre la configuración por defecto. Quien determina qué se ve sin esfuerzo y qué exige un esfuerzo; qué fluye y qué se atasca; qué aparece en la pantalla y qué queda escondido tras un enlace que casi nadie pulsará. Esa decisión no se toma en un parlamento ni se publica en un boletín oficial. Se toma en un equipo de ingeniería, se prueba con experimentos sobre millones de usuarios y se implanta sin aviso. Es soberanía sin rostro y sin responsabilidad.
¿Por qué hablar de fascismo? Soy consciente de que el término se ha desgastado por el uso, y de que conviene administrarlo con cuidado. No lo empleo para describir la ideología de quienes programan las plataformas, que probablemente sea tan variada como la de cualquier otro colectivo. Lo empleo para describir una forma de poder. El fascismo histórico no se definió solo por la violencia; se definió por la voluntad de controlar la esfera pública, de decidir qué voces podían circular y cuáles debían quedar ahogadas, y de hacerlo bajo la apariencia de normalidad, orden y eficiencia. Lo que tenemos hoy es una infraestructura capaz de cumplir esa función con una eficacia inédita y con un coste político casi nulo. Esa infraestructura no es fascista por sí misma. Pero está ahí, disponible, para quien quiera usarla. Y la historia enseña que los instrumentos disponibles terminan siendo utilizados.
¿Qué hacer? Lo primero es nombrar el fenómeno. Mientras sigamos pensando la censura únicamente como prohibición, la censura por fricción seguirá operando fuera de nuestro campo de visión. Lo segundo es documentarlo: cada usuario que advierte un obstáculo nuevo, un paso añadido, un cambio en la forma en que se muestran sus mensajes, está aportando un dato. Compartir esas observaciones es ya una forma de resistencia. Lo tercero es exigir transparencia regulatoria. Europa ha dado pasos en esa dirección con la normativa sobre servicios digitales, pero la auditoría de los diseños de interfaz y de sus efectos sobre la circulación de la información sigue siendo una asignatura pendiente. Y lo cuarto, quizá lo más importante, es diversificar los canales: no depender de un único ecosistema empresarial para comunicarnos, apoyar medios independientes, recuperar el correo, las listas, los espacios propios.
Y, mientras tanto, pagar el precio. Si reenviar un mensaje cuesta un clic más, demos ese clic. Si ver un vídeo exige pinchar en un enlace, pinchemos. El mecanismo funciona porque cuenta con nuestra pereza; desactivarlo requiere, simplemente, que no nos rindamos ante el primer obstáculo.
Así funciona, de momento, el fascismo digital: no quemando libros, sino haciendo que abrirlos cueste un poco más de lo que estamos dispuestos a pagar. No silenciando voces, sino haciendo que su eco se apague antes de llegar lejos. Contra la censura que grita podíamos gritar. Contra la censura que susurra, la primera tarea es aprender a escucharla.
Comentarios