Artigo traduzido por Mariel Zasso e Paola Ricaurte para a organização A + Alliance e Rede de Pesquisa sobre Inteligência Artificial Feminista
Del mainframe a la matrix: de la experimentación tecnológica y social al dominio tecnopolítico
En un mundo cada vez más tecnológico, nos enfrentamos a la exigencia permanente de adoptar tecnologías que llegan sin pedir permiso. En el ámbito de las leyes o de las regulaciones, la sensación es que estamos constantemente persiguiendo pérdidas, buscando minimizar los daños causados por las nuevas tecnologías o tratando de domesticar sus posibles usos e impactos sociales. En la investigación, nos esforzamos por monitorear, analizar y reflexionar críticamente sobre las configuraciones sociopolíticas de las tecnologías, pero también sobre la transformación de la vida tecnomediada: trabajo, educación, salud, justicia, ciudades, etc. Sin embargo, poco hemos podido hacer respecto al proyecto/diseño de lo que se está creando. Entre los ingenieros y los desarrolladores, la mentalidad general es que si algo se puede crear, se creará. Entre nosotros, usuarios o investigadores, vivimos entre la tensión del imperativo de adaptación subordinada y la búsqueda de posibles desviaciones en la apropiación creativa y la resignificación tecnológica.
El ritmo de creación de nuevas tecnologías digitales está hiperacelerado y está impulsado en gran medida por corporaciones privadas estrechamente entrelazadas con el capital financiero. En un mundo dominado por las finanzas, contar con la aportación inicial de los grandes inversores es fundamental para situar los nuevos productos tecnológicos en posiciones estratégicas del mercado. Existen disputas entre los centros geopolíticos que concentran mayor capacidad de creación y difusión de tecnologías digitales, que prolongan el poder de los Estados y de las corporaciones a través del control sobre las tecnologías y sus infraestructuras. Sabemos que la adopción tecnológica promueve ciertas formas de vida (desde los automóviles hasta los teléfonos móviles). No se trata de una determinación absoluta, sino de disposiciones socioculturales que se refuerzan mediante arreglos tecnológicos que nunca son neutrales.
El arreglo tecnocientífico creado después de la Segunda Guerra Mundial adquirió mayor centralidad en la dinámica económica a lo largo del siglo XX, impulsando la reestructuración productiva, las transformaciones en las cadenas productivas y de extracción de valor, expandiendo la nueva economía de la información, la cultura y el conocimiento. El capitalismo tecnocientífico, alimentado por la acción de la carrera militarista y geopolítica, se encuentra en el centro de la disputa por la hegemonía política internacional. Hay varios ejemplos de esta carrera: 5G; transición energética; industria de microchips, industria farmacéutica, propiedad intelectual, disputa por recursos minerales.
En la historia de las políticas tecnológicas en varios países latinoamericanos, estas cuestiones ya han sido abordadas en tradiciones que interrogan modelos de modernización, teorías de dependencia y de subdesarrollo, modelos de innovación y difusión tecnológica y, sobre todo, en las prácticas de los movimientos de apropiación tecnológica. Es importante resaltar que la adopción tecnológica no se hace directamente y no siempre es subordinada, y que hay diferentes expresiones de resistencia tecnológica, apropiaciones y subversiones tecnológicas que pueden modificar el diseño, funcionamiento y aplicación de una tecnología específica. Este no es un problema nuevo. Por lo tanto, en un escenario político (como el de Brasil a la fecha) en el que nos enfrentamos nuevamente al ascenso de un gobierno más favorable a las innovaciones sociales, la creación tecnocientífica podría contribuir a la promoción de otros mundos no catastróficos.
Durante los últimos 20 años, hemos trabajado en varias investigaciones en el campo de las humanidades sobre problemas relacionados con la creciente mediación de las tecnologías de la información y la comunicación digital. Desde entonces, muchas cosas han cambiado: en los modos de vida, en la presencia ubicua de las tecnologías digitales, en las formas de utilizar y apropiarse de Internet, en las formas de acción política, en la distribución del poder y en las disputas entre actores estatales, corporativos y la sociedad civil, en las formas de regulación, en la producción, circulación y control de la información y su economía en las redes digitales.
Hoy en día, la producción y captura de datos digitales sobre aspectos inimaginables de nuestra vida cotidiana fluye ininterrumpidamente hacia centros de datos capaces de análisis, clasificación y reaplicación a escala planetaria, fortaleciendo abismales asimetrías de poder.
Es importante resaltar que tanto la producción y recolección, como el tráfico y posterior alojamiento, análisis y clasificación ocurren casi en su totalidad sobre las infraestructuras de empresas privadas transnacionales.
Si hace 20 años tenía sentido hablar de cibercultura, de ciberpolítica –ya que el prefijo “cyber” añadía algo específico que constituía un escenario para sus propias problematizaciones–, hoy esas fronteras son fluidas o inexistentes, ya que son raras las actividades que no son atravesadas por un proceso de informatización digital-cibernética. Nos encontramos, por tanto, en un escenario completamente diferente al de mediados de los años 90 y principios de los 2000.
Hasta gran parte de la primera década de la década de 2000, llevamos a cabo investigaciones en humanidades que eran capaces de mantenerse al día con los desarrollos más recientes en tecnologías digitales. En Brasil, observamos la constitución de un rico campo de investigaciones tecnopolíticas, buscando abarcar tanto las dimensiones sociopolíticas, económicas y culturales que permearon la creación y la génesis tecnológica, como también aspectos relacionados con las transformaciones del mundo social, político, económico y cultural resultantes de nuevos modos de composición y asociación con las tecnologías. Durante este período, acompañamos el desarrollo legislativo sobre los principales marcos regulatorios para internet y las tecnologías digitales en Brasil, así como las transformaciones regulatorias en materia de derechos civiles y económicos, entre otros.
En estos 20 años, hemos visto florecer en Brasil un ambiente académico extremadamente diverso y con larga capilaridad institucional en diferentes áreas disciplinarias. En las áreas de comunicación, educación, antropología, ciencias políticas, sociología, psicología, artes, historia, letras, filosofía, derecho, ciencias de la información y otras (para quedarnos en el campo de las humanidades), todos los principales congresos científicos disciplinarios vieron la creación de grupos de trabajo específicos y redes de investigación dedicados a reflexionar sobre las transformaciones de una sociedad cada vez más atravesada por las tecnologías de la información y la comunicación digital. Además de las grandes áreas de conocimiento, surgieron nuevas redes de investigación interdisciplinarias, con congresos científicos propios, que paulatinamente se transformaron en nuevas asociaciones científicas, sin olvidar el surgimiento de nuevos programas de posgrado y líneas de investigación donde las tecnologías digitales aparecen como elemento articulador. elemento de las vías de investigación. Reporto brevemente esta trayectoria, sin haber realizado todavía un estudio detallado (esta es una tarea en curso), pero me atrevo a decir que en Brasil tenemos un ecosistema académico-científico fructífero en las humanidades dedicado a investigar, en sus diversas dimensiones, vida mediada por tecnologías digitales.
La primera década del siglo XXI fue un período de mucha experimentación, tanto en el entorno de investigación académica como en las prácticas de grupos activistas y de movimientos sociales. En particular, albergábamos la idea de que la digitalización e Internet podrían contribuir a transformaciones institucionales hacia una democracia más profunda: experimentos de democracia directa y participación distribuida, ciberdemocracias, formas más avanzadas de control ciudadano sobre el Estado y sobre las corporaciones; economías colaborativas y formas más distributivas de producción y consumo; políticas de acceso a datos e información; regímenes no propietarios de producción de conocimiento, nuevas formas de colaboración entre científicos profesionales y aficionados, etc.
En definitiva, existía un universo de investigaciones y prácticas sociales en las que la innovación social e institucional estaba guiada por un horizonte más solidario, emancipador e internacionalista. En esa época se incorporó el desarrollo y apropiación de las tecnologías digitales (“embeded”) en prácticas socioculturales e institucionales que no estaban exclusivamente dominadas por normas y racionalidades de maximización capitalista. Las tecnologías digitales e Internet, en particular, fueron portadoras de modos de composición sociotécnica más abiertos a la experimentación social y política.
Evidentemente, este período estuvo marcado por importantes disputas contra los poderes fácticos: las fuerzas oligárquicas que organizan el funcionamiento del Estado, los aparatos de seguridad nacional y las corporaciones industriales que estaban amenazadas por dinámicas socioeconómicas emergentes y prácticas políticas potencialmente disruptivas.
Durante este mismo período, asistimos a un proceso acelerado de creciente concentración económica y corporativa de empresas que operan en Internet o que crean productos y servicios relacionados con la economía de la información. Hoy en día, un pequeño núcleo de unas pocas empresas domina casi toda la economía digital. La concentración es tal que hace que los oligopolios industriales y de medios de comunicación del siglo XX parezcan un mercado diversificado.
También verificamos la creciente interconexión entre los procesos de digitalización y financiarización de la economía. Como una serpiente de dos cabezas que se alimenta mutuamente, el capitalismo financiero y las grandes corporaciones tecnológicas han producido un entorno que se refuerza mutuamente, capaz de acelerar y controlar la innovación tecnológica, ocupar posiciones estratégicas en el mercado, dictar el ritmo de la innovación y tratar de controlar la trayectorias y linajes del desarrollo tecnológico.
En este escenario, vivimos tras la innovación tecnológica impulsada por las grandes corporaciones en este arreglo sector financiero-big-techs-militarización-geopolítica, reactualización de las formas económicas extractivas y neocoloniales descritas actualmente bajo diferentes nomenclaturas: monocultivo tecnocientífico, colonialismo de datos, capitalismo de vigilancia, etc.
La llegada y la adopción de nuevos dispositivos (artefactos o softwares) se consideran hechos consumados. Se trata simplemente de encontrar las “buenas formas” de uso que nos quedan. Basta mirar lo difícil que es imaginar otros futuros tecnológicos para una mayor automatización. La llamada Cuarta Revolución Industrial se presenta comúnmente como sinónimo de la “eliminación” de millones de personas. ¿Menos trabajo para quién? ¿Menos riqueza para quién? ¿No hemos escuchado esta historia antes? ¿Por qué este proceso todavía parece inexorable? ¿No podríamos imaginar y practicar otros diseños tecnológicos de automatización cuyos resultados fueran diferentes en la organización del trabajo?
Un caso similar ocurre con el debate actual sobre la regulación de las plataformas de redes sociales corporativas. Incapaces de afrontar el problema en su complejidad, dada la asimetría del poder, nos limitamos a intentar regular sus efectos siempre tardíamente, ya que la velocidad de transformación de las tecnologías que se han vuelto omnipresentes en nuestras vidas es infinitamente mayor que el ritmo de nuestra instituciones.
En esta carrera, si no somos capaces de asumir radicalmente el control democrático sobre la génesis de las tecnologías que utilizamos, sobre qué tecnologías queremos y cómo podemos controlar sus condiciones de aplicación, siempre nos quedaremos atrás y en desventaja.
¡Este es el campo de la tecnopolítica! Por eso hablamos provocativamente de Tecnoceno para designar el período geohistórico en el que vivimos: cuando atribuimos a las tecnologías el dominio o la primacía de agencia sobre nuestras vidas, despolitizando su génesis y naturalizando su existencia. Es en este sentido que algunos autores tratan la creciente tecnificación como un nuevo entorno. En este caso, no se trata de la superación crítica latouriana de la división moderna entre cultura y naturaleza, sino más bien de un proyecto político difuso de esencialización de la técnica como una segunda naturaleza.
El aparente éxito de ChatGPT es performativo en varios sentidos. Seguimos una carrera corporativa y geopolítica por el liderazgo en modelos de inteligencia artificial. En el campo de la innovación tecnológica, la velocidad es un vector fundamental de la disputa, ya sea porque está inmersa en ciclos de financiarización, o porque adelantarse en la definición de una técnica aumenta las posibilidades de que esa técnica se convierta en el estándar adoptado por las tecnologías siguientes. Los efectos económicos y políticos de la estandarización tecnológica son bien conocidos y hoy, con la posibilidad de escalabilidad digital a nivel planetario, el dominio sobre un estándar tecnológico confiere mucho poder político.
En el ámbito de la investigación científica, esta carrera puede tener efectos siniestros de los que poco se habla. Como la investigación tecnocientífica depende cada vez más de inversiones privadas en la búsqueda de innovación rentable, o de recursos públicos cuya lógica de inversión está guiada por la disputa intercapitalista, el éxito de una tecnología puede reorientar líneas de investigación, silenciando o matando otras trayectorias de investigación tecnológica que se vuelven menos importante. En la base de ChatGPT hay años de investigación de PNL (natural language processing) sobre varios modelos en lingüística computacional. ¿Cómo afectará el “éxito” de un modelo de inteligencia artificial específico (basado en LLM) a la investigación científica y a las posibles vías de desarrollo tecnológico para los modelos de IA?
Otro ejemplo impactante ocurre en las interacciones entre la educación y las tecnologías digitales. La pandemia de Covid-19 aceleró un proceso que ya estaba en marcha, en el que las grandes corporaciones de TI supieron aprovechar un entorno de fragilidad institucional y falta de financiación de la ciencia y la educación en Brasil. Ante la urgencia de ampliar rápidamente la adopción de tecnologías digitales en la educación, la mayoría de los departamentos de educación estatales y muchas universidades públicas han adoptado infraestructuras y servicios controlados por big techs (principalmente Google, Microsoft y Amazon). No es exagerado decir que en la era del capitalismo informacional nuestra dependencia tecnológica actualiza la recolonización desde diferentes perspectivas: cognitiva-epistemológica, cultural, energética, económica y política.
Lo digital como ambiente: los conflictos tecnopolíticos como luchas cosmotécnicas
En un escenario de inmensa asimetría tecnológica y económica, ¿cómo podemos generar investigaciones con capacidad de dañar el poder? ¿Cómo podemos crear alternativas tecnológicas capaces de ofrecer rutas de bifurcación frente al modelo tecnocientífico dominante? ¿Cómo podemos competir por la producción de conocimiento respaldado por big data y en inteligencia artificial, cuando la concentración de enormes bases de datos es un requisito para la formación y aplicación de la inteligencia artificial, cuya capacidad computacional es hoy un privilegio de unos pocos actores, de algunas grandes corporaciones y de algunos Estados?
La historia de la informática ha tenido momentos en los que la capacidad de uso creativo de las computadoras se desbordó fuera de los centros verticales de control. La llamada revolución microelectrónica y la producción de computadoras asequibles para algunos individuos privilegiados, crearon una capacidad distribuida para el poder computacional, expandiendo radicalmente los procesos de innovación de punta, eliminando la exclusividad de los grandes laboratorios militares, corporativos o universitarios. De manera similar, los primeros años de la Internet comercial (década de 1990 hasta la primera década de 2000) ofrecieron dinámicas de interacción y colaboración fuera de los circuitos dominados por las fuerzas de la mercantilización y la militarización. Pocos lo recuerdan, pero el espacio de navegación virtual fue designado DMZ (zona desmilitarizada, en inglés), identificando claramente el origen (militar) y su apertura para uso civil-comercial.
Ahora que la informatización digital-cibernética se ha convertido en un ambiente –una presencia ubicua e inmanente– para casi toda la vida, necesitamos activar otras imaginaciones tecnológicas y aliarnos con prácticas tecnológicas que combinen un tanto de escape (rechazo, éxodo y sustracción) y un tanto de bifurcación. Muchas de ellas ya las practican quienes históricamente resisten a las fuerzas coloniales-capitalistas.
Estamos en el momento de una inflexión urgente de la investigación y del activismo en el campo de los derechos digitales hacia los conflictos de la tierra, luchas que confrontan la cosmovisión del progresismo, la mercantilización y el privilegio antropocéntrico colonial-capitalista que convierte la vida humana y no humana en recursos para ser explorados. Son muchas las iniciativas que recuperan de las tecnologías computacionales las potencialidades (cognitivas, culturales y políticas) que inauguran, buscando reterritorializar y encarnar sus significados, resistiendo así a las fuerzas de abstracción y extracción que codifican y transforman el mundo en materia mercantilizable. Son expresiones de luchas cosmotécnicas, confluencias que bifurcan los vectores que sustentan el Antropo-Capitaloceno, en el que encontramos prácticas de una tecnopolítica de lo Común, decolonial, antirracista, antisexista o anticapitalista.
El poder de la escalabilidad realizado a través del big data y de la inteligencia artificial depende de una capacidad de abstracción homogeneizadora para la construcción de patrones estadísticos. Es una forma de simplificación (reducción de mundos) análoga a la que encontramos en el plantation colonial. Es un tipo de operación que puede resultar eficiente para realizar algunas tareas, pero tiene una aplicación limitada. Debemos estar atentos a su modelo de eficiencia, ya que generalmente perpetúa y profundiza la asimetría de los poderes constituidos. El universo de datos que constituye la base para el entrenamiento del modelo, así como las opciones para construir el modelo estadístico, siempre será un reflejo de una determinada configuración del mundo. El problema no es sólo una cuestión de sesgo o precisión, sino más bien del fortalecimiento de un régimen de verdad algorítmica que apunta a legitimar la reproducción de las desigualdades existentes.
Desde la perspectiva de la tecnopolítica terrena, activar experimentos sobre inteligencia artificial en la educación, por ejemplo, implica una alianza con educadores y estudiantes para crear inteligencia artificial que expanda y fortalezca su capacidad de acción colectiva autónoma. Pensar en salud digitalizada significa crear las condiciones para que los trabajadores y ciudadanos del Sistema Único de Salud brasileño puedan volver a involucrar las tecnologías en sus prácticas de promoción de la salud como procomún. Reubicar las tecnologías digitales entre las poblaciones indígenas significa, en primer lugar, pensar que las tecnologías deben promover la defensa de la vida, la garantía de la tierra y las condiciones necesarias para que existan sus formas de vida. Pensar en tecnologías que promuevan la seguridad colectiva significa enfrentar la cultura de seguridad, militarista y carcelaria que alimenta el genocidio de la población negra.
Sin la participación de quienes se ven directamente afectados por la permanente actualización de los dispositivos de explotación y de dominación, las reivindicaciones sobre los derechos digitales corren el riesgo de quedar restringidas a los problemas enunciados y diagnosticados por quienes diseñan e implementan las tecnologías.
Como alternativa al modelo homogeneizador de escalabilidad, ¿cómo podríamos realizar otros modelos de eficiencia social basados en la proliferación de diferencias dentro del sistema? ¿Y si en lugar de la simplificación ecológica de plantation informática, fuéramos capaces de crear otras formas de colaboración en la producción de conocimiento tecnocientífico, que promuevan alianzas que amplifiquen y sostengan mundos más diversos? Un requisito fundamental para que esto ocurra es la capacidad de autodeterminación (situada, colectiva y democrática) sobre las infraestructuras de nuestras vidas tecnomediadas. En otras palabras, una soberanía tecnológica relacional sustentada en la interdependencia entre aquellos (humanos y no humanos) que producen una comunidad política. En lugar de soberanía inmune (las fronteras rígidas entre adentro y afuera, amigo-enemigo) y autosuficiencia (del individuo, de la nación, de la empresa), invertir en la producción del vínculo. La práctica de la diversidad cosmotécnica es también cosmopolítica.
La creación de acuerdos sociotécnicos a partir de estas luchas requiere que otras racionalidades, normatividades y visiones del mundo se inscriban en el diseño y en la implementación de la tecnología. Podemos practicar formas de escape y sustracción de los aspectos prácticos que ofrecen las tecnologías corporativas y al mismo tiempo crear acuerdos sociotécnicos que permitan la bifurcación de trayectorias tecnológicas a favor de otros mundos. Las soluciones tecnológicas que ofrecen las grandes empresas son “buenas” para el mundo al que apoyan. Si jugamos solamente en su campo, ya estamos perdidos. El argumento es simple y el problema es más complejo: no hay data centers sin tierra, sin agua, sin energía, ni gente. Quizás recuperar las tecnologías que perdimos signifique crear las tecnologías que nunca tuvimos.