La IA y el control de la subjetividad: El camino de la gobernanza biopolítica
-
-
[1] Universidad de Costa Rica
Universidad de Costa Rica
Hospital, Costa Rica
-
- Localización: Astrolabio: revista internacional de filosofía, ISSN-e 1699-7549, Nº. 30 (Política y Humanidad en la Era de la Inteligencia Artificial), 2025
- Idioma: español
- Títulos paralelos:
- AI and the control of subjectivity: The path of biopolitical governance
- L’IA e il controllo della soggettività: Il cammino della governance biopolitica
- A IA e o controle da subjetividade: O caminho da governança biopolítica
- La IA i el control de la subjectivitat: El camí de la governança biopolítica
- Enlaces
-
Resumen
- español
Uno de los motores de la historia ha sido el ejercicio del poder, como ya evidenció Foucault, el cual ha evolucionado del control de territorios al control de las subjetividades, entendido esto como biopolítica. Con la llegada de la tecnología y los avances de la IA, dicho control de la subjetividad ha asumido nuevos matices, desde la digitalización de datos. El objetivo de esta investigación es analizar la IA y el control de la subjetividad, como parte del camino de la gobernanza biopolítica, siguiendo el enfoque teórico de Foucault sobre un sistema social fundamentado en el control mediante el uso del poder. La metodología que se sigue es cualitativa, en cuanto a la utilización de fuentes académicas actuales sobre la influencia de la tecnología en los sistemas de control social y político. Como señala Lupton, esto se muestra en una “economía de los datos digitales” (Lupton, 2016, p. 116), que implica un detallado seguimiento de cada de uno de los individuos como parte de los nuevos sistemas de gobernanza. Los datos de cada sujeto son de gran interés político y monetario, pues a través de ellos se les puede limitar en su libertad e influir en sus decisiones. El uso de los big data por parte de ciertos grupos selectos (alianza gubernamental-empresarial), permite tener el control de las subjetividades para establecer las reglas del juego de las posibilidades humanas. En las conclusiones se dirime sobre la cuestión de si la IA está al servicio de la subjetividad humana, o, por el contrario, es la subjetividad humana quien está al servicio de la IA y sus programadores, anulando con ello un valor vital como es la autonomía del sujeto.
- català
Un dels motors de la història ha estat l'exercici del poder, com ja va evidenciar Foucault, que ha evolucionat del control de territoris al control de les subjectivitats, entès això com a biopolítica. Amb l'arribada de la tecnologia i els avenços de la IA, aquest control de la subjectivitat ha assumit nous matisos, des de la digitalització de dades. L'objectiu d'aquesta investigació és analitzar la IA i el control de la subjectivitat, com a part del camí de la governança biopolítica, seguint l'enfocament teòric de Foucault sobre un sistema social fonamentat al control mitjançant l'ús del poder. La metodologia que se segueix és qualitativa quant a la utilització de fonts acadèmiques actuals sobre la influència de la tecnologia en els sistemes de control social i polític. Com assenyala Lupton, això es mostra en una “economia de les dades digitals” (Lupton, 2016, p. 116), que implica un seguiment detallat de cada un dels individus com a part dels nous sistemes de governança. Les dades de cada subjecte són de gran interès polític i monetari, ja que a través d'ells se'ls pot limitar en la llibertat i influir en les decisions. L'ús dels big data per part de certs grups selectes (aliança governamental-empresarial) permet tenir el control de les subjectivitats per establir les regles del joc de les possibilitats humanes. A les conclusions es dirimeix sobre la qüestió de si la IA està al servei de la subjectivitat humana, o, al contrari, és la subjectivitat humana qui està al servei de la IA i els seus programadors, anul·lant amb això un valor vital com és l'autonomia del subjecte.
- English
One of the driving forces of history has been the exercise of power, as Foucault already demonstrated, which has evolved from the control of territories to the control of subjectivities, understood as biopolitics. With the arrival of technology and advances in AI, this control of subjectivity has taken on new nuances, starting with the digitization of data. The objective of this research is to analyze AI and the control of subjectivity as part of the path of biopolitical governance, following Foucault's theoretical approach to a social system based on control through the use of power. The methodology followed is qualitative, utilizing current academic sources on the influence of technology on systems of social and political control. As Lupton points out, this is reflected in a "digital data economy" (Lupton, 2016, p. 116), which involves detailed monitoring of each individual as part of the new governance systems. Each subject's data is of great political and monetary interest, as it can limit their freedom and influence their decisions. The use of big data by certain select groups (government-business alliances) allows them to control subjectivities to establish the rules of the game of human possibilities. The conclusions address the question of whether AI serves human subjectivity, or, on the contrary, whether human subjectivity serves AI and its programmers, thereby nullifying a vital value such as subject autonomy.
- italiano
Uno dei motori della storia è stato l’esercizio del potere, come già evidenziato da Foucault, il quale è evoluto dal controllo dei territori al controllo delle soggettività, inteso come biopolitica. Con l’arrivo della tecnologia e i progressi dell’IA, tale controllo della soggettività ha assunto nuove sfumature, a partire dalla digitalizzazione dei dati. L’obiettivo di questa ricerca è analizzare l’IA e il controllo della soggettività come parte del cammino della governance biopolitica, seguendo l’approccio teorico di Foucault su un sistema sociale fondato sul controllo mediante l’uso del potere. La metodologia adottata è qualitativa, per quanto riguarda l’utilizzo di fonti accademiche attuali sull’influenza della tecnologia nei sistemi di controllo sociale e politico. Come osserva Lupton, ciò si manifesta in una “economia dei dati digitali” (Lupton, 2016, p. 116), che implica un monitoraggio dettagliato di ciascun individuo come parte dei nuovi sistemi di governance. I dati di ogni soggetto sono di grande interesse politico e monetario, poiché attraverso di essi è possibile limitarne la libertà e influenzarne le decisioni. L’uso dei big data da parte di alcuni gruppi selezionati (alleanza governativa-imprenditoriale) consente di controllare le soggettività per stabilire le regole del gioco delle possibilità umane. Nelle conclusioni si discute la questione se l’IA sia al servizio della soggettività umana, o se, al contrario, sia la soggettività umana a essere al servizio dell’IA e dei suoi programmatori, annullando così un valore vitale quale è l’autonomia del soggetto.
- português
Um dos motores da história tem sido o exercício do poder, como já evidenciou Foucault, o qual evoluiu do controle de territórios para o controle das subjetividades, entendido isto como biopolítica. Com a chegada da tecnologia e os avanços da IA, esse controle da subjetividade assumiu novos matizes, desde a digitalização dos dados. O objetivo desta investigação é analisar a IA e o controle da subjetividade como parte do caminho da governança biopolítica, seguindo a abordagem teórica de Foucault sobre um sistema social fundamentado no controle mediante o uso do poder. A metodologia seguida é qualitativa, quanto à utilização de fontes acadêmicas atuais sobre a influência da tecnologia nos sistemas de controle social e político. Como assinala Lupton, isso se expressa numa “economia dos dados digitais” (Lupton, 2016, p. 116), que implica um acompanhamento detalhado de cada um dos indivíduos como parte dos novos sistemas de governança. Os dados de cada sujeito são de grande interesse político e monetário, pois através deles é possível limitar sua liberdade e influenciar suas decisões. O uso dos big data por parte de certos grupos seletos (aliança governamental-empresarial) permite ter o controle das subjetividades para estabelecer as regras do jogo das possibilidades humanas. Nas conclusões, discute-se a questão de se a IA está a serviço da subjetividade humana ou, ao contrário, se é a subjetividade humana que está a serviço da IA e de seus programadores, anulando assim um valor vital como é a autonomia do sujeito.
- español
