Inteligencia artificial y emociones: Psicopolítica mediante datos y algoritmos (2015-2022)

Palabras clave: Psicopolítica, inteligencia artificial, emociones, datos, algoritmos

Resumen

Los sistemas de inteligencia artificial invadieron los espacios vitales y se orientan a reconfigurar las subjetividades, sus relaciones e identidades. En estos desarrollos se entrelazan dispositivos, datos y algoritmos que se alimentan de la información emocional entregada libremente por los usuarios en los escenarios digitales. Estas emociones se convirtieron en un capital utilizado por el neoliberalismo para el ejercicio de la psicopolítica, mediante dispositivos y estrategias suaves de manipulación, gobierno y modificación conductual. El artículo de revisión narrativa (2015-2022) se orienta a establecer la configuración de la psicopolítica ejercida sobre las emociones, mediante datos y algoritmos en los sistemas fuertes de inteligencia artificial. Los resultados temáticos indican que los datos emocionales transformados en inscripciones digitales son utilizados para el ejercicio del biopoder dirigido al interior (psique) de los individuos en una secuencia de manipulación, dominación, gobernanza, modificación de conducta y reconfiguración de las subjetividades en forma de máscaras y perfiles. Las conclusiones principales indican que los sistemas de inteligencia artificial trasegaron de mejorar aspectos de la vida, a la invasión de la interioridad de los individuos, la cual se convirtió en un capital explotable que posibilita el ejercicio del psicopoder, con el riesgo para los derechos humanos.

Descargas

La descarga de datos todavía no está disponible.

Biografía del autor/a

Hernando Barrios-Tao

PhD. en Teología. Director del Doctorado en Bioética en la Universidad Militar Nueva Granada, Bogotá, Colombia. E-mail: hernando.barrios@unimilitar.edu.co ORCID: https://orcid.org/0000-0002-8999-0586

Vianney Díaz Pérez

Doctor en Cultura y Educación en América Latina. Doctor en Educación. Docente Investigador en la Universidad Militar Nueva Granada, Bogotá, Colombia. E-mail: vianney.diaz@unimilitar.edu.co ORCID: https://orcid.org/0000-0002-6805-1045

Citas

Acevedo, Á., Chamorro, A., y Quintero, M. (2021). Ciudadanías movedizas: Ciberpolítica y los dilemas de Twitter como esfera pública/privada. Recerca. Revista de Pensament i Anàlisi, 26(2), 1-23. http://dx.doi.org/10.6035/recerca.5511

Arbeláez-Campillo, D. F., Villasmil, J. J., y Rojas-Bahamón, M. J. (2021). Inteligencia artificial y condición humana: ¿Entidades contrapuestas o fuerzas complementarias? Revista de Ciencias Sociales (Ve), XXVII(2), 502-513. https://doi.org/10.31876/rcs.v27i2.35937

Barrero, J. M. (2022). Psicopolítica, Big Data y Nudge. Acerca del dominio sin resistencia. Revista de la Facultad de Derecho y Ciencias Políticas, 52(136), 239-261. https://doi.org/10.18566/rfdcp.v52n136.a10

Barrios, H., Díaz, V., y Guerra, Y. (2020). Subjetividades e inteligencia artificial: Desafíos para ‘lo humano’. Veritas, (47), 81-107. http://dx.doi.org/10.4067/S0718-92732020000300081

Barrios-Tao, H. (2020). Desarrollo de experiencias emocionales en educación: Una contribución para la formación humanística. Civilizar: Ciencias Sociales y Humanas, 20(38), 119-135. https://doi.org/10.22518/jour.ccsh/2020.1a08

Beer, D. (2016). Metric power. Palgrave Macmillan

Benítez, R., Escudero, G., Kanaan, S., y Masip, D. (2014). Inteligencia artificial avanzada. Editorial UOC.

Broncano, F. (2006). Entre ingenieros y ciudadanos: Filosofía de la técnica para días de democracia. Montesinos.

Cardon, D. (2018). Con qué sueñan los algoritmos: Nuestra vida en el tiempo de los Big Data. Dado Ediciones.

Chanchí-Golondrino, G.-E., Hernández-Londoño, C.-E., y Ospina-Alarcón, M.-A. (2022). Aplicación de la computación afectiva en el análisis de la percepción de los asistentes a una feria de emprendimiento del SENA. Revista Científica, 44(2), 215-227. https://doi.org/10.14483/23448350.18971

Chapman, C., Fong, W., y Fiedler, T. (2021). Seduction as control: Gamification at Foursquare. Management Accounting Research, 53, 100765. https://doi.org/10.1016/j.mar.2021.100765

Cheney-Lippold, J. (2017). We are data: Algorithms and the making of our digital selves. University Press.

Colmenarejo, R. (2018). Ética aplicada a la gestión de datos masivos. Anales de la Cátedra Francisco Suárez, 52, 113-129. https://doi.org/10.30827/acfs.v52i0.6553

Cortina, A. (2013). El futuro de las humanidades. Revista Chilena de Literatura, (84), 207-217. https://revistaliteratura.uchile.cl/index.php/RCL/article/view/28515

Cotino, L. (2017). Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales. Dilemata, 9(24), 131-150. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000104

Cruz, M. (2017). De la biopolítica a la psicopolítica en el pensamiento social de Byung-Chul Han. Athenea Digital, 17(1), 187-203. https://doi.org/10.5565/rev/athenea.1782

Damasio, A. R. (1996). El error de Descartes. La razón de las emociones. Editorial Andrés Bello.

De Azevedo, R. C. (2022). Platformization of the skin? Biometric tattoos, dataism, and consumer datification. Cadernos EBAPE, 20(2), 207-217. https://doi.org/10.1590/1679-395120210032x

De la Quadra-Salcedo, T. (2018). Retos, riesgos y oportunidades de la sociedad digital. En T. De la Quadra-Salcedo y J. L. Piñar (Dirs.), Sociedad digital y derecho (pp. 21-85). Boletín Oficial del Estado.

Du Toit, C. W. (2014). Emotion and the affective turn: Towards an integration of cognition and affect in real life experience. HTS Toelogiese Studies / Theological Studies, 70(1), a2692. https://doi.org/10.4102/hts.v70i1.2692

Echeverría, J. (9 de diciembre de 2016). Ciberpersonas y cibermasas en las cibersociedades. Acento. https://acento.com.do/opinion/ciberpersonas-cibermasas-las-cibersociedades-8408618.html

Espinosa, L. (2018). La mano y el algoritmo. Una antropología compleja ante los desafíos tecnológicos del presente. Araucaria, 20(40), 109-136. https://philpapers.org/rec/ESPLMY-2

European Commission (2018). Algorithms and Human Rights. European Commission. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5

European Commission (2020). White Paper on Artificial Intelligence: A European approach to excellence and trust. European Commission. https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

Feldman, Z., y Sandoval, M. (2018). Metric power and the academic self: Neoliberalism, knowledge and resistance in the British university. TripleC, 16(1), 214-233. https://doi.org/10.31269/triplec.v16i1.899

Firdaus, S. N., Ding, C., y Sadeghian, A. (2021). Retweet prediction based on topic, emotion and personality. Online Social Networks and Media, 25, 100165. https://doi.org/10.1016/j.osnem.2021.100165

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., y Vayena, E. (2018). AI4People – An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28, 689-707. https://doi.org/10.1007/s11023-018-9482-5

Foucault, M. (2009). El yo minimalista y otras conversaciones. La Marca Editora.

Fukuyama, F. (2008). El fin del hombre: Consecuencias de la revolución biotecnológica. Ediciones B.

Galparsoro, J. I. (2017). Big data y Psicopolítica. Dilemata, 9(24), 25-43. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000099

Galparsoro, J. I., y Pérez, R. M. (2018). Revolución digital y psicopolítica algunas consideraciones críticas a partir de Byung-Chul Han, Foucault, Deleuze y Nietzsche. SCIO: Revista de Filosofía, (14), 251-275. https://doi.org/10.46583/scio_2018.14.493

García, A. (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la ‘estética de la desaparición’. STVDIVM. Revista de Humanidades, 16, 231-247.

García-Gutiérrez, J. (2017). ¿Cómo mejorar al ser humano? Un análisis de las tecnologías convergentes desde la antropología pedagógica. Pedagogia e Vita, 75, 94-105.

García, V., Guzmán, A., y Marín, R. D. (2017). El tránsito de las emociones en la acción colectiva. Revista Latinoamericana de Estudios sobre Cuerpos, Emociones y Sociedad, 8(22), 21-32. http://www.relaces.com.ar/index.php/relaces/article/view/93

Gomes, M. A., y Vargas, S. R. (2019). Da violência psicopolítica na contemporaneidade: uma análise das dimensões afetivas. Psicologia em Estudo, 24. https://doi.org/10.4025/psicolestud.v24i0.43021

Han, B.-C. (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Herder.

Harari, Y. N. (2016). Homo Deus. Breve historia del mañana. Debate.

Henríquez C. N., y Guzmán J. (2017). A review of sentiment analysis in Spanish. TECCIENCIA, 12(22), 35-48. http://dx.doi.org/10.18180/tecciencia.2017.22.5

Hil, R. K. (2016). What an algorithm is? Philosophy and Technology, 29(1), 35-59. https://doi.org/10.1007/s13347-014-0184-5

Huici, V., y Davila, A. (2016). Del Zoon Politikón al Zoon Elektronikón. Política y Sociedad, 53(3), 757-772. https://doi.org/10.5209/rev_POSO.2016.v53.n3.50776

Illou, E. (2007). Intimidades congeladas: Las emociones en el capitalismo. Katz Editores.

Kaplan, A., y Haenlein, M. (2019). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, 62(1), 15-25. https://doi.org/10.1016/j.bushor.2018.08.004

Lanier, J. (2018). Diez razones para borrar tus redes sociales de inmediato. Debate.

Lupton, D. (2016). The diverse domains of quantified selves: self-tracking modes and dataveillance. Economy and Society, 45(1), 101-122. http://dx.doi.org/10.1080/03085147.2016.1143726

Lupton, D., Mewburn, I., y Thomson, P. (Eds.) (2018). The digital academic: Critical perspectives on digital technologies in higher education. Routledge.

Magallón, R., y Campos, E. (2021). Redes sociales y polarización. Cuando el algoritmo amplifica las emociones humanas. Dossieres EsF, (42), 27-31.

Maita-Cruz, Y. M., Flores-Sotelo, W. S., Maita-Cruz, Y. A., y Cotrina-Aliaga, J. C. (2022). Inteligencia artificial en la gestión pública en tiempos de Covid-19. Revista de Ciencias Sociales (Ve), XXVIII(E-5), 331-330. https://doi.org/10.31876/rcs.v28i.38167

Marín-Casanova, J. A. (2018). La resemantización TIC de la cultura humanista. index.Comunicación, 8(1), 179-195. https://indexcomunicacion.es/index.php/indexcomunicacion/article/view/367

Melhado, F., y Rabot, J.-M. (2021). Análise de sentimentos: Da Psicométrica à Psicopolítica. Comunicação e Sociedade, 39, 101-118. https://doi.org/10.17231/comsoc.39(2021).2797

Moffatt, K., Todd, S., Barnoff, L., Pyne, J., Panitch, M., Parada, H., McLeod, S., y Young, N. H. (2018). Worry about professional education: Emotions and affect in the context of neoliberal change in postsecondary education. Emotion, Space and Society, 26, 9-15. https://doi.org/10.1016/j.emospa.2017.10.006

Monasterio, A. (2017). Ética algorítmica: Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos. Dilemata, (24), 185-217. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000107

Moore, P., y Robinson, A. (2016). The quantified self: What counts in the neoliberal workplace. New Media & Society, 18(11), 1-19. https://doi.org/10.1177/1461444815604328

Mora, L. J., Pineda, G. E., Londoño, D. A., y Vásquez, A. M. (2021). Formación humana: De la deshumanización tecnológica a la reconstrucción del cuerpo. Horizontes Pedagógicos, 23(1), 1-9. https://doi.org/10.33881/0123-8264.hop.23101

Nguyen, C. T. (2020). Echo chambers and epistemic bubbles. Episteme, 17(2), 141-161. https://doi.org/10.1017/epi.2018.32

Niño, J. I., Barquero, M., y García, E. (2017). Opinión pública e infoxicación en las redes: los fundamentos de la post-verdad. Vivat Academia, Revista de Comunicación, XX(139), 83-94. https://doi.org/10.15178/va.2017.139.83-94

Nussbaum, M. C. (2003). Upheavals of thought: The intelligence of emotions. Cambridge University Press. https://doi.org/10.1017/CBO9780511840715

Nussbaum, M. C. (2010). Sin fines de lucro. Por qué la democracia necesita de las humanidades. Katz Editores.

O’neil, C. (2018). Armas de destrucción matemática: Cómo el Big Data aumenta la desigualdad y amenaza la democracia. Capitán Swing.

Padios, J. M. (2017). Mining the mind: emotional extraction, productivity, and predictability in the twenty-first century. Cultural Studies, 31(2-3), 205-231. https://doi.org/10.1080/09502386.2017.1303426

Palmeiro, C. (2010). Escritas contemporâneas: Tecnologias e subjetividades. Viso Cadernos de Estética Aplicada, Revista Eletrônica de Estética, 4(8), 64-84. https://revistaviso.com.br/article/89

Pérez, P. J. (2021). Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en internet. RECERCA. Revista de Pensament i Anàlisi, 26(2), 1-23. http://dx.doi.org/10.6035/recerca.4661

Piñar, J. L. (2018). Identidad y persona en la sociedad digital. En T. De la Quadra-Salcedo y J. L. Piñar (Dirs.), Sociedad digital y derecho (pp. 95-111). Boletín Oficial del Estado.

Poma, A., y Gravante, T. (2017). Emociones, protesta y acción colectiva. Aposta. Revista de Ciencias Sociales, (74), 32-62. https://laoms.org/aposta-revista-ciencias-sociales-74/

Popay, J., Roberts, H., Sowden, A., Petticrew, M., Arai, L., Rodgers, M., y Britten, N. (2006). Guidance on the conduct of narrative synthesis in systematic reviews. ESRC.

Prinsloo, P. (2017). Fleeing from Frankenstein’s monster and meeting Kafka on the way: Algorithmic decision-making in higher education. E-Learning and Digital Media, 14(3), 138-163. https://doi.org/10.1177/2042753017731355

Saura, G., y Bolívar, A. (2019). Sujeto académico neoliberal: Cuantificado, digitalizado y bibliometrificado. REICE, 17(4), 9-26. https://doi.org/10.15366/reice2019.17.4.001

Segado-Boj, F., Díaz-Campo, J., y Navarro-Sierra, N. (2020). Emociones y difusión de noticias sobre el cambio climático en redes sociales. Revista Latina de Comunicación Social, (75), 245-269. https://www.doi.org/10.4185/RLCS-2020-1425

Serrano-Puche, J. (2016). Internet y emociones: nuevas tendencias en un campo de investigación emergente. Comunicar. Revista Científica de Comunicación y Educación, XXIV(46), 19-26. http://dx.doi.org/10.3916/C46-2016-02

Sibilia, P. (2006). El hombre postorgánico: Cuerpo, subjetividad y tecnologías digitales. Fondo de Cultura Económica de España.

Sibilia, P. (2008). La intimidad como espectáculo. Fondo de Cultura Económica de España.

Sibilia, P. (2012). La escuela en un mundo hiperconectado: ¿Redes en vez de muros? Revista Educación Y Pedagogía, 24(62), 135-144. https://revistas.udea.edu.co/index.php/revistaeyp/article/view/14199

Stone, P. (Dir.). (2016). Artificial Intelligence and life in 2030. Stanford University.

Susser, D., Roessler, B., y Nissenbaum, H. (2019). Technology, autonomy, and manipulation. Internet Policy Review, 8(2). https://doi.org/10.14763/2019.2.1410

Sutton, R. E., y Wheatley, K. F. (2003). Teachers' emotions and teaching: A review of the literature and directions for future research. Educational Psychology Review, 15(4), 327-358. https://doi.org/10.1023/A:1026131715856

Szlechter, D. F., y Zangaro, M. B. (2020). Big data y people analytics: Intimidad y emociones en la gestión de los recursos humanos. Innovar, 30(78), 75-87. https://doi.org/10.15446/innovar.v30n78.90306

Telefónica (2018). Manifiesto por un nuevo pacto digital: Una digitalización centrada en las personas. Telefónica, S.A. https://www.telefonica.com/es/wp-content/uploads/sites/4/2021/06/manifiesto_por_un_nuevo_pacto_digital.pdf

Vafeiadis, M., y Xiao, A. (2021). Fake news: How emotions, involvement, need for cognition and rebuttal evidence (story vs. informational) influence consumer reactions toward a targeted organization. Public Relations Review, 47(4), 102088. https://doi.org/10.1016/j.pubrev.2021.102088

Virilio, P. (1997). El Cibermundo, la política de lo peor. Ediciones Cátedra.

Zafra, J. M. (2018). Entrevista Jaron Lanier: “Tenemos que cambiar el modelo: Toda la economía se basa en manipular personas”. Telos. Telefónica Fundación, 109, 26-34. https://telos.fundaciontelefonica.com/wp-content/uploads/2018/09/telos-109-entrevista-portada-jaron-lanier.pdf

Zawacki-Richter, O., Marín, V. I., Bond, M., y Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, 16, 39. https://doi.org/10.1186/s41239-019-0171-0

Zembylas, M. (2007). Theory and methodology in researching emotions in education. International Journal of Research & Method in Education, 30(1), 57-72. https://doi.org/10.1080/17437270701207785

Zovko, M.-É., y Dillon, J. (2018). Humanism vs. competency: Traditional and contemporary models of education. Educational Philosophy and Theory, 50(6-7), 554-564. https://doi.org/10.1080/00131857.2017.1375757
Publicado
2024-02-19
Cómo citar
Barrios-Tao, H., & Díaz Pérez, V. (2024). Inteligencia artificial y emociones: Psicopolítica mediante datos y algoritmos (2015-2022). Revista De Ciencias Sociales, 30(1), 251-267. https://doi.org/10.31876/rcs.v30i1.41654
Sección
Artículos