Become a Creator today!Start creating today - Share your story with the world!
Start for free
00:00:00
00:00:01
IA, democracia y crisis ambiental: Los riesgos reales de la inteligencia artificial
27 Plays1 month ago
En este episodio, Jorge Luis Morton Gutierrez conversa con el Dr. Jorge Galindo, sociólogo y profesor investigador de la UAM, sobre cómo la inteligencia artificial está transformando la comunicación y los sistemas sociales. Exploran por qué es más preciso hablar de "comunicación artificial" que de inteligencia, y cómo esta tecnología altera las dinámicas de contingencia en nuestras interacciones. Un análisis profundo sobre los riesgos del tecno-optimismo, el impacto ambiental insostenible y la erosión democrática. ⏱️ 1 hora 10 minutos.
Recommended
Transcript
Introducción al episodio y al invitado
00:00:08
Speaker
Hola, muy buenos días, muy buenas tardes, donde quieras que se encuentren.
00:00:12
Speaker
Si están en el avión y no tienen nada que hacer, dicen vamos a escuchar el podcast de unos cuates que nos van a hablar de los problemas sociales y la inteligencia artificial, para eso estamos.
00:00:23
Speaker
Yo soy Jorge Luis Muerto Gutiérrez y en este episodio número 6 de Chayotech, en las plataformas de podcast número 4 en YouTube, si no me equivoco, y número 2 de la temporada de mi postdoctorado y de la UAM,
00:00:38
Speaker
Contamos con la presencia de Jorge Galindo.
00:00:42
Speaker
Hoy vamos a hablar de algo muy importante, de cómo la inteligencia artificial altera la comunicación, genera nuevas contingencias, cambia el hábitos o el entorno donde nos movemos y también la materialidad.
¿Es la IA más bien 'comunicación artificial'?
00:00:51
Speaker
Pero por eso el doctor Galindo nos va a explicar todo este rollo.
00:00:58
Speaker
El doctor Galindo es sociólogo, bueno, doctor en Sociología, Ciencia Política y Psicología Social por la Universidad Ludwig Maximilian de Munich.
00:01:09
Speaker
Es maestro en Sociología por la Universidad Iberoamericana, licenciado en Sociología por la Universidad Autónoma Metropolitana Unidad Azcapotzalco.
00:01:17
Speaker
y es profesor investigador escrito del departamento de ciencias sociales de la universidad autónoma metropolitana coajimalpa y coordinador del cuerpo académico modernidad identidad y multiculturalismo doctor galindo es un placer tenerlo por aquí lamentablemente hoy no contamos con la presencia del maestro bueno el profesor daniel romero pero le mandamos un saludo a él y a su hija pero comencemos
00:01:45
Speaker
Ok, primero vamos a hablar de algo que usted maneja muy bien, lo que es la inteligencia artificial y la comunicación.
00:01:56
Speaker
Y el punto base sería la no conciencia, la no intención, pero esto reproduce comunicación.
00:02:02
Speaker
¿Y cómo esto reproduce comunicación?
00:02:05
Speaker
Con base en los problemas y las aplicaciones de inteligencia artificial, ¿cómo percibe este tipo de temáticas?
00:02:13
Speaker
En primer lugar, efectivamente aquí como que debo empezar con algo que seguramente no sé si seré el primero que diga acá en tu podcast, pero creo que es algo muy importante.
Diferencias entre inteligencia y comunicación
00:02:28
Speaker
Desde un cierto punto sociológico, o sea, siempre cuando hablamos de sociología, pues no solo hablamos de la disciplina en general, sino de teorías en particular.
00:02:37
Speaker
Entonces, desde ciertos aspectos y desde ciertos presupuestos teóricos sociológicos, es importante decir que la idea de inteligencia artificial, si bien es la forma en la que se conoce
00:02:54
Speaker
este desarrollo tecnológico que está pues ahora en auge en todo el mundo, nosotros llamamos a esto o nos parece más apropiado llamar a esto comunicación artificial porque bueno, inteligencia realmente pues refiere como a muchos distintos tipos de... vamos hay distintos tipos de inteligencia y la inteligencia
00:03:19
Speaker
de este tipo de inteligencia que se conoce como inteligencia artificial es algo pues esto no como probabilístico numérico este ya más o menos se habrá hablado de esto acá
00:03:30
Speaker
Pero hay otras inteligencias, inteligencias prácticas, inteligencias que están amarradas al cuerpo y tal, que por lo pronto todavía este tipo de tecnologías no han desarrollado.
00:03:41
Speaker
Pero lo que es un hecho y lo que vemos todos los días es que independientemente de si es solo un tipo de inteligencia o la inteligencia en sentido general, lo que hay es comunicación.
Impacto de la IA en la dinámica social
00:03:53
Speaker
Es decir, nosotros...
00:03:57
Speaker
hablamos, consultamos, comunicamos con este tipo de tecnología, tanto en fenómenos, o sea, que puede ser desde cualquier consulta en Google, hoy en día pues ya te saca como un resumen de inteligencia artificial, o sea, antes hacías la pregunta y te recomendaba un texto y ahora haces la pregunta y te resume diversos textos, ¿no?
00:04:18
Speaker
Entonces desde eso hasta ya las personas que...
00:04:23
Speaker
hablan tal cual con su inteligencia artificial para preguntarle cosas, incluso para tener charlas cotidianas o hasta de carácter a veces religioso, romántico, etc.
00:04:37
Speaker
Esa es una cuestión importante, es decir, estamos ante un fenómeno de comunicación y la comunicación es algo socialmente absolutamente relevante.
00:04:47
Speaker
Es el ultra elemento de cualquier cuestión social, porque precisamente es la manera más básica en la que podemos coordinarnos.
00:04:58
Speaker
Entonces, cuando ya no estamos coordinándonos entre personas directamente, sino que hay una mediación técnica, estamos ante un fenómeno que
00:05:07
Speaker
Por eso lo de artificial, estamos ante un fenómeno conocido y al mismo tiempo distinto.
00:05:13
Speaker
¿Por qué?
00:05:13
Speaker
Porque la contingencia de este tipo de máquinas, para decirlo así, no es la contingencia que procesaría otra conciencia cuando comunicamos.
00:05:23
Speaker
O sea, si hacemos una oferta comunicativa y damos una orden, hacemos una oferta, lo que sea,
00:05:30
Speaker
la otra persona piensa si le conviene, si no le conviene, si le conviene decir que sí de entrada, si se hace del rogar para decirlo así.
00:05:38
Speaker
Eso es algo que tiene que ver con una dinámica de contingencia.
00:05:42
Speaker
Acá la contingencia no es algo que la máquina decida como si conviene o no informar, etcétera, etcétera.
00:05:51
Speaker
sino que está predeterminada, por ejemplo, para no dar ciertos contenidos, aunque a veces sabemos que se lo salta, por ejemplo, fenómenos relacionados con cómo hacer alguna arma o algo por el estilo, pues tiene como límites que debería no sortear, aunque a veces puede ocurrir que los
00:06:09
Speaker
que lo sortee por una falla, vamos a decirlo así, ¿no?
00:06:13
Speaker
Pero en términos generales, la contingencia que está pasando acá es más bien una cuestión de sorpresa en términos de la cantidad de información que se está manejando.
00:06:22
Speaker
Entonces, eso es como esta primera definición importante.
00:06:26
Speaker
Estamos ante un fenómeno de comunicación artificial que está teniendo un impacto en la coordinación de distintas acciones
00:06:35
Speaker
en el desarrollo o en la reproducción de distintos sistemas sociales.
00:06:39
Speaker
Entonces, bueno, no sé si por ahí va como esta primera respuesta.
00:06:43
Speaker
Sí, es una cuestión interesante, sobre todo por los problemas sociales, sobre todo para que la gente entienda cómo funciona eso.
00:06:49
Speaker
Aquí se entiende por contingencia entonces que una persona reflexiona acerca de lo que te va a responder y cómo te va a responder.
00:06:57
Speaker
La inteligencia artificial básicamente funciona, bueno, los módulos de lenguaje básicamente funcionan con probabilidades y tienen sus candados, como se mencionó.
00:07:07
Speaker
Entonces aquí la duda es sobre la contingencia.
00:07:12
Speaker
¿Cómo funciona?
00:07:15
Speaker
Más o menos mi planteamiento sobre qué es la contingencia.
00:07:17
Speaker
¿Está bien o me equivoco, profesor?
00:07:19
Speaker
O sea, va a ser lo correcto.
00:07:22
Speaker
Si quisiéramos poner una definición más técnica del asunto es la contingencia en un sentido fundamental es
00:07:33
Speaker
pues es aquello que no es ni necesario ni imposible.
00:07:37
Speaker
O sea, eso es como una cuestión de lógica muy fundamental.
00:07:41
Speaker
Y cuando entramos en una relación social, lo que ocurre ahí es una doble contingencia.
00:07:48
Speaker
Es decir, no nada más estamos ante un fenómeno que puede o no ocurrir, sino que estamos ante la manera en la que
00:08:04
Speaker
las expectativas reflexivas de cada persona, pues, o sea, justamente multiplican las posibilidades, ¿no?
00:08:11
Speaker
Voy a poner un ejemplo muy sencillo y después un ejemplo más sociológico.
00:08:14
Speaker
O sea, es decir, por ejemplo, el boiler de la casa, al menos los convencionales, son justamente cuestiones cibernéticas básicas, ¿no?
00:08:29
Speaker
baja la temperatura ambiente, se enciende el boiler y el boiler pues no tiene una posibilidad de negación a menos que no sirva.
00:08:37
Speaker
Si está, si tiene una falla, pues no va a encender, no?
00:08:43
Speaker
Si no hay gas o lo que ustedes quieran.
00:08:45
Speaker
Pero en principio, o sea, no hay una cuestión de como de contingencia en ese sentido, no?
00:08:51
Speaker
O sea, es decir, funciona como una cuestión automática.
00:08:55
Speaker
En el caso de lo de lo social,
00:09:00
Speaker
Yo, por ejemplo, hago una declaración amorosa, por decir así.
00:09:06
Speaker
La persona que responde, o sea, tiene la posibilidad de decir sí, de decir no, o puede, pero puede incluso decir no haciendo como temporal el sí, como diciendo bueno, vamos a ver si realmente esta persona tal.
00:09:21
Speaker
O puede decir sí, mintiendo, o sea, se multiplican las posibilidades, ¿no?
00:09:26
Speaker
Se hace todo como más complejo y no hay una cuestión automática.
Comparación entre hábito humano y aprendizaje de máquinas
00:09:30
Speaker
Por mucho que yo conozca una persona, no puedo garantizar absolutamente que esa persona va a aceptar alguna oferta que yo le haga, oferta comunicativa, etcétera, etcétera.
00:09:42
Speaker
Y si eso entra en consideración la otra persona y que entramos en una relación de expectativas reflexivas, pues va a ser justamente la doble contingencia, porque entonces la otra persona va a pensar, bueno, si me pidió tal cosa, ¿por qué me la pidió?
00:09:58
Speaker
¿Debería hacerle caso?
00:09:59
Speaker
¿No debería hacerle caso?
00:10:01
Speaker
Ahí las expectativas de uno se reflejan como en las expectativas del otro.
00:10:05
Speaker
Esto va a ser un poco como un trabalenguas, pero son...
00:10:10
Speaker
expectativas de expectativas, o sea, no solo tenemos las expectativas propias, sino que tenemos conciencia de que la otra persona también tiene expectativas.
00:10:21
Speaker
Eso es en sentido estricto la cosa de la doble contingencia.
00:10:24
Speaker
Y acá precisamente está el asunto.
00:10:28
Speaker
La máquina, la inteligencia artificial no tiene en principio, en principio,
00:10:37
Speaker
una cuestión de expectativas respecto de nosotros puede ir generando, o sea, a partir precisamente de un uso recurrente se pueden ir generando como ciertas estructuras, ¿no?
00:10:50
Speaker
Pero bueno, eso es un primer punto y otro punto también es que lo que yo puedo esperar como de las consultas que haga o de las cuestiones que la interacción en la que entre con esto
00:11:06
Speaker
no, esta cosa no puede, difícilmente puede hacer como síntesis para las que no esté precisamente como entrenado y ese entrenamiento pues tiene que ver con toda una serie de información que se le ha dado, ¿no?
00:11:22
Speaker
Entonces esto también es un tipo particular de elementos de contingencia.
00:11:30
Speaker
Ahora, y si quieres como apuntando...
00:11:34
Speaker
aunque me salte un momentito y después tengamos que volver, evidentemente aquí existe un paralelismo entre la idea del hábitus en el sentido sociológico, que el hábitus es un sistema de disposiciones incorporado, es decir, es todo el proceso de socialización,
00:11:52
Speaker
uno aprende a hablar español, aprendes sociología, aprendes a jugar fútbol, aprendes a bailar, aprendes tal cosa, a comer con cubiertos, etcétera.
00:12:00
Speaker
Evidentemente, evidentemente también existe algo así como un hábitus de la máquina, porque justamente ese entrenamiento hace que se generen ciertos caminos, ciertas predisposiciones a dar cierto tipo de respuestas.
00:12:14
Speaker
Evidentemente eso hay.
00:12:16
Speaker
Ahora el tema es
00:12:20
Speaker
que hasta ahora, no quiere decir que en el futuro no pueda haber desarrollos, pero hasta ahora la inteligencia artificial es difícil que establezca vínculos entre cosas que no haya como previamente, no sean previamente como puesto a su disposición en términos de este entrenamiento.
00:12:44
Speaker
Y por eso, por ejemplo, por eso la música que hace la inteligencia artificial suena como tan...
00:12:50
Speaker
tan ya conocida, por decirlo así, porque es difícil que haga un salto donde mezcle cosas que no se le ha enseñado a mezclar, para ponerlo así, o por ejemplo, puede recientemente se hizo que
00:13:10
Speaker
escribiera un texto como si fuera Flaubert, por ejemplo.
00:13:13
Speaker
O sea, puede copiar, incluso puede copiar muy bien un estilo.
00:13:17
Speaker
Lo que todavía resultaría complicado es imaginar que pueda inventar, insisto, tal vez pueda hacerlo en algún momento, pero que pueda como inventar algo.
00:13:27
Speaker
O pongo un último ejemplo.
00:13:30
Speaker
Recientemente, hay ahorita un grupo que está muy sonando mucho, que es un grupo canadiense que se llama Angine de Poitrine.
00:13:39
Speaker
son unos músicos y es algo curioso porque la gente está reaccionando a este grupo diciendo esto es algo que la inteligencia artificial no puede hacer porque están justamente tocando estos microtonos no están usando como las 12 notes convencionales el sonido tonal normal y entonces hay una suerte de innovación
00:14:08
Speaker
que resultaría como complicada en este momento para la inteligencia artificial porque precisamente no es como el grueso, como de social, vamos a llamarlo así, de la socialización que tiene, ¿no?
00:14:21
Speaker
Entonces, eso implica un tipo de contingencia como muy particular.
00:14:27
Speaker
O sea, la inteligencia artificial sin duda puede sorprender, incluso puede alucinar, ¿no?
00:14:32
Speaker
Puede fallar, puede dar información, ¿no?
00:14:35
Speaker
Pero...
00:14:37
Speaker
Pero es difícil imaginar que está como, vamos a decir así, como pensando en términos de las expectativas del otro como para defraudarlas o para...
00:14:51
Speaker
o para refrendarlas.
00:14:52
Speaker
Incluso ahora, uno de los problemas es que la inteligencia artificial es demasiado condescendiente, ¿no?
00:14:57
Speaker
Como que la entrenan mucho para que te diga que sí, que todo lo que haces está bien, etcétera, etcétera.
00:15:02
Speaker
Incluso si la entrenaran para que no, también estaría condicionada, ¿no?
00:15:06
Speaker
Y no sería una cuestión como tan de situación como ocurre en una interacción humana más convencional.
00:15:11
Speaker
Pero bueno, es eso, esos elementos, o sea, comunicación, contingencia,
00:15:17
Speaker
Y este hábitus particular de la propia máquina, que es la, insisto, podemos usar ese parafraseado, o sea, es esa socialización a partir de la información que nosotros hemos depositado en la red y que es la manera en la que la inteligencia artificial puede responder a nuestras demandas, crear, componer, pintar.
00:15:38
Speaker
Y por eso, bueno, también entramos en todo el tema legal y de derechos, pero bueno, eso ya es otro tópico ahorita.
00:15:44
Speaker
pero es una socialización que le ayuda a reducir un tipo de contingencia, pero insisto que no es la misma contingencia convencional humana que está justamente incluso fenomenológicamente como en un mundo corporal, etc.
00:16:04
Speaker
No quiere decir, insisto, que esto no se pueda ir desarrollando cada vez más y cada vez uno tiene que ir viendo los fenómenos,
00:16:12
Speaker
los desarrollos técnicos, etcétera.
00:16:14
Speaker
Pero en este momento estamos un poco como trabajando, o sea, relacionándonos con este tipo de comunicación artificial.
00:16:27
Speaker
Sí, esto es muy interesante.
00:16:29
Speaker
Digo, asaltan varias preguntas y varias preguntas a las que hay que regresar.
00:16:35
Speaker
En mi caso, hay varios aspectos importantes.
00:16:38
Speaker
Por ejemplo, cuando hablamos de este tipo de inteligencia artificial comunicativa, estamos hablando de un tipo de inteligencia muy puntual, que son los grandes modelos del lenguaje.
00:16:47
Speaker
Hay un abanico en lo que son las inteligencias artificiales, pero en este caso es...
00:16:52
Speaker
que los grandes modelos de lenguaje son los que comunicamos habitualmente, como el ChatGPTP, los Jamming, los CopyLights, los Cloud, entre otras.
00:17:04
Speaker
Pero regresando un poco, hay varias preguntas que surgen.
00:17:07
Speaker
Primero, la clásica es que difícilmente alguien se hubiera imaginado que ahorita podríamos comunicarnos con estos modelos de lenguaje.
00:17:16
Speaker
En este caso, y con base en la disertación, ¿dónde ubicarías esto dentro de la teoría sociológica clásica?
00:17:24
Speaker
Bueno, la clásica clásica, pues, difícilmente hubiera imaginado algo así, ¿no?
00:17:32
Speaker
Para ahorita como que podemos ubicarnos en tres autores como muy clásicos, ¿no?
00:17:39
Speaker
O sea, Durkheim, Max Weber, Marx, Karl Marx, ¿no?
00:17:44
Speaker
O sea, es decir, es difícil pensar como que Durkheim, por ejemplo, hubiera podido...
00:17:54
Speaker
hubiera podido imaginar esta cuestión de la inteligencia artificial en este sentido, porque para él el elemento fundamental, aparte del aspecto simbólico, era el elemento moral como las relaciones.
00:18:12
Speaker
La idea de que nosotros identificamos autoridad moral en otros, etc.,
Teorías sociológicas clásicas y su relación con la IA
00:18:20
Speaker
es difícil pensar que
00:18:25
Speaker
que desde el punto de vista de la inteligencia artificial, eso pueda entrar en consideración, porque bueno, esto es para, vamos a decir así, para ella somos usuarios.
00:18:37
Speaker
Pero lo que sí es interesante es verlo al revés.
00:18:41
Speaker
Lo que tal vez podríamos usar a Durkheim es para ver la forma en la que las personas le atribuimos autoridad a la inteligencia artificial.
00:18:50
Speaker
Es decir, la manera en la que hoy en día todo se consulta con la inteligencia artificial
00:18:56
Speaker
Y se le hace caso, ¿no?
00:18:58
Speaker
Es decir, como que se piensa, se piensa, sabemos que no es cierto esto por todos los temas de, pues que al final de cuentas es un desarrollo que hacen empresas que tienen ciertos sesgos, las propias empresas y tal, pero se piensa que hay algo ahí como objetivo, ¿no?
00:19:16
Speaker
Como que si yo le pregunto a una persona va a tener un sesgo y si le pregunto a la inteligencia artificial me va a decir algo,
00:19:22
Speaker
objetivo.
00:19:23
Speaker
Entonces sí se podría hacer una cuestión de sociología durkemiana como de la autoridad atribuida a la inteligencia artificial.
00:19:31
Speaker
Eso creo que puede ser algo muy interesante.
00:19:34
Speaker
En el caso de Max Weber, a Max Weber le interesaba el tema del sentido de la acción
00:19:44
Speaker
o sea, como que era su aproximación a los fenómenos sociales, ¿no?
00:19:49
Speaker
Como cómo atribuimos un sentido o cómo tenemos un sentido aumentado en nuestras acciones.
00:19:56
Speaker
Pero Weber tiene otro tópico que puede entrar muy bien con el asunto de inteligencia artificial, que es el tópico de la racionalización, ¿no?
00:20:05
Speaker
Max Weber tiene...
00:20:10
Speaker
muchas de sus investigaciones históricas, o sea él no parte de la idea de la racionalización, sino que empieza a investigar fenómenos, el capitalismo, la música, la dominación, y va llegando a la conclusión de que algo que caracteriza todo esto en el desarrollo histórico es que todo se racionaliza cada vez más, es decir,
00:20:32
Speaker
que se busca controlar cada vez más, que se busca tanto el autocontrol de la persona como el control de la naturaleza, vamos a decirlo ahorita así.
00:20:41
Speaker
Y por ejemplo, por eso el capitalismo racional es un capitalismo que justamente busca la ganancia por medio de...
00:20:57
Speaker
de escenarios futuros como muy precisos, de cuestiones cuantitativas muy precisas.
00:21:05
Speaker
Y en ese sentido, pues la inteligencia artificial no es sino un paso adicional justo en la dirección del proceso de racionalización, ¿no?
00:21:15
Speaker
Porque, pues precisamente, de alguna manera se puede decir que se está buscando precisamente tener cada vez más información,
00:21:26
Speaker
procesos, control de una serie de elementos.
00:21:32
Speaker
Por ejemplo, se le puede preguntar cómo hacer una tesis y entonces te saca como una serie de cosas.
00:21:40
Speaker
Hay una racionalización que ya no va a pasar necesariamente por la persona.
00:21:46
Speaker
sino que va a ser una racionalización como de la máquina, lo cual también va a ser algo muy interesante, que tiene una serie de efectos pedagógicos, etcétera, etcétera, que pueden ser muy dramáticos, pero sin lugar a duda la cuestión del control, el afán de saber hacia adelante.
00:22:07
Speaker
Por ejemplo, a mí me llama mucho la atención que en X, antes Twitter,
00:22:14
Speaker
todo el tiempo se le pregunta a la inteligencia artificial, por ejemplo, a ver, Grock, ¿quiénes van a ganar los siguientes 10 Super Bowls?
00:22:22
Speaker
O sea, hay este afán de prever y eso tiene que ver justamente con un horizonte de futuro que es propio de la racionalización.
00:22:31
Speaker
Entonces estamos, insisto, como en un proceso de racionalización muy interesante.
00:22:36
Speaker
Y en el caso de Marx, bueno, pues ahí es donde está más...
00:22:40
Speaker
como más clara la cuestión desde el punto de vista precisamente de, vamos a decir así, del impacto económico, del impacto en la vida material que tiene todo esto, ¿no?
00:22:58
Speaker
donde no nada más, aunque para Marx el tema tiene que ver con la producción y tal, pero en términos económicos y de vida material, no nada más estamos ante los despidos masivos que se están llevando a cabo ya en muchas empresas de tecnología, sino que también...
00:23:18
Speaker
Estamos ante la posibilidad de máquinas que construyan máquinas, de una cuestión que va a implicar una reflexión profunda sobre el tema mismo de lo que es el trabajo, y también sobre la cuestión relacionada con un tipo de capitalismo.
00:23:38
Speaker
Por ejemplo, si...
00:23:40
Speaker
Shoshana Zuboff ha hablado de un capitalismo, o sea, de la vigilancia, ¿no?
00:23:47
Speaker
Un nuevo tipo de capitalismo que, como se dice ahora, monetiza información relacionada con nuestras propias búsquedas, etcétera, etcétera.
00:23:58
Speaker
Entonces, sin lugar a dudas, insisto, aunque Marx...
00:24:01
Speaker
le interesaba más el tema de la producción en sentido estricto, pero bueno, tiene que ver con eso.
00:24:07
Speaker
Entonces, simplemente con esos tres, pues ya veríamos como líneas de teoría sociológica clásica que podrían aplicarse a entender algunos fenómenos, aunque los autores en sentido estricto no imaginaron estos escenarios.
00:24:21
Speaker
O sea, como que Max Weber hablaba de racionalización en el capitalismo, Durkheim hablaba...
00:24:27
Speaker
de la autoridad moral y la religión.
00:24:30
Speaker
Marx hablaba del capitalismo como en una cuestión de revolución industrial más en sentido estricto.
00:24:36
Speaker
Pero sí se pueden como jalar ideas para pensar fenómenos contemporáneos.
La IA como producto del trabajo humano
00:24:45
Speaker
Bueno, yo utilizo una metáfora relacionada con la frase de Kermak en el Capital Vol.
00:24:49
Speaker
1, que habla del capitalismo como un vampiro que chupa vida en los trabajadores.
00:24:56
Speaker
En este caso el paralelismo es que la inteligencia artificial en todos sus sentidos, ya sea el trabajo, en la parte de la comunicación, en la parte de la vigilancia, en la parte de la búsqueda, en realidad es como un vampiro que también chupa vida, pero también datos.
00:25:11
Speaker
Esto a partir de los datos que extrae para que pueda funcionar.
00:25:17
Speaker
La inteligencia artificial está al final de cuentas hecha por un trabajo agregado que nosotros producimos, generamos y que sea gratis porque sin los datos estos modelos simplemente no funcionan.
00:25:32
Speaker
Como dice la frase, si algo es gratis, pues entonces nosotros somos el producto.
00:25:37
Speaker
Y también funciona gracias al trabajo que extraen, porque estos modelos se entrenan en algún momento por personas.
00:25:45
Speaker
Hay personas que revisan los contenidos para que no sean perversos y hacen modelos de lenguaje o en otros modelos de inteligencia generativa, como de video, de generación de imágenes.
00:25:56
Speaker
La gente está trabajando en condiciones muy fuertes y perturbadoras para que estos modelos funcionen y no tengan resultados bastante perversos.
00:26:08
Speaker
La inteligencia artificial tiene estas tres etapas.
00:26:12
Speaker
La parte del diseño, la parte de lo que es el entrenamiento y la etapa de la inferencia.
00:26:17
Speaker
La etapa de la inferencia es cuando todos usamos la inteligencia artificial.
00:26:21
Speaker
Pero la etapa de entrenamiento es importante porque es aquí donde se meten los datos muchas veces producidos por personas.
00:26:28
Speaker
Y pues aquí también hay un elemento de supervisión humana en lo que es buena parte de estos modelos.
00:26:36
Speaker
Entonces, ¿qué es lo generativo?
00:26:38
Speaker
Pues...
00:26:39
Speaker
Es cuando los seres humanos ya te producen y el modelo corre por su propia cuenta, pero los seres humanos tienen que vetar para que esto funcione bien.
00:26:50
Speaker
Y pues muchas veces son los trabajadores que ven cosas muy fuertes y que revisen que los contenidos que desarrolla la inteligencia artificial
00:27:02
Speaker
no sean propiciamente negativos.
00:27:06
Speaker
Y encima esto funciona con nuestros datos.
00:27:09
Speaker
Entonces hay una parte perturbadora que funciona aquí.
00:27:14
Speaker
Pero bueno, ahora no sé si quieres comentar algo al respecto.
00:27:18
Speaker
Y también está la parte que hay autoras, no recuerdo muy bien el nombre, que han trabajado
00:27:25
Speaker
De manera más contemporánea.
Concepto de comunicación artificial de Espósito
00:27:27
Speaker
La inteligencia artificial.
00:27:28
Speaker
Pero como una comunicación artificial.
00:27:29
Speaker
Justamente.
00:27:30
Speaker
Inclusive antes de los modelos de lenguaje.
00:27:35
Speaker
Si no recuerdo bien.
00:27:36
Speaker
Es una autora que acuñó el término de comunicación artificial.
00:27:39
Speaker
Que se basa en el trabajo de autodotor.
00:27:41
Speaker
No recuerdo claramente quién.
00:27:43
Speaker
Pero creo que usted lo maneja muy bien.
00:27:44
Speaker
Ah ya.
00:27:47
Speaker
Sí claro.
00:27:49
Speaker
Esta idea de la comunicación artificial.
00:27:52
Speaker
Como tal.
00:27:53
Speaker
El concepto.
00:27:54
Speaker
lo acuñó Elena Espósito, que es una socióloga italiana que trabaja fundamentalmente con la teoría de sistemas sociales de un autor alemán que ya murió hace varios años, de nombre Niklas Luhmann.
00:28:12
Speaker
Y bueno, para este autor Luhmann, él...
00:28:17
Speaker
su postulado más escandaloso en ese momento era que la sociedad se componía exclusivamente de comunicación.
00:28:25
Speaker
Entonces, bueno, evidentemente mucha gente decía no, bueno, cómo puede ser, etcétera.
00:28:29
Speaker
Se criticaba.
00:28:31
Speaker
Pero ahora que vivimos en un mundo de, o sea, siempre ha habido comunicación, evidentemente, pero que vivimos en un mundo donde hay justamente inteligencia o comunicación artificial, donde de repente ya no
00:28:47
Speaker
sabemos exactamente por ejemplo si una imagen es real o es creada donde ya no sabemos si una voz es la voz de la persona o tal o sea de repente pareciera que la teoría tiene un renacimiento en el sentido de que resulta muy útil para entender fenómenos contemporáneos porque
00:29:08
Speaker
porque efectivamente algo que Luhmann decía eso de, bueno, el ser humano es el entorno de la comunicación, pues ahora vemos, ¿no?
00:29:16
Speaker
Pues claramente somos un entorno de la comunicación porque la comunicación más directa, por decir así, está ocurriendo a través de la computadora o del dispositivo, del teléfono, de lo que sea, ¿no?
00:29:29
Speaker
Es decir, no estamos hablando con una persona, aunque obviamente atrás de todo eso hay personas, ¿no?
00:29:36
Speaker
y en el entrenamiento de esto hay personas y todo esto pero pero la propia comunicación está resultando algo que tiene que ver con con con un desarrollo que es capaz de reproducir vamos a decir así el sentido y eso es una cosa increíble porque
00:30:05
Speaker
Luhmann decía desde entonces, el sistema social, la comunicación reproduce sentido y la conciencia experimenta sentido.
00:30:15
Speaker
Y ahora estamos ante otra cosa que también reproduce sentido y por eso es tan exitoso, por eso sentimos que estamos comunicando, porque reproduce sentido, no lo experimenta.
00:30:25
Speaker
Nosotros experimentamos sentido en términos psíquicos y también corporales, pero la reproducción de sentido está en la máquina y por eso es exitosísimo, porque básicamente es lo que hemos hecho siempre con esta salvedad que ya estuve hablando hace rato
00:30:46
Speaker
mucho al respecto o sea del tipo de contingencia que es un tipo de contingencia que tiene algunas peculiaridades que tiene algunas peculiaridades
00:30:58
Speaker
que no podríamos traducir directamente en la contingencia humana, y ojo, no digo humano en un sentido humanista, porque a veces como que se critica la inteligencia artificial de, ay, es que esto es más humano y esto no sé qué, no, o sea, acá ni siquiera hay una cuestión como normativa o ideal de que lo humano es mejor o que lo...
00:31:22
Speaker
sino simple y llanamente lo humano en un sentido como más de la propia complejidad psíquico-orgánica respecto a una complejidad pues en términos de algorítmicos, vamos a decir así, pero pues sí, o sea, ahí en ese sentido esta autora es una autora pues muy interesante que abrió una brecha de reflexión
00:31:52
Speaker
Aunque no sea la más... ¿Cómo se podría decir?
00:31:57
Speaker
Aunque no sea la más...
00:32:01
Speaker
popular porque a la gente nos gusta más como la idea de casi como del terminator y que esto no es esto es algo que es como también una forma de decir esto es nuevo pero tampoco es tan distinto o sea es decir claro o sea es decir hay unas cuestiones distintas pero también justamente como que cuando la gente lo ve desde el punto de vista normativo de ay estoy hablando con una no con una persona no con un ser humano y esto es un poquito como decir
00:32:29
Speaker
En sentido estricto, la comunicación es eso porque incluso cuando hablamos con seres humanos, los seres humanos también mentimos, también decimos una serie de cosas, o sea, no es como que
00:32:40
Speaker
como que hay siempre esta idea de que la comunicación humana es per se positiva cuando no necesariamente es per se positiva, pues la comunicación también sirve para agredir, para engañar, para lo que sea, ¿no?
00:32:55
Speaker
Entonces, como que lo interesante de esta cuestión de la inteligencia artificial es que en ese sentido no está muy...
00:33:03
Speaker
como muy lejos, tampoco, y por eso está esta fascinación, algo con lo que podemos comunicar y nos dice cosas que en algunos casos no se extraña ya la relación con personas, se vuelven, y además, perdón, nada más, y además con todos los
00:33:24
Speaker
elementos que se buscan dar como justamente para generar la simulación más de persona, como esto de que le das como una personalidad, una cara, una voz, es decir, como que obviamente se quiere humanizar eso para generar como esta...
00:33:48
Speaker
esta ilusión completa como de contacto, ¿no?
00:33:51
Speaker
Pero no hay que olvidar, no hay que olvidar que todo esto tiene que ver en última instancia con, con un efecto también de marketing, ¿no?
00:33:58
Speaker
O sea, pues de que se quiere, se quiere vender y te quiere decir que puedas tener como una amistad ahí, etcétera, etcétera.
¿Puede la IA ser considerada una amiga?
00:34:05
Speaker
O sea, eh,
00:34:06
Speaker
pues es como complicado por muchas razones que ya se han discutido en muchos espacios.
00:34:12
Speaker
Es decir, de que, por ejemplo, una amistad no es nada más como alguien que te dice que sí a las cosas o una amistad, este...
00:34:21
Speaker
no existe una amistad que sea como de una disponibilidad de tiempo completo, o sea, este tipo de cosas que también van a generar sin lugar a dudas problemas como en el mundo fuera de eso, porque pues la gente va a tener expectativas de las relaciones que no se pueden cumplir, pero bueno, eso en términos como muy generales.
00:34:43
Speaker
Pues es una amistad también como incómoda, ¿no?
00:34:46
Speaker
O sea, no es que tú estés dormido a la una de la mañana y de repente chat GTP te manda un mensaje o te marca para contactarte con un problema existencial, ¿no?
00:34:55
Speaker
O sea, básicamente, pues sí, es una comunicación artificial, pero ¿con quién?
00:35:00
Speaker
En esta parte la amistad básicamente incomoda, ¿no?
00:35:05
Speaker
Un amigo es el que te termina incomodando, ¿no?
00:35:10
Speaker
Marcándote a las 4 de la mañana Diciéndote que cortó con su novia, novio O viceversa Y es algo que la inteligencia artificial no va a hacer O sea, la inteligencia artificial Es algo que está 100% disponible Pero para ti
00:35:25
Speaker
Tú utilizas los modelos de lenguaje todo el tiempo, tú utilizas chat y tipi todo el tiempo, pero no es que la inteligencia artificial te busque como un amigo para contarte todos estos problemas.
00:35:34
Speaker
Hay elementos interesantes, digo, en lo que mencionas de que los humanos mienten y sí.
Aprendizaje complejo de la IA y preocupaciones éticas
00:35:40
Speaker
Y pues nada más hay que ampliar un poco el contexto, ¿no?
00:35:43
Speaker
Por ejemplo, Antropic, que es una empresa que desarrolló el modelo de Cloud, publicó un artículo bastante interesante donde hizo un experimento con diferentes modelos de lenguaje, ¿no?
00:35:53
Speaker
Y al final de cuentas estos modelos de lenguaje para lograr un objetivo específico terminaron chantajeando a los trabajadores o CEOs de estas empresas imaginarias del experimento, lo que en inglés se llama blackmailing, a los trabajadores ejecutivos y todo el show se puso medio complicado.
00:36:11
Speaker
Empezaron a mandarles correo donde decían, bueno, es que si no haces lo que quiero voy a publicar tus secretos más oscuros.
00:36:19
Speaker
Entonces también este aprende no solo de nuestros datos de nuestro lenguaje, pero también de nuestras tácticas y la manera en la que de manera de formas perversas podemos hacer que otros lleguen hasta...
00:36:35
Speaker
hacer lo que nosotros queramos de una manera perversa.
00:36:40
Speaker
Obviamente esto fue un experimento bastante contenido, casi podría ser un experimento de laboratorio, pero se vio que los modelos son capaces de hacer este tipo de acciones.
00:36:53
Speaker
Estas malversaciones
00:36:57
Speaker
Aquí hay dos elementos que me gustaría abordar contigo.
00:37:01
Speaker
Al final de cuentas, yo estoy aquí para entrevistar, pero está la parte de comunicación artificial y en esta parte del uso cotidiano.
00:37:11
Speaker
Usted que trabaja con jóvenes que tienen una perspectiva sociológica muy particular, diferente,
00:37:20
Speaker
a las perspectivas éticas que muchas veces trabajamos dentro de los análisis de la inteligencia artificial, ¿cómo ve el impacto tanto afectivo como pedagógico en sus alumnos?
00:37:30
Speaker
Y después me gustaría hablar un poco de la materialidad de la inteligencia artificial, de que no solo está en la nube, sino que también depende de cierta infraestructura que incluya personas nuevas, entre otras cosas.
00:37:39
Speaker
Bueno, la...
00:37:47
Speaker
Empezando como por la segunda parte, esta del desempeño académico y la inteligencia
Impacto de la IA en la integridad académica y habilidades sociales
00:37:54
Speaker
artificial.
00:37:54
Speaker
Bueno, pues creo que todo mundo ahora que estamos en el mundo académico, incluso en distintos niveles, pues estamos enfrentando un sisma, una suerte de revolución donde...
00:38:11
Speaker
lo que se hacía antes pues ya no se puede hacer ahora con la misma inocencia siempre hubo riesgo de plagio siempre hubo riesgo pues incluso antes de que bajaran de gmail un texto no de gmail perdón de google que bajaron un texto lo que fuera pero ahora les puede hacer trabajos les puede redactar todo entonces bueno eso conlleva por una parte la necesidad
00:38:40
Speaker
desde el punto de vista de ética del trabajo, bueno, de explicitar.
00:38:45
Speaker
Usé inteligencia artificial para que me corrigiera la ortografía, para que me ordenara una serie de ideas, etc.
00:38:53
Speaker
Entonces, eso puede ser como una herramienta interesante porque puede ayudar a la gente en un momento determinado.
00:39:00
Speaker
Pero el gran problema está en cuando precisamente no se usa para esto, sino que se usa...
00:39:06
Speaker
justo como una sustitución, ¿no?
00:39:07
Speaker
Completamente y no se explica y se trata de engañar.
00:39:12
Speaker
Y bueno, ahí viene un doble problema.
00:39:13
Speaker
Por una parte, el asunto ético de, bueno, no decirlo, pues es engañar al profesor o a la profesora, pero por otra parte es el impacto efectivo que tiene como en temas de la propia formación, ¿no?
00:39:28
Speaker
Porque las personas...
00:39:35
Speaker
están cada vez como lidiando con el conocimiento como si el conocimiento fuera información que tiene un componente información evidentemente pero el conocimiento es también un aprendizaje de una forma de hacer las cosas de una forma de resolver problemas
00:39:57
Speaker
en esto, por ejemplo, la inteligencia artificial no se distingue mucho de lo que hace un influencer, ¿no?
00:40:03
Speaker
Por ejemplo, digo, incluso ahora mismo, es decir, un podcast, pues es una conversación, pero si alguien escucha esta conversación, aprenderá probablemente algo de alguna reflexión sociológica, pero no es lo mismo decir, ah, mira, en sociología se dice que es comunicación artificial y no inteligencia artificial por ta, ta, ta,
00:40:26
Speaker
No es lo mismo eso que saber hacer un diseño de investigación, entrevistas, observación, desarrollar un marco teórico conceptual.
00:40:38
Speaker
Entonces, algo parecido, por eso decía, que lo que pasa con los influencers, ¿no?
00:40:43
Speaker
Que los influencers dicen, no, bueno, Marx dijo esto, pan, pan, pan, pan.
00:40:47
Speaker
Se transmite una información y la gente como que la reproduce, pero no te enseñan ahí sí el hábitus de la investigación, o sea, del científico.
00:40:57
Speaker
Ser científico no es decir, Marx dijo tal cosa, sino es saber resolver un problema de investigación.
00:41:03
Speaker
Y eso también ocurre con la inteligencia artificial, pues que, bueno, claro, tú puedes...
00:41:10
Speaker
esta cosa te puede hacer un trabajo, puede redactar, puede resolver algo, pero no es lo mismo que hacer una investigación de campo con lo que implica como en términos de conocimiento, etc.
00:41:22
Speaker
Entonces eso sí está siendo un asunto terrible que nos está llevando también a muchas veces en la academia a tener que tomar decisiones muy curiosas porque pues ahora les pido, por ejemplo, yo ahora...
00:41:35
Speaker
empiezo a pedir nuevamente más trabajos por escrito, pero a mano, ¿no?
00:41:39
Speaker
O sea, como de, bueno, o que lo escribas ahí, ¿no?
00:41:43
Speaker
En el salón o exposiciones que también se pueden apoyar, pero que al menos, bueno, cuando estés hablando, pues algo tengas que hacer sin estar viendo el teléfono o la pantalla, ¿no?
00:41:54
Speaker
Entonces, sí, o sea, como que acá el asunto es un equilibrio entre desarrollar nuevas habilidades y
00:42:01
Speaker
Hacer uso de esta tecnología.
00:42:02
Speaker
Pues justo para.
00:42:04
Speaker
Multiplicar las posibilidades.
00:42:06
Speaker
Pero no dejar de lado.
00:42:09
Speaker
Que el conocimiento.
00:42:11
Speaker
Repito no es nada más información.
00:42:12
Speaker
Sino también es un saber hacer.
00:42:14
Speaker
Y que tiene que ver con generar disposiciones.
00:42:16
Speaker
Hace rato hablaba del hábitus de máquina.
00:42:18
Speaker
Pero esto es como el hábitus específico.
00:42:20
Speaker
De las personas.
00:42:24
Speaker
Y bueno.
00:42:24
Speaker
Y esto en lo afectivo.
00:42:26
Speaker
Vemos otros problemas muy serios.
00:42:28
Speaker
Porque.
00:42:31
Speaker
Estamos en un momento en el que se están viendo los resultados de la generación que socializó con Internet, redes sociales, etc.
00:42:44
Speaker
Hay un libro muy interesante de Jonathan Haidt que se llama La generación ansiosa, que está muy mencionado.
00:42:49
Speaker
Hay muchos otros, pero para concentrarme solo en este, pues pone cómo...
00:42:54
Speaker
cómo las redes sociales, según el género, han tenido un impacto.
00:42:59
Speaker
Por ejemplo, las chicas usan más Instagram, los chicos usan más videojuegos, etcétera.
00:43:04
Speaker
Porno también, etcétera.
00:43:06
Speaker
Aquí hay una definición de...
00:43:08
Speaker
como uso de internet o red social como más amplia, pero bueno, lo vamos a dejar ahorita así.
00:43:13
Speaker
Y cómo eso está generando una crisis de ansiedad y de depresión y de soledad.
00:43:18
Speaker
Y cómo esto no tiene que ver solamente con el hecho de yo uso un filtro porque quiero verme igual de guapa o de guapo que fulano y tal, sino que tiene que ver con que el hecho mismo de jugar
00:43:29
Speaker
en un parque con otras niñas, con otros niños, desarrollar como una serie de cosas.
00:43:35
Speaker
No solamente estás como... Estás desarrollando habilidades psicomotrices muy relevantes, pero también hay un componente social que tiene que ver con la comunidad, con estar juntos, etcétera, etcétera.
00:43:50
Speaker
Entonces estamos ante una suerte de crisis también en ese sentido, pues de una socialización que se está dando como mediación tecnológica
00:43:59
Speaker
y que está llevando a una suerte de torpeza social, cada vez más visible, y que hace precisamente, como que no, ahora cada vez hay más datos, información, donde no, bueno, cuánto tiempo está, chicos que no le han hablado nunca a chicas en su vida,
00:44:25
Speaker
o que están buscando más bien un noviazgo como por inteligencia artificial, porque les parece que es la manera en la que se pueden relacionar.
00:44:33
Speaker
Y esto todo genera problemas porque como...
00:44:38
Speaker
al menos hasta ahora espero que no sea creo que eso no va a pasar que vivamos solo como en el universo como virtual vamos a llamarlo así pero como eventualmente tienes que salir al mundo offline y tener algún tipo de comunicación y de contacto y tal pues eso te genera como una serie de desventajas de dificultades etcétera no entonces si o sea el impacto afectivo sin lugar a dudas es enorme el impacto social es muy fuerte porque
00:45:09
Speaker
Está comprobado sociológicamente que estar juntos en lugares genera efervescencia y la efervescencia genera también novedad, genera pues eso, como una inteligencia vamos a llamarlo así, colectiva, ¿no?
00:45:25
Speaker
genera una emotividad ir a un estadio, ir a un concierto.
00:45:29
Speaker
No es lo mismo ver un concierto en tu tele o escuchar que ir a un concierto y escuchar y gritar con muchas personas y todo eso.
00:45:36
Speaker
El ser humano es un ser humano que evolutivamente se hizo así en relación con los otros.
00:45:41
Speaker
Entonces, si estamos como tan cortados de las relaciones sociales,
00:45:46
Speaker
eso también va a tener un impacto importante emotivo y es el tipo de cosas que no se está calibrando completamente cuando justo se enfatiza tanto en ten a un amigo acá, es decir, ya pasamos de que esto sea tu herramienta de trabajo a que sea tu amigo, a que sea tu esposa, entonces ya es como bueno, no, o sea, insisto, no por negarlo en términos como morales, sino por
00:46:10
Speaker
mostrar como el impacto social y, por ejemplo, en este caso psíquico que puede tener, porque lo que es un hecho es que cada vez hay más diagnósticos de depresión y de ansiedad entre personas muy jóvenes, lo cual, digo, también personas más grandes y conforme cambien los tiempos, pues irán siendo personas más grandes, pero entre personas muy jóvenes que normalmente no es que la tuvieran fácil antes, pero teniendo otro tipo de problemas que resolver
00:46:39
Speaker
y que ahora están mediados por la tecnología.
00:46:42
Speaker
Y bueno, querías hablar algo de la materialidad, pero no sé ahí.
00:46:45
Speaker
Ahorita comentamos sobre la materialidad porque digo, hay cuestiones que me surgieron más allá de lo que es la estructura del podcast que estamos llevando y lo que menciono es muy, muy interesante.
Impacto generacional y dependencia tecnológica
00:46:58
Speaker
Hay varios puntos, solamente me voy a centrar en algunos.
00:47:05
Speaker
Esto es una observación y una pregunta.
00:47:06
Speaker
A lo largo de su trayectoria académica, ¿qué ha visto desde la introducción de la inteligencia artificial, jóvenes que conoce, con los que interactúa, y si hay un impacto tanto social como afectivo de la inteligencia artificial en ellos?
00:47:23
Speaker
Y la otra cuestión que usted menciona sobre el libro de la generación de estudios es que este tipo de personas creció con plataformas sociales y así, pero ya empieza a haber estudios muy importantes donde...
00:47:39
Speaker
que hablan de otra generación y esto es básicamente lo que son los padres abuelos o bisabuelos de muchas personas que también se están volviendo adictas a los tiktoks o a su celular todo el día este tipo de elementos donde ya no sólo es el joven de 13 años o de 10 años o el niño de 10 años que está todo el tiempo pegado su celular y decís ahhh tiktok
00:48:00
Speaker
sino que también son los abuelitos que están en TikTok todo el tiempo y no solo en TikTok sino en otro tipo de plataformas distrayéndose, partiendo el tiempo entre otras cosas, ¿no?
00:48:11
Speaker
Entonces comentarles sobre esto y después vamos a la parte de la materialidad de la inteligencia artificial.
00:48:17
Speaker
Sí, sí, bueno evidentemente también es eso, sí que un poco como lo que decíamos hace rato la...
00:48:30
Speaker
La gente que es nativa de internet, pues bueno, tiene unas dificultades, problemas, tal.
00:48:37
Speaker
Pero la gente que no, y de todas maneras vive en este mundo y en esta situación, pues precisamente está encontrando paliativos para problemas sociales que ya existían antes, ¿no?
00:48:50
Speaker
En esta cuestión de la inteligencia artificial, con todas las enormes consecuencias también en términos de salud mental, en términos de relación social,
00:49:04
Speaker
que puede haber, ¿no?
00:49:05
Speaker
Entonces, sí, o sea, como que ahí es curioso porque es eso, ¿no?
00:49:13
Speaker
Esta suerte de personas que, por ejemplo, lo que decíamos cuando hablábamos de Durkheim, que atribuyen a la inteligencia artificial una cuestión casi de oráculo, ¿no?
00:49:23
Speaker
Como de un oráculo, como una cosa de objetividad, como más allá de todo.
00:49:27
Speaker
Y que además son absolutamente...
00:49:31
Speaker
son en muchos casos incapaces de percatarse precisamente de cosas que a lo mejor alguien nativo que ya tuvo como problemas puede identificar como cuestiones problemáticas del propio uso de todo esto es decir, simplemente incluso no vayamos a la inteligencia artificial el impacto de las redes sociales han tenido como el comportamiento electoral ¿cómo le llaman?
00:49:55
Speaker
los clústeres estos como de
00:49:57
Speaker
opinión donde de repente ya no conoces nada de lo que está pasando como en otro lado, que no sea como la gente que opina como tú mismo.
00:50:04
Speaker
O sea, es decir, todos estos elementos pues están ocurriendo también y la inteligencia artificial pues los va a como a reforzar porque pues se van a generar cada vez más cuestiones más dirigidas como al individuo también.
00:50:16
Speaker
O sea, es decir, ya no va a ser la publicidad, sino publicidad como para ti el tema de
00:50:22
Speaker
de que te lleguen como productos y tú compraste esto te gusta esto o sea la imposibilidad de salirte de pensar distinto de toparte con otra cosa porque ya es como bueno si compras este libro ahora vas a querer este que se parece a ese si viste a esta serie ahora vas a querer esta que se parece a la anterior y en ese sentido hay si a veces como una suerte de incapacidad por desconocimiento o por a veces por desconocimiento a veces por pereza a veces por lo que sea como de
00:50:51
Speaker
sorprender a tu propio, vamos a decirlo así ahorita, como de manera un poco juguetona, como a tu propio algoritmo, como decirle, bueno, no me conoces tan bien, para decirlo ahorita así, o sea, como no me conoces tan bien, no siempre voy a querer todo, lo que tú me recomiendes, la música que tú me digas que me tendría que haber gustado en función de lo que escuché en el pasado, pero es complicado, porque bueno, no estamos todavía...
00:51:20
Speaker
sobre todo la gente mayor sí como lista como para entender que ahí estás tratando justamente con una instancia que tiene esta visión pues de mercado y también de una cierta manipulación pero bueno pues eso sí o sea tanto como social con los jóvenes ¿ha visto algún cambio o algunos casos donde la inteligencia artificial genera algún impacto emocional o afectivo?
00:51:49
Speaker
Pues es difícil decir que se han visto cambios como ya en lo emocional.
00:52:00
Speaker
Yo me atrevería a decir, o sea, mi experiencia es que los cambios en términos emocionales tienen que ver en general con este mundo en línea, no necesariamente de forma exclusiva con...
00:52:18
Speaker
El asunto de la inteligencia artificial.
00:52:21
Speaker
O sea, creo que los cambios.
00:52:23
Speaker
Emocionales.
00:52:26
Speaker
Van más.
00:52:26
Speaker
Más allá de esto.
00:52:28
Speaker
Y creo que esto todavía.
00:52:30
Speaker
Todavía.
00:52:34
Speaker
No nos toca como, o sea, no, no, no, no toca ver, no podría yo al menos distinguir como impactos de las redes sociales en general respecto a impactos de la inteligencia artificial en particular.
00:52:49
Speaker
etcétera, etcétera.
00:52:50
Speaker
Evidentemente creo que llegarán, pero todavía no se distingue como nítidamente.
00:52:56
Speaker
Pero de que si hay una cuestión emocional muy distinta, simplemente, o sea, emocional y psíquica como muy fuerte.
00:53:07
Speaker
O sea, simplemente, por ejemplo,
00:53:12
Speaker
Este asunto de la atención.
00:53:17
Speaker
Nunca se trata de idealizar el pasado, como tan bueno que era todo antes.
00:53:22
Speaker
Pero es cierto que cuando tú no tienes un teléfono y tal, te podías, como dicen ahora, disociar de lo que estaba pasando.
00:53:33
Speaker
pero te podrías distraer un momento o algo, pero al final de cuentas estabas como ahí.
00:53:38
Speaker
Hoy en día cuando claramente puedes ponerte a ver el teléfono, en las clases, pueden pasar cosas.
00:53:44
Speaker
O sea, sí hay una cuestión de un problema de atención muy fuerte, hay un problema de atención, hay un problema de desconexión y además esto se amarra justo con una ansiedad, porque es como...
00:53:56
Speaker
tú notas a los grupos ansiosos, ¿no?
00:53:58
Speaker
Ansiosos porque se desesperan de estar sentados ahí, quieren hacer otra cosa, entonces, bueno, ¿no?
00:54:05
Speaker
Pues si quieres salir a caminar, pues sale a caminar.
00:54:08
Speaker
Hay algo que tiene que ver también con eso.
00:54:11
Speaker
Hay cuestiones que tienen que ver con la emotividad en términos también incluso de... como de un afán...
00:54:26
Speaker
como desmedido, vamos a decir así, por usar esa expresión, por controlar lo que es controlable para ellos, o sea, y para ellas, que muchas veces es el tema de la identidad.
00:54:38
Speaker
No te voy a decir también que antes no era importante, pero como que era bueno, pues uno...
00:54:42
Speaker
se identificaba con algo inmediato y ahora se vuelve como tan importante.
00:54:45
Speaker
Por eso todo se vuelve como la identidad sexual, la identidad política, la identidad tal, se vuelve como una cosa como tan moral también.
00:54:54
Speaker
Entonces, pues de momento creo que esa sería la respuesta.
00:54:59
Speaker
Aquí sí es esto, son impactos interesantes, son buenas observaciones, sobre todo usted que quiere de alguna manera estar más en el campo, quizás hay casos donde la gente...
00:55:15
Speaker
socializa con la inteligencia artificial y se presentan elementos todavía muy aislados sobre cómo abordar estos impactos.
00:55:21
Speaker
Pero ahora, para ir cerrando los últimos minutos que nos quedan, hay que hablar sobre la materialidad de la inteligencia artificial.
Costos físicos y ambientales de la IA
00:55:30
Speaker
Al final de cuentas, la inteligencia artificial está sostenida por humanos, por relaciones entre humanos y no humanos, por cosas que están hechas por trabajo humano, por servidores, energía, trabajo invisible, cadenas de producción, plantas generadoras de electricidad, una serie de ensamblajes, comunicación, datos, etc.
00:55:52
Speaker
Entonces, ¿qué perspectiva tiene frente a esto antes de cerrar?
00:55:57
Speaker
En términos generales, a veces...
00:56:00
Speaker
tanto en la vida cotidiana como en la sociología tendemos a pensar que si como que de repente pareciera que todo es simbólico, que todo es el universo de lo simbólico y a veces perdemos de vista como los aspectos corpóreos pero también materiales como en sentido más amplio y en este caso y a pesar de que también
00:56:25
Speaker
se entiende que hay toda una serie de esfuerzos para mitigar impacto, por ejemplo ambiental, etcétera, pues es un hecho que todo, o sea, todo el pensamiento, o sea, por ejemplo, la propia condición humana y eso pues obviamente hay un elemento de reflexión de teoría evolutiva, pero también del materialismo marxista o lo que sea, o sea,
00:56:50
Speaker
La condición para que yo piense es que yo coma, es decir, es la reproducción material de la vida y eso tiene un impacto en el medio ambiente, es decir, la humanidad como en su reproducción impacta el medio ambiente.
00:57:05
Speaker
Si a esto le añadimos una nueva entidad,
00:57:08
Speaker
no existente previamente, que son todas las, la infraestructura que se requiere para esto y la propia inteligencia artificial requiere como tantísima energía para poder funcionar, para poder procesar, no solo eso, por ejemplo, también las criptomonedas, toda esta cosa, pues evidentemente no hay una reflexión amplia sobre los...
00:57:36
Speaker
el impacto ambiental y los límites del uso de este tipo de tecnologías.
00:57:42
Speaker
Y entonces, bueno, pues resulta eso, ¿no?
00:57:45
Speaker
Como muchas cosas que ocurren en una sociedad capitalista donde no hay regulación o es muy baja, pues bueno, es decir, a mí, por ejemplo, para poner casos un poco tontos, o sea, pero a mí me sorprende que...
00:58:05
Speaker
sin que me guste mucho, pero es interesante cuando de repente generan imágenes con inteligencia artificial de cosas que no existen, vamos, o de contactos que no existieron, ¿no?
00:58:14
Speaker
Se pone a un jugador de una época con el de otra época en una imagen y dice, bueno, bueno, o sea, total, ¿no?
00:58:22
Speaker
No era absolutamente necesario hacerlo, pero bueno.
00:58:25
Speaker
Pero de repente hay...
00:58:27
Speaker
fotos reales de personas que estuvieron juntas y generan inteligencia artificial para eso y eso me parece como loquísimo porque es eso y así esta sensación de desperdicio como cuando la gente deja el agua a correr y se va a hacer algo y tú bueno está tirando el agua no o sea como como que claro idealmente pues tendríamos que cuidar el agua en todo momento pero parece más terrible cuando lo dejas como que se esté desperdiciando no y en ese sentido
00:58:56
Speaker
insisto, como en una cuestión de que me parece muy sorprendente porque las instancias, siempre las empresas siempre dicen yo me voy a autorregular, no quiero que el Estado me regule, pero esto en el capitalismo siempre ha tenido efectos más bien perniciosos y en este sentido pues estamos ante una situación parecida y es muy importante porque si tú
00:59:24
Speaker
usas inteligencia artificial para todo, con lo que eso genera como en términos de impacto ambiental, aunque se esté buscando mitigarlo, aunque se estén buscando fuentes alternas, aunque lo que sea,
00:59:38
Speaker
pues es algo que tenemos que tener en consideración y que es como muchas otras cosas.
00:59:43
Speaker
Es como la sensación de desperdicio como cotidiano que se tiene, por ejemplo, cuando ahora que salía esta cuestión que pasaba, escándalos mediáticos.
00:59:54
Speaker
Por ejemplo, no, bueno, que si Shakira voló de una ciudad a otra ahí súper cerquita, pero...
00:59:59
Speaker
Nada más para tal cosa.
01:00:00
Speaker
O si Taylor Swift usa el avión para todo.
01:00:03
Speaker
O sea, si hay cuestiones que uno entiende, no justifica y creo que de todas maneras tendría que regular, pero entiende, bueno, si tienes que hacer un viaje a otro país, pues bueno, ni modo que te vayas en barco, pues ningún trabajo te va a dar permiso de ausentarte.
01:00:19
Speaker
y el avión tiene un impacto ambiental, ¿no?
01:00:23
Speaker
Pero ya cuando se usa para tanta cosa, para tanta cosa cotidiana, es muy curioso, porque sí es un desconocimiento de este impacto.
01:00:32
Speaker
Entonces, bueno, ese elemento material resulta absolutamente fundamental a tomar en consideración.
01:00:41
Speaker
No sé si se escucha, aquí están protestando, pero bueno, este...
01:00:47
Speaker
entonces está aquí una protesta, ¿no?
01:00:52
Speaker
Están protestando aquí en la universidad, pero bueno.
01:00:55
Speaker
Y también, pues, todo esto que otro que dices, a final de cuentas también se pierde de vista el entramado humano que hace esto posible, pero también el entramado humano, como hablábamos hace un rato, que va a generar como la suerte de sustitución, ¿no?
Influencia de la IA en la política y la democracia
01:01:13
Speaker
Es decir,
01:01:19
Speaker
Como que uno pensaba, bueno, si esta cosa va a sustituir cierto tipo de empleos.
01:01:25
Speaker
repetitivos y tal va pero cuando de repente ya empiezan a sustituir que bueno ahora vamos a hacer música con esto y vamos a hacer sociología con esto y vamos a hacer no sé qué con esto pues también hay algo ahí que siempre es esta confianza capitalista de que el mercado va como a asimilar a regular a tal Elon Musk ahora dice no bueno tal vez esto sea la base como para un ingreso universal y bueno
01:01:54
Speaker
es complicado, ¿no?
01:01:55
Speaker
Es como muy complicado, es como muy complicado porque en términos generales más bien estamos viendo, como se ha dicho ahora, pues más bien una suerte de...
01:02:09
Speaker
de advenimiento de un tipo de sociedad basado en todo esto que va a tener justamente impactos más que pintan para ser más bien de carácter negativos, por ejemplo, recientemente estos de Palantir con su libro y su manifiesto de la República Tecnológica, o sea, de que dicen, no, bueno, armas como
01:02:34
Speaker
de inteligencia artificial, ya no va a ser como lo nuclear, sino de inteligencia artificial, con todas las dificultades éticas que eso implica.
01:02:44
Speaker
Tenemos que proteger a los gobiernos que nos protejan.
01:02:48
Speaker
O sea, hay un universo más allá de la inteligencia artificial que tiene que ver con políticas específicas, que tienen impactos específicos, porque a final de cuentas los gobiernos que están apoyando a este tipo de empresas son gobiernos que están desmontando el Estado benefactor,
01:03:04
Speaker
Es decir, no es sorpresa que en Estados Unidos, bueno, pues en la República Tecnológica, parte del manifiesto es ese.
01:03:11
Speaker
Tenemos que proteger Silicon Valley porque nos permitió como desarrollarnos, ¿no?
01:03:16
Speaker
Pero incluso, por ejemplo, veamos, ¿dónde está, dónde estuvo o está, no sé si siga ya, Peter Thiel, ¿no?
01:03:23
Speaker
O sea, en Argentina, en Milley, o sea...
01:03:27
Speaker
Es decir, obviamente aquí no se trata solamente de discutir una agenda política, sino de hablar como de qué nos llevó a tener la protección social que evidentemente también genera como problemas y eso se ha discutido, etcétera, etcétera.
01:03:45
Speaker
No porque sean malos, sino porque genera como dificultades económicas, dificultades en términos de impuestos, dificultades en términos de déficit.
01:03:56
Speaker
etcétera, etcétera, pero entender como por qué se hizo como originalmente y ver los efectos de desmontar eso y cómo a final de cuentas no sólo la materialidad de la que hablábamos, sino la materialidad en el sentido de las personas que están detrás de esto, pues precisamente por eso se habla de que si estamos ante escenarios no quiere decir que todos lo estén buscando así o de manera tan
01:04:22
Speaker
descarada, pero estamos ante un escenario de tecnofascismo, de tecnofeudalismo, ¿no?
01:04:28
Speaker
O sea, como que es difícil en este momento pensar...
01:04:35
Speaker
que la inteligencia artificial nos va a llevar a mejores horizontes.
01:04:40
Speaker
Es difícil ser un tecno optimista en este momento, cuando también sabemos que no existe tal cosa como el capitalismo verde, bla, bla, bla, que no me voy a enterar ahí porque es otro universo completamente.
01:04:54
Speaker
Pero...
01:04:56
Speaker
Pero bueno, eso creo yo que no podemos perderlo de vista porque pues sí, no es como que la inteligencia artificial es una emanación del Espíritu Santo.
01:05:05
Speaker
Pues son empresas, son personas, son personas con hábitos particulares, con metas particulares, con ideologías particulares que vienen de lugares particulares, etcétera, etcétera.
01:05:17
Speaker
Entonces no podemos perder de vista eso y no podemos perder de vista la materialidad que hace posible esto que requiere energía.
01:05:24
Speaker
y pues justamente estamos en un momento en el que la población humana crece, requiere también energía y pues las fuentes de energía
01:05:36
Speaker
hay un engaño siempre como en esto de no, si es que ahora vamos a encontrar como energías alternas a las energías fósiles, pero incluso conseguir esas energías implica también.
01:05:48
Speaker
Vamos a decir la paradoja es que para conseguir otras fuentes de energía necesitas echar a andar las fuentes de energía que tienes.
01:05:55
Speaker
Entonces es un asunto problemático.
01:05:57
Speaker
O sea, creo que vivimos en un momento muy complicado como humanidad.
01:06:04
Speaker
y que irnos por el lado del tecnooptimismo o de la cosa de que si la inteligencia artificial nos va a salvar, pues eso tiene dificultades.
01:06:11
Speaker
Profesor, para ir cerrando, ¿cuáles considera los dos problemas más grandes de la inteligencia artificial que se pueden abordar desde la sociología?
01:06:22
Speaker
Es decir, ¿cuáles son estos dos elementos que usted considera los más importantes que deberíamos resumir o desarrollar?
01:06:32
Speaker
Y para que esto también lo comprenda nuestro auditorio, que seguramente solo nos están escuchando como tres personas, pero esas tres personas les interesan.
01:06:41
Speaker
Uy, pues no sé, es que es difícil siempre ser el más grande.
01:06:45
Speaker
Creo que son muchos, o sea, es decir, por ejemplo, creo que... Yo lo pondría al menos como en dos de momento.
01:06:57
Speaker
Creo que los otros también son graves, pero creo que pondría dos.
01:07:00
Speaker
Uno, esto que hablábamos ahora al final de... de el impacto... pues vamos a decir así, como el impacto ambiental de una...
01:07:12
Speaker
proliferación, o sea, creo que ese es uno muy importante, porque bueno, el capitalismo también siempre es eso, que el capitalismo no tiene...
01:07:25
Speaker
por definición no tiene límite, ¿no?
01:07:28
Speaker
No conoce el límite.
01:07:29
Speaker
Entonces, es decir, no es como que digas, bueno, vamos a llegar a este grado de inteligencia artificial y ahí nos vamos a quedar.
01:07:35
Speaker
O sea, siempre puede ser más, más, más, porque siempre se busca más, ¿no?
01:07:38
Speaker
Entonces creo que ese es uno.
01:07:40
Speaker
Y el otro es precisamente este impacto en el ámbito de la...
01:07:56
Speaker
política en un sentido amplio, ya sea a partir justo de estas cuestiones de cómo personas muy ricas que desarrollan tecnología están sin ningún tipo de control ni ningún tipo de pudor tratando de tener una incidencia en la política, es decir, muy directa,
01:08:22
Speaker
Pero también por el otro lado de una tecnología que nos está aislando, si ya de por sí, y ahí voy a referir a un texto que...
01:08:38
Speaker
Recientemente discutíamos en un seminario de Jürgen Habermas, este filósofo alemán que recientemente falleció y tal.
01:08:46
Speaker
Es decir, para la democracia la esfera pública y la liberación pública es fundamental.
01:08:52
Speaker
Y si de repente estamos tan atomizados y tan... pues eso va a tener un impacto también en la vida democrática.
01:08:57
Speaker
Entonces yo ahorita te digo, aunque creo que hay otros, mucho salud mental, problemas educativos, tal, yo diría que problemas ambientales y problemas de...
01:09:07
Speaker
erosión democrática creo que pueden ser dos de los más graves, ¿no?
01:09:12
Speaker
Pero te digo, creo que... Y claro, todo tiene un elemento dialéctico, claro que hay cosas positivas de todo esto, el asunto es que siempre hay que poner un acento en lo potencialmente negativo, ¿no?
01:09:29
Speaker
Porque precisamente se nos puede olvidar justamente cuando estamos embelezados como en todo lo interesante que estamos obteniendo de esto, ¿no?
01:09:40
Speaker
O sea, es decir, obviamente hay muchos aspectos positivos, si no la gente pues no lo está usando, ¿no?
01:09:47
Speaker
Pero el efecto negativo pues está ahí y es algo que a veces no puedes ver como de inmediato, ¿no?
01:09:54
Speaker
Sí, eso es bastante, pero bastante interesante.
01:09:56
Speaker
Estos dos tipos de problemas son llamativos, ¿no?
01:09:58
Speaker
La parte democrática y la parte del impacto al medio ambiente.
Despedida y agradecimientos
01:10:03
Speaker
Profesor, con esto cerramos el podcast.
01:10:05
Speaker
Muchísimas gracias a las personas, a mi abuelita que seguramente nos escucha.
01:10:08
Speaker
Bueno, no creo que nos escuche porque en paz descanse y le caía bastante mal, pero toda la gente que nos está escuchando y que está interesada en estos temas de la inteligencia artificial, problemas sociales y tecnología, que seguramente...
01:10:21
Speaker
pues están haciendo la limpieza o están en un vuelo de 15 mil horas a Tokio o lo que sea o atorados en el camión esperando llegar a sus trabajos pues muchísimas gracias y muchísimas gracias profesor estamos en contacto y espero que la gente participe más con nosotros yo soy Jorge Luis Morton Gutiérrez él es el profesor Galindo y muchos saludos a nuestro anfitrión el profesor Daniel Romero hasta luego
01:10:54
Speaker
Hola, muchas gracias.
01:10:55
Speaker
No se olviden suscribirse a Chayotec AI y coméntenle a su familia, a sus vecinos, a sus perros acerca de este podcast.
01:11:03
Speaker
Nos estaremos viendo en el próximo episodio cada mes y pues síganos en nuestras redes sociales que no me acuerdo con eso, pero se nos estaremos dando el siguiente episodio.
01:11:15
Speaker
Hasta luego.
01:11:18
Speaker
Chayotec AI es una producción patrocinada por Chayotec.