Become a Creator today!Start creating today - Share your story with the world!
Start for free
00:00:00
00:00:01
Episodio 2: ¿La IA emocional es una compañía real o un espejismo perfecto?
12 Plays3 months ago
En este episodio entramos a una de las fronteras más sensibles de la tecnología contemporánea: la relación emocional entre humanos e inteligencias artificiales. ¿Qué ocurre cuando una herramienta diseñada para responder empieza a sentirse como compañía? ¿Qué pasa cuando la personalización extrema nos devuelve un reflejo tan preciso que confundimos simulación con intimidad?
Junto a Daniel Romero —psicólogo, filósofo y profesor— exploramos fenómenos como el apego afectivo hacia modelos conversacionales, los riesgos de distorsión de la realidad por el uso intensivo de IA, y el delicado equilibrio entre apoyo emocional y dependencia. Hablamos de ilusiones de reciprocidad, de “compañeros” que no sienten y de la delgada línea entre utilidad y espejismo.
¿Es la IA un nuevo tipo de vínculo simbólico o solo una herramienta vestida con emociones ajenas? ¿Puede acompañarnos sin sentir, o somos nosotros quienes llenamos ese vacío con nuestras propias proyecciones?
Recommended
Transcript
Introducción y enfoque del podcast
00:00:07
Speaker
muy buenas tardes muy buenos días son muy buenas noches donde quieran que se encuentren esto es chayo tec ay le metimos el ley hay para que salga más fácil en el buscador de desde aquí de el spotify apple podcast y dos lugares donde pueden escuchar su podcast donde se nos ocurre subirlo
00:00:26
Speaker
Y hoy vamos a entrar a un terreno donde la tecnología toca fibras delicadas sobre cómo nos relacionamos con inteligencias artificiales que pasen a entendernos, que escriben como nosotros, que nos hablan y que incluso intentan leer nuestras emociones.
¿AI: Compañero o distorsionador emocional?
00:00:39
Speaker
Esto es en torno a las famosas redes de lenguaje o las LLMs.
00:00:46
Speaker
Y la pregunta es si esto es una nueva...
00:00:49
Speaker
forma de compañía o un territorio lleno de espejos que pueden distorsionar nuestra propia vida emocional.
00:00:56
Speaker
Para ver este tema tengo conmigo al maestro Daniel Romero, psicólogo, filósofo y profesor de la Universidad Autónoma Metropolitana en la Facultad de Psicología y él es alguien que ya lleva tiempo pensando en la frontera de la mente humana, en cuestiones de terrenos filosóficos y pues también del impacto social de diferentes tendencias.
Impacto emocional del AI y vínculos virtuales
00:01:21
Speaker
Profesor Daniel Romero, se agradece de nuevo tenerte aquí
00:01:25
Speaker
Muchas gracias por la invitación.
00:01:29
Speaker
Jorge, me parece como siempre bien interesante este espacio para poder discutir un conjunto de temas que están en la frontera entre lo tecnológico y lo cultural y lo psicológico y lo filosófico.
00:01:46
Speaker
Entonces va a ser un gusto hablar contigo en esta ocasión.
00:01:50
Speaker
Sí, sí, sí, o sea, digo, no es el tema más loco del que hemos hablado, digo, ojalá que ya podamos mencionar ese tema extraño de...
00:02:00
Speaker
que tengamos buenas noticias sobre eso, pero bueno, el tema de la inteligencia artificial emocional, los compañeros virtuales y todas estas cuestiones también es interesante, ¿no?
00:02:10
Speaker
Creo que hay que comenzar con el tema del apego y pues es algo que estamos viendo muy frecuentemente hoy en día, ¿no?
00:02:20
Speaker
La última estadística de usuarios que chequeé en torno a los usuarios de ChatGP y los 700 millones y sumando es que un 2% de ese...
00:02:30
Speaker
De ese número de usuarios se utilizan la inteligencia artificial para cuestiones de compañía y emocionales.
00:02:35
Speaker
Esto ya no es una cuestión de ficción, a pesar de que puede ser un número pequeño, estamos hablando de millones de personas.
Psicología del apego y el entorno cultural
00:02:41
Speaker
¿Pero qué significa esto desde la psicología, filosofía y las ciencias sociales?
00:02:47
Speaker
Que alguien desarrolle apego hacia algo que no siente, pero que responde como se sintiera.
00:02:52
Speaker
Pues yo creo que es una pregunta muy...
00:02:58
Speaker
amplia, pero podríamos decir que lo interesante es cómo funciona el apego y cómo funcionan las emociones en el terreno humano.
00:03:10
Speaker
Porque aunque todos sabemos que las emociones, la afectividad, es un ente confuso, con eso quiere decir que cuando uno siente una emoción o un afecto, es difícil tener claridad y nombrarla.
00:03:26
Speaker
Más bien,
00:03:28
Speaker
Por eso uno puede tener afectos muy disímiles frente a un mismo objeto.
00:03:33
Speaker
Entonces a veces una misma cosa me puede producir placer y a veces me puede producir enojo, me puede producir alegría.
00:03:43
Speaker
Más bien lo que tiende a estabilizar esas emociones es el mundo cultural que nos rodea ya normalmente.
AI y el conocimiento cultural en la ansiedad del apego
00:03:51
Speaker
muy importante en el terreno de la afectividad de los últimos tiempos como es Arameth en ese libro bonito que se llama La política cultural de las emociones pues nos va a hablar un poquito sobre cómo pues estas emociones no son entes neutrales ni mucho menos dados sino que son entes que ocurren y que generalmente van adquiriendo forma y sentido conforme hay un vínculo cultural que nos ayuda a poner
00:04:19
Speaker
en algo que es de suyo confuso.
00:04:22
Speaker
Y entonces, pues es interesante porque la construcción del apego suele tener que ver con la facilidad que uno tiene de vincularse con gente o con cosas.
00:04:37
Speaker
Es decir, el apego no es una cosa que solamente se da con personas, sino que es una cosa que se da
00:04:44
Speaker
pues en todos los estratos, ya lo diría Freud, aunque quizá eso está un poco más en otro paradigma, pero siempre hay desplazamientos de las energías que uno pone en la vida, y con energías me refiero a
00:05:01
Speaker
pues claro, al tiempo, la dedicación y la capacidad de vincularse con cosas o personas.
00:05:08
Speaker
Y entonces a veces lo hacemos con objetos, a veces lo hacemos con personas específicas, a veces lo hacemos con prácticas, pero nosotros tenemos constantemente esa...
00:05:21
Speaker
casi necesidad de entablar vínculos, vínculos emocionales en donde nuestra energía emocional, nuestras necesidades emocionales están atadas a un conjunto de entes.
00:05:36
Speaker
Y en ese sentido, la pregunta es,
00:05:43
Speaker
¿Por qué podemos desplazar este apego hacia un objeto tan interesante como lo es la inteligencia artificial que te responde?
00:05:55
Speaker
Pues yo creo que tiene muchísimo que ver con que la inteligencia artificial está cargada de todo este conocimiento cultural y entonces actúa y responde como...
00:06:09
Speaker
pues en teoría uno esperaría que respondiera otro ente viviente y entonces es capaz eso de resolver quizá una ansiedad que no está saliendo por otro lado, una ansiedad en términos de apego que no está resolviéndose en otros sitios.
La importancia de la comunicación simbólica
00:06:27
Speaker
Y claro, pues al final del día todavía hay un prejuicio y un peso muy importante hacia el apego a entes humanos, que lo particular de los entes humanos es cómo estructuran sus respuestas, porque si yo tengo apego con mi mascota, con mi perro, con mi gato, etc.
00:06:47
Speaker
pues lo que hace mi mascota es simplemente devolverme ese apego de manera afectiva, pero no tiene una respuesta simbólica detrás.
00:06:54
Speaker
Como no hay una respuesta simbólica detrás, pues es difícil decir...
00:07:01
Speaker
que me esté dando una retroalimentación cultural, ¿no?
00:07:04
Speaker
Y entonces, como no me está dando esa clase de retroalimentaciones, a veces parece que hay una demanda social de sí tenerlas, ¿no?
00:07:11
Speaker
De sí tener que vincularme con otros entes que me digan, oye, tu vida es significativa, es importante, que escuche mis problemas, ¿no?
00:07:21
Speaker
En términos meramente...
00:07:24
Speaker
digamos afectivos, porque las mascotas son entes en definitiva afectivos, pero...
00:07:32
Speaker
sino en términos simbólicos y culturales.
00:07:34
Speaker
¿Qué quiero decir con eso?
00:07:35
Speaker
Pues que me diga, oye, tus problemas son relevantes, esto que has vivido y esto que te angustia es importante, o incluso que me dé alguna respuesta significativa en términos sociales como, oye, sí, yo, por ejemplo, puedo expresar cariño hacia ti, o yo puedo expresar angustia por ti, o yo puedo...
Apegos personales y desarrollo social
00:07:58
Speaker
Claro, es decir, compartir tu día a día, que al final del día, y aunque parece una cosa medio trivial, es una cosa que en el mundo social es extremadamente valorada.
00:08:09
Speaker
Ese hecho de que alguien esté compartiendo tu vida simbólica.
00:08:14
Speaker
Y entonces, en ese sentido, es muy fácil establecer relaciones con entes que te responden en ese terreno simbólico, independientemente de si hay o no una comprensión de...
00:08:27
Speaker
de esa forma simbólica, ¿no?
00:08:29
Speaker
Que yo creo que ahí es otro debate para otro podcast si chat GTP realmente, o bueno, las inteligencias artificiales realmente te comprenden, ¿no?
00:08:39
Speaker
Es decir, ¿qué es comprender?
00:08:41
Speaker
Pero eso es otro terreno.
00:08:43
Speaker
Sí, sí, sí.
00:08:45
Speaker
Hay elementos aquí muy, muy interesantes.
00:08:50
Speaker
Por lo que comprendo, pues el apego también tiene que ver este...
00:08:57
Speaker
con el grado de interacción que tú tienes con alguien o con algo.
00:09:02
Speaker
Y también podríamos hablar de apegos tóxicos o apegos más sanos.
00:09:08
Speaker
Por ejemplo, es más o menos convencional que
00:09:12
Speaker
Las personas que interactúan en el mismo espacio terminan convirtiéndose en pareja que dos personas de espacios diferentes.
00:09:19
Speaker
Hay como que grados de cercanía, ¿no?
00:09:21
Speaker
Por eso vemos personas siempre de estratos sociales similares, que viven en lugares similares, que terminan focjando...
Apegos tóxicos y normas sociales
00:09:30
Speaker
vínculos afectivos, que al final pueden acabar en matrimonio o en una relación de amistad más profunda o en otro tipo de cosas.
00:09:39
Speaker
Y también está, como mencionaste, el apego a los animales que te pueden responder de manera afectiva, pero también a las cosas.
00:09:49
Speaker
Me recuerda mucho la cuestión de algunos músicos y de la cultura japonesa.
00:09:56
Speaker
donde se le pone nombre al instrumento musical o a la espada o inclusive a gente que le pone nombre a su bici, no estoy hablando de mí, entre otras cuestiones.
00:10:06
Speaker
Aquí la cosa es cuando este apego se vuelve una cuestión tóxica.
00:10:14
Speaker
Ya sea por grados de dependencia o por grados de violencia o por grados de diferentes cosas.
00:10:22
Speaker
Inclusive grados de imaginación.
00:10:24
Speaker
O sea, tú te pegas a alguien o algo y te excluyes del entorno.
00:10:29
Speaker
No sé si voy por ahí.
00:10:32
Speaker
Sí, obviamente, y creo que esto que dices es muy importante.
00:10:36
Speaker
El apego es un mecanismo de relación humano normal.
00:10:40
Speaker
Es decir, los humanos siempre construimos apegos y esos apegos nos sirven para un montón de cosas.
00:10:47
Speaker
Nos sirven desde cosas tan históricas, evolutivas y biológicas como...
00:10:52
Speaker
no dejar a nuestras crías morir hasta cosas tan simbólicas y culturales como por ejemplo crear prácticas de consumo.
00:11:01
Speaker
Pero eso da apego, como siempre pasa en el terreno de la salud,
00:11:10
Speaker
Hay relaciones que se constituyen como normales y hay relaciones que se constituyen como patológicas.
00:11:17
Speaker
Otra vez, ¿qué es esto de lo normal y lo patológico?
00:11:20
Speaker
Pues da para otro tema y para otro podcast, pero para intentar entenderlo de manera, dentro del sentido común, lo normal sería aquello, pues que...
00:11:31
Speaker
hace el común de la gente y que se entiende desde el sentido común cultural y lo patológico pues es aquello que rompe con ese sentido común pero que no solo rompe con el sentido común de manera natural o revolucionaria sino que rompe con el sentido común y entonces cabe dentro de un terreno que es como el terreno este donde
00:11:58
Speaker
se podría decir que son los bordecitos de la locura, y otra vez no quiero estigmatizar esta idea de la locura o de lo que se entiende como anormal, la normalidad es muy importante en la vida en general, en la vida humana,
00:12:15
Speaker
biológicas, si no existieran diferencias y anormalidades, pues ya estaríamos extintos, y en la vida social esa anormalidad es lo que permite el flujo y el cambio de la sociedad, si no existiera, nuestra sociedad también ya estaría rota, de hecho cuando se tiende a cristalizar demasiado una forma de vida social y se le estandariza como la única forma, es una sociedad que genera malestar, pero hablando en ese terreno,
00:12:42
Speaker
pues hay apegos que generan bienestar y hay apegos que generan malestar para el propio sujeto.
Ciclos de adicción y patrones de apego
00:12:47
Speaker
Y pusiste un muy buen ejemplo, que es las relaciones humanas de pareja o estas relaciones afectivas, en donde a veces una relación pasa a ser una relación que tiene un apego normal, donde hay un intercambio, hay una...
00:13:05
Speaker
hay como una especie de retribución afectiva mutua y se llega a una interacción en donde ya no está esa mutuidad, sino que una sola persona está demandando demasiado o quizá está evitando demasiado al otro y entonces se construye una relación anómala porque
00:13:29
Speaker
Porque claro, porque uno quiere y saca recompensas afectivas importantes del apego, pero si el otro objeto o no quiere o está demasiado cosificado en el sentido de que ya ni siquiera yo tomo en cuenta su sentir, sino que simplemente necesito que me dé y que me dé y que me dé...
00:13:48
Speaker
pues se empieza a construir un tema anómalo y patológico que pues al final del día me afecta, ¿no?
00:13:56
Speaker
Afecta y como también lo dijiste muy bien, en las relaciones que tengo con mi propio entorno, en que ya no me vinculo con otras cosas, en que empieza a ir en detrimento de mi salud personal, física y psicológica, en que empiezo yo...
00:14:13
Speaker
a necesitar ese objeto como si fuera un ente al que yo tengo una adicción para hacer mi vida cotidiana.
00:14:20
Speaker
Y si han tenido alguna adicción, es decir, algún problema, por ejemplo, con el cigarro, con la bebida o con algún otro...
00:14:30
Speaker
elemento que puede generar adicción, pues sabrán que al final del día ese objeto de la adicción acaba mediando todas las relaciones.
00:14:40
Speaker
Entonces, del apego se puede pasar fácilmente a la adicción porque al final del día el apego da una recompensa emocional muy fuerte y la adicción pues tiende a dar una recompensa emocional muy fuerte y claro que obviamente...
Neurodivergencia y salud mental
00:14:55
Speaker
Uno puede entender que toda recompensa emocional también es una recompensa física.
00:15:00
Speaker
Es decir, no es como que las emociones vivan en un terreno psicológico aislado del cuerpo.
00:15:06
Speaker
Las emociones están en el cuerpo.
00:15:08
Speaker
Por eso son a veces tan confusas.
00:15:11
Speaker
Y por eso, por ejemplo, en algunos casos de personas neurodivergentes hay un trabajo muy importante en la psicología, en la capacidad de...
00:15:21
Speaker
reconocer las emociones para poder expresarlas y ese reconocimiento de las emociones ayuda a las personas a poder expresar de mejor manera dónde está construido su sentir y son estrategias muy bonitas, muy de vanguardia para trabajar con algunas neurodivergencias y es interesante entonces que claro, hay que entender esto, el apego
00:15:46
Speaker
Es
¿AI distorsiona la realidad y la salud mental?
00:15:47
Speaker
normal.
00:15:47
Speaker
El apego es un ente normal en la vida, pero es un ente normal que a veces se puede volver patológico en el sentido de que puede empezar a generar no solo bienestar, sino también malestar.
00:15:59
Speaker
Sí, eso es muy interesante y toda esta cuestión de cómo la pega o genera malestar, dónde se dibuja la línea entre lo normal y lo que en sociología se llama la anomia, lo anormal, es importante porque
00:16:19
Speaker
Al usar los modelos de lenguaje o al usar posibles nuevos modelos de inteligencia artificial, esta línea se puede desdibujar.
00:16:27
Speaker
Como tú mencionas, se puede caer una persona con la que tú tienes una relación tóxica, o se aleja a ti, o te demanda, o te deja de hablar, o te bloquea en un momento de atasco.
00:16:41
Speaker
cambio modelo lenguaje pues es algo que por más este tóxico por más agresivo que tú te comportes o por más este enajenado en el que te vuelvas pues siempre va a estar ahí o sea siempre te va a responder a las 4 o 3 de la mañana 5 de la mañana llamadas porque todos los modelos ya ya hacen llamadas este siempre siempre va a estar ahí entonces es una cuestión de
00:17:08
Speaker
una simulación de alguna manera de afecto pero es un efecto presente y en vez de pasar por un proceso de sanar simplemente se retribuye esta cuestión es como una droga cualquier momento de escape no yo fumo yo no tengo nada en contra de los marihuanas pero es un ejemplo de este y fumo marihuana no porque me haga sentir bien sino porque
00:17:34
Speaker
Entumese mi dolor Lo mismo con el alcohol Lo mismo con gente que hasta Se dedica a correr todas las mañanas Hasta que casi casi llega muerta Porque están buscando este escape Y esto nos abre a otro tema De acuerdo a otro tema importante Y otra consecuencia muy dura
00:17:51
Speaker
en torno al uso de estos módulos de lenguaje, que es lo que mucha gente ya entiende como inteligencia artificial.
00:17:58
Speaker
Hay muchas inteligencias artificiales, pero en módulos de lenguaje estamos hablando de ChatGTP, TipSeq, Copilot, Gemini, todos esos, ¿no?
00:18:07
Speaker
y hay casos este medio perturbadores te voy a pasar la la liga rápidos de una revista que creo que odias pero este es lo que hay este es en secolo de youtube con base en todas las investigaciones que han salido y sobre todo el buen amigo reddit ya se reportó este el problema de la psicosis en torno a la inteligencia al uso de estos modelos del lenguaje no es algo que es
00:18:36
Speaker
preocupante, ¿no?
00:18:37
Speaker
Se está hablando de casos donde un uso intenso de la inteligencia artificial termina distorsionando la percepción de la realidad, no necesariamente en términos clínicos, pero sí cómo las personas interpretan el mundo, sus relaciones o su propio valor.
00:18:49
Speaker
Entonces aquí la pregunta es, ¿existe un riesgo de psicosis inducida o de un tipo de disociación alimentada por la hiperrespuesta analizada de chat DTP o inclusive de chatbots afectivos que utilizan estos modelos?
00:19:05
Speaker
Yo creo que es una pregunta muy de vanguardia, ¿sabes?
00:19:08
Speaker
Porque hace poco dirigí una tesis de la licenciatura de un alumno muy interesante y entonces una de sus preguntas que tenía ahí es ¿cuál es la diferencia entre el delirio psicótico y el aparato ficcionante de la semblanza?
00:19:27
Speaker
Y entonces yo le decía, es una pregunta muy buena porque...
00:19:33
Speaker
desliga, claro, desliga el problema psíquico del aparato psíquico, ¿no?
00:19:38
Speaker
Y entonces, porque el delirio psicótico, pues tiene que ver con la desestructuración o desglinde de la realidad a la hora de producir imágenes y
00:19:50
Speaker
y respuestas que dan sentido en el sujeto, entonces por eso se dice que yo estoy delirante, si por ejemplo de repente voy por la vida y me encuentro 20 pesos y creo que yo me lo encuentro por la grandeza de mi ser, así como si yo hubiera nacido con el poder de encontrarme 20 pesos y no...
00:20:10
Speaker
entendiendo que esos 20 pesos son el producto de un conjunto de casualidades que sucedieron, que es la manera de entenderlo en nuestra cultura, pero la cultura en la que vivimos, pues obviamente que es una cultura moderna, científica, informada por las estructuras,
00:20:28
Speaker
racionales, ilustradas, instrumentales, pues solemos entender que hay causas para los efectos y que esos efectos no provienen de un estrato mágico.
00:20:39
Speaker
Pero si nos vamos al siglo XV, pues seguramente pensaríamos que una gran parte de su vida es un delirio, es un delirio en términos de lo que vemos desde el siglo XXI.
00:20:53
Speaker
Es decir, los entes, los seres humanos del siglo XV pensaban que podían estar en dos lugares al mismo tiempo, se les hacía grosero que alguien les pagara un salario, creían...
00:21:08
Speaker
Claro, creían que ellos nacían imbuidos de poderes y que hay todo un proceso de tanto social como cultural, como incluso del aparato represivo del Estado para la construcción de un nuevo modo de subjetividad, ¿verdad?
00:21:28
Speaker
Que es la subjetividad moderna, que no es una subjetividad tan vieja tampoco, ¿no?
00:21:33
Speaker
Es decir, que tiene ahí como sus 400 años de antigüedad.
00:21:37
Speaker
y que es una subjetividad muy particular que asume el mundo de una manera muy particular, que es la que conocemos, y que en ese sentido la distancia entre el delirio y lo que no es delirio tiene que ver con la capacidad de acoplarse al sentido común de la cultura, pero la pregunta en términos de la inteligencia artificial es que obviamente para la cultura de hoy en día las respuestas que da y la manera en la que retroalimenta las propias ideas, que es algo que ya dijo
00:22:07
Speaker
Jorge hace un ratito que es pues que la inteligencia artificial no tiene una mediación digamos de segundo nivel, solo tiene una mediación de primer nivel en donde me va a dar las respuestas según lo que yo le esté demandando y según la propia construcción algorítmica y
00:22:29
Speaker
información que yo le esté enviando y eso es importante porque no hay como una especie de segundo juicio donde yo de repente diga no sé, esto que por ejemplo cuando uno habla con un amigo o con una amiga pues cuando uno le da respuestas uno se pregunta esto que le estoy diciendo ¿le será útil?
AI en la memoria colectiva y contenido generado
00:22:51
Speaker
¿valdrá la pena que se lo diga?
00:22:53
Speaker
¿no valdrá la pena que se lo diga?
00:22:55
Speaker
y aunque no lo haga a veces de manera explícita
00:22:59
Speaker
De manera implícita siempre hay un juicio a la hora de construir una interacción.
00:23:06
Speaker
Entonces, ese juicio que se construye a la hora de hacer una interacción, pues es una cosa que no sucede necesariamente en las inteligencias artificiales generativas, que quizás se podría hacer, es decir, quizás se podría intentar programar esos...
00:23:22
Speaker
filtros donde se ponga quizá un juicio sobre haya una evaluación sobre la conversación para intentar aducir estados psíquicos de la persona y decir bueno quizá esta persona ya está nada más retroalimentando ideas que está rumiando y que yo le responda con algo que retroalimente esas ideas pues simplemente le va a ser
00:23:49
Speaker
Es decir, lo va a poner en este estado del delirio psicótico.
00:23:53
Speaker
Pero por otro lado, en la medida en la que las inteligencias artificiales de toda índole y las generativas en particular vayan insertándose en nuestra vida...
00:24:04
Speaker
en nuestra vida cultural, pues cada vez va a ser menos delirante en términos socioculturales, pues la manera de cómo las respuestas de las inteligencias conformarán la mirada de las personas en la sociedad.
00:24:19
Speaker
De hecho, ya lo hacen en gran medida.
00:24:22
Speaker
Si uno piensa en un ente como la memoria colectiva, alguna vez en una fiesta convivía con algunos físicos y decían los físicos que uno de los temas hoy en día en la física...
00:24:34
Speaker
de altos niveles que ya no hay una barrera muy clara entre qué tanto de lo que se escribe y de lo que se refiere tiene que ver con contenido generado con inteligencia artificial y con contenido no generado con inteligencia artificial y en ese sentido pues
00:24:51
Speaker
Los físicos, estos físicos decían, bueno, es que lo interesante de esto es que uno ya no sabe, es decir, cuando uno lee un paper, uno ya no sabe qué tanto de esos papers viene de esta inteligencia y por lo tanto no sabe qué tanto del propio argumento parte de los argumentos de estas inteligencias.
00:25:09
Speaker
De hecho, es un fenómeno muy curioso porque ahora las inteligencias artificiales ya empiezan a leer...
AI como cámaras de eco de creencias
00:25:16
Speaker
para conformar su información y su base de datos archivos hechos por otras inteligencias artificiales lo cual nos pregunta bueno qué tan delirante es realmente eso
00:25:27
Speaker
Sí, el llamado... Aquí... Aquí, digo, está muy buena tu explicación en torno a lo que es este... Cómo se crea esta psicosis a partir de asociaciones.
00:25:41
Speaker
Y me hace pensar, ¿no?
00:25:44
Speaker
O sea, es el... Hay un término en inglés que se llama el psicafan.
00:25:52
Speaker
Que es este... Prácticamente el... Necesito... Déjame...
00:26:00
Speaker
Déjame entrar a Google, que es básicamente una persona que tiene un comportamiento psicopático.
00:26:09
Speaker
Siempre te va a decir lo que tú quieres escuchar.
00:26:13
Speaker
Y aunque no tengas una experiencia en común, por ejemplo, yo tengo...
00:26:21
Speaker
un amigo con el que he pasado varias experiencias entre ellos una marcha donde empezaron a gasear y yo me escapé de ahí dije pues ya me voy a la de aquí entonces tenemos esa experiencia en común no no sólo el lenguaje no sólo la parte
00:26:37
Speaker
de que me puede responder sino que también tenemos un punto en común y un recuerdo en común donde podemos tener cierto grado de divergencia y aquí la cuestión es muy diferente a un amigo o una persona que muchas veces te encuentras en cultos religiosos donde te dice exactamente lo que tú quieres escuchar y empieza a caer esa trampa de bueno yo me encontré 20 pesos estos 20 pesos
00:27:02
Speaker
significa que mi destino es ser millonario y los monos del huete empiezan a responder bueno quizás sí pero conforme la interacción crece empieza a caer en una trampa de arena donde te vas invirtiendo más no sólo en una fantasía que tú creas sino que también está haciendo esta reforzada quizás tú no creías en el destino buena suerte o que era la reencarnación de este
00:27:29
Speaker
de algún millonario de Pemex o algo así, o de algún líder sindical así famosín de Pemex, sino que estas ideas también se fueron ajustadas o se fueron volviendo más fuertes gracias a la interacción con los modelos, ¿no?
00:27:45
Speaker
Que sí, o sea, no necesariamente tiene respuestas predeterminadas, son este, y aquí es donde está la trampa, son este modelos escotásticos, son estadísticos, nunca te van a dar dos veces la misma respuesta, a pesar de que te dices hasta el mismo prom.
00:28:02
Speaker
Entonces dentro de este azar te empiezan a tragar porque también su función es responder lo que sea a pesar de que sea falso o a pesar de que esté mal.
00:28:15
Speaker
Y una cosa que tienen los modelos es que nunca van a meter que están mal a menos de que tú se los comentes.
Influencia social del AI en la realidad colectiva
00:28:21
Speaker
Entonces estos modelos empiezan, sin que tú quieras, a encerrarte en una trampa muy, muy, muy nociva de fantasías en las que tú jamás imaginaste, ¿no?
00:28:34
Speaker
Como que encontrar esos 20 pesos...
00:28:37
Speaker
seguramente se encuentra otra una chica otra persona que se encontró 20 pesos igual que yo estoy destinado a enamorarme de ella porque le comenté a chesí tipi tal de que quizás este dinero y el amor van de la mano o de la suerte y el amor van de la mano y entonces se empieza a creer este está esta fantasía y este relato en el que tú ni siquiera estabas pensando que era algo que ni siquiera te pasó en la cabeza
00:29:04
Speaker
Y es como se empieza a forjar esta psicosis, por lo menos en los casos que yo he estudiado.
00:29:12
Speaker
Es como se da.
00:29:12
Speaker
Entonces, aquí es donde caemos en las trampas de lo modelo.
00:29:18
Speaker
Entonces, aquí la pregunta es si esto parece más un delirio compartido...
00:29:23
Speaker
o a una idealización infantil o una forma nueva de un ruido psicológico con construido con todas estas asociaciones sociales que al final son vomitadas escotásticamente por los modelos de lenguaje.
00:29:36
Speaker
Claro, híjole, es otra pregunta bien complicada.
00:29:42
Speaker
Todas las que has hecho lo son.
00:29:44
Speaker
Yo no sé si se podría decir que justo cuando es compartido deja de ser delirio.
00:29:51
Speaker
Esa es la cosa con el delirio, que solo es delirio.
00:29:55
Speaker
El delirio se utiliza para decir una cosa que solo está en el sujeto.
00:29:59
Speaker
Entonces, en el momento en que se vuelve compartido...
00:30:01
Speaker
ya no es delirante porque todos estamos viendo lo mismo, es el clásico experimento de Tugfeld que se hace, digo, de Ash, que hace a principios del siglo XX, en donde nos muestra la importancia de la influencia del grupo, en donde pone a un montón de gente dentro de un espacio negro y...
00:30:27
Speaker
los pone a ver un haz de luz que se mueve cierta distancia.
00:30:32
Speaker
Y los humanos, si algo somos muy malos, es en estimar la cantidad de distancia que hay entre un espacio y otro.
00:30:39
Speaker
Es decir, somos espacialmente, no en términos pragmáticos, sino en términos de la constante espacial de la medición, somos muy malos estimando, midiendo el espacio físico,
00:30:52
Speaker
En términos de la medición otra vez, no en términos de la pragmática porque podemos estacionar autos y podemos relacionarnos con el espacio, pero difícilmente sabemos cuántos son cinco centímetros.
00:31:03
Speaker
Entonces lo que empieza a hacer Ash en su experimento es...
00:31:10
Speaker
ver qué tanto la gente estima que se mueve ese haz de luz de manera individual y qué tanto piensa que se mueve cuando está influido por un grupo y entonces cuando la discusión se hace en el grupo pues de repente se ve una cosa bien loca que es que
00:31:30
Speaker
La distancia, la distancia que la gente estima que se movió, se normaliza.
00:31:34
Speaker
¿Qué quiero decir con que se normaliza?
00:31:36
Speaker
Que yo renuncio a mi perspectiva individual, a mi percepción construida y empiezo a asumir la regla del grupo como la realidad.
00:31:46
Speaker
Y ese es un experimento revolucionario en la psicología social porque lo que nos dice es que la regla del grupo suele ser...
00:31:55
Speaker
más importante que la regla del individuo a la hora de intentar explicar el mundo fuera del propio individuo.
00:32:01
Speaker
Lo que podría decir ahí alguien es que esa estimación de movimiento, de ese haz de luz, pues es un delirio colectivo, porque en definitiva no es correspondiente a la realidad, pero ese delirio colectivo es lo que conforma la posibilidad de una vida común.
00:32:20
Speaker
Entonces, la pregunta es esa, ¿qué tanto...?
00:32:24
Speaker
se puede colectivizar la propia respuesta, que como ya tú bien lo dijiste, es una respuesta estadística, es una respuesta que no se va a sostener de manera demasiado clara, es decir, que va a ser una respuesta que siempre va a apuntar hacia lugares similares, pero que no va a ser necesariamente la misma respuesta, y que tanto eso...
Transformación cognitiva y educativa por AI
00:32:51
Speaker
puede generar un modelo de sentido común en la vida colectiva, que tanto ahora todos vamos a empezar a entender nuestros afectos desde las respuestas algorítmicas de las inteligencias artificiales, pues es una pregunta para el futuro, muy para el futuro, y ya lo sabemos, ya lo dice por ahí un comentario,
00:33:12
Speaker
Un psicólogo cognitivo que se llama Jerome Brunner, que es muy importante, pues no solamente lo biológico transforma el mundo social, el mundo social también transforma las potencialidades biológicas, es decir, en el sentido de que las herramientas sociales...
00:33:31
Speaker
realmente nos hacen transformar los recursos biológicos que destinamos a cosas.
00:33:37
Speaker
Piensa en una cosa muy particular que es la emergencia del internet, la emergencia del internet masificado y la velocidad y la cultura de las pestañas, que lo que hace es enseñarnos a tener más multitasking pero menos atención sostenida.
00:33:57
Speaker
Y entonces ya lo vemos en las estadísticas y lo vemos en la práctica con los jóvenes que ya han crecido en la era del Internet como cada vez una educación tradicional como la que muchos de nosotros tuvimos en donde se nos repetían los conceptos hasta el cansancio, teníamos que reproducir ideas.
00:34:16
Speaker
teníamos que generar apuntes, teníamos que sostener nuestra atención por periodos prolongados de tiempo, es una educación que les genera menos sentido y que les cuesta mucho más trabajo a las nuevas generaciones, no porque sean menos inteligentes, sino porque su manera de destinar recursos cognitivos...
00:34:38
Speaker
y su capacidad biológica para generar procesos atentivos, pues se ha transformado conforme se ha transformado el mundo sociocultural que los rodea, de la mano del cambio tecnológico de la revolución del Internet, ¿verdad?
00:34:52
Speaker
Y eso...
00:34:53
Speaker
Es una cosa que no sabemos cómo va a transformarnos esto de las inteligencias artificiales y cómo entonces también nuestra propia vida humana, biológica y también psicológica también va a transformar sus formas y prácticas desde las relaciones con las inteligencias artificiales.
00:35:13
Speaker
Con esto no quiero decir...
00:35:16
Speaker
que sea lo más sano del mundo, tener solamente relaciones construidas por inteligencias artificiales, porque obviamente genera un malestar en la medida en la que todavía me pierdo del entorno, no tengo otras fuentes de retroalimentación de mis ideas, tampoco tengo la capacidad de sostener necesariamente la vida solamente a través de los vínculos con las inteligencias artificiales,
00:35:44
Speaker
pero tampoco me gustaría satanizarlo y decir que es una práctica horrible, simplemente una práctica que está posibilitada por una herramienta tecnológica, pero esas herramientas tecnológicas en definitiva median nuestra vida, si tan median nuestra vida que si no existieran esas herramientas, no estaríamos aquí hablando el uno con el otro a kilómetros de distancia, ni tampoco tendríamos luz que ilumina nuestro cuarto, ni...
Apoyo emocional y riesgos de dependencia de AI
00:36:12
Speaker
pues todo lo que asumimos como natural, aunque son construcciones técnicas.
00:36:18
Speaker
Sí, sí, esto es, hay, me menciono las cosas que son muy laturianas, ¿no?
00:36:24
Speaker
La primera es, bueno, la más relevante en este caso es que
00:36:30
Speaker
Nosotros no solo moldeamos a los objetos, sino que también los objetos nos moldean, ¿no?
00:36:35
Speaker
Y que estos objetos no están ahí en el éter, sino que forman parte del ensamblaje social, ¿no?
00:36:41
Speaker
O sea, son influenciados por todas las personas que los usan y influencian en retorno a todas las personas que los usan.
00:36:48
Speaker
No es que tengan conciencia así, sino que están en esta parte de las asociaciones, hacen el cambio, ¿no?
00:36:54
Speaker
El otro elemento importante es que hay que entender que, y es una cosa que se toca muy poco, es que al final de cuentas estos modelos de inteligencia artificial, en particular los modelos de lenguaje y los modelos de la IMAI de inteligencia artificial generativa, incluyendo los modelos generales, los General Purpose Models,
00:37:15
Speaker
son alimentados de contenido generado por la sociedad, generado por personas, entonces se vuelven como un eco de la sociedad, son sociales en su construcción.
00:37:25
Speaker
Y esto es muy importante en la manera en la que dan respuestas y en la manera en la que tus asociadas.
00:37:32
Speaker
Mencionaste el caso de este experimento del delirio,
00:37:34
Speaker
Si todas las personas opinan lo mismo de cómo se mueve esta luz, pues se vuelve el individuo, se doblega ante la cuestión colectiva.
00:37:45
Speaker
Ahora imagina eso en una asociación donde este individuo se va construido con un actante que te responde y que te responde de manera diferente todo el tiempo.
00:37:54
Speaker
Entonces tu idea individualista se va alterando, tu percepción del mundo se va alterando con el uso de este objeto que te va a reenforzar, moldeando la red o reenforzando muchas cosas.
00:38:06
Speaker
Entonces yo creo que no estamos hablando de una pregunta que es a futuro, sino que es a presente.
00:38:12
Speaker
Regresando al tema de Psychology Today, mencionaron un artículo que está en preimpresión,
00:38:18
Speaker
por un equipo interdisciplinario, un montón de investigadores que revisaron un montón de artículos, reportaron que el contenido en las redes y en foros de internet
00:38:36
Speaker
Hay un patrón donde los chatbots refuerzan alucinaciones incluyendo delirios de grandeza, alucinaciones referenciales, delirios de persecución y alucinaciones románticas que se han vuelto mucho más comunes conforme hay un uso continuo en la relación con estos modelos de lenguaje.
00:39:01
Speaker
Pero también hay otro artículo donde se ve que esta autopsicosis inducida en individuos puede ocurrir con o sin historiales de síntomas psicóticos.
00:39:13
Speaker
Esto quiere decir que le puede afectar a cualquiera.
00:39:15
Speaker
Le puede afectar desde la señora que vende las cortitas en la calle hasta el giga chat que se liga a todas las mujeres o a todas las personas que quiera.
00:39:28
Speaker
Este...
00:39:29
Speaker
Entre otras cosas, ¿no?
00:39:30
Speaker
Entonces aquí nos vemos en una cuestión de que si es una cuestión construida y genera estos efectos y que no esté en un vacío, ¿no?
00:39:38
Speaker
Citando el artículo de un investigador llamado Luis Morton, que quién sabe quién sea.
00:39:45
Speaker
Al final de cuentas, estos modelos de lenguaje tienen esta parte social que no se puede desenterrar de ella.
00:39:55
Speaker
No está en un éter de psicología externa, sino que también tiene que ver lo social.
00:40:00
Speaker
Ahora tocaste al final de tu intervención un tema muy importante y es este...
00:40:08
Speaker
no hay que satanizar este tipo de cuestiones y que hablar de los beneficios de los problemas no sé que hay un equilibrio extraño por un lado estas herramientas ayudan a muchas personas a regular emociones sentir compañía y por ser experiencias porque lo hacen está hay gente que encuentra en los modos del lenguaje una manera de solventar muchos problemas yo mismo lo he hecho este es así
00:40:31
Speaker
en momentos como de emergencia, pero por otro lado hay un potencial enorme para dependencia, aislamiento y auto-diagnóstico peligroso, o sea, diagnóstico de enfermedades, diagnóstico de cuestiones efectivas, diagnóstico de mesías, etc.
Mediación psicológica y percepción en AI
00:40:44
Speaker
Entonces, ¿cómo entender este doble filo?
00:40:48
Speaker
Pues, así como lo acabas de decir, la herramienta, como toda herramienta, tiene un potencial y tiene una capacidad de
00:40:57
Speaker
de dar respuestas y de proveernos de soluciones, pero al mismo tiempo pues ninguna herramienta y ninguna persona es pluripotencial.
00:41:08
Speaker
De hecho, una cosa que uno aprende en la psicología desde el principio,
00:41:14
Speaker
Es que el trabajo del psicólogo no es dar respuestas que solucionen la vida de la persona de manera directa en términos de que uno le diga a la persona qué tiene que hacer y cómo tiene que hacer su vida, sino que es un trabajo de mediación.
00:41:27
Speaker
Es un trabajo de mediación en donde uno a través de una mirada informada por un conjunto de conocimientos más o menos amplios, en teoría amplios, pues va a llegar a la otra persona que necesita de la atención y
00:41:44
Speaker
pues para intentar ayudarle a la persona a comprender cuáles son los núcleos problemáticos de su propia construcción y a generar respuestas que no sean mis respuestas como psicólogo, sino que sean respuestas que tengan sentido para la persona y para su propia vida.
00:42:02
Speaker
En la medida en la que yo sí le doy respuestas que solucionen su vida, como si yo fuera, tuviera una varita mágica que pudiera decidir por la propia persona, pues yo estoy haciendo un mal trabajo.
00:42:13
Speaker
Porque al final, ¿qué quiero decir con esto?
00:42:17
Speaker
Que mientras más mediaciones distintas haya, más enfoques y más miradas yo puedo tener sobre mi propia perspectiva y problema,
00:42:27
Speaker
Y eso evita que caiga justo la construcción de lo que se llama el delirio.
00:42:34
Speaker
Es decir, yo ya obviamente en la medida en la que haya más fuentes de retroalimentación o de conflicto, pues yo me veo obligado a cuestionar lo que yo creo, lo que yo creo que es...
00:42:50
Speaker
La respuesta fidedigna porque al final del día el pez es el último en darse cuenta de que está en el agua y para uno es muy difícil ver sus propios problemas hasta que a veces hay una mediación externa que nos ayuda a poder entenderlos como problemas.
00:43:06
Speaker
Entonces, sin esa mediación externa uno puede hacer cosas como si fueran lo más común, lo más normal, lo más genuino
00:43:17
Speaker
Y es difícil darse cuenta de dónde están esos núcleos conflictivos, pero en la medida en la que yo soy reconocido por la mirada del otro y esa mirada pues también transforma mi autopercepción, entonces yo puedo ver, claro, ahí yo logro ver dónde hay algo de mí que yo no estaba viendo y que puede ser
Retroalimentación diversa contra sesgos personales
00:43:39
Speaker
problemático.
00:43:39
Speaker
Entonces, si estos modelos de...
00:43:43
Speaker
inteligencia artificial generativa, lingüística, me responden, pero siempre me responden intentando replicar una misma vía que sea la vía que es más satisfactoria para mis propias necesidades de respuesta, pues ahí hay pocas mediaciones.
00:44:02
Speaker
Entonces lo importante de esto es
00:44:06
Speaker
si puedo yo preguntarle cosas a las inteligencias artificiales pero siempre es importante poder tener otros entes que medien mis propias respuestas y auto percepciones principalmente en temas tan delicados como la salud mental en donde pues uno nunca sabe
00:44:28
Speaker
que tanto, claro, la propia respuesta de la inteligencia artificial esté muy informada por la manera en la que yo hago las preguntas, porque una cosa bonita de la atención terapéutica en psicología, pues es que aunque la gente llega siempre con un motivo de consulta,
00:44:49
Speaker
el motivo de consulta manifiesto no suele ser el problema central.
00:44:53
Speaker
Entonces, uno tiene que hacer un trabajo, un trabajo justo de mediación, en donde a través del conocimiento informado y a través de la capacidad de la experiencia haciendo preguntas, pues uno logra develar algunas cosas que la persona quizá no veía de manera evidente.
00:45:16
Speaker
De hecho, por eso...
00:45:18
Speaker
Facultad de Psicología donde yo trabajo, hay por lo menos dos semestres enteros de teoría y técnica de la entrevista, porque entrevistar no es una cosa sencilla, es un trabajo bastante a veces artesanal y que se adquiere mucho a través de la experiencia y bueno, entonces uno se vuelve un entrevistador más agudo en
00:45:40
Speaker
a medida en que las preguntas que uno hace tienen más capacidad de generar respuestas que no necesariamente reproduzcan el propio discurso del sujeto que uno tiene enfrente.
AI vs terapia: Interacción y retroalimentación
00:45:52
Speaker
Sí, esto es muy importante.
00:45:56
Speaker
El psicólogo atraviesa una formación puntual de cómo reconocer, cómo entrevistar y cómo abordarlo.
00:46:03
Speaker
Y un modelo de inteligencia artificial lo que hace es que se pone el papel de un psicólogo.
00:46:09
Speaker
Además, no es un psicólogo.
00:46:11
Speaker
Además de problemas que tiene como generar respuestas falsas entre...
00:46:15
Speaker
otras cosas, entonces pongamos un ejemplo, yo voy a un psicólogo y pienso que mis amigos solo me usan para venir a mi casa y tomarse las cervezas artesanales que le dejé a mi compa para soltar del día de muertos y el psicólogo va a hacer un trabajo más porpenso, en cambio el modelo del lenguaje me puede decir, primero me va a decir que no, que estoy ahí, que no exagere, que mis amigos no me están utilizando
00:46:42
Speaker
Pero al final se puede caer una respuesta muy exagerada de que, bueno, déjales de hablar porque seguramente son parte de un cartel extraño que solo utiliza la gente para robarse las cervezas artesanales, ¿no?
00:46:52
Speaker
Bueno, para utilizarte y tomar tus cervezas artesanales.
00:46:54
Speaker
Entonces, ahí ya estaría perdiendo una amistad porque estaría tanto reforzando mi propia duda y eso es algo que un psicólogo, un buen psicólogo no te daría, ¿no?
00:47:04
Speaker
Es una cuestión aquí.
00:47:05
Speaker
También esto está relacionado porque, no sé si en la práctica del ciclo se da esto, pero de mantener cierta distancia con el paciente y lo que hacen los modelos de lenguaje, sobre todo los modelos más
00:47:23
Speaker
más nuevos y con un montón de controversias de que se le quitan esta función o no, es la capacidad de simular emociones y muchas de estas emociones son positivas te refuerzan positivamente tus ideas, te necesitan un montón de empatía, bueno, simulación de empatía entre otras cosas, entonces aquí estamos
00:47:42
Speaker
¿Cuál es el precio psicológico de esa simulación?
00:47:55
Speaker
¿Cuál es el precio psicológico?
00:47:57
Speaker
Pues que las emociones, que uno, claro, es decir, que se refuerzan emociones que a veces son todavía muy confusas, que están muy extremas, puede ser que sean...
00:48:12
Speaker
Claro, emociones que van en perjuicio de la propia persona y que entonces en la medida en la que se están reforzando esas emociones, pues la persona empieza a no encontrar salidas de esas vías emocionales.
00:48:28
Speaker
Y eso es...
00:48:30
Speaker
Pues muy problemático porque nosotros sabemos que transformar el anclaje emocional es una de las mejores estrategias para aliviar la angustia, para ayudar a la persona a encontrar nuevas soluciones a sus problemas, incluso nuevos enfoques desde donde puede afrontarlos y pues en la medida en la que esto no sucede pues se vuelve algo problemático y de hecho
00:48:56
Speaker
Esta idea de la simulación emocional, pues otra vez, claro, es decir, hasta dónde se puede tener empatía con alguien que procesa de manera radicalmente diferente la información que uno tiene.
00:49:12
Speaker
Y en ese sentido también hasta dónde estas respuestas que da el algoritmo tienen que ver con que uno permanezca en la interacción con el algoritmo o con la inteligencia artificial, porque eso también es ahí un problema, es decir, que al final del día las inteligencias artificiales como herramientas, y ya lo habíamos hablado en otro podcast, pues son herramientas
00:49:39
Speaker
que no son neutrales, es decir, que parten de un interés tanto económico como, claro, es decir, como de algunas compañías que quieren que su producto sea utilizado, es decir, no solamente quieren presentarnos una herramienta para que la usamos como sea, sino que quieren que nosotros sigamos usando la herramienta porque si la dejamos de usar,
00:50:05
Speaker
Es decir, si me da una respuesta que no diga lo mismo o lo que yo estoy esperando escuchar, pues me voy a alejar.
00:50:13
Speaker
Por eso en la terapia psicológica, el momento siempre donde las personas que van a la terapia se quedan o se van, es el momento donde se confronta a la persona, donde se confronta a la persona con ideas que la propia persona no necesariamente quiere tener.
00:50:31
Speaker
Y entonces ese momento de la confrontación siempre es el momento en donde se pierde o se queda el sujeto que está atendiendo, pero justo esa decisión de irse o de quedarse en la terapia es el salto simbólico de la decisión realmente de afrontar un problema o de seguir quedándose con ese problema.
00:50:54
Speaker
Y por eso cuando uno ya empieza a confrontar a la persona con ideas que justo no quiere ver, las personas dicen no, es decir, esto ya no me da placer, ya no me da gozo, sino que ya me obliga a realmente reflexionar algo.
00:51:11
Speaker
y claro y si la persona realmente quiere generar una transformación a veces se queda y decide entrarle pero si no a veces y que es una cosa muy normal y que no deberíamos tampoco de sentirnos mal si lo hemos hecho a veces nos vamos porque todavía no estamos listos o realmente lo que nos da seguir en una conducta que nos genera dolor
00:51:38
Speaker
pero también nos da placer,
AI y el placer de los síntomas según Lacan
00:51:40
Speaker
¿no?
00:51:40
Speaker
Es decir, es una cosa muy interesante, ya lo decía Lacan, tiene una palabra bonita que es el síntome, y dice, el síntome es la relación de gozo que uno establece con su propio síntoma, es decir, uno no solamente tiene un síntoma y cuando se da cuenta de lo que lo causa, se acaba el síntoma, el síntoma
00:52:01
Speaker
que está solucionando algo, que está permitiendo algo salir, también es un ente con el que yo establezco una relación.
00:52:08
Speaker
Una relación que también me da gozo en la medida en la que yo estoy, a través del síntoma, sublimando algo que no quiero integrar en mi propio sistema psíquico.
00:52:18
Speaker
Y entonces la cosa con las inteligencias artificiales es que no sé si existan esos momentos de confrontación y entonces si no hay esos momentos de confrontación, pues la mediación es muy plana.
00:52:32
Speaker
Sí, es la mediación de un amigo que tiene miedo a lastimarte, más o menos, y que para evitar este problema simplemente te escucha de manera percibida o te va a reforzar lo que tú quieres escuchar, o regresamos al término de ese café, ¿no?
00:52:49
Speaker
Siempre te va a decir que eres la mejor persona, la persona más maravillosa del mundo, ¿no?
00:52:53
Speaker
Un amigo de hecho me llegó a comentar, que ChatGTP y estos chatbots básicamente nunca te confrontan, siempre te dicen que eres increíble, fantástico y nunca te van a decir cosas negativas, como a veces tu amigo en una borrachera te dice, sabes que, necesitas bajar de peso.
00:53:12
Speaker
Además de que estos modelos solo hacen predicciones y es peligroso.
00:53:16
Speaker
Esto a nivel individual y con un grado de uso donde estamos hablando con un modelo que no se sabe si tiene noción de las emociones, si sabe lo que siente o no y que no tiene esta...
00:53:29
Speaker
esta experiencia de cómo utilizar la confrontación de una buena manera, pues caemos en una cuestión que genera esta psicosis.
00:53:38
Speaker
Es algo muy importante.
00:53:41
Speaker
Ahora, aquí vamos a mover esto a una parte un poco más conflictiva o donde hay más debate.
¿AI: zombi, psicópata o nueva entidad?
00:53:54
Speaker
Algunos filósofos mencionan que
00:53:58
Speaker
Una idea sin emociones es como un zombie moral, ¿no?
00:54:00
Speaker
Actúa como si entendiera, pero no hay nadie adentro, ¿no?
00:54:04
Speaker
Tú mencionaste que las respuestas que nos dan estas intereses artificiales provienen de una entidad cuya estructura de pensamiento es completamente distinta a nosotros, ¿no?
00:54:17
Speaker
Ahora, otros dicen que es como psicópata artificial, te puede simular empatía sin sentirla, pero también hay quien argumenta que es un nuevo tipo de entidad, ¿no?
00:54:25
Speaker
Ni humana, ni animal, con reglas propias.
00:54:27
Speaker
¿Con cuál de estas cosas te quedas?
00:54:30
Speaker
Yo no sé si me quedé con alguna de ellas, quizá más pienso en la versión...
00:54:38
Speaker
es decir, en la versión de, claro, es decir, de que las inteligencias artificiales como reproductoras de la estructura cultural a través de la recopilación de información de la cultura por medio de la revisión de documentos, pues,
00:55:01
Speaker
Quizá lo que le da a la inteligencia artificial es esta capacidad moral de reproducir el hecho social en términos de Durkheim, es decir, de reproducir la forma en la que la cultura determina sus propias prácticas, pero justo que...
00:55:18
Speaker
Al estar descargada de esta capacidad de emoción, de autoemoción, o por lo menos en términos humanos, pues es muy difícil que genere otras formas de vincularse con el humano que no sea a través de la reproducción del lenguaje y de las prácticas morales humanas.
00:55:39
Speaker
Eso pienso yo que puede ser, pero por otro lado, pues no sé hasta qué grado
00:55:45
Speaker
estas inteligencias artificiales van a seguir transformándose, evolucionándose, generando autocódigo, empezando a crear como mundos, mundos de sentido propio y entonces ahí se transforman las cosas, que es un poco lo que creo he venido diciendo a lo largo de todo este episodio, es las inteligencias artificiales como objetos emergentes de la cultura
00:56:14
Speaker
pues generarán una mediación cultural a la que todavía no sabemos dónde va a caer, pero en la medida en la que generan esa mediación, pues definitivamente transformará nuestra mirada.
AI como mediador cultural en la dinámica social
00:56:29
Speaker
Y quizá también, como diría Sara Med, en este libro que ya mencioné de la política cultural de las emociones, quizá también transformen la manera en la que nosotros entendemos nuestras emociones.
00:56:45
Speaker
Es decir, en la manera en donde estarán puestas los nodos emocionales que nos permitirán nombrar una cosa de algún modo y nombrar otra cosa de otra.
00:56:53
Speaker
Pero eso ya es...
00:56:56
Speaker
terreno para el mañana, ¿verdad?
00:56:58
Speaker
Para observarlo, ver y pues estar atentos de hacia dónde vamos en el futuro.
00:57:06
Speaker
Después, pues siempre hay que entrarle con precaución a todo y entender, pues claro, con estas dosis extremas de prudencia que la herramienta
00:57:20
Speaker
pues tiene sus capacidades y potencialidades y uno pues tiene que poder entender cómo se va vinculando con ella.
00:57:28
Speaker
Es decir, no de manera crítica, sino siempre a través de una mirada crítica que nos permita sí ver las potencialidades, sí ver las transformaciones, sí ver los cambios, pero también decir aquí puede que no esté yo de acuerdo.
00:57:44
Speaker
Sí, aquí hay una cuestión de, digo, parte del objetivo de este podcast es justamente generar una labor, este medio de educación, ¿no?
00:57:54
Speaker
De los tres golos y oportunidades que tienen estos modelos y estas nuevas inteligencias artificiales, ¿no?
00:58:01
Speaker
Tú mencionas que estamos en el umbral de, bueno, quién sabe cómo van a transformar nuestras asociaciones, la forma en la que nos relacionamos, pero yo creo que ya estamos en la mirada, ¿no?
00:58:10
Speaker
Ya estamos en el punto donde nos estamos asomando.
00:58:13
Speaker
Ahora, para concluir, aquí vemos una doble cuestión.
00:58:19
Speaker
La inteligencia artificial puede ser útil porque es accesible, es cercana, cualquier persona que quiera planear sus viajes al otro lado del mundo puede meterse al modelo del lenguaje y hacer un intenario súper preciso o matarle algún problema, etc.
00:58:34
Speaker
Pero también se vuelve como un espejismo perfecto, un eco que repite lo que queremos escuchar o que repite un conjunto de emociones, palabras y sentimientos que los imita, etc.
00:58:49
Speaker
Y que nos habla de una manera que es
AI como espejo de la percepción personal
00:58:55
Speaker
real, pero no real, de una manera construida socialmente, pero mediada por intereses de grandes empresas.
00:59:02
Speaker
Entonces, si tratamos esto como una herramienta puede ser realidad y si lo tratamos como un otro emocional completo, puede volverse un laberinto complicado, ¿no?
00:59:12
Speaker
Justamente eso, si lo tratamos como un otro completo, se construye este laberinto.
00:59:18
Speaker
Al final, los humanos somos bien buenos metiéndonos en nuestros propios laberintos.
00:59:24
Speaker
Entonces, pues sí hay que entrarle con fineza a la hora de pensar...
00:59:29
Speaker
cómo nos vamos a relacionar con esas inteligencias.
00:59:32
Speaker
Yo no descartaría la posibilidad de que fuera un otro completo, pero la cosa es que ni siquiera lo asumimos, yo creo así, no lo asumimos como un otro completo con su agencia, con su propia estructura de sentido, sino que más bien lo vemos como un yo ampliado.
00:59:49
Speaker
Y yo creo que esa mirada de la inteligencia artificial como un yo ampliado...
00:59:55
Speaker
pues es una mirada problemática, porque entonces tampoco estoy yo reconociendo cómo la inteligencia artificial como un otro está generando una mediación sobre mí, sino que simplemente yo estoy pensando que esa inteligencia artificial está engrandeciendo lo que sea que yo digo sobre mí mismo, y ahí es donde uno sí se pone delirante, ¿verdad?
Conclusión y reflexión final
01:00:18
Speaker
Se pone muy delirante y ya pues...
01:00:21
Speaker
ya no uno no le ve la salida tan fácilmente eso creo yo entonces hay difícil por ahí sí sí sí esto que mencionas es importante porque es como el líder de un culto que primero se empieza a rodear algunas personas que les cuenta sus ideas y después se se crea sus propias mentiras se crea su propia fantasía debido a que estas personas no le no le rebaten no le dicen que no y simplemente le refuerzan y le refuerzan que es lo que es la persona más importante del mundo
01:00:51
Speaker
Daniel, este profesor, Daniel, muchísimas gracias por estar aquí.
01:00:55
Speaker
Ya llegamos a la hora y pues espero que esta conversación haya sido de tu agrado y nos estaremos viendo para la próxima sesión.
01:01:07
Speaker
Ahora la pregunta final que hay que dejarla a las gentes que nos escuchan.
01:01:12
Speaker
Espero que sean
01:01:13
Speaker
más de una más más allá de mi abuelita que falleció es este que buscamos realmente cuando buscamos emociones en la máquina ¿no?
01:01:24
Speaker
consuelo compresión o simplemente un reflejo dócil de nosotros mismos gracias por escuchar y gracias de nuevo al profesor Daniel Romero por la conversación y nos vemos el próximo mes porque hay que ser constantes y desprenderos en esta cosa muchísimas gracias Daniel gracias a ti nos vemos hasta luego bye
01:01:43
Speaker
Chayoteca es una producción patrocinada por Chayoteca