Joan Cwaik: “Somos muy irresponsables con el empoderamiento que nos da la tecnología”

Joan Cwaik es uno de los jóvenes profesionales que mejor entiende las nuevas tecnologías y su impacto en la vida cotidiana. Especialista en innovación, conferencista y divulgador tecnológico, es profesor en la Universidad de San Andrés y en la Universidad de Buenos Aires. Ha publicado varios títulos que, leídos en orden, dan cuenta de cómo se iba reconfigurando nuestro presente: en 7R. Las siete revoluciones tecnológicas que transformarán nuestra vida y El dilema humano, por ejemplo, exploraba los cambios que traían consigo la inteligencia artificial, la robótica y la economía digital.

En su nuevo libro, El Algoritmo: ¿Quién decide por nosotros? (Planeta), analiza cómo los sistemas que procesan y clasifican datos influyen en nuestras elecciones diarias: desde lo que consumimos hasta cómo nos relacionamos. El Algoritmo es un libro interesante porque va más allá de los conceptos: hay una primera persona que funciona como testigo y parte involucrada, que cuenta cómo interviene y se deja intervenir por esas entelequias tan vaporosas e inasibles como son los algoritmos. El libro que escribe Cwaik podría haber sido escrito por cualquiera de nosotros.

En diálogo con Ticmas, Joan Cwaik habla de cómo los algoritmos modifican nuestra forma de pensar, el rol que ocupan en la educación, el impacto en las relaciones afectivas y en la economía, y por qué, según Cwaik, es necesario encontrar “pequeños actos de rebeldía contraalgorítmica” para que la decisión final siga estando en nuestras manos.

—El subtítulo del libro se pregunta por quién decide por nosotros. Está la idea de que el algoritmo toma decisiones por nosotros y que, a la vez, nosotros tratamos de ver cómo le enseñamos al algoritmo. ¿Cómo cambió nuestra forma de entender las categorías de pensamiento?

—Hoy en día pensamos más en formato de hipervínculos, en formato de un lenguaje de programación. Pensamos más en las reglas de la informática. Tratamos de imitar una forma de decidir que es cada vez más perfecta, cada vez más binaria. Y ahí hay una primera paradoja, porque el ser humano es un ser altamente imperfecto a la hora de tomar decisiones. En esa imperfección surge la humanidad. Y la tecnología, la inteligencia artificial y la informática contemporánea son tecnologías perfectas, de las ciencias duras matemáticas. Ahí surge un primer quiebre. Eso se traduce en pensar procesos que yo puedo acelerar. Siento que el tiempo y la velocidad están siendo redefinidos por los algoritmos. Pensar en hipervínculos y accesos directos se traduce como en un embudo que redefine el tiempo y la velocidad, y también en un compromiso afectado por los procesos en diferentes áreas de nuestra vida cotidiana. No es para generalizar, pero siento que se están reformulando muchas de las cosas de nuestro día a día cotidiano.

—En la década del 80, la gente decía que veía mucha menos televisión de lo que en realidad veían. ¿Hoy tenemos una relación culposa con el teléfono?

—Si hoy hiciéramos una encuesta de desbloqueo de teléfonos celulares, no sé cuántos estarían orgullosos de decir que pasan nueve horas mirando la pantalla —seguramente la mitad en redes sociales—. Yo siento que la relación culposa se debe a que no terminamos de entender muy bien cómo caemos en esto, por un lado, y también al placer que genera.

—¿Por qué?

—Porque nos genera mucho placer y nos genera un esfuerzo cada vez menor. La barrera de entrada es cada vez más baja. También nos genera mucha impunidad. No tenemos que hacer el esfuerzo de exponernos, de mover el cuerpo, de buscar, de razonar. El desafío es no caer en un piloto automático. Yo hago la analogía con Matrix, donde estaban la cápsula roja y la cápsula azul: siento que en el mundo de los algoritmos constantemente elegimos la cápsula de la conveniencia. Vemos TikTok durante una hora para dormirnos porque es conveniente, porque es rico, es fácil, es accesible, no genera un desgaste energético, porque no genera un pensamiento crítico. Pero tenemos la cápsula de la conciencia que dice: “Che, no está tan bueno esto”. Yo no soy especialista en chicos, pero sé que esto empieza a afectar un montón de cosas: les empieza a afectar la concentración, no pueden mantener la mirada a los ojos. Y yendo a la inteligencia artificial, hay un estudio de junio que dice que el 25% de las parejas adultas de entre 20 y 25 años usaron IA para redactar mensajes de ruptura amorosa. Ya no tenemos ni siquiera el temblor de la responsabilidad de que lo que escribo provoca consecuencias. Eso genera una reformulación muy grande del amor, la amistad, la ansiedad, la economía.

—¿Cómo afecta en la educación?

—Los algoritmos redefinen la forma de aprender, de enseñar. Redefinen el rol docente. Hace muy poquitos días se lanzó GPT Modo Studio y eso genera una gran polémica en el ámbito educativo: ¿es una trampa, es un atajo, es una herramienta? Con las calculadoras en la década del 80 pasaba lo mismo. Yo creo que estamos cambiando el estado de la educación. Es como el agua que va a hervir. Cuando pasa de 99 a 100 grados hay una nueva materia. Los algoritmos están generando una nueva materia en la educación. Ya no hay que hablar de linealidad o de exponencialidad, hay que hablar de un cambio de materia en producto.

—Cecilia Danesi dice en El imperio de los algoritmos que, para no estar intervenido por la IA, hay que irse a vivir al bosque. Y ni así uno podría escaparse del todo. ¿Tenemos que entregarnos al algoritmo?

—Resistir o negarlo u ocultarlo, no es la solución. Pero tenemos que acudir a pequeños actos de rebeldía contraalgorítmica. El hecho de que haya un lector leyendo esta nota es un acto contraalgorítmico. Leer un libro es un acto algorítmico en un mundo que fomenta a consumir videos verticales que tienen que atraer en los primeros cuatro segundos. En el amor, en la educación, a la hora de consumir noticias, a la hora de entretenernos tenemos que acudir a estos pequeños actos de rebeldía contraalgorítmica. Ahí creo que está el secreto. No es negar la tecnología. Este es mi cuarto libro publicado y escribo para dos medios de comunicación semanalmente: yo uso la inteligencia artificial. Es maravilloso tener una herramienta que me permita no caer en la hoja en blanco, buscar analogías, buscar conexiones que quizás no se me ocurren. Pero también tengo mis pequeños actos de rebeldía contraalgorítmica para que, al final y al cabo, la decisión no sea de otro.

—¿Se puede entender de manera fácil qué es y cómo funciona un algoritmo?

—Un algoritmo es un conjunto de instrucciones para llegar a un resultado determinado. Es un programa. Si quiero hacer un budín de limón, tengo que seguir una receta. Ese programa puede tener variaciones, obviamente. Lo que pasa que, en la dimensión virtual, estos programas son personalizados, muy dinámicos y tienen intereses por detrás. Ningún algoritmo es neutral. Todo algoritmo tiene sesgos, tiene intereses económicos, políticos, hay grupos de poder, quiere retenerme en la aplicación. Las apps de citas son muy buenas haciéndote match, pero también deshaciendo el match. La peor pesadilla de Tinder es que te pongas de novio. La peor pesadilla de Netflix es que vos te duermas. Todos compiten por retenerte a vos. Tenemos la sensación de que con ChatGPT no hay consecuencias. Recordemos que vivimos en un mundo hiper capitalista.

—Trajiste la palabra capitalismo y un capítulo del libro está dedicado a la economía. ¿No entender cómo los algoritmos afectan a la economía…?

—Nos hace mucho más vulnerables. Hace un par de años se demostró que, si te estás quedando sin batería en el teléfono celular, los algoritmos de las compañías de movilidad aumentan el precio hasta un 60%. En otras palabras: estás desesperado, es de noche, querés llegar a tu casa, tenés 5% de batería, el viaje que salía 10 te lo va a cobrar 16. ¿Por qué? Porque lo vas a pagar igual. Éticamente tenemos que preguntarnos si eso está bien o está mal. Eso lo podemos transpolar a cualquier ámbito. X (Twitter) no quiere informarte: quiere retenerte. ¿Y qué te retiene más? Lo controversial, lo viral, lo que no se sabe si es verdadero o falso.

—Caemos en el sesgo de confirmación.

—Hay un ejemplo muy ilustrativo respecto al sesgo de confirmación. Hablo en un subcapítulo del libro sobre eso. En el triunfo de Trump, se demostró que las cuentas republicanas y las demócratas no dialogaban entre sí. Eran círculos cerrados sin conexión. Nos terminamos radicalizando sin darnos cuenta; creyendo que la percepción del mundo es la de nuestra burbuja.

—Recuerdo que la campaña de Hilary Clinton fue muy criticada porque la estrategia fue básicamente oponerse a Trump. Hoy las campañas son decididamente anti el otro.

—Sí, porque a los algoritmos no les gustan los grises. Al algoritmo le gustan los blancos o negros. Pero ahí se abren muchas preguntas al respecto: ¿la libertad de expresión en redes tiene que ser absolutamente libre? ¿Cualquiera puede decir cualquier cosa o hay que controlar eso?

—Me llamó mucho la atención que en el capítulo final hablás del derecho a la muerte en el mundo digital.

—En pocos años Facebook va a tener más usuarios muertos que vivos. Se va a convertir en un cementerio digital. Yo lo entiendo como que estamos rodeados de vínculos en pausa. Salgo con una persona, intercambiamos miles de fotos y decenas de miles de mensajes, y después ese vínculo queda ahí, boyando, flotando. Y si nos ponemos un poco más filosóficos estamos muy cerca de la inmortalidad digital porque todas las huellas que dejamos van a perdurar mucho más que nuestros cuerpos. Los algoritmos están redefiniendo cómo comprendemos la muerte, cómo comprendemos el proceso del duelo, cómo comprendemos eso que ahora se llama “soltar”.

—Voy a caer en un lugar común que es la dicotomía entre apocalípticos e integrados, pero ¿dónde te parás?

—El concepto que ilustra mejor el siglo XXI es el de aceleración versus desaceleración. Cada uno tiene que encontrar la velocidad con la cual transitar estos cambios. No hay una velocidad única. Los agentes gubernamentales tienden a ser desaceleracionistas; los grupos tecnológicos tienden a ser aceleracionistas. Yo, personalmente, creo que no podemos pisar el acelerador sin consecuencias. Me gusta mucho la analogía del auto: para manejar tenés que tener cierta edad, tenés que entender que hay que frenar en un semáforo en rojo, tenés que entender el peatón tiene prioridad. Hoy estamos muy empoderados por la tecnología, pero nadie tiene un registro de cómo usar los aparatos ni cómo hablar con la inteligencia artificial. Somos muy irresponsables con el empoderamiento que nos da la tecnología.

Joan Cwaik presenta El Algoritmo: ¿Quién decide por nosotros? el miércoles 13 de agosto a las 18:30 en la Universidad de San Andrés, sede Riobamba (Riobamba 1276, CABA), jiunto a Augusto Salvatto y Fredi Vivas.