Sundar Pichai, CEO de Google, advierte sobre un “riesgo bastante alto” de que la IA destruya la civilización

Sundar Pichai, CEO de Google, compartió su opinión sobre un posible escenario en el que la inteligencia artificial destruya la civilización, durante un episodio del podcast de Lex Fridman.

En la conversación, Fridman le explicó a Pichai el significado del término “p doom”, que se refiere a la probabilidad estimada de que una IA superinteligente destruya la civilización humana. Fridman mencionó que, en su caso, esta probabilidad es del 10%.

Por su parte, Pichai ofreció una visión más reflexiva, pero también objetiva:“Creo que el riesgo subyacente es bastante alto, pero tengo mucha fe en que la humanidad se levantará para enfrentar ese desafío”, afirmó.

Además, explicó: “Si la p doom fuera realmente alta, en algún momento toda la humanidad se alinearía para evitar que eso suceda. Por eso, creo que haremos más progresos para reducir ese riesgo. La ironía es que existe un mecanismo de autorregulación en este proceso”.

Agregó: “He estado muy entusiasmado con la IA, pero siempre he sentido que es una tecnología que requiere pensar activamente en sus riesgos y trabajar muy duro para aprovecharla de manera que todo salga bien”. “Creo que soy optimista respecto a los escenarios de p doom”, concluyó, Pichai.

Por otra parte, Fridman le preguntó a Pichai sobre esa misma probabilidad, pero en un escenario en el que la inteligencia artificial no existiera, considerando que la humanidad también es vulnerable a otras amenazas.

Ante esto, Pichai respondió:“Creo que, para avanzar en algunos de los problemas más difíciles, sería bueno contar con la ayuda de la inteligencia artificial”.

Durante su participación en el podcast de Lex Fridman, Sundar Pichai también habló sobre Veo 3, la nueva herramienta de Google capaz de generar videos hiperrealistas mediante inteligencia artificial.

Fridman mencionó algunos de los videos que han circulado en redes sociales, creados con Veo 3 por artistas como Darren Aronofsky, los cuales —según él— parecen llevar la creatividad humana al límite.

Aprovechó entonces para preguntarle a Pichai:“¿Cómo piensas en Veo y Flow, específicamente, en cuanto a permitir que los artistas hagan cosas increíbles, pero al mismo tiempo asumir la responsabilidad de que no se vuelva algo demasiado extremo?”

Pichai respondió:“Mira, mencionaste a Darren, y sin duda es un visionario. Parte de la razón por la que comenzamos a trabajar con él desde el inicio en Veo es que es alguien capaz de imaginar el futuro, inspirarse en él y mostrar el camino sobre cómo los creativos pueden expresarse con estas herramientas”.

“Creo que permitir la libre expresión artística es uno de los valores más importantes en cualquier sociedad. Los artistas siempre han sido quienes empujan los límites y expanden las fronteras del pensamiento. Por eso, ofreceremos herramientas que estén al alcance de los artistas para que puedan crear y compartir su trabajo”, agregó.

El CEO de Google indicó que ve estas herramientas como la electricidad. “La pones a disposición de las personas para que la usen, sin controlar cada caso de uso que se construye sobre ella”.

Concluyó: “Como sociedad, debemos decidir a un nivel fundamental qué está bien y qué no. Nosotros, como compañía, asumiremos nuestra parte de responsabilidad. Pero en lo que respecta a la libertad de expresión artística, creo que es un valor que debemos esforzarnos por defender”.

Sundar Pichai fue nombrado director ejecutivo (CEO) de Google el 10 de agosto de 2015, como parte de una reestructuración corporativa en la que se creó Alphabet, la nueva empresa matriz.

En ese contexto, Larry Page asumió el liderazgo de Alphabet, mientras que Pichai pasó a dirigir Google. Su nombramiento como CEO se hizo oficial el 24 de octubre de 2015, cuando se completó la transición de Google bajo el paraguas de Alphabet.