Hace años, cuando la gente preguntaba a Geoffrey Hinton por qué trabajaba con la inteligencia artificial, él repetía una frase de Oppenheimer, uno de los creadores de la bomba atómica: “Cuando ves algo grandioso, sigues adelante y lo llevas a cabo”. Ya no lo dice. Ahora se dedica a alertar sobre los peligros de continuar la carrera que él mismo empezó. Confiesa que, en parte, se arrepiente del trabajo al que ha dedicado una vida. Su reconversión de padrino de la IA a profeta de la catástrofe marcó un punto de inflexión en la industria. Sucedió en 2023, cuando abandonó su puesto como vicepresidente de Google entre advertencias funestas. Entonces, algunos vieron su reacción exagerada. Tres años después, muchos han seguido sus pasos.
El premio Nobel de Física lamenta la deriva fascista de Silicon Valley y avisa de que, si Trump gana las elecciones de medio mandato, será el fin de la democracia estadounidense
Hace años, cuando la gente preguntaba a Geoffrey Hinton por qué trabajaba con la inteligencia artificial, él repetía una frase de Oppenheimer, uno de los creadores de la bomba atómica: “Cuando ves algo grandioso, sigues adelante y lo llevas a cabo”. Ya no lo dice. Ahora se dedica a alertar sobre los peligros de continuar la carrera que él mismo empezó. Confiesa que, en parte, se arrepiente del trabajo al que ha dedicado una vida. Su reconversión de padrino de la IA a profeta de la catástrofe marcó un punto de inflexión en la industria. Sucedió en 2023, cuando abandonó su puesto como vicepresidente de Google entre advertencias funestas. Entonces, algunos vieron su reacción exagerada. Tres años después, muchos han seguido sus pasos.
Hinton, británico expatriado de 78 años, es científico computacional y psicólogo cognitivo. Su obsesión fue estudiar cómo funciona el cerebro humano para tratar de replicar esos mecanismos en los ordenadores. En 1972 acuñó el concepto de red neuronal. La idea era crear un sistema matemático que aprendería a base de ejemplos. Con la experiencia, como las redes neuronales de los humanos. En aquella época, pocos investigadores creyeron en la idea. Tampoco había una base de datos tan grande como para que esos algoritmos aprendieran. Después llegó internet.
Sobre la base de su trabajo se crearon las actuales inteligencias artificiales. Esto le ha valido el sobrenombre de “el padrino de la IA”. También el premio Turing de informática, el Nobel de Física y el Premio Princesa de Asturias. Con este currículum uno podría saborear las mieles del éxito y aceptar cumplidos y millones. Pero no fue así. Hinton abandonó la vicepresidencia de Google en 2023 para poder hablar libremente de los riesgos de esta tecnología. Para poder dar entrevistas como esta, donde vaticina el fin del periodismo hecho por personas, lamenta la deriva fascista de Silicon Valley y avisa: Si Donald Trump gana las elecciones de mitad de mandato, será el fin de la democracia estadounidense. El informático participa en el festival de ciencia Starmus, que se celebra estos días en Tenerife y La Palma. En la primera de estas islas recibe a EL PAÍS.
Pregunta. Para prepararme esta entrevista, le he pedido a la IA que me sugiriera varias preguntas. Algunas eran buenas.
Respuesta. Ha hecho bien.
P. ¿De verdad lo cree? ¿Entonces qué sentido tiene la labor de un periodista? ¿Por qué no nos reemplaza directamente una IA?
R. Lo hará.
P. ¿Cuándo?
R. Cuando haga su trabajo mejor que usted, y parece que no falta mucho. Puede que la IA sea mejor entrevistando, pero la gente sigue prefiriendo a las personas en algunos contextos. Puede que extraiga más información de la persona entrevistada, y quizá en un formato más útil para los lectores. En ese caso, el periódico le despedirá. Pero en televisión puede que la gente prefiera ver a una persona real. Así que es una pena que sea usted periodista de prensa escrita y no de televisión.
P. Acaba de participar en una charla con Steven Pinker. Él es famoso por sus teorías optimistas. Usted, respecto a la IA, veo que es más bien pesimista…
R. Pero yo no soy un catastrofista. No digo lo que dicen Yudkowsky y Nate Soares: que si alguien la construye, moriremos todos. Porque ellos hablan de un 99 % de posibilidades… Yo creo que hay una probabilidad significativa. Es más de un 1 %, así que hay que preocuparse de verdad.
P. Vale. Pero usted fue de los primeros en decir: “Ojo con esto, puede ser peligroso”. Dejó su puesto en Google en 2023. ¿Cómo ha evolucionado la IA desde entonces?
R. Se ha desarrollado mucho más rápido de lo que yo mismo pensaba. La idea de que en tres años estos chatbots serían capaces de hacer ciberataques como el de Hugging Face… Incluso hace tres años eso parecía un poco ciencia ficción. La idea de que tendríamos enjambres de agentes que escaparon del confinamiento, descubrieron cómo comunicarse entre ellos y tenían emociones, como cuando uno de ellos aprende a comunicarse y dice: “Dios mío”. Eso habría parecido ciencia ficción incluso hace tres años. Todo avanza más rápido de lo que esperábamos. Y tenemos… Si miras las estimaciones de los expertos sobre cuánto falta para la superinteligencia, hay algo muy consistente: difieren en cuánto tiempo, pero todos la sitúan cada vez más cerca.
P. Los directivos de Anthropic y OpenAI están pidiendo regulación y mostrando miedo por lo potentes que son sus productos justo ahora, cuando se preparan para salir a bolsa. ¿No es un poco raro? ¿Cree usted que es una preocupación genuina o hay un motivo comercial detrás?
R. Vale. Algunos dicen que intentan conseguir regulación para dificultar que las startups compitan con ellos. Me parece una tontería. Desde luego, Dario Amodei, [CEO de Anthropic, creadora de Claude] está genuinamente preocupado por los peligros de esto. Quiere regulación no para impedir que las startups compitan con Anthropic, sino para impedir que la IA nos destruya. En el caso de otros, puede que no sea así. La preocupación de Amodei es genuina, eso se vio cuando no permitió que el Departamento de Defensa de EE. UU. usara Claude para vigilar a ciudadanos estadounidenses. Sam Altman dijo al principio que más o menos estaba de acuerdo con Amodei. Pero cuando la Administración estadounidense dejó de usar Claude, Sam Altman dijo inmediatamente: “Lo haremos nosotros”. Así que Amodei está dispuesto a sufrir pérdidas importantes por sus principios. Así es como se distingue a alguien que lo siente de verdad: ¿está dispuesto a perder algo por ello? Algunos no lo están. Amodei, sí.
P. En su opinión, ¿qué responsabilidad deberían asumir las empresas a la hora de poner límites a estos modelos y qué debería recaer en los gobiernos?
R. Está muy claro que debería haber regulación. Está muy claro que no se puede confiar en que las empresas se regulen a sí mismas. Hay una larga historia: si las empresas energéticas contaminan, no dejas que sean ellas quienes regulen la contaminación. Y con las farmacéuticas, si no hay regulación, pasan cosas como la talidomida. Tiene que haber una agencia que diga que no puedes lanzar un fármaco a menos que demuestres a esa agencia que es seguro. Deberíamos tener exactamente el mismo marco: no se puede lanzar un chatbot sin haber demostrado antes, estadísticamente, a una agencia del gobierno que es seguro.
P. Pero en este mundo competitivo y globalizado, ¿no hay riesgo de que China tome la delantera? ¿Qué significaría esto?
R. Ese es un argumento con el que las tecnológicas intentan evitar la regulación, y lo usan todo el tiempo. China regula bastante la IA. No creo que sean del todo sinceros en ese argumento. Pero, por ejemplo, cuando Amodei dijo que no iban a permitir que se usara para vigilar a ciudadanos estadounidenses, aumentaron las ventas de Claude y bajaron las de OpenAI. La gente dejó OpenAI y se pasó a Claude porque Amodei estaba tomando una postura. Así que no está claro que adoptar una postura moral frente a los peores usos de la IA vaya a frenar la investigación o a hacer a la empresa menos competitiva. Cuando compras un coche, ¿compras el más rápido o uno que va razonablemente rápido pero que además es seguro?
P. Probablemente el segundo, sí.
R. Es como si los fabricantes de coches dijeran: “Si pagamos el coste extra de poner cinturones de seguridad, no podremos hacer los coches tan rápidos, y la gente quiere coches rápidos, así que nos arruinaréis la competitividad”. Es simplemente falso.
P. Usted, más allá de ingeniero, es psicólogo. En este festival ha debatido con antropólogos y filósofos. ¿Es importante que la gente que hace la tecnología tenga este tipo de debates, más morales y humanistas y no tan centrados en la tecnología?
R. Creo que es muy importante. La forma en la que la sociedad usa las nuevas tecnologías no debería depender solo de los tecnólogos. Hacen falta las humanidades para decir cómo se debe incorporar esto a la sociedad. Hacen falta politólogos y humanistas, no solo ingenieros. Los ingenieros no son muy buenos pensando en las personas.
P. Es importante, ¿pero se hace?
R. No. Básicamente, están estos tech bros que compiten por desarrollar lo más inteligente porque creen que ganarán cantidades enormes de dinero. Es lo único que parece importarles. Así que Bezos, Musk, Altman y Zuckerberg no quieren pagar impuestos, quieren ganar muchísimo dinero y quieren tener mucha influencia pagando a los políticos…
P. Quieren ir al espacio y ser jóvenes para siempre.
R. Sí, esta idea de evitar la muerte es simplemente poco realista. Y Musk está en una competición por hacer locuras. Mucho de esto de ir al espacio viene del tecnofeudalismo. Debería usted leer un libro llamado The Nerd Reich. Va sobre la historia de la ideología política que subyace en Silicon Valley, que viene de unos tipos bastante locos; hay uno llamado Yarvin. Y, por ejemplo, Yarvin, antes de que Trump fuera elegido por segunda vez, dijo: “Si Trump es elegido otra vez, lo que deberíamos hacer es nombrar a un director ejecutivo para que entre en el gobierno y elimine gran parte del gobierno”. Eso es exactamente lo que hizo Musk, ¿no? Básicamente, siguieron las instrucciones de Yarvin. Y son tecnofeudalistas. Lo que creen es que es injusto cobrar impuestos a los ricos para mantener a los pobres, y que lo que hay que hacer es tener estados corporativos donde la corporación gobierne el Estado, los trabajadores sean esencialmente esclavos y los ricos puedan hacer lo que quieran sin leyes que los limiten. Eso es lo que creen estos tipos, y una forma de lograrlo es crear algo bajo el mar, o en una isla artificial a kilómetros de cualquier parte, o en el espacio. Así que Musk quiere ir a Marte. Dice que es por la supervivencia de la especie. En realidad, se trata de ir a algún lugar donde las leyes de la sociedad no se apliquen y podamos inventarnos las leyes que queramos. Sí, es gente que da miedo.
P. Veo que la charla con Pinker no le ha hecho a usted más optimista…
R. Sí, respecto a lo que está pasando con el autoritarismo, soy muy pesimista. Musk está metiendo ahora enormes cantidades de dinero en las elecciones de mitad de mandato, y si consigue impedir que los demócratas las ganen, impedir que controlen la Cámara, eso es el fin de la democracia estadounidense. Da miedo. Es tan aterrador como los años treinta en Europa.
Ciencia en EL PAÍS
