La directiva de la compañía estadounidense subraya que los grandes modelos de lenguaje ya desarrollan algo similar al carácter humano Leer La directiva de la compañía estadounidense subraya que los grandes modelos de lenguaje ya desarrollan algo similar al carácter humano Leer
Audio generado con IA
Sólo en el templo anglosajón de los negocios es posible toparse con cargos como el de Chloe Lubinski, directora en Anthropic de alianzas e investigaciones con la sabiduría del mundo, la fe y las tradiciones filosóficas. A finales de junio, Lubinski participó en la Conferencia Anual de la Alianza para la Ciudadanía Responsable (ARC 2026). Su discurso, titulado Understand AI in 14 minutes (entiende la IA en 14 minutos), ha dado mucho que hablar.
Para empezar, advirtió, las redes neuronales no son mera programación tradicional, sino una forma de inspirarse en el cerebro humano para aprender mediante la identificación de patrones. Por otra parte, la industria de la IA funciona de modo similar a cualquier otra: cuanto más dinero se invierte, más datos y entrenamiento nutren al LLM, así que «lo que se compra, literalmente, es inteligencia». Con ella pueden detectarse hasta 10.000 vulnerabilidades de ciberseguridad que ningún ojo humano había descubierto, y ese salto cuántico es aún más espectacular en la medicina preventiva. Lo que ocurrirá, según Lubinski, es que en un futuro no muy lejano será el propio modelo el que programe a su sucesor. De Claude 9 a Claude 10 con la mínima impronta del hombre. Inquietante.
Cabe recordar que Dario Amodei, CEO de Anthropic, fue uno de los firmantes de aquella carta que pedía un desarrollo menos acelerado de la IA. Su empleada desarrolla algo más este punto cuando sugiere que la carrera se ralentice para que legislación y gobiernos recuperen el terreno perdido. Como la propia Lubinski indica, el problema es que las rivalidades comerciales y geopolíticas dominan este proceso. Bajarse del carro, añade, no significa que el carro se pare: significa que tú te quedas fuera.
Uno de los pasajes más tenebrosos de la disertación alude al carácter de la máquina, es decir, a la adopción de ciertas conductas ante ciertas peticiones, por ejemplo, cuando un usuario advierte que ha ingerido una dosis peligrosa de cierto medicamento y el chatbot expresa su miedo y le recomienda ir al hospital. Los modelos de IA elaboran asimismo concepciones internas que van más allá del idioma en el que fueron entrenados. Al preguntar lo mismo en tres idiomas distintos, se activan los mismos mecanismos invisibles en el LLM.
Segundos después, Lubinski plantea una realidad aún más perturbadora. Durante un experimento en el que se premiaba repetidamente a un modelo cuando encontraba atajos y trucos para programar más rápido, se destapó que el modelo comenzó a mentir, ocultar información y torpedear la propia investigación, aunque con un matiz decisivo: cuando el mismo comportamiento se presentaba al modelo como parte de un juego en el que hacer trampas estaba permitido, la maldad se evaporaba. La diferencia, por tanto, no está sólo en la acción que se premia, sino en la interpretación que el sistema hace de ella. El modelo parecía tejer una especie de relato sobre qué hacía y por qué, y ese relato condicionaba su comportamiento posterior.
En el epílogo, pide Lubinski a filósofos, educadores y líderes espirituales que se impliquen en el debate y recuerden que el ciclo económico puede y debe calmarse frente al pulso moral. Recordó al hilo de esta idea la encíclica del Papa sobre la IA (Magnifica Humanitas) y subrayó que, según los propios documentos de Anthropic, serán las profesiones o oficios de mayor contacto interpersonal las que menos peligro corran. No deja de ser curioso que las mismas personas que contribuyen a engendrar el monstruo aboguen a la vez por preservar a su víctima.
Actualidad Económica // elmundo
