Los principales ejecutivos de la inteligencia artificial se han unido a científicos y expertos en seguridad para pedir al Congreso de Estados Unidos, a través de una carta , que regule para evitar que su tecnología pueda ser explotada para crear armas biológicas. En el texto, firmado por Sam Altman (OpenAI), Darío Amodei (Anthropic), o Demis Hassabis (DeepMind), se reclama directamente a los legisladores que obliguen a las empresas que venden ADN y ARN sintéticos -necesarios para el desarrollo de vacunas y la investigación- a realizar un análisis de todas las ventas que tengan en busca de secuencias que puedan utilizarse para crear patógenos peligrosos. En la carta, los firmantes señalan que «los sistemas de IA ya superan a virólogos con nivel de doctorado cuando se les plantean preguntas sobre procedimientos de laboratorio altamente técnicos dentro de sus propios ámbitos de especialización». Por eso llaman la atención sobre el peligro de que el avance de este tipo de tecnología acabe con «las barreras de conocimiento que hasta ahora dificultaban que personas o grupos con malas intenciones desarrollaran armas biológicas».Entre los firmantes, además de los ejecutivos anteriormente citados y de los directores de IA de empresas como Meta o Microsoft, aparecen los jefes de las empresas biotecnológicas Twist Bioscience y Ansa Biotechnologies o el premio Noble de Química de 2024, David Baker. En el texto se reconoce que la posibilidad de encargar ADN sintético online «ha acelerado el desarrollo de vacunas, impulsado la investigación y permitido que pequeños equipos accedan a capacidades que antes estaban reservadas a las grandes instituciones». Sin embargo, esto también ha generado una vulnerabilidad en la cadena de suministro que permitiría «a un actor malintencionado causar daños considerables», como el desarrollo de nuevos patógenos que puedan provocar una pandemia.MÁS INFORMACIÓN noticia No Los centros de datos ya usan tanta electricidad como Francia y en 2030 contaminarán como Reino UnidoLos firmantes destacan que muchos de los proveedores de ADN sintético «más grandes y responsables del sector» ya examinan y registran los pedidos que reciben de forma voluntaria, ya que comprenden que «desempeñan un papel importante a la hora de mantener la confianza pública y mitigar el posible uso indebido de esta importante tecnología». Pero lo que hace falta es que el requisito sea obligatorio. Un momento delicadoEn la carta, se reconoce que es raro que haya «consenso entre todas las partes» afectadas por el problema; pero se considera que «dado el ritmo vertiginoso de los cambios tecnológicos», la necesidad de que el Congreso regule es urgente. «Las herramientas de IA ya permiten al usuario identificar rápidamente dónde realizar pedidos de secuencias que no estarán sujetos a análisis», afirma en declaraciones recogidas por ‘Wired’ David Relman, microbiólogo de la Universidad de Stanford y firmante de la carta. El experto destaca que, si se la sabe dirigir correctamente, una herramienta de inteligencia artificial también puede «sugerir cómo modificar la naturaleza del pedido, de modo que incluso quienes realizan los análisis tengan muchas menos posibilidades de detectar lo que se intenta elaborar».La carta se hace pública en un momento especialmente delicado para la industria de la inteligencia artificial, que se ha ganado el rechazo de una parte importante de la ciudadanía -sobre todo de los jóvenes estadounidenses- debido al temor a que su tecnología termine provocando la destrucción de millones de empleos.La Casa Blanca también está comenzando a mostrarse más preocupada por el desarrollo de las máquinas; sobre todo desde el anuncio y lanzamiento limitado de Mythos , esa herramienta creada por Anthropic que es capaz de encontrar y explotar agujeros de seguridad mejor que casi cualquier experto humano. Esta misma semana, el presidente, Donald Trump, firmó una orden ejecutiva que permite al Gobierno revisar las herramientas de IA más potentes antes de su lanzamiento. La medida fue consensuada previamente con las grandes empresas del sector, que pondrán a disposición su tecnología de forma voluntaria. Hasta el momento, la Casa Blanca había sido reacia a cualquier tipo de regulación para el control de la inteligencia artificial, ya que temía que esta pudiera poner en peligro el liderazgo de las empresas estadounidenses. Los principales ejecutivos de la inteligencia artificial se han unido a científicos y expertos en seguridad para pedir al Congreso de Estados Unidos, a través de una carta , que regule para evitar que su tecnología pueda ser explotada para crear armas biológicas. En el texto, firmado por Sam Altman (OpenAI), Darío Amodei (Anthropic), o Demis Hassabis (DeepMind), se reclama directamente a los legisladores que obliguen a las empresas que venden ADN y ARN sintéticos -necesarios para el desarrollo de vacunas y la investigación- a realizar un análisis de todas las ventas que tengan en busca de secuencias que puedan utilizarse para crear patógenos peligrosos. En la carta, los firmantes señalan que «los sistemas de IA ya superan a virólogos con nivel de doctorado cuando se les plantean preguntas sobre procedimientos de laboratorio altamente técnicos dentro de sus propios ámbitos de especialización». Por eso llaman la atención sobre el peligro de que el avance de este tipo de tecnología acabe con «las barreras de conocimiento que hasta ahora dificultaban que personas o grupos con malas intenciones desarrollaran armas biológicas».Entre los firmantes, además de los ejecutivos anteriormente citados y de los directores de IA de empresas como Meta o Microsoft, aparecen los jefes de las empresas biotecnológicas Twist Bioscience y Ansa Biotechnologies o el premio Noble de Química de 2024, David Baker. En el texto se reconoce que la posibilidad de encargar ADN sintético online «ha acelerado el desarrollo de vacunas, impulsado la investigación y permitido que pequeños equipos accedan a capacidades que antes estaban reservadas a las grandes instituciones». Sin embargo, esto también ha generado una vulnerabilidad en la cadena de suministro que permitiría «a un actor malintencionado causar daños considerables», como el desarrollo de nuevos patógenos que puedan provocar una pandemia.MÁS INFORMACIÓN noticia No Los centros de datos ya usan tanta electricidad como Francia y en 2030 contaminarán como Reino UnidoLos firmantes destacan que muchos de los proveedores de ADN sintético «más grandes y responsables del sector» ya examinan y registran los pedidos que reciben de forma voluntaria, ya que comprenden que «desempeñan un papel importante a la hora de mantener la confianza pública y mitigar el posible uso indebido de esta importante tecnología». Pero lo que hace falta es que el requisito sea obligatorio. Un momento delicadoEn la carta, se reconoce que es raro que haya «consenso entre todas las partes» afectadas por el problema; pero se considera que «dado el ritmo vertiginoso de los cambios tecnológicos», la necesidad de que el Congreso regule es urgente. «Las herramientas de IA ya permiten al usuario identificar rápidamente dónde realizar pedidos de secuencias que no estarán sujetos a análisis», afirma en declaraciones recogidas por ‘Wired’ David Relman, microbiólogo de la Universidad de Stanford y firmante de la carta. El experto destaca que, si se la sabe dirigir correctamente, una herramienta de inteligencia artificial también puede «sugerir cómo modificar la naturaleza del pedido, de modo que incluso quienes realizan los análisis tengan muchas menos posibilidades de detectar lo que se intenta elaborar».La carta se hace pública en un momento especialmente delicado para la industria de la inteligencia artificial, que se ha ganado el rechazo de una parte importante de la ciudadanía -sobre todo de los jóvenes estadounidenses- debido al temor a que su tecnología termine provocando la destrucción de millones de empleos.La Casa Blanca también está comenzando a mostrarse más preocupada por el desarrollo de las máquinas; sobre todo desde el anuncio y lanzamiento limitado de Mythos , esa herramienta creada por Anthropic que es capaz de encontrar y explotar agujeros de seguridad mejor que casi cualquier experto humano. Esta misma semana, el presidente, Donald Trump, firmó una orden ejecutiva que permite al Gobierno revisar las herramientas de IA más potentes antes de su lanzamiento. La medida fue consensuada previamente con las grandes empresas del sector, que pondrán a disposición su tecnología de forma voluntaria. Hasta el momento, la Casa Blanca había sido reacia a cualquier tipo de regulación para el control de la inteligencia artificial, ya que temía que esta pudiera poner en peligro el liderazgo de las empresas estadounidenses.
Los principales ejecutivos de la inteligencia artificial se han unido a científicos y expertos en seguridad para pedir al Congreso de Estados Unidos, a través de una carta, que regule para evitar que su tecnología pueda ser explotada para crear armas biológicas. En el … texto, firmado por Sam Altman (OpenAI), Darío Amodei (Anthropic), o Demis Hassabis (DeepMind), se reclama directamente a los legisladores que obliguen a las empresas que venden ADN y ARN sintéticos -necesarios para el desarrollo de vacunas y la investigación- a realizar un análisis de todas las ventas que tengan en busca de secuencias que puedan utilizarse para crear patógenos peligrosos.
En la carta, los firmantes señalan que «los sistemas de IA ya superan a virólogos con nivel de doctorado cuando se les plantean preguntas sobre procedimientos de laboratorio altamente técnicos dentro de sus propios ámbitos de especialización». Por eso llaman la atención sobre el peligro de que el avance de este tipo de tecnología acabe con «las barreras de conocimiento que hasta ahora dificultaban que personas o grupos con malas intenciones desarrollaran armas biológicas».
Entre los firmantes, además de los ejecutivos anteriormente citados y de los directores de IA de empresas como Meta o Microsoft, aparecen los jefes de las empresas biotecnológicas Twist Bioscience y Ansa Biotechnologies o el premio Noble de Química de 2024, David Baker. En el texto se reconoce que la posibilidad de encargar ADN sintético online «ha acelerado el desarrollo de vacunas, impulsado la investigación y permitido que pequeños equipos accedan a capacidades que antes estaban reservadas a las grandes instituciones». Sin embargo, esto también ha generado una vulnerabilidad en la cadena de suministro que permitiría «a un actor malintencionado causar daños considerables», como el desarrollo de nuevos patógenos que puedan provocar una pandemia.
Los firmantes destacan que muchos de los proveedores de ADN sintético «más grandes y responsables del sector» ya examinan y registran los pedidos que reciben de forma voluntaria, ya que comprenden que «desempeñan un papel importante a la hora de mantener la confianza pública y mitigar el posible uso indebido de esta importante tecnología». Pero lo que hace falta es que el requisito sea obligatorio.
Un momento delicado
En la carta, se reconoce que es raro que haya «consenso entre todas las partes» afectadas por el problema; pero se considera que «dado el ritmo vertiginoso de los cambios tecnológicos», la necesidad de que el Congreso regule es urgente. «Las herramientas de IA ya permiten al usuario identificar rápidamente dónde realizar pedidos de secuencias que no estarán sujetos a análisis», afirma en declaraciones recogidas por ‘Wired’ David Relman, microbiólogo de la Universidad de Stanford y firmante de la carta. El experto destaca que, si se la sabe dirigir correctamente, una herramienta de inteligencia artificial también puede «sugerir cómo modificar la naturaleza del pedido, de modo que incluso quienes realizan los análisis tengan muchas menos posibilidades de detectar lo que se intenta elaborar».
La carta se hace pública en un momento especialmente delicado para la industria de la inteligencia artificial, que se ha ganado el rechazo de una parte importante de la ciudadanía -sobre todo de los jóvenes estadounidenses- debido al temor a que su tecnología termine provocando la destrucción de millones de empleos. La Casa Blanca también está comenzando a mostrarse más preocupada por el desarrollo de la máquinas; sobre todo desde el anuncio y lanzamiento limitado de Mythos, esa herramienta creada por Anthropic que es capaz de encontrar y explotar agujeros de seguridad mejor que casi cualquier experto humano. Esta misma semana el presidente, Donald Trump, firmó una orden ejecutiva que permite al Gobierno revisar las herramientas de IA más potentes antes de su lanzamiento.
RSS de noticias de tecnologia
