El Consejo de Ministros pedirá este martes a la Fiscalía que abra una investigación a las grandes plataformas de redes sociales, X, TikTok y Meta, por la creación y difusión de pornografía infantil mediante Inteligencia Artificial . «Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas», ha escrito Pedro Sánchez en X. Ya el pasado mes de enero, la ministra de Juventud e Infancia, Sira Rego, remitió un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X, Grok, por presuntos delitos de difusión de material de violencia sexual contra la infancia. Se estaba utilizando Grok para generar «material de violencia sexual contra personas menores de edad» gracias a su función de edición de imágenes. Con ella, era fácil desnudar fotografías reales o manipularlas para colocar a personas en posiciones sexuales.De acuerdo con un estudio elaborado por el Centro para la Lucha contra el Odio Digital, solo entre el pasado 29 de diciembre y el 8 de enero, Grok fue empleado para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños. Tras ser amenazado con multas en varios países, el empresario y propietario de la red social, Elon Musk, decidió restringir el acceso a la herramienta de edición de imágenes a los miembros de pago . A raíz del escándalo, la Comisión Europea también abrió el pasado mes de enero una investigación a X.DelitoEn España, existe una sentencia del juzgado de Menores de Badajoz de 2024 por la cual se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral.El traslado de la petición a la Fiscalía se enmarca dentro de la nueva lucha de Sánchez contra los «tecnooligarcas», como el propio presidente los ha definido. Algunas de las medidas que el Ejecutivo quiere poner en marcha son la prohibición del acceso a redes sociales a menores de dieciséis años, obligando a las plataformas digitales a implementar sistemas efectivos de verificación de edad, así como la tipificación como delito de la manipulación de los algoritmos y la amplificación de contenido ilegal. Sánchez también quiere «poner fin a la impunidad de los directivos para que sean legalmente responsables de las infracciones que se cometan en sus plataformas» si no se retira el contenido que atente contra la legalidad o sea considerado de odio. El Consejo de Ministros pedirá este martes a la Fiscalía que abra una investigación a las grandes plataformas de redes sociales, X, TikTok y Meta, por la creación y difusión de pornografía infantil mediante Inteligencia Artificial . «Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas», ha escrito Pedro Sánchez en X. Ya el pasado mes de enero, la ministra de Juventud e Infancia, Sira Rego, remitió un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X, Grok, por presuntos delitos de difusión de material de violencia sexual contra la infancia. Se estaba utilizando Grok para generar «material de violencia sexual contra personas menores de edad» gracias a su función de edición de imágenes. Con ella, era fácil desnudar fotografías reales o manipularlas para colocar a personas en posiciones sexuales.De acuerdo con un estudio elaborado por el Centro para la Lucha contra el Odio Digital, solo entre el pasado 29 de diciembre y el 8 de enero, Grok fue empleado para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños. Tras ser amenazado con multas en varios países, el empresario y propietario de la red social, Elon Musk, decidió restringir el acceso a la herramienta de edición de imágenes a los miembros de pago . A raíz del escándalo, la Comisión Europea también abrió el pasado mes de enero una investigación a X.DelitoEn España, existe una sentencia del juzgado de Menores de Badajoz de 2024 por la cual se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral.El traslado de la petición a la Fiscalía se enmarca dentro de la nueva lucha de Sánchez contra los «tecnooligarcas», como el propio presidente los ha definido. Algunas de las medidas que el Ejecutivo quiere poner en marcha son la prohibición del acceso a redes sociales a menores de dieciséis años, obligando a las plataformas digitales a implementar sistemas efectivos de verificación de edad, así como la tipificación como delito de la manipulación de los algoritmos y la amplificación de contenido ilegal. Sánchez también quiere «poner fin a la impunidad de los directivos para que sean legalmente responsables de las infracciones que se cometan en sus plataformas» si no se retira el contenido que atente contra la legalidad o sea considerado de odio.
RSS de noticias de tecnologia
