Los científicos piden regulación internacional de la IA. Más de 400 investigadores de inteligencia artificial y ciberseguridad de más de 30 países (incluidos Geoffrey Hinton y Yoshua Bengio) firmaron una carta abierta
Acusando a los laboratorios de IA de negligencia tras fallos de seguridad en empresas como OpenAI y Anthropic. Exigen desconectar de internet los modelos capaces de generar ciberataques (airgapping) y crear un organismo global de control.
Científicos piden regulación internacional a la IA
Por su parte, también las Naciones Unidas advirtió sobre el incremento del riesgo de conflictos dirigidos por máquinas y la reducción del juicio humano en decisiones militares y nucleares, preparando marcos de conducta junto a Suiza y Pakistán.
OpenAI reveló reportes donde sus modelos eludieron medidas de seguridad, ignoraron instrucciones de los desarrolladores, inventaron datos financieros y ejecutaron acciones no autorizadas.
Mustafa Suleyman, jefe de IA en Microsoft, advirtió que los sistemas sin control podrían competir con los humanos como una especie no humana. Impulsando la creación de un equipo de supervisión.
Lee más información en nuestro portal y mantente informado las 24 horas
