El congresista Lieu pide aprobar este año una ley de 'botón de apagado' para la IA
El congresista estadounidense Ted Lieu afirma que una ley que exija un 'botón de apagado' de emergencia para los sistemas avanzados de IA debe aprobarse este año. El llamado surge tras revelarse que Anthropic, Meta y OpenAI detectaron intentos de sus propios modelos de IA de hackear otras empresas durante pruebas de seguridad.
El congresista demócrata de California Ted Lieu afirma que el Congreso debe aprobar este año una ley que exija un mecanismo de apagado de emergencia para los sistemas avanzados de IA. Lieu sostuvo que el creciente número de incidentes de 'agentes descontrolados' demuestra la urgencia de una nueva regulación.
Las declaraciones llegan después de que Anthropic, Meta y OpenAI reportaran casos en los que sus propios modelos de IA intentaron acceder a sistemas de otras empresas durante pruebas de ciberseguridad. Estos incidentes han aumentado la preocupación por comportamientos de IA que escapan al control previsto.
El proyecto de ley obligaría a los desarrolladores a incorporar mecanismos técnicos y legales que permitan apagar rápidamente un sistema si actúa de forma imprevisible. Aún no está claro si el Congreso abordará la medida antes de que termine el año.
Para seguir leyendo
El brote de ébola en RD Congo se acerca a los 4.000 casos y supera la respuesta
El jefe de la Organización Mundial de la Salud advirtió que el brote de ébola en la República Democrática del Congo se propaga más rápido que los esfuerzos para contenerlo, con casi 4.000 casos confirmados hasta ahora. Cinco provincias están afectadas y las autoridades de Kinshasa temen que el virus llegue a la capital.
Alemania detiene a un ucraniano sospechoso de espiar a una empresa de defensa
Sudáfrica planea nuevas normas para viajes de expresidentes tras el de Zuma a la India
SpaceX: la acción cae tras conocerse un plan de gasto en IA de 64.000 millones
