En la última Asamblea General de las Naciones Unidas, el presidente Donald Trump mostró su desacuerdo con “cualquier intento de construir un proyecto globalista para controlar la inteligencia artificial (IA)". Pero en Nueva York y California, los gobiernos avanzan en legislaciones que imponen nuevas reglas para la tecnología.

En Nueva York, la gobernadora Kathy Hochul firmó la Responsible AI Safety and Education (RAISE), que establece pautas de transparencia, reporte de incidentes y crea una unidad para supervisar el cumplimiento de estas obligaciones de las empresas que desarrollan modelos de IA.

En California, el gobernador Gavin Newsom firmó una orden ejecutiva de emergencia para, según dice, contrarrestar la inacción del gobierno federal sobre IA. También quiere evaluar la instalación obligatoria de un "botón de apagado" o interruptor de seguridad para los sistemas más avanzados que se salgan fuera de control.

La medida de Newsom se suma a la Ley de Transparencia en la Inteligencia Artificial Fronteriza, que impone regulaciones específicas a las empresas dedicadas a desarrollar modelos de IA.

¿Qué dice la nueva ley de Nueva York?

Mientras la IA sigue expandiéndose y hasta los responsables de empresas como Anthropic alertan sobre el significado de este avance, a diferencia de normativas tradicionales enfocadas en telecomunicaciones o servicios financieros, la ley RAISE, de Nueva York, apunta directamente a la IA de alta capacidad o fronteriza.

La gobernadora de Nueva York, Kathy Hochul, firmó la ley RAISE para regular la IA. Foto: Oficina de la Gobernadora.

Estos modelos son sistemas cuya escala computacional y complejidad técnica supera umbrales definidos, y que por su naturaleza pueden influir en decisiones automatizadas de gran impacto o generar contenidos sin supervisión humana directa.

Los puntos clave de la ley RAISE son:

• Obligación de transparencia. Los desarrolladores de modelos de IA deben crear y publicar información detallada sobre sus protocolos de seguridad.

• Reporte rápido de incidentes. Cualquier hecho debe ser reportado dentro de las 72 horas de ser identificado.

• Multas por violación. El fiscal general del estado puede iniciar acciones civiles con multas de hasta un millón de dólares por la primera violación y hasta tres millones por violaciones posteriores.

Hochul destacó que, aunque la IA trae avances impresionantes en medicina, educación y productividad, también plantea “riesgos serios” que requieren mecanismos de precaución y transparencia. En su comunicación oficial, afirmó que la ley establece “un estándar fuerte y sensato para la seguridad de la IA”, y que “posiciona a Nueva York a la vanguardia de los estados que exigen responsabilidad a los grandes desarrolladores de tecnología”.

En tanto, la orden ejecutiva firmada por Newsom acelera los plazos de aplicación de dos normativas, la Ley SB 813, que establece un sistema de certificación para organizaciones de verificación independientes, y la Ley AB 1405, que crea un registro oficial de auditores de IA.

El gobernador quiere evaluar la implementación de "interruptor de seguridad" capaz de desactivar de forma remota a aquellos modelos que pierdan el control o registren comportamientos anómalos. La iniciativa retoma el espíritu del proyecto de ley SB 1047, que fue vetado por el propio Newsom en 2024.

En California, el gobernador Gavin Newsom también establece regulaciones para los desarrollos más avanzados de IA. Foto: @CAGovernor.

Según la nueva directiva, las empresas tecnológicas no solo deberán presentar sus protocolos de riesgo, sino que estos tendrán que ser auditados en tiempo real por supervisores independientes instalados directamente dentro de los laboratorios de desarrollo.