California Endurece las Reglas de Contratos de IA mientras Aumenta la Disputa con la Administración Trump

En resumen

• California ordena salvaguardas más estrictas para las empresas de IA que buscan contratos estatales.
• El movimiento llega mientras la administración de Trump impulsa estándares nacionales de IA.
• Los funcionarios estatales desarrollarán reglas de contratación que aborden cuestiones como sesgo, uso indebido y riesgos para los derechos civiles.

El conflicto entre Washington y los estados sobre la política de inteligencia artificial se intensificó el lunes después de que el gobernador de California, Gavin Newsom, firmara una orden ejecutiva que exige salvaguardas más estrictas a las empresas de IA que buscan contratos estatales. Según la orden, las empresas que vendan sistemas de IA a agencias de California deberán demostrar políticas que eviten el uso indebido y protejan la privacidad, la seguridad y los derechos civiles. “California siempre ha sido la cuna de la innovación. Pero también entendemos la cara opuesta: en las manos equivocadas, la innovación puede usarse indebidamente de maneras que pongan a las personas en riesgo”, dijo Newsom en un comunicado. “California lidera en IA, y vamos a usar todas las herramientas que tenemos para garantizar que las empresas protejan los derechos de las personas, no que las exploten ni las pongan en peligro. Mientras otros en Washington diseñan políticas y crean contratos a la sombra del uso indebido, nosotros nos enfocamos en hacerlo de la manera correcta”. La orden de Newsom instruye a la Agencia de Operaciones del Gobierno del estado a desarrollar estándares de contratación para proveedores de IA que aborden cuestiones como la generación ilegal de contenido, el sesgo de los modelos y el riesgo para los derechos civiles y la libertad de expresión. La orden también instruye al Departamento de Tecnología de California a desarrollar recomendaciones para la marca de agua de imágenes generadas por IA y video manipulado.

 La orden pone a California en conflicto con el esfuerzo de la administración de Donald Trump por establecer estándares nacionales de IA y limitar la regulación a nivel estatal. A principios de este mes, la administración de Trump publicó un marco nacional de política de inteligencia artificial, instando al Congreso a establecer estándares federales y reducir lo que los funcionarios describen como un mosaico de regulaciones estatales de IA. Kevin Frazier, un investigador adjunto en el Cato Institute, dijo que la disputa refleja un equilibrio constitucional de larga data entre la autoridad estatal y federal. “Cada avance tecnológico, desde el barco de vapor hasta la superinteligencia, plantea preguntas clave sobre cómo asignar la autoridad regulatoria entre los estados y el gobierno federal”, dijo Frazier a Decrypt. “La Constitución ofrece una respuesta clara: el gobierno federal debe liderar en asuntos de seguridad económica y nacional, así como en aquellos que requieren una respuesta uniforme; los estados pueden ejercer sus poderes tradicionales de policía dentro de sus fronteras”.

Frazier calificó la orden ejecutiva de Newsom como “un ejemplo destacado del federalismo en acción”, y dijo que las empresas que rechacen los requisitos de California pueden optar por no venderle al estado. “Mientras tanto, el Congreso todavía está en una posición para establecer los términos del ritmo y la dirección de las ambiciones de IA del país”, dijo. Quinn Anex-Reis, analista sénior de políticas en el Center for Democracy and Technology, dijo que el tamaño de California y su poder de compra significan que podría influir en cómo las empresas diseñan y prueban los sistemas de IA si quieren vender al estado. “La contratación gubernamental es muy valiosa para las empresas”, dijo Anex-Reis a Decrypt. “Es una parte enorme del negocio para los desarrolladores de tecnología en general, y una vía de negocio en crecimiento específicamente para los desarrolladores de IA.” Dijo que las reglas de contratación son una de las formas más efectivas en que los gobiernos pueden influir en cómo se desarrollan y evalúan los sistemas de IA. “El proceso de contratación es un lugar realmente importante para prestar atención”, dijo Anex-Reis. “Porque ahí es realmente donde el estado puede mirar para establecer protecciones y expectativas sobre cómo los proveedores desarrollan sus herramientas.” Newsom ha surgido como una figura demócrata nacional y candidato potencial a la presidencia de 2028. Una encuesta reciente de Politico–UC Berkeley Citrin Center encontró que él lidera al ex vicepresidente Kamala Harris por 14 puntos entre los votantes probables de las primarias demócratas en California. El choque de políticas sobre la regulación de la IA lo pone en conflicto directo con la administración de Trump a medida que se intensifican los debates sobre quién debe establecer las reglas que rigen la tecnología. El verano pasado, la administración de Trump ordenó a las agencias federales que evitaran contratos con los modelos de lo que llamaron “IA woke” y que contrataran sistemas que demuestren neutralidad ideológica.

Aun así, Anex-Reis dijo que la cuestión sobre la regulación de la IA es más grande que la política. “Esto realmente no debería ser un tema político”, dijo Anex-Reis. “Se trata realmente de asegurarnos de que el dinero de los contribuyentes no se desperdicie y de que las herramientas que compra nuestro gobierno funcionen.”