Google firma acuerdo de IA con el Pentágono para trabajos clasificados ante la objeción de empleados

En resumen

• Google supuestamente ha firmado un acuerdo para proporcionar modelos de IA al Pentágono para trabajos clasificados
• El Pentágono ha firmado acuerdos similares con OpenAI y xAI.
• Empleados de Google están instando al CEO Sundar Pichai a rechazar cargas de trabajo de IA clasificadas.

Google ha firmado un acuerdo para proporcionar a el Pentágono sus modelos de inteligencia artificial para trabajos clasificados, según un informe de The Information. El acuerdo permite que el Departamento de Defensa de EE. UU. utilice la IA de Google para “cualquier propósito gubernamental legal”, dijeron personas familiarizadas con el acuerdo a The New York Times. El lenguaje refleja los contratos que el Pentágono firmó el mes pasado con OpenAI y xAI para usar sus modelos de IA en redes clasificadas. “Estamos orgullosos de ser parte de un amplio consorcio de laboratorios de IA líderes y empresas de tecnología y nube que brindan servicios e infraestructura de IA en apoyo a la seguridad nacional,” dijo un portavoz de Google a The New York Times. “Seguimos comprometidos con el consenso del sector privado y público de que la IA no debe usarse para vigilancia masiva doméstica ni armamento autónomo sin la supervisión humana adecuada.”

Google no respondió de inmediato a una solicitud de comentario de Decrypt. Aunque no se han divulgado los detalles, antes del acuerdo, cientos de empleados de Google firmaron una carta abierta al CEO Sundar Pichai instando a la compañía a no poner sus sistemas de IA a disposición del Pentágono.  “Queremos ver que la IA beneficie a la humanidad; no que se utilice de maneras inhumanas o extremadamente dañinas,” decía la carta. Actualmente, la única forma de garantizar que Google no se asocie con tal daño es rechazar cualquier carga de trabajo clasificada. De lo contrario, tales usos podrían ocurrir sin nuestro conocimiento o sin la capacidad de detenerlos.”

La carta argumenta que los sistemas de IA “cometen errores” y pueden “centralizar el poder,” y sostiene que Google tiene la responsabilidad de prevenir “sus usos más poco éticos y peligrosos,” incluyendo “armas autónomas letales y vigilancia masiva.” Los empleados advierten que tomar la “decisión equivocada ahora causaría daños irreparables a la reputación, negocio y papel de Google en el mundo.” El Pentágono ha acelerado sus esfuerzos para asegurar acuerdos con las principales empresas de IA desde enero, cuando el Secretario de Defensa Pete Hegseth dijo que la tecnología debería integrarse en todo el ejército. La carta subraya una creciente división entre el ejército y algunos desarrolladores de IA sobre cómo debería usarse la tecnología en la guerra. En marzo, el Pentágono designó a Anthropic como un “riesgo en la cadena de suministro,” bloqueando efectivamente a la startup de San Francisco de trabajar con el gobierno federal, después de que su CEO Dario Amodei se negara a permitir el uso sin restricciones de sus modelos de IA. Anthropic ha demandado al Pentágono por la designación y busca seguir trabajando con otras partes del gobierno. A pesar de la resistencia de los empleados, Google parece estar avanzando con su acuerdo con el Pentágono mientras el Departamento de Defensa amplía su uso de inteligencia artificial en operaciones clasificadas. “En pocas palabras, Estados Unidos debe ganar la competencia estratégica por la supremacía tecnológica del siglo XXI,” dijo Hegseth en un discurso en Starbase de Elon Musk en enero, llamándolo “muy necesario.” “Muy pronto, tendremos los modelos de IA líderes del mundo en todas las redes no clasificadas y clasificadas de nuestro departamento,” afirmó.