Trump prohíbe Anthropic a agencias federales; el Pentágono tendrá seis meses para su eliminación

Anthropic, desarrollador del avanzado modelo de IA Claude, se mantiene firme frente al Pentágono en cuanto al despliegue ético de su tecnología, negándose específicamente a permitir que sus sistemas de IA se utilicen para vigilancia masiva doméstica o armamento totalmente autónomo. El CEO Dario Amodei ha declarado inequívocamente que la compañía "no puede, de buena fe, acceder" a las demandas del Pentágono de acceso sin restricciones a sus modelos. Sin embargo, esta postura firme de Anthropic ha provocado fuertes críticas por parte del Pentágono, que según informes calificó al CEO Dario Amodei de ‘mentiroso’ con un ‘complejo de Dios’ ante la inminente fecha límite para cambios de política, según Fortune. Esto pone de relieve un punto crítico para la gobernanza de la IA, especialmente en lo que respecta a modelos fundacionales potentes como Claude y sus aplicaciones en sectores sensibles.

Esta negativa basada en principios podría reforzar significativamente el atractivo de Claude para desarrolladores y empresas que priorizan el desarrollo y despliegue ético de la IA. Como uno de los principales modelos de lenguaje grandes (LLM), el compromiso de Claude con estas “líneas rojas” posiciona a Anthropic como líder en IA responsable, atrayendo potencialmente a usuarios que buscan mitigar los riesgos asociados con las capacidades de IA sin control. El enfrentamiento subraya la creciente importancia de las políticas de uso transparentes para las herramientas de IA, donde los valores subyacentes del desarrollador influyen directamente en la confiabilidad y comercialización de la tecnología en sí.

El impacto de la posición de Anthropic se está extendiendo por toda la industria de la IA. Cientos de empleados de gigantes tecnológicos rivales como Google (DeepMind) y OpenAI han expresado su apoyo, redactando cartas abiertas exigiendo salvaguardias éticas similares para sus respectivos modelos, como Gemini de Google. Estos empleados abogan por prohibiciones explícitas contra el uso de la IA de sus empresas en armamento autónomo y vigilancia, reflejando las demandas de Anthropic al Pentágono. Incluso el CEO de OpenAI, Sam Altman, ha indicado que OpenAI comparte las líneas rojas de Anthropic, con el objetivo de “desescalar” tensiones mientras trabaja en sus propios compromisos con el Pentágono. Esta ola de apoyo se extiende más allá de los empleados individuales, con Silicon Valley uniéndose en gran medida detrás de Anthropic en su enfrentamiento con la administración Trump, lo que subraya una división significativa en la industria sobre la gobernanza de la IA.

La disputa ha escalado desde entonces a los más altos niveles del gobierno. El presidente Trump ha intervenido directamente, emitiendo una orden a todas las agencias federales para que cesen el uso de los servicios de IA de Anthropic. Si bien la directiva prohíbe Anthropic para uso federal general, el Pentágono ha recibido un período de gracia de seis meses para eliminar gradualmente el uso de la tecnología de Anthropic en medio del enfrentamiento en curso, un matiz crucial informado por Fortune. Escalando aún más el conflicto, el Pentágono también está considerando designar a Anthropic como un riesgo de la cadena de suministro, una medida que podría tener implicaciones a largo plazo para los contratos gubernamentales de la compañía, según TechCrunch AI. Esta amplia acción ejecutiva fue influenciada según informes por figuras como Emil Michael, un destacado ejecutivo de Silicon Valley convertido en funcionario de Trump con profundos vínculos con el mundo de la tecnología, quien está liderando los esfuerzos contra Anthropic, como se detalla en Fortune. La orden más amplia también fue informada por TechCrunch AI, The Decoder y Wired AI. Esto marca una respuesta gubernamental significativa a la negativa de Anthropic de alinearse con las demandas del Pentágono, llevando el conflicto a un territorio sin precedentes para los proveedores de IA.

Para los usuarios de herramientas de IA, esta disputa creciente, que ahora involucra una directiva presidencial y posibles riesgos en la cadena de suministro, establece un precedente aún más crucial. Enfatiza que el marco ético incrustado en un modelo de IA como Claude puede ser tan significativo como sus capacidades técnicas, con consecuencias en el mundo real tanto de la industria como del gobierno. Las empresas y los desarrolladores que aprovechan estos modelos avanzados ahora deben considerar no solo el rendimiento, sino también la postura del desarrollador sobre cuestiones éticas críticas y la posibilidad de repercusiones gubernamentales. Esto podría conducir a un panorama competitivo donde las empresas con directrices éticas claramente definidas y respetadas, como Anthropic, obtengan una ventaja distintiva para atraer a una base de usuarios cada vez más preocupada por la innovación responsable en IA, a pesar de enfrentar una presión política significativa. La implicación más amplia es una prueba en tiempo real del equilibrio de poder entre las empresas tecnológicas, los intereses de seguridad nacional y la rama ejecutiva en la configuración del futuro de la guerra y la vigilancia con IA.