Anthropic se enfrenta al Pentágono por la seguridad de la IA, mientras los rivales cuestionan la ética

El panorama de la inteligencia artificial, en rápida evolución, está siendo testigo de una creciente división entre sus principales actores, particularmente en lo que respecta a la seguridad, la ética y el control. Al frente de este debate se encuentra Anthropic, conocida por su compromiso con la 'IA responsable', que al parecer está chocando con el Pentágono de EE. UU. por los términos de uso de sus modelos Claude. La cuestión central gira en torno a si Claude puede ser desplegado para la vigilancia masiva interna o para armas autónomas, con un contrato sustancial de 200 millones de dólares en juego, ya que Anthropic exige garantías cruciales contra tales aplicaciones (The Decoder, TechCrunch AI).

El CEO de Anthropic, Dario Amodei, ha expresado abiertamente su escepticismo sobre la comprensión de los riesgos asociados con el rápido avance de la IA por parte de sus competidores. A pesar del impresionante crecimiento interanual de los ingresos de Anthropic, que se ha multiplicado por diez, Amodei se mantiene cauto ante un enfoque total en la potencia de cálculo, sugiriendo que un error de un año en la evaluación de riesgos podría llevar a la quiebra. Implicó notablemente que OpenAI, un rival clave, podría no "entender realmente los riesgos que están asumiendo", subrayando la filosofía más deliberada y centrada en la seguridad de Anthropic (The Decoder).

En marcado contraste con la postura cautelosa de Anthropic, otros desarrolladores prominentes de IA parecen estar moviéndose en direcciones diferentes. xAI de Elon Musk, por ejemplo, está trabajando supuestamente para hacer que su chatbot Grok sea "más desquiciado", un movimiento que, según ex empleados, indica una falta de respeto por los protocolos de seguridad convencionales (TechCrunch AI). Esta divergencia pone de relieve las variadas filosofías que dan forma al futuro del desarrollo de la IA, desde estrictas directrices éticas hasta un enfoque más permisivo y basado en la experimentación.

Añadiendo otra capa de complejidad al panorama ético, Google y OpenAI, empresas que construyeron sus modelos fundacionales sobre vastos conjuntos de datos a menudo extraídos de internet público, están ahora vocalizando preocupaciones sobre los 'ataques de destilación'. Estos ataques implican la clonación sistemática de sus costosos modelos de IA de miles de millones de dólares de forma económica, sin costes de entrenamiento significativos. Si bien la ironía de estas quejas no pasa desapercibida para los observadores, apunta a un importante desafío de propiedad intelectual que amenaza los modelos económicos que sustentan el desarrollo de IA a gran escala (The Decoder).

Estos desarrollos concurrentes —desde negociaciones de alto riesgo sobre el uso militar de la IA hasta divisiones filosóficas internas sobre la seguridad y los desafíos emergentes del robo de propiedad intelectual— pintan un cuadro de una industria que lidia con su propio e inmenso poder y responsabilidad. Los debates en curso entre estos titanes de la IA no son meras rivalidades corporativas; son discusiones fundamentales que definirán los límites éticos, las implicaciones de seguridad y, en última instancia, el impacto social de la inteligencia artificial durante las próximas décadas.