Anthropic Reafirma su Posición sobre el Uso de AI en el Ámbito Militar

Desacuerdo con el Pentágono

Dario Amodei, CEO de Anthropic, ha declarado que la compañía no eliminará las restricciones sobre la vigilancia masiva interna y los sistemas de armas completamente autónomas. Esta postura ha generado tensiones con el Departamento de Defensa de EE. UU., que está evaluando posibles sanciones, incluyendo la anulación de un contrato por $200 millones.

Demandas del Pentágono

• El Pentágono exigió que los contratistas de AI permitieran el uso de sus sistemas para «cualquier uso legal».
• A pesar de que otros proveedores han accedido a esta solicitud, Anthropic se mantiene firme en su rechazo.
• Se reportó que hay un ultimátum para permitir el uso militar irrestricto de Claude, con un plazo establecido para este viernes.

Amodei afirmó que, aunque es prerrogativa del Departamento seleccionar a sus contratistas, espera que reconsideren la importancia de la tecnología de Anthropic para las fuerzas armadas de EE. UU.

Preocupaciones sobre el Uso de AI en la Milicia

El conflicto se da en un contexto donde hay preocupaciones crecientes sobre cómo los sistemas de AI avanzados operan en escenarios militares críticos. Un estudio reciente de King’s College London reveló que modelos de AI como GPT-5.2 y Claude Sonnet 4 estaban involucrados en el lanzamiento de armas nucleares en el 95% de las crisis geopolíticas simuladas.

Uso de Claude en Operaciones Militares

Durante una operación para capturar al ex presidente venezolano Nicolás Maduro, se utilizó Claude, aunque Amodei negó que la compañía hubiera cuestionado operaciones militares específicas.

Valores Democráticos en Juego

Amodei destacó que el uso de sistemas de AI para la vigilancia masiva o armas autónomas es incompatible con los valores democráticos y podría conllevar riesgos significativos. Bajo su perspectiva, los sistemas de AI actuales no son lo suficientemente fiables para operar armas que actúen sin intervención humana.

Reacciones a las Amenazas del Pentágono

El Pentágono ha amenazado con designar a Anthropic como un «riesgo para la cadena de suministro», lo que podría tener consecuencias desastrosas para la empresa y la industria de AI en general. Robert Weissman, co-presidente de Public Citizen, acusó al Pentágono de presionar públicamente a Anthropic para establecer un precedente en la industria tecnológica.

• Weissman describió las restricciones de Anthropic como “modestas”, diseñadas para prevenir la vigilancia indebida y el desarrollo de robots asesinos.
• Afirmó que las amenazas del Pentágono envían un mensaje claro a las empresas de AI: esperan acceso irrestricto a las tecnologías desarrolladas.

Conclusión

A pesar de la incertidumbre respecto a la decisión del Pentágono sobre la terminación del contrato de Anthropic o la invocación de la Ley de Producción de Defensa, es evidente que las tensiones entre la tecnología de AI y las decisiones del gobierno militar están creciendo.

Boletín Diario

Comienza cada día con las principales historias de noticias, además de características originales, un pódcast, videos y más.

Descargo de responsabilidad: Los puntos de vista y opiniones expresadas en este artículo pertenecen a su autor y no necesariamente reflejan aquellas de CriptoPasion. La opinión del autor es a título informativo y en ninguna circunstancia constituye una recomendación de inversión ni asesoría financiera.