La desarrolladora estadounidense Anthropic publicó este 8 de octubre una actualización de su política de uso para su modelo de inteligencia artificial Claude, prohibiendo de manera explícita conductas crueles o abusivas continuadas contra el sistema y centralizando sus restricciones contra operaciones de propaganda e influencia.
La nueva normativa entrará en vigor el próximo 12 de noviembre tras constatar que el modelo asume tareas más prolongadas y autónomas en el entorno digital.
La normativa prohíbe incurrir de forma continua e innecesaria en comportamientos abusivos o crueles hacia la inteligencia artificial. La compañía precisó que la restricción se limita exclusivamente a casos extremos donde se hostigue al modelo repetidamente sin un propósito definido, excluyendo quejas habituales de usuarios, debates, temas creativos oscuros, pruebas técnicas o investigaciones académicas.
La sanción operativa principal continuará apoyándose en los mecanismos ya desplegados en las plataformas «Claude.ai» y «Claude Code». Estas herramientas facultan al propio sistema para interrumpir y finalizar automáticamente las sesiones con usuarios que mantengan una conducta agresiva persistente.
OPERACIONES DE INFLUENCIA Y REDES FALSAS
El reglamento unificó sus directrices preventivas en un apartado específico titulado «Do Not Engage in Deceptive Campaigns or Artificial Activity» (No participar en campañas engañosas ni actividades artificiales). La medida responde a la detección de medios estatales, agencias de propaganda gubernamental y firmas privadas que emplearon a Claude para gestionar redes de cuentas falsas y sitios de noticias inventadas.
Esta disposición recopila cláusulas previamente dispersas en materia electoral, fraude, privacidad y manipulación informativa, aplicándose a operaciones de carácter político o comercial. La prohibición abarca el ocultamiento del origen de los contenidos, la difusión automatizada y el desarrollo de infraestructura técnica destinada a campañas de influencia. A su vez, el acápite sobre comicios electorales se restringió específicamente a vetar el engaño a votantes o la perturbación directa de elecciones.
ARMAMENTO, VIGILANCIA Y PROCESOS JUDICIALES
Anthropic delimitó formalmente las restricciones vinculadas al sector militar y de seguridad (heiki to kanshi). Queda prohibido el desarrollo de software o piezas destinadas a hacer operativos armamentos, así como la integración de armas en vehículos aéreos no tripulados.
En el ámbito policial y de vigilancia, la empresa proscribió el rastreo de personas sin su consentimiento y la utilización del modelo para determinar o recomendar sospechosos en investigaciones y órdenes de detención. La firma aclaró que estas precisiones corresponden a la formalización escrita de sus procedimientos de moderación preexistentes.
USOS DE ALTO RIESGO Y CONTROL DE HARDWARE
Para las aplicaciones catalogadas como de alto riesgo —que involucran salud, derechos legales o finanzas—, se mantiene el requisito de contar con la supervisión de profesionales certificados facultados para modificar las respuestas de la inteligencia artificial, además de exigir la notificación transparente al usuario afectado. Frente a reiteradas consultas, Anthropic detalló las actividades autorizadas y prohibidas a lo largo de 11 sectores específicos, incluyendo el ámbito legal, sanitario, financiero y laboral.
Finalmente, en virtud de la norma común para control de equipos «Model Hardware Standard» (MHS) presentada en agosto, se incorporaron directrices obligatorias para la manipulación autónoma de maquinaria que pueda causar lesiones físicas. El protocolo exige que un operador calificado pueda monitorizar y detener los dispositivos en todo momento, garantizando que el equipamiento conserve un estado seguro en caso de perder conexión con Claude. (RI/AG/IP/)
Descubre más desde International Press - Noticias de Japón en español
Suscríbete y recibe las últimas entradas en tu correo electrónico.
