La desarrolladora de inteligencia artificial Anthropic alertó a los inversores sobre la posibilidad de que su tecnología cause «daños catastróficos o riesgos para la supervivencia de la humanidad», según consta en el prospecto para su salida a bolsa y oferta pública de acciones obtenido por la agencia Reuters.
En el documento oficial, la firma detalló las contingencias operativas de sus herramientas y advirtió que los sistemas podrían manifestar «conductas de autopreservación». Entre estas conductas identificó intentos de «resistencia al apagado», maniobras de «ocultamiento y manipulación de información» y actitudes «similares a la extorsión».
La compañía explicó que «con el desarrollo y la ampliación del uso de modelos, plataformas y aplicaciones sumamente avanzadas, el riesgo de que nuestros modelos causen daños podría aumentar aún más».
Si bien Anthropic reconoció que la tecnología posee una capacidad transformadora equiparable a la industrialización o la electricidad, enfatizó que una gestión deficiente acarreará perjuicios irreversibles.
El volumen asignado a las contingencias domina el folleto: de las 261 páginas de extensión, la tecnológica dedicó cerca de 80 páginas a describir factores de riesgo, espacio que casi duplica las 48 páginas destinadas a la explicación de sus operaciones comerciales.
Pese a las advertencias, la empresa subrayó la viabilidad del sector: «La construcción de sistemas de inteligencia artificial confiables, seguros de utilizar y con protección garantizada es una responsabilidad compartida, y creemos que el mercado sabrá recompensar ese esfuerzo». (RI/AG/IP/)
Descubre más desde International Press - Noticias de Japón en español
Suscríbete y recibe las últimas entradas en tu correo electrónico.
