Red Hat lanza la comunidad asago para automatizar la seguridad y la gobernanza de IA, de las políticas a la producción

Nuevo proyecto open source colaborativo reúne a Red Hat, Alquimia AI, Brave Software, la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA y The Alan Turing Institute para reducir la brecha entre los requisitos de políticas de IA y la implementación segura de sistemas de inteligencia artificial

Red Hat, líder mundial en la provisión de soluciones open source, anunció hoy la creación de asago, un proyecto comunitario de código abierto destinado a automatizar la transformación de políticas de gobernanza de IA en sistemas de IA listos para producción e implementados con seguridad. asago conecta las etapas, herramientas y requisitos fragmentados entre los equipos de ingeniería y compliance para crear un flujo de trabajo automatizado, auditable y rastreable. El objetivo es ayudar a entregar sistemas de IA más seguros y listos para producción, impulsando la innovación en días, y no en meses o años.

¿Qué es asago?

asago (AI Safety And Governance Orchestration) busca utilizar una plataforma open source estandarizada y un flujo de trabajo automatizado para traducir políticas corporativas y regulatorias de gobernanza de IA complejas en controles operacionales efectivos. Se basa en el trabajo de Red Hat y NVIDIA como miembros de la Open Secure AI Alliance, y alinea la flexibilidad de los desarrolladores con la gobernanza de los operadores a lo largo de cuatro etapas principales:

  • Mapeo de riesgos: el framework lee e interpreta automáticamente las políticas de gobernanza de IA enviadas, mapeando los requisitos específicos de la organización directamente a frameworks, ontologías y estándares consolidados de gestión de riesgos en IA, como el NIST AI RMF, el OWASP LLM Top 10 y la Ley de IA de la Unión Europea (EU AI Act), a través del IBM AI Risk Atlas. De esta manera, transforma el lenguaje de las políticas en perfiles de riesgo accionables.

  • Evaluación de riesgos: asago genera y ejecuta escenarios específicos para cada caso de uso, realizando pruebas automatizadas de seguridad adaptadas a los riesgos identificados e investigando comportamientos potencialmente nocivos, en lugar de depender exclusivamente de benchmarks genéricos.

  • Mitigación de riesgos: el proyecto recomienda las medidas de mitigación más adecuadas, incluyendo guardrails de seguridad basados en los resultados de las pruebas, creando una justificación clara y una traza de auditoría lista para revisión.

  • Implementación en producción: asago orquesta los controles recomendados en configuraciones listas para implementación en diferentes plataformas, incluyendo ambientes de nube híbrida y Kubernetes, eliminando la codificación manual de la infraestructura.

Cada una de estas etapas estará estructurada para generar una traza continua de auditoría, conectando cláusulas específicas de las políticas directamente a las pruebas y a los controles en tiempo de ejecución, lo que permite que los revisores identifiquen exactamente qué riesgo busca abordar cada acción. Esto ayuda a transformar la seguridad de IA en un recurso corporativo predecible y gobernado.

¿Por qué es importante asago?

Traducir directrices abstractas de políticas en configuraciones funcionales de software retrasa la innovación en IA y aumenta los riesgos derivados de fallas de comunicación e interpretaciones equivocadas. Los profesionales de compliance necesitan evaluaciones rigurosas de riesgo y evidencias verificables, mientras que los ingenieros de plataforma requieren configuraciones estructuradas que puedan mantenerse dentro de los flujos estándar de DevOps y GitOps. A medida que regulaciones integrales, como la Ley de IA de la Unión Europea (EU AI Act), entran en vigor, las organizaciones no pueden correr el riesgo de comprometer la innovación con meses de revisiones manuales ni de crear implementaciones paralelas (shadow AI) sin los guardrails de seguridad adecuados.

asago busca eliminar esta fricción al ofrecer un estándar abierto único, capaz de reunir a equipos de compliance, científicos de datos y administradores de infraestructura. Al tratar a todos estos públicos como usuarios igualmente relevantes, la plataforma permitirá crear controles de seguridad para agentes autónomos de IA y modelos de lenguaje de gran tamaño (LLM) corporativos, sin introducir las inconsistencias inherentes a la traducción manual.

Declaraciones de Red Hat

«A medida que las organizaciones avanzan de proyectos piloto experimentales hacia agentes autónomos de IA a largo plazo, establecer guardrails operacionales claros se convierte en un requisito esencial de infraestructura», afirma Steven Huels, vicepresidente de Ingeniería de IA en Red Hat.»A través de iniciativas como Lightwell, estamos trabajando para proteger la cadena de suministro open source contra vulnerabilidades impulsadas por IA. asago complementa este esfuerzo y representa el siguiente paso lógico para la IA corporativa al automatizar la conexión entre definiciones de políticas corporativas y agentes en producción. Esto ofrece a las empresas la confianza operacional de extremo a extremo necesaria para escalar una IA confiable en ambientes de nube híbrida.»

«El proyecto asago es un verdadero esfuerzo colaborativo de código abierto que reúne a representantes de la industria de tecnología, la academia y el sector público», afirma Stuart Battersby, arquitecto de seguridad y evaluación de modelos de IA en Red Hat. «Invitamos a nuevos colaboradores a participar en esta iniciativa liderada por la comunidad, especialmente de diferentes partes del mundo, para garantizar la mayor diversidad posible de perspectivas sobre seguridad en IA.»

Principales aspectos destacados

  • Automatización para reducir la complejidad de las políticas: sustituye interpretaciones manuales y scripts personalizados por un flujo de orquestación integrado, reduciendo el tiempo de implementación de meses a días.

  • Una traza única de auditoría: atiende a responsables de políticas, CIO, desarrolladores de IA, ingenieros de plataforma y auditores externos en una interfaz unificada de trazabilidad.

  • Código abierto y gobernanza orientada por la comunidad: disponible bajo la licencia Apache License 2.0 para promover la colaboración abierta en todo el ecosistema de seguridad en IA.

  • Implementación independiente de la infraestructura: genera configuraciones declarativas para Kubernetes, Terraform y Ansible, permitiendo que las organizaciones mantengan una postura consistente de seguridad en múltiples nubes y ambientes on-premises.

Más detalles

El proyecto asago reúne a líderes de la industria e instituciones académicas, incluyendo a Red Hat, Brave Software, la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA y The Alan Turing Institute, en un esfuerzo conjunto para integrar diferentes especialidades en investigación sobre seguridad en IA, ingeniería de software empresarial, aprendizaje automático adversarial y cumplimiento regulatorio.

El proyecto se integrará con las mejores herramientas abiertas disponibles y fue desarrollado específicamente para solucionar las brechas operacionales existentes entre ellas. El objetivo es ofrecer recursos completos y distribuidos de trazabilidad, registrando las evidencias exigidas por auditores para comprobar el cumplimiento. De esta forma, cada control activo en un ambiente de producción podrá vincularse directamente a la política que justificó su implementación, estableciendo un proceso continuo de verificación para portafolios corporativos de IA.

Declaraciones de los socios de Red Hat

«En Alquimia, construimos nuestra plataforma de IA agéntica con base en una convicción: la inferencia de IA debe ser controlada, explicable y soberana desde el diseño, y no tratada como una exigencia de compliance de último momento», afirma Sebastián Cao, CEO de Alquimia AI. «asago transforma esa misma convicción en un estándar abierto, ofreciendo a cualquier organización un camino desde la política hasta la gobernanza lista para producción que puede ser auditada efectivamente. Es exactamente este tipo de infraestructura la que necesita la industria y es por eso que, a través de gaussia.ai, contribuimos con métricas abiertas y científicamente fundamentadas para medir cómo se comportan realmente los sistemas de IA en el mundo real. Frameworks abiertos de gobernanza, como asago, hacen posible que comunidades enteras, y no solo los proveedores, definan en la práctica qué significa una IA confiable.»

«En Brave estamos entusiasmados de integrarnos a la comunidad asago para ayudar a impulsar el avance de la seguridad en IA, porque una Web más segura beneficia a todos», afirma Brendan Eich, CEO y cofundador de Brave Software. «Brave siempre ha sido open source y esperamos colaborar con asago para garantizar que la privacidad y la seguridad sean los pilares de las herramientas de IA. Más de 120 millones de usuarios navegan y realizan búsquedas con Brave, y esperamos que nuestro enfoque centrado en el usuario contribuya a elevar el estándar de guardrails robustos para IA.»

«Desarrollar una IA confiable exige más que buenas intenciones. Exige una gobernanza que pueda ser implementada, verificada y mantenida de forma continua», afirma el Prof. Dr. Ben Wagner, docente de Derechos Humanos y Tecnología en IT:U. «asago fue concebido para ayudar a transformar políticas de alto nivel en flujos prácticos de ingeniería. IT:U posee una sólida experiencia tanto en la gobernanza técnica como organizacional de la IA y, por eso, agradecemos la oportunidad de contribuir con el proyecto. Esperamos que permita a las organizaciones innovar con confianza, haciendo del desarrollo responsable de IA una realidad práctica.»

Muchos de los desafíos más complejos de seguridad y protección de la IA aún no tienen solución, y ninguna organización puede resolverlos por sí sola», afirmó Sarah Bird, directora de producto de IA Responsable en Microsoft. «Los estándares abiertos y ampliamente adoptados pueden ayudar a crear una gobernanza más consistente en todo el ecosistema, mientras que el ingenio colectivo de la comunidad puede acelerar el progreso en los problemas que más importan. Estamos entusiasmados de unirnos a la comunidad asago y trabajar junto a otros para ayudar a construir una IA que sea segura, protegida y digna de la confianza de las personas

«La colaboración open source es fundamental para hacer avanzar la seguridad y la protección de la IA en todo el ecosistema», afirma Diane Staheli, científica jefa de IA y Ciberseguridad de MIT Lincoln Laboratory. «La iniciativa asago incorporará investigaciones multidisciplinarias para hacer frente a la brecha crítica entre los requisitos de gobernanza y la realidad operacional. Estamos entusiasmados de contribuir para hacer que las herramientas de seguridad y protección en IA sean ampliamente accesibles.»

«Garantizar que los sistemas de IA sean seguros y estén protegidos es un desafío de ingeniería tanto como de políticas públicas, y ninguna empresa, laboratorio o universidad conseguirá resolverlo por sí sola», afirma Veena Misra, decana interina de la Facultad de Ingeniería de North Carolina State University. «La Facultad de Ingeniería de NC State contribuye a la comunidad asago con una sólida base de investigación en seguridad de IA, además de formar ingenieros preparados para desarrollar sistemas de IA seguros y listos para producción desde el principio. Alianzas como esta conectan directamente a nuestra gente y nuestros programas con las necesidades futuras de la industria.»

La Open Secure AI Alliance se fundó sobre el principio de que los modelos abiertos, los arneses y las herramientas abiertas son la base más sólida para la defensa de la IA, y asago pone ese principio en práctica», afirma Daniel Rohrer, vicepresidente de Seguridad de Software en NVIDIA. «Al automatizar la traducción de la política de gobernanza de la IA a controles listos para producción y trazas de auditoría, el proyecto asago demuestra cómo Red Hat, NVIDIA y nuestro ecosistema están fortaleciendo la seguridad de los agentes con herramientas de código abierto

«Ninguna organización puede lograr que la IA sea segura y gobernable a escala por sí sola; esto exige herramientas abiertas, diferentes áreas de conocimiento y una gobernanza neutra», afirma Jason McEwen, científico jefe de The Alan Turing Institute y profesor de UCL. «Es exactamente eso lo que vuelve tan relevante el modelo colaborativo de asago, además de conectarse directamente con nuestro trabajo en IA Confiable y Asegurada dentro del área de Investigación Fundamental de The Alan Turing Institute. Nos satisface participar como socios fundadores y ayudar a definir el rumbo del proyecto junto a la comunidad.»

Disponibilidad

El proyecto asago se encuentra actualmente en la fase de formación de la comunidad. Desarrolladores, investigadores académicos y organizaciones interesadas en adoptar la iniciativa de forma anticipada ya pueden acceder al repositorio y participar en la gobernanza del proyecto a través de GitHub. Para obtener más información y manifestar interés en colaborar, ingresa a asago.ai o completa el formulario de la comunidad.

Más información

Lee el blog

Conéctate con Red Hat

Acerca de Red Hat Red Hat es líder en tecnología de nube híbrida abierta, y proporciona una base confiable, consistente y amplia para una innovación transformadora en TI y aplicaciones de inteligencia artificial (IA). Su portafolio de tecnologías de nube, desarrollo, IA, Linux y automatización permite la implementación de cualquier aplicación, en cualquier lugar, desde data centers hasta el edge. Como líder mundial en la provisión de soluciones de software open source empresarial, Red Hat invierte en ecosistemas y comunidades abiertas para resolver los desafíos de TI del futuro. A través de la colaboración, Red Hat ayuda a clientes y socios a construir, conectar, automatizar, proteger y gestionar sus ambientes de TI, con el soporte de servicios de consultoría, capacitación y certificación reconocidos mundialmente.

Declaraciones prospectivas Excepto por las informaciones y discusiones de carácter histórico aquí contenidas, las declaraciones presentes en este comunicado de prensa pueden constituir declaraciones prospectivas en los términos de la Ley de Reforma de Litigios de Valores Mobiliarios Privados de 1995. Las declaraciones prospectivas se basan en las suposiciones actuales de la empresa sobre el desempeño futuro de sus negocios y resultados financieros. Estas declaraciones involucran diversos riesgos, incertidumbres y otros factores que pueden hacer que los resultados reales sean sustancialmente diferentes de los expresados o implícitos. Cualquier declaración prospectiva contenida en este comunicado se refiere únicamente a la fecha en la que fue realizada. Excepto cuando lo exija la ley, la empresa no asume obligación alguna de actualizar o revisar declaraciones prospectivas.

Red Hat, Red Hat Enterprise Linux y el logotipo de Red Hat son marcas comerciales o marcas registradas de Red Hat, LLC o de sus subsidiarias en los EE. UU. y en outros países. Linux® es una marca registrada de Linus Torvalds en los Estados Unidos y en otros países.

Notas de Glosario

  1. Compliance: Se mantuvo el término técnico en inglés (compliance) en lugar de «cumplimiento normativo», ya que en el entorno empresarial hispanoamericano de tecnología/TI es el término estándar aceptado e idéntico a las convenciones de prensa regionales de Red Hat.

  2. Guardrails: Se conservó como término no traducido (guardrails), un estándar de la industria de la Inteligencia Artificial que refiere a las barreras o límites de seguridad que guían el comportamiento de los modelos.

  3. Shadow AI: Se conservó el término en inglés (shadow AI) junto con la explicación contextual de «implementaciones paralelas», conforme a la terminología estándar de ciberseguridad y TI en América Latina.

  4. Trilha de auditoria -> Traza de auditoría: Se adaptó el portugués trilha de auditoria al estándar en español corporativo de la región como «traza de auditoría» (o «registro de auditoría/trazabilidad»).

  5. Nombres propios e instituciones: Se conservaron intactos los nombres oficiales de organizaciones (Interdisciplinary Transformation University Austria, MIT Lincoln Laboratory, The Alan Turing Institute, North Carolina State University), normativas/estándares (EU AI Act, NIST AI RMF, OWASP LLM Top 10) y software (Kubernetes, Terraform, Ansible, Lightwell).