(Información remitida por la empresa firmante)
G42 firmó los Compromisos de Seguridad de Frontier AI en la Cumbre de IA de Seúl, en mayo de 2024.
Se establece una Junta de Gobierno de Frontier AI para supervisar el cumplimiento, las evaluaciones de riesgo y las salvaguardas del modelo de IA.
Las auditorías independientes y las medidas de transparencia pública refuerzan el compromiso de G42 con la seguridad y la responsabilidad de la IA.
Unos umbrales de riesgo claros definen cuándo las capacidades de IA requieren una mayor seguridad, incluidos los riesgos de bioseguridad y ciberseguridad.
ABU DABI, EAU, 6 de febrero de 2025 /PRNewswire/ — G42, el grupo tecnológico de los Emiratos Árabes Unidos, ha anunciado hoy la publicación de su Marco de Seguridad de la IA en las Fronteras, que refuerza su compromiso con los Compromisos de Seguridad de la IA en las Fronteras de la Cumbre AI Seoul y la Declaración de Bletchley. El marco establece protocolos claros de evaluación de riesgos, gobernanza y supervisión externa para garantizar el desarrollo seguro y responsable de modelos avanzados de IA.
A medida que las capacidades de la IA siguen avanzando, el marco de G42 establece umbrales de capacidad de frontera, mecanismos de gobernanza independientes y salvaguardias de despliegue para identificar y mitigar los riesgos de la IA antes de que se conviertan en críticos. Este enfoque se ajusta a las mejores prácticas mundiales y contribuye a los esfuerzos de seguridad de la IA en curso en todo el mundo.
«La IA es la tecnología que define nuestra era, una utilidad esencial que reconfigurará las economías y las sociedades, como lo hizo la electricidad en el pasado», afirmó Peng Xiao, consejero delegado de G42. «Tal poder conlleva responsabilidad. Este marco refleja nuestro compromiso con la seguridad de la IA, garantizando que la innovación avance con las salvaguardas adecuadas».
El Marco de Seguridad de Frontier AI introduce un enfoque de varios niveles para la gestión de riesgos de la IA, garantizando que los sistemas avanzados de IA se desarrollen, prueben y desplieguen de forma responsable. Incluye:
G42 Frontier AI Governance Board – Dirigida por el doctor Andrew Jackson, responsable de IA, Alexander Trafton, responsable de riesgos tecnológicos; Martin Edelman, asesor general y Adele O’Herlihy, encargada de la IA responsable, la junta supervisa el cumplimiento del modelo, los protocolos de seguridad y la respuesta a incidentes.
Auditorías independientes y medidas de transparencia: G42 llevará a cabo auditorías internas de gobernanza y realizará revisiones externas anuales para garantizar el cumplimiento. La empresa también publicará un informe de transparencia en el que compartirá información clave sobre seguridad y evaluaciones de riesgos.
Umbrales de riesgo y estrategias de mitigación definidos: El marco introduce umbrales de capacidad claros para evaluar las amenazas biológicas, las vulnerabilidades de ciberseguridad y los riesgos de la toma de decisiones autónoma. Si un modelo se aproxima a estos umbrales, G42 aplicará salvaguardias adicionales, modificará los comportamientos del sistema o limitará su despliegue.
La elaboración del Marco de Seguridad de Frontier AI contó con el apoyo de destacados expertos en riesgos de la IA, entre ellos METR y SaferAI, cuyos puntos de vista contribuyeron a dar forma a las estrategias de gobernanza y mitigación de riesgos descritas en el marco.
Como una de las primeras empresas de IA de Oriente Medio en introducir un marco integral de seguridad de la IA, G42 está reforzando su papel como líder en gobernanza de la IA y mitigación de riesgos. La empresa seguirá colaborando con reguladores, responsables políticos y socios del sector para reforzar las prácticas de seguridad de la IA y contribuir a los debates sobre gobernanza mundial.
«La seguridad de la IA es un esfuerzo continuo que requiere una gobernanza, una responsabilidad y una colaboración sólidas en todos los sectores», declaró el doctor Andrew Jackson, responsable de IA de G42 y consejero delegado de Inception. «Al integrar la transparencia y la gestión proactiva de riesgos en nuestros sistemas de IA, garantizamos que la innovación siga siendo responsable y alineada con los intereses de la sociedad».
Para poner en práctica el Frontier AI Safety Framework, G42 ha lanzado el X-Risks Leaderboard, una plataforma de evaluación abierta que mide los riesgos de los modelos de IA en ciberseguridad, química y biología. Basada en la Safety Evaluation Suite de Inception de G42, proporciona una evaluación real de las vulnerabilidades potenciales de la IA, reforzando el compromiso de G42 de llevar la seguridad de la IA más allá de los debates políticos y convertirla en salvaguardas medibles y transparentes.
Sobre la base de sus asociaciones actuales con empresas como Microsoft, NVIDIA, AMD, Cerebras y Qualcomm, G42 mantiene su compromiso de colaborar con otros signatarios de los compromisos y seguirá participando en otros esfuerzos de seguridad compartiendo información sobre amenazas con socios del sector para abordar retos comunes y riesgos emergentes.
Acerca de G42
G42 es un holding tecnológico líder mundial en la creación de inteligencia artificial visionaria para un mañana mejor. Nacida en Abu Dabi y presente en todo el mundo, G42 defiende la IA como una poderosa fuerza para el bien en todos los sectores. Desde la biología molecular a la exploración espacial, pasando por todo lo demás, G42 hace realidad hoy posibilidades exponenciales. Para saber más, visite www.g42.ai. G42 perfeccionará continuamente el Frontier AI Safety Framework a medida que evolucionen los riesgos de la IA, el panorama normativo y los avances tecnológicos.
Descargue el Frontier AI Safety Framework completo aquí.
Contacto para medios
Si desea más información contacte con TrailRunner International:
G42@trailrunnerint.com
Logo — https://mma.prnewswire.com/media/2158819/G42.jpg
View original content:https://www.prnewswire.com/news-releases/g42-publica-su-marco-fronterizo-de-seguridad-de-la-ia-302370361.html
