¿TUS SOLUCIONES DE MACHINE LEARNING ESTÁN SEGURAS?
¡CONOCÉ CRANIUM!
Hasta hace poco, el diálogo entre las áreas que construían soluciones basadas en Machine Learning (muy típicamente, áreas de Ciencia de Datos) y las áreas de Ciberseguridad no tenían un diálogo a destacar en general. En el mejor de los casos, un sistema basado en ML era visto como un sistema más dentro de los sistemas a los que aplicar buenas prácticas de desarrollo seguro, pruebas, pasajes a producción, etc. Esto en el mejor de los casos, porque en otros, la relación era casi nula, pero como el grupo que las desarrollaba estaba bastante acotado, no parecía un problema mayor.
En la medida de que la IA profilera más en las organizaciones, y el desarrollo de soluciones de IA ya no está sólo en manos de un grupo reducido de expertos, la seguridad de soluciones basadas en Machine Learning comienza a ser un tema más relevante. Por un lado, existen formas de "vulnerar" un sistema basado en ML que son diferentes a las que uno usaría en un sistema de software común. Por otro lado, existen toda una serie de cuestiones referentes a los datos, la seguridad de los procesos de entrenamiento y refinamiento de modelos. Si a esto sumamos, también, la creciente regulación, el panorama ya es diferente.
Con vistas a esto, el año pasado KPMG US realizó el spin-off de Cranium, una empresa dedicada específicamente a la seguridad de las soluciones basadas en Machine Learning. La plataforma de Cranium se focaliza en ...
🔦 Monitoreo de soluciones y pipelines de Machine Learning para detección temprana de amenazas.
🔦 Análisis de cumplimiento regulatorio de soluciones de IA para varias normas internacionales.
🔦 Análisis de riesgo de soluciones e IA de terceras partes que estén siendo utilizadas en la organización.
Por supuesto, al ser un spin-off de nuestra firma, Cranium trabaja con KPMG a nivel global, acompañado de nuestros servicios de Trusted AI. En KPMG Argentina estamos lanzando este partnership y comenzando a realizar demostraciones en varios de nuestros clientes. Cranium es, además, una parte de nuestra oferta integral para brindar seguridad a la IA, que incluye también análisis de gobierno y madurez, entre otros servicios.
Si tu empresa está construyendo o integrando soluciones de ML, es muy posible que sea un buen momento de establecer un diálogo constructivo entre el área que los está construyendo con el área de ciberseguridad. Desde KPMG podemos ayudarte, tanto con la plataforma Cranium mencionada, como para evaluar tu postura de ciberseguridad en el universo de IA.
¡Buena semana!
#ia #ai #artificialintelligence #inteligenciaartificial #aisecurity #trustedai
Diego Bleger Nicolas Manavella Pablo Almada Emanuel Martinez Matias Castillo Luján Araujo Valeria Forte Leo Scapato (He/Him/His) Fernando Cornes
https://lnkd.in/d725CHbU
