A la hora de implantar soluciones GenAI, es recomendable tener en cuenta estas opciones:
- Ejecute un modelo básico en un entorno privado para que los datos de formación y los resultados permanezcan separados, intercambiando parte de la amplitud y la potencia de los datos dinámicos “en vivo” de LMM por la seguridad de que sus consultas no expondrán los datos confidenciales de su organización a personas ajenas.
- Utilice la generación aumentada por recuperación que aprovecha los datos externos validados para afinar la precisión de los modelos fundacionales sin alimentarlos con otros datos de entrenamiento. Este enfoque reduce los riesgos de seguridad y precisión.
- Ejecute la prevención de pérdida de datos como un filtro en la entrada en LMM público.
- Hable con su proveedor de GenAI y adapte sus casos de uso teniendo en cuenta la seguridad de los datos. Examine la configuración de privacidad y seguridad. ¿Puede prohibir que se guarden sus datos? ¿Puede hacerlo manualmente? ¿Con un límite de tiempo? ¿Puede ejecutar consultas con datos anónimos?
- Si utiliza aplicaciones de terceros o proveedores de software como servicio que hayan integrado GenAI en sus herramientas, hágase las mismas preguntas y determine cómo protegen sus datos y resultados. Las mejores prácticas contemplan:
- Incorporar controles de acceso estrictos. Limitar el uso de determinados conjuntos de datos a los usuarios autorizados.
- Utilizar tecnologías que mejoren la privacidad con ofuscación de datos (añadir “ruido” o eliminar detalles identificativos-anonimización), procesamiento de datos cifrados (encriptación homomórfica, computación entre múltiples partes), análisis federados/distribuidos sobre datos alojados centralizados (los procesadores no pueden ver el contenido) y herramientas de “responsabilidad” de datos (control definido por el usuario).
- Fíjese bien en el volumen de datos. Cuantos más datos se proporcionen, mayor será la probabilidad de fuga.
- Forme al equipo que utiliza el modelo para que refleje las mejores prácticas, el cumplimiento y las amenaza
La innovación impulsada por la IA impacta directamente en todo el panorama tecnológico, y depende de las organizaciones aprovechar su gran potencial. Ya se está librando la gran carrera armamentística de IA entre ciberatacantes y defensores, en el que las defensas se encuentran bien posicionadas. Como expertos en ciberseguridad, Fortinet ya está ayudando a todo tipo de organizaciones a determinar cómo aprovechar este poder para mejorar la visibilidad, la conectividad y la capacidad de ciberrespuesta.
Por Fortinet
