Las aproximaciones de dos tecnologías como Blockchain y la Inteligencia Artificial, pueden tener diferentes enfoques. Como hemos visto en el post Cómo Blockchain puede ayudar a la IA, la convergencia de ambas tecnologías ayudará, no solo a los fabricantes, para poder cumplir con las regulaciones, también ayudará a los usuarios a incrementar su confianza en las soluciones basadas en Inteligencia Artificial. La tecnología blockchain se está convirtiendo en un poderoso aliado de cualquier solución de IA, gracias a la capacidad para trazar operaciones o construir modelos de identidad digital seguros y confiables.
En Kolokium trabajamos en distintos proyectos, para incrementar la seguridad y la confianza de los datos y los procesos. Nuestro enfoque es construir modelos de gobernanza del dato, el código y la infraestructura IT, que permita a nuestros clientes desarrollar soluciones basadas en Inteligencia Artificial, que cumplan con los requisitos impuestos desde los distintos organismos que están vigilando los desarrollos que se realizan en este campo.
El esquema de arriba muestra un ejemplo de la aplicación de la tecnología Blockchain, para la certificación de componentes y procesos, en una solución de IA. A modo de ejemplo, la solución de IA se puede dividir en tres grupos de componentes principales: gestión de los datos, desarrollo del modelo de IA y despliegue y mantenimiento del modelo. Cada una de estos componentes están relacionados, para gestionar los datos con los que se entrenarán los algoritmos para construir los modelos de IA. La tecnología Blockchain puede incrementar la seguridad, la transparencia y la trazabilidad de los distintos flujos de datos.
Gestión de los datos
Esta fase está formada por el conjunto de tareas y procesos que se encargan de la normalización, transformación y validación de los datos que se utilizarán para entrenar a los modelos de IA. Esta fase es fundamental para el desarrollo de cualquier solución de IA y es necesario poder generar un marco de confianza de los datos y las herramientas que los procesan. Usar la tecnología blockchain para certificar tareas y acciones sobre los datos, permite construir un modelo de confianza, basado en la trazabilidad y la auditoría de los procesos transformación. Gestionar todas estas evidencias, sobre las que se construye el modelo de confianza, con tecnología Blockchain, permite a los desarrolladores de la solución, garantizar que la implementación de los procesos cumplen con los requisitos especificados durante la fase de análisis y diseño.
Desarrollo del modelo de IA
La segunda fase es el desarrollo del modelo de IA, que abarca tareas tales como la configuración de hiperparámetros, la elección del modelo o su validación final. Tanto para el usuario final, como para el desarrollador de la solución, disponer de una herramienta que le permita certificar y auditar todo el proceso de ajuste, entrenamiento, elección y validación del modelo, garantiza que el nivel de confianza que los distintos participantes, puedan llegar a tener en la solución, se incrementa al poder contrastar de manera segura todo el proceso. La incorporación de la tecnología Blockchain, dota a la fase de una herramienta para la certificación de decisiones, ajustes y elección de los modelos, que puedan ser utilizadas en el futuro para realizar auditorías o ajustes, con la garantía que las evidencias no han podido ser manipuladas.
Despliegue y mantenimiento del modelo
La tercera fase del esquema corresponde a la fase de despliegue y mantenimiento de la solución basada en IA, para poder dar servicio en un entorno en producción. Esta es la fase en la que los clientes de la solución, comienza a interactuar con ella. En esta fase, disponer de procesos de explicabilidad de los resultados obtenidos por los modelos, es crucial para que los clientes puedan contrastar la calidad de dichos resultados y poder construir procesos de toma de decisión sobre resultados confiables.
Blockchain puede garantizar que los modelos que se despliegan son los mismos que han sido validados previamente, lo que permite detectar cualquier manipulación que se pudiera realizar sobre el modelo. Debido a que la mayoría de los usuarios, perciben las soluciones basadas en IA, como cajas negras, que no entienden muy bien cómo funciona. Es imprescindible no solo que los resultados obtenidos de la solución basada en IA sean correctos, sino que exista un grado de seguridad en la solución que se transforme en confianza para los usuarios. En este punto la tecnología Blockchain puede ser una herramienta muy poderosa, que permita generar confianza en los usuarios de IA.
Papel de la tecnología blockchain
Aunque lo hemos comentado anteriormente, en cada una de las fase, utilizar la tecnología blockchain como herramienta para la certificación de datos y procesos, dentro de una solución basada en IA, aporta una serie de ventajas, como la seguridad de los datos, el incremento de la confianza en los procesos, la integridad de los procesos de manipulación y transformación de los datos, la capacidad para poder contrastar datos históricos de manera segura, etc.
Teniendo en cuenta todas estas ventajas, construir una capa de certificación, basada en tecnología Blockchain es una garantía de seguridad para cualquier solución de IA. Pero además, si tenemos en cuenta las obligaciones que el Reglamento de Inteligencia Artificial, aprobado por la Unión Europea, el pasado mayo. Disponer de la capacidad para guardar evidencias sobre el funcionamiento de nuestra plataforma IA no es una opción.
Otro aspecto importante que cualquier desarrollador de soluciones basadas en IA debe tener en cuenta, es que el cumplimento de reglamentos como GDPR, obligan a las soluciones a garantizar ciertos derechos de los usuarios, en base los datos de caracter personal, que están siendo tratados por la IA. Implementar un modelo de identidad digital confiable, que permita a los usuarios poder interactuar, de forma segura con los datos, de los que son propietarios, ayudaría a incrementar la confianza de los clientes en las soluciones de IA.
Impacto en los clientes
Uno de los aspectos que menos se están teniendo en cuenta, a la hora de desarrollar soluciones de IA, es la percepción que los usuarios o clientes de este tipo de soluciones tiene sobre la confianza en los resultados o la naturaleza de las fuentes de datos. Es crucial que el usuario pueda confiar en la solución y para ello, los desarrolladores deben construir soluciones en las que se puedan desplegar procesos de trazabilidad de los datos y las operaciones. Esto es algo difícil en este tipo de soluciones, pero garantizar que los modelos han sido entrenados con unos datos de calidad y poder contrastar tanto los datos utilizados, como los modelos obtenidos durante el proceso de desarrollo, es imprescindible para que los usuarios adopten de manera masiva este tipo de soluciones.
La capacidad para poder trazar datos y disponer de procesos para validar decisiones, mediante la creación de registros inmutables sobre tecnología Blockchain, se consigue transmitir a los usuarios que los modelos generados son los suficientemente confiables y seguros.
En el próximo post “Blockchain como herramienta de orquestación y permisionado” comentaremos cómo utilizar la tecnología Blockchain para incrementar la seguridad y la confianza de las soluciones de IA, desde el punto de vista de la orquestación de los componentes de la solución.
José Juan Mora Pérez
CTO & Founder
