Vivimos inmersos en un proceso imparable de transformación digital, tanto de los negocios como de la sociedad. La digitalización configura una economía digital que destaca como uno de los principales motores del crecimiento de la economía mundial, y los algoritmos y sistemas de inteligencia artificial conforman la infraestructura de esta nueva época. Los sistemas informáticos, gracias al acceso a más datos y de mayor variedad, toman mayor cantidad de decisiones de forma autónoma, en ámbitos y sectores más complejos, y con notable impacto sobre las organizaciones y las personas.
Este desarrollo digital no viene exento de riesgos. Los sesgos discriminatorios de los algoritmos, la invasión de la privacidad, los riesgos de un mal uso del reconocimiento facial y la regulación de las relaciones entre humanos y máquinas son algunos de los retos a los que se enfrenta el desarrollo de la digitalización. La Comisión Europea reconoce la capacidad de este conjunto de tecnologías digitales para mejorar la vida de las personas, y para generar beneficios para la sociedad, pero también establece que es necesario cumplir con unos criterios éticos en su definición, desarrollo y uso.
Esta reflexión ética, que afecta a todas aquellas organizaciones que están inmersas en una transformación digital, aporta beneficios tangibles en el ámbito de sus clientes, empleados y sociedad en su conjunto. Ya no es suficiente “cumplir” con el tratamiento de los datos, ahora es el momento de “hacer lo correcto” con el uso que hacemos de esos datos.
La responsabilidad ante el funcionamiento de estos sistemas recae siempre sobre los distintos grupos de interés implicados en su diseño y elaboración. Este referencial tiene como propósito principal generar confianza en el uso de los algoritmos por parte de las organizaciones, puesto que los seres humanos sólo podrán confiar en ellos y aprovechar sus beneficios, si la tecnología y los procesos subyacentes a ella son fiables.
Las organizaciones necesitan de un sistema de certificación solvente y riguroso que les otorgue la confianza de saber que están haciendo lo correcto en materia de digitalización y uso de algoritmos y sistemas de decisión autónomos. Nuestro referencial se basa y aplica las directrices de la Unión Europea definidas en el marco para una IA fiable.
En concreto el cumplimiento de este referencial permitirá a las organizaciones:
Aumentar la confianza de sus clientes, empleados, proveedores y sociedad en general en sus operaciones en el ámbito digital.
- Gestionar los riesgos inherentes al uso de los algoritmos y sistemas autónomos.
- Conocer donde están los límites en el uso de estas tecnologías y qué requisitos son necesarios para poder extraer todo el valor que aportan a la organización.
- Facilitar el acceso a fondos y capacidades alineadas con la apuesta de las administraciones en este ámbito.
- Conectar y favorecer la participación en iniciativas sectoriales públicas y privadas orientadas al desarrollo de nuevos servicios y capacidades digitales.
- Favorecer el desarrollo de la transformación digital y el lanzamiento de nuevos modelos de negocio.
El referencial define, en forma de requisitos, las especificaciones técnicas que una empresa debe implementar cuando pretende:
- Identificar de manera continua, estrategias y requisitos de uso de las nuevas soluciones tecnológicas, de forma que se asegure una mejor competitividad e innovación en la organización a un coste/esfuerzo adecuado.
- Validar la fiabilidad y confiabilidad en el desarrollo, despliegue o adquisición de algoritmos, sistemas de decisión autónomos y tecnologías de inteligencia artificial, gestionando los riesgos que se puedan generar para las personas y maximizando los beneficios del uso de estas tecnologías en la empresa.
- Comunicar de manera rigurosa a los grupos de interés y a la sociedad en general para generar confianza en sus sistemas de gestión automatizados.
- Definir estrategias que mantengan (o mejoren) la calificación final obtenida en dicha evaluación.
El importe de la certificación depende de una serie de factores:
- Sector de actividad. Se diferencia a las empresas del sector de las tecnologías de la información (IT) del resto de sectores.
- Número de Empleados.
La Certificación evalúa el grado de implantación de los requisitos para un Desarrollo Digital Ético, identificando una serie de parámetros asociados a cuatro áreas de evaluación
El resultado de la Certificación podrá situar a la entidad en diferentes niveles: DD-ético Básico, DD-ético Notable, DD-ético Sobresaliente y DD-ético Excelente.
Cualquier tipo de organización, con independencia de su tamaño y sector, que esté relacionada con o inmersa en procesos de transformación digital.
