- Inteligencia Artificial, entre la discriminación y la democracia
- Por Alán Ramírez Flores
RedFinancieraMX
Un nuevo dilema aparece en la inteligencia artificial y es sobre los límites de la democracia que debe poseer en la empresa.
Cuando los líderes de las empresas hablan de democratizarla, asumen que cuantas más personas tengan acceso a las materias primas del conocimiento, las herramientas y los datos necesarios para construir un sistema de Inteligencia Artificial (IA), más innovaciones surgirán y la producción se disparará. Este es el prototipo que nos venden de las TI. Sin embargo, la realidad puede ser otra.
La eficiencia mejora con TI, es verdad. Pero simultáneamente el compromiso aumenta. Y esto es lo que algunos proveedores aún no consideran. Así, ante la escasez de talento técnico, empresas como Microsoft, Amazon y Google presentan ya herramientas de IA prefabricadas de arrastrar y soltar, o sin código, que permiten integrar la IA en las aplicaciones sin necesidad de saber cómo crear modelos de aprendizaje automático (ML).
Entonces, a medida que las empresas avanzan hacia la democratización, paradójicamente aparece discriminación o errores graves con el manejo de esta herramienta. Peor aún, los problemas podrían no ser evidentes hasta después de que se haya implementado un sistema, lo que implica un gran trabajo por tranquilizar a las partes interesadas, deshacer el daño y reparar la tecnología. Errores que implicarán altos costes en insumos, recursos y credibilidad.
Esto no quiere decir que la democratización de la IA no tiene valor, pues hacer que estas nuevas tecnologías sean más accesibles y asequibles amplía las posibilidades de lo que las empresas y los gobiernos pueden lograr y de forma simultánea alimenta la competencia. Pero conviene centrarse en identificar claramente lo que van a compartir, quiénes serán los usuarios y cómo su organización puede maximizar los beneficios y administrar los riesgos con la capacitación y la gobernanza adecuadas.
Entonces, los proveedores de tecnología que lanzan productos de IA y ML deben comenzar por determinar qué parte o partes de la cadena de valor podrá ser para todos los usuarios en su herramienta o plataforma. Aquí es útil pensar en un espectro a través del cual las herramientas y los modelos se vuelven más sofisticados y generan una mayor generación de valor.
A medida que avanzamos a lo largo del espectro hacia las plataformas de almacenamiento e informática, la complejidad aumenta. Durante los últimos cinco años, la plataforma tecnológica para la IA se trasladó a la nube con tres proveedores principales de IA/ML: Amazon Web Services (AWS), Microsoft Azure y Google Compute Engine.
Esto genera que las unidades centrales de procesamiento y las unidades de procesamiento de gráficos , esenciales para el entrenamiento de modelos de aprendizaje profundo razonablemente grandes , sean accesibles para los usuarios. Sin embargo, mientras que los algoritmos son independientes del hardware, las plataformas de almacenamiento e informática en la nube requieren que los usuarios tengan una formación específica y estén certificados por los proveedores de tecnología. Si los usuarios no están entrenados adecuadamente, el potencial es alto para crear sesgos en el modelo, no poder explicar los resultados del modelo e incluso tomar decisiones equivocadas.
El diseño de un sistema de IA requiere un amplio conocimiento técnico y una comprensión firme de la ciencia de datos. Son imprescindibles la comprensión de los componentes clave de un sistema de IA y la responsabilidad en el diseño, prueba y manejo del sistema de IA.
Después de todo, la IA no es una “mano” autónoma, sino parte de un organismo alineado a la gestión integral de la empresa.
*CEO de Coperva y autor de Liderazgo para tod@s