Por: Organización Internacional de Normalización (ISO)
Desde el desarrollo de los automóviles autónomos hasta el crecimiento de las herramientas de IA generativa como ChatGPT y Google Bard, la inteligencia artificial (IA) es la piedra angular de nuestra vida cotidiana. Entonces, ¿qué es la IA?
Tomemos, por ejemplo, los asistentes virtuales impulsados por IA que responden a comandos de voz y realizan tareas basadas en la entrada del usuario. Estos son solo un ejemplo de cómo las tecnologías de IA se integran en los dispositivos cotidianos para hacerlos más intuitivos y capaces de interactuar con los humanos de una manera natural y útil.
Pero va mucho más allá. Las aplicaciones de IA ya están revolucionando la forma en que operan las empresas. Los avances en el aprendizaje automático y el aprendizaje profundo, en particular, están creando un cambio de paradigma en prácticamente todos los sectores de la industria. Abarcando áreas tan diversas como la atención médica, las finanzas y la tecnología de la información, la IA ha sido pionera en innovaciones y optimizaciones en numerosos campos. Y en el centro de todo, se encuentran los sistemas de gestión de IA.
Con los riesgos y la complejidad de la IA, es importante contar con mecanismos de gobernanza sólidos. Los sistemas de gestión de la IA desempeñan un papel crucial en el desarrollo y la implementación de las tecnologías de IA. A continuación, analizaremos más de cerca la importancia de estos sistemas para proporcionar evaluaciones y tratamientos eficaces de los riesgos de la IA.
Lea también: ¿Cómo crear buenas prácticas para la inteligencia artificial?
¿Qué es la inteligencia artificial?
La IA es una tecnología que hace que las máquinas y los programas informáticos sean inteligentes, lo que les permite realizar tareas que normalmente requieren inteligencia humana. Incluye cosas como la comprensión del lenguaje humano, el reconocimiento de patrones, el aprendizaje de la experiencia y la toma de decisiones.
En general, los sistemas de IA funcionan procesando grandes cantidades de datos, buscando patrones mediante los cuales modelar su propia toma de decisiones.
Si bien esta definición resuena con el profano, no es, sin embargo, del todo precisa. Entonces, ¿qué es exactamente la inteligencia artificial? Según la norma ISO/IEC 22989:2020, la IA es la "capacidad de adquirir, procesar, crear y aplicar conocimientos, en forma de modelo, para llevar a cabo una o varias tareas determinadas". Esta definición es más precisa desde el punto de vista tecnológico y no se limita a los campos en los que ya se está utilizando la IA, sino que deja espacio para un mayor desarrollo.
Acerca de los sistemas de gestión de IA
Entonces, ¿cómo funciona la IA? Un sistema de IA funciona sobre la base de entradas, incluidas reglas y datos predefinidos, que pueden ser proporcionados por humanos o máquinas, para realizar tareas específicas. En otras palabras, la máquina recibe información del entorno y, a continuación, calcula e infiere una salida procesando la entrada a través de uno o más modelos y algoritmos subyacentes.
A medida que las capacidades de la IA crecen exponencialmente, existen profundas preocupaciones sobre la privacidad, los prejuicios, la desigualdad, la seguridad y la protección. Analizar cómo afecta el riesgo de la IA a los usuarios es crucial para garantizar el despliegue responsable y sostenible de estas tecnologías. Hoy en día, las empresas necesitan más que nunca un marco que las guíe en su viaje hacia la IA. ISO/IEC 42001, la primera norma técnica de sistemas de gestión de IA del mundo satisface esa necesidad.
ISO/IEC 42001 es una norma reconocida a nivel mundial que proporciona directrices para la gobernanza y gestión de las tecnologías de IA. Ofrece un enfoque sistemático para abordar los desafíos asociados con la implementación de la IA en un marco de sistema de gestión reconocido que cubre áreas como la ética, la rendición de cuentas, la transparencia y la privacidad de los datos. Diseñado para supervisar los diversos aspectos de la inteligencia artificial, proporciona un enfoque integrado para la gestión de proyectos de IA, desde la evaluación de riesgos hasta el tratamiento eficaz de estos riesgos.
Lea también: Inteligencia artificial: recompensas, riesgos y regulación.
Del riesgo a la oportunidad
La norma ISO/IEC 42001 existe para ayudar a las empresas y a la sociedad en general a obtener el máximo valor de su uso de la IA de forma segura y eficiente.
Los usuarios pueden beneficiarse de muchas maneras:
- Mejora de la calidad, la seguridad, la trazabilidad, la transparencia y la fiabilidad de las aplicaciones de IA
- Mejora de la eficiencia y las evaluaciones de riesgos de la IA
- Mayor confianza en los sistemas de IA
- Reducción de los costes de desarrollo de la IA
- Mejor cumplimiento normativo a través de controles específicos, esquemas de auditoría y orientación que son consistentes con las leyes y regulaciones emergentes
¿La conclusión? Todo ello contribuye al uso ético y responsable de la IA para las personas de todo el mundo.
Ciclo robusto de mejora continua
Como normativa de sistema de gestión, ISO/IEC 42001 se basa en un proceso de "Planificar-Hacer-Verificar-Actuar" de establecimiento, implementación, mantenimiento y mejora continua de la inteligencia artificial. Este enfoque es importante por muchas razones:
En primer lugar, garantiza que se reconozca el valor de la IA para el crecimiento y que se cuente con el nivel correcto de supervisión.
En segundo lugar, el sistema de gestión permite a la organización adaptar proactivamente su enfoque en línea con el desarrollo exponencial de la tecnología.
Por último, anima a las organizaciones a realizar evaluaciones de riesgos de IA y a definir actividades de tratamiento de riesgos de IA a intervalos regulares.
Con la rápida adopción de la IA en todo el mundo, se prevé que la norma ISO/IEC 42001 se convierta en una parte integral del éxito de una organización, siguiendo los pasos de otras normas de sistemas de gestión como la ISO 9001 de calidad, la ISO 14001 de medio ambiente y la ISO/IEC 27001 de seguridad informática.
Liberar el potencial de la IA
Está claro que la IA seguirá mejorando y avanzando con el tiempo. A medida que lo haga, la gestión de la IA tendrá que adaptarse a estos cambios, centrándose en las diferentes formas en que puede mantener y acelerar los sistemas de IA para el mundo empresarial. Nos encontramos en una encrucijada en la que se necesita un enfoque mesurado. ¿Cómo aprovechamos todo el potencial de las oportunidades de la IA sin caer presa de los riesgos?
Caminar por la cuerda floja entre la oportunidad y el riesgo solo es posible con una gobernanza sólida. Por eso es importante que los líderes empresariales y de la industria se eduquen sobre la norma ISO/IEC 42001, un sistema de gestión de la IA que sienta las bases para un uso ético, seguro y con visión de futuro de la IA en sus diversas aplicaciones. Es un acto de equilibrio, y una comprensión más clara de este equilibrio puede ayudarnos a sortear los escollos de nuestro viaje colectivo hacia la IA.
¿Tiene algún comentario?
Compártanoslo.