La Inteligencia Artificial Generativa (Gen AI) es una tecnología de reciente aplicación en las empresas, y como cualquier sistema novedoso está en una etapa de prueba y error por quienes la implementan. Sin embargo, las buenas prácticas de uso siempre mitigarán posibles riesgos y problemas que puedan perjudicar la imagen y las finanzas de una compañía.

Para ello, primero hay que comprender qué es la Inteligencia Artificial Generativa. De acuerdo con IBM es un tipo de IA que puede crear contenido original, como texto, imágenes, video, audio o código de software, en respuesta a una instrucción o solicitud de un usuario, y se basa en sofisticados modelos de aprendizaje automático, llamados modelos de aprendizaje profundo, consistiendo en algoritmos que simulan los procesos de aprendizaje y la toma de decisiones del cerebro humano.

De acuerdo con la firma consultora Gartner, de las pocas empresas que ya usan IA Generativa en sus procesos, únicamente el 10% ha logrado un uso óptimo y maduro en su aplicación, y por lo regular son grandes corporativos o multinacionales como Amazon, Tesla, Spotify, General Motors o Bayer. 

Cabe destacar que algunos de los principales usos de la Gen AI en los negocios tienen que ver con el análisis de bases de datos y predicción, la automatización de procesos, la optimización de la cadena de suministro y una atención al cliente personalizada.

Sin embargo, en el afán de las empresas de ser más transparentes y analíticas, el uso de la Gen AI también acarrea riesgos, como una posible filtración o robo de datos personales, así como el brindar información sesgada que pueda derivar en desinformación.

En Ozaru creemos que la aplicación de la IA Generativa debe ser segura y transparente en todo el proceso: desde la estrategia, los sistemas de control y constante monitoreo, prácticas responsables en el uso de tecnología y mitigación de riesgos.

Es por ello que creemos que los siguientes puntos son esenciales para el uso y la aplicación de la IA generativa en las empresas:

En la estrategia:

• Considerar políticas públicas y regulaciones sobre información y datos personales. Por ejemplo, pedir permiso para ocupar información privada que se recopilará en bases de datos para su análisis, y/o el uso del lenguaje inclusivo.
• Realizar un programa piloto, para entender las necesidades de los usuarios, limitaciones, riesgos y mayores beneficios de uso antes de compartir grupalmente la herramienta.

Sistemas de control:

• Debe haber un control y seguimiento regulatorio de normas y leyes vigentes, además de las políticas organizacionales.
• Cualquier actividad debe estar alineada con los estándares del sector o industria en el que se aplique, y tratar de que se realice conforme a las mejores prácticas.
• Cualquier sistema que ocupe IA generativa debe alinearse a los valores sociales del lugar donde se aplique y a la preservación de los derechos humanos universales. 
• El monitoreo debe ser continuo, a fin de identificar cambios en el comportamiento del sistema y posibles riesgos.
• Se debe evaluar el sistema o modelo establecido, a fin de mantener un desarrollo y mejora constante de los resultados.

Prácticas responsables de uso:

• Informar al usuario que los resultados o actividades son generados por IA, cuando sea el caso. 
• En cualquier sistema de IA Generativa se debe priorizar la ciberseguridad en todo el proceso.
• Garantizar la privacidad de los datos de los usuarios, para ello hay que comunicar claramente cómo se recopilan, usan y protegen.
• El objetivo del uso de la Gen AI es ayudar a los individuos a tener todas las herramientas necesarias (información y datos) para una mejor toma de decisiones, la cual sea transparente, y los ayude en su empoderamiento.
• Hay que cuidar que las herramientas disminuyan los sesgos y promuevan la equidad, tanto en su uso como en los resultados. 

Mitigación de riesgos:

• Hacer un análisis de los posibles riesgos más frecuentes a los que se puede enfrentar el sistema.
• Realizar un plan de gestión de crisis, en caso de que el riesgo se vuelva real.
• Aplicar las medidas básicas de la ciberseguridad.
• Las empresas deben asumir la responsabilidad de las acciones y decisiones tomadas por la IA; por ello es necesario que siempre haya una supervisión humana en cualquier proceso.

Después de saber todo esto, ¿te atreverías a implementar IA generativa en alguno o todos los procesos de tu empresa?