Blog de Bismart: Últimas Noticias en Datos, IA y Business Intelligence

Inteligencia Artificial Generativa: Casos de uso y riesgos

Escrito por Núria Emilio | 06-jun-2023 10:00:29

La aparición de la inteligencia artificial generativa (IAG) ha abierto paso a un nuevo mundo de posibilidades vinculadas a su explotación y casos de uso. Sin embargo, también nos sitúa en un escenario de incertidumbre en cuanto a sus capacidades futuras, a sus riesgos asociados y a una posible limitación de su uso.

Desde el lanzamiento de ChatGPT en noviembre de 2022, la inteligencia artificial generativa está en boca de todos y ya se ha posicionado como una de las tecnologías de más rápida adopción de la historia.

La inteligencia artificial generativa no debe confundirse con la "inteligencia artificial general", concepto más abstracto empleado para describir un tipo de inteligencia artificial que iguala o supera la inteligencia humana promedio y que últimamente está siendo motivo de gran controversia.

Según McKinsey, la versión pública de ChatGPT alcanzó los 100 millones de usuarios en solo dos meses, democratizando una tecnología la inteligencia artificial que existe desde hace más de un siglo.

El rápido crecimiento de la IA generativa se puede explicar por su fácil accesibilidad. Antes de la introducción al mercado de ChatGPT, la inteligencia artificial ya tenía una amplía presencia en el mercado tecnológico. Sin embargo, estaba en manos de expertos. ChatGPT cambió el paradigma poniendo la inteligencia artificial generativa en manos de cualquier persona.

Por primera vez, los usuarios pueden obtener valor a través de la inteligencia artificial generativa sin tener ningún tipo de conocimiento de machine learning rama de la inteligencia artificial y base de la IA generativa

Todo esto es posible porque los chatbots de inteligencia artificial generativa funcionan con modelos de base redes neuronales expansivas entrenadas con grandes cantidades de datos no estructurados ni etiquetadosLa gran virtud de los modelos de base es que pueden utilizarse para una gran variedad de tareas. Los modelos anteriores de inteligencia artificial, en cambio, estaban limitados a una sola tarea.

No obstante, esta versatilidad también tiene sus inconvenientes. El gran hándicap de la inteligencia artificial generativa es que su amplitud la hace menos precisa, aumentando la probabilidad de que de resultados erróneos o menos rigurosos

¿Qué es la inteligencia artificial generativa?

La inteligencia artificial generativa es un subcampo de la inteligencia artificial que se centra en la creación de modelos y sistemas capaces de generar contenido nuevo y original. Utiliza técnicas de machine learning multimodal (MML) y redes neuronales para aprender a imitar o a crear nuevas instancias a partir de datos que se asemejan a los ejemplos proporcionados durante su entrenamiento.

La IA generativa se basa en modelos que tienen la capacidad de aprender la estructura subyacente de un conjunto de datos para, luego, generar nuevos ejemplos que se ajustan a esa estructura. Mediante este funcionamiento, los modelos de IA generativa pueden generar diferentes tipos de contenido, como imágenes, texto, música y video.

Un enfoque común en la inteligencia artificial generativa es el uso de redes neuronales generativas adversariales (GAN, por sus siglas en inglés). Las GAN constan de dos redes neuronales: un generador y un discriminador. El generador crea nuevas instancias de datos y el discriminador evalúa la autenticidad de esas instancias. Ambas redes se entrenan de forma simultánea, con el generador tratando de engañar al discriminador y el discriminador mejorando en su capacidad para distinguir entre instancias generadas y reales.

¿En qué se diferencia la inteligencia artificial generativa de otros tipos de IA?

La principal diferencia entre la inteligencia artificial generativa y otras formas de inteligencia artificial es su capacidad para generar nuevos contenidos en formato no estructurado textos, imágenes, etc.

La inteligencia artificial generativa funciona mediante un tipo de redes neuronales artificiales denominadas modelos fundacionales que se entrenan mediante deep learning rama del machine learning. De nuevo, el deep learning o aprendizaje profundo existe desde principios de la década de los 2000. No obstante, los nuevos modelos funcionales aplicados en la IA generativa contienen ciertas diferencias de los modelos anteriores

La diferencia más significativa de los nuevos modelos es que pueden ser entrenados mediante conjuntos de datos no estructurados extremadamente amplios y variados, mientras que los modelos anteriores de deep learning eran entrenados con conjuntos de datos más reducidos y/o específicos. 

Esto, a su vez, implica que los modelos anteriores tenían una extensión reducida en cuanto a la resolución de tareas. Para que se entienda, los modelos anteriores de deep learning podían, por ejemplo, clasificar objetos en una fotografía o hacer una predicción mediante la información de la fotografía. Sin embargo, los nuevos modelos de IA generativa pueden hacer ambas cosas a la vez y, además, generar un nuevo contenido. 

La gran particularidad de los nuevos modelos de deep learning aplicados en la inteligencia artificial generativa es que acumulan capacidades, generando nuevos patrones y relaciones en los datos a partir de los extensos conjuntos de datos usados para su entrenamiento. Esto es lo que capacita a ChatGPT para responder cualquier pregunta o generar contenido original y a DALL-E 2 y a Stable Diffusion para crear imágenes nuevas a partir de una descripción.

La versatilidad de la IA generativa abre paso a una extensa cantidad de casos de uso que los modelos anteriores de deep learning no podían abordar.

¿Para qué se puede usar la inteligencia artificial generativa en una empresa?

La inteligencia artificial generativa puede utilizarse para una gran variedad de cosas. En el entorno empresarial, sus casos de uso más significativos se basan en la automatización y la aceleración del trabajo. 

La inteligencia artificial generativa va más allá de las capacidades de ChatGPT y puede desempeñar múltiples funciones en una empresa, gracias a su capacidad para clasificar, editar, resumir, responder preguntas y redactar nuevos contenidos.

Estas capacidades tienen un gran potencial en cuanto a la generación de valor de negocio, ya que pueden transformar la forma de trabajar de todas las áreas y procesos empresariales. 

Por otro lado, no debemos olvidar que los nuevos modelos de IA generativa aún están en desarrollo y que, por tanto, a medida que esta tecnología vaya evolucionando, los casos de uso a nivel empresarial también aumentarán. Por ahora, sus aplicaciones más relevantes son la automatización de tareas, de flujos de trabajo y de acciones o peticiones específicas

Tampoco debemos olvidar que la versatilidad de este tipo de IA también multiplica los riesgos asociados a su uso. Por ello, es sumamente importante que las empresas que quieran adoptar esta tecnología, lo hagan asegurando un uso responsable de la misma y apliquen medidas para la mitigación de los riesgos asociados. 

Los riesgos asociados a la inteligencia artificial generativa: Hacia un uso responsable de la IA generativa

La inteligencia artificial generativa plantea una serie de riesgos que los directores generales deben abordar. Es importante que diseñen sus equipos y procesos de manera que se mitiguen estos riesgos desde el principio. Esto no solo implica cumplir con los requisitos normativos en constante evolución, sino también proteger el negocio y ganarse la confianza digital de los consumidores.

A continuación repasamos los riesgos asociados a la IA generativa que se deben tener en cuenta para su explotación.

  • Imparcialidad: Los modelos de IA generativa son propensos a generar sesgos algorítmicos debido a datos de entrenamiento imperfectos o a malas decisiones tomadas por los ingenieros que desarrollan los modelos.
  • Propiedad intelectual (PI): Los datos de entrenamiento y los resultados de los modelos de IA generativa pueden generar importantes riesgos de propiedad intelectual, incluida la infracción de derechos de autor, marcas registradas, patentes u otros materiales protegidos legalmente. Incluso cuando se utiliza una herramienta de IA generativa de un proveedor, las empresas deben analizar qué datos han sido utilizados para entrenar el algoritmo y cómo se utilizan para la generación de los resultados de la herramienta.
  • Privacidad: La inteligencia artificial generativa puede generar problemas de privacidad si los usuarios introducen información que más tarde acabe apareciendo en los resultados del modelo de forma que permita identificar a las personas. Por otro lado, la IA generativa también puede ser utilizada para crear y difundir contenidos maliciosos -desinformación, deepfakes y discursos de odio-.
  • Seguridad: En malas manos, la IA generativa puede ser utilizada para acelerar la sofisticación y la velocidad de los ciberataques. También puede ser manipulada para proporcionar resultados maliciosos. Por ejemplo, a través de una técnica llamada inyección de instrucciones, un tercero da a un modelo nuevas instrucciones que engañan al modelo para que proporcione un resultado no previsto por el productor del modelo y el usuario final.
  • Fiabilidad: Los modelos de IA generativa pueden dar respuestas diferentes a las mismas preguntas, lo que impide al usuario evaluar la precisión y fiabilidad de los resultados.
  • Impacto social y medioambiental: El desarrollo y la formación de modelos fundacionales pueden tener consecuencias sociales y medioambientales perjudiciales, incluido un aumento de las emisiones de carbono.

 

Conclusión

La democratización de la inteligencia artificial generativa nos sitúa en un escenario imprevisible que plantea muchas dudas, retos y oportunidades. 

Las empresas llevan años esforzándose por aprovechar el potencial de la inteligencia artificial. La aparición repentina de la IA generativa no significa que la explotación de los antiguos modelos de IA haya quedado obsoleta. No obstante, la inteligencia artificial generativa representa un apasionante y desconocido salto adelante que abre un mundo de nuevas posibilidades que, por otro lado, seguirán expandiéndose en los próximos años.

En este contexto, es fundamental que el desarrollo y uso de la IA generativa avance a un ritmo parecido al que lo hacen las políticas, normativas y premisas para la mitigación de riesgos de la misma.