{"id":13222,"date":"2024-06-04T09:04:13","date_gmt":"2024-06-04T07:04:13","guid":{"rendered":"https:\/\/www.redegal.com\/?p=13222"},"modified":"2024-07-23T08:16:52","modified_gmt":"2024-07-23T06:16:52","slug":"desarrollo-software-ia-generativa","status":"publish","type":"post","link":"https:\/\/www.redegal.com\/es\/blog\/desarrollo-software-ia-generativa\/","title":{"rendered":"5 desaf\u00edos en el desarrollo de software con IA generativa"},"content":{"rendered":"\n

La integraci\u00f3n y el aprovechamiento de estas capacidades en el software empresarial representa una de las \u00e1reas m\u00e1s interesantes del sector IT para los pr\u00f3ximos a\u00f1os<\/strong> y promete toda una revoluci\u00f3n en digitalizaci\u00f3n y automatizaci\u00f3n<\/strong>. Esta revoluci\u00f3n no s\u00f3lo est\u00e1 llegando ya desde un punto de vista funcional, sino que tambi\u00e9n est\u00e1 cambiando notablemente la forma de construir software.<\/p>\n\n\n\n

Por un lado, estas novedosas funcionalidades \u00fatiles para la toma de decisiones, automatizaci\u00f3n y asistencia en procesos empresariales, son tambi\u00e9n extremadamente \u00fatiles en el \u00e1mbito del desarrollo de software. Bien integradas en los procesos y herramientas de desarrollo permiten mejorar notablemente las capacidades y la productividad de los equipos de desarrollo<\/strong>, as\u00ed como descubrir nuevas soluciones a problemas y obtener formaci\u00f3n.<\/p>\n\n\n\n

Pero en este articulo nos gustar\u00eda centrarnos en otros aspectos relativos a la integraci\u00f3n de modelos de IA generativa en aplicaciones de software cl\u00e1sicas o de \u00e1mbito empresarial. En ellas estamos viendo retos muy relevantes e interesantes. No solo t\u00e9cnicos sino tambi\u00e9n organizativos y procedimentales. En muchos aspectos la forma de trabajar e integrar estos nuevos sistemas requiere un cambio de paradigma con respecto a las t\u00e9cnicas y metodolog\u00edas de ingenier\u00eda de software actuales<\/strong>.<\/p>\n\n\n\n

Te contamos a continuaci\u00f3n cu\u00e1les son los 5 principales retos a resolver en el desarrollo de software con IA generativa.<\/p>\n\n\n\n

Sistemas no deterministas<\/h2>\n\n\n\n

Los sistemas de Inteligencia Artificial generativa actuales (los modelos de LLM como GPT<\/a>, Gemini<\/a>, Claude<\/a> o Llama<\/a>) se presentan a los desarrolladores como sencillas APIs REST gestionadas y en la nube. El problema es que bajo esa API realmente simple esconden capacidades a las que nunca antes hab\u00edamos tenido acceso y que nos llevan a un cambio de paradigma computacional. Dichas APIs no tienen un comportamiento determinista y por tanto rompen con una de las premisas fundamentales de cualquier sistema computacional actual, el determinismo<\/strong>.<\/p>\n\n\n\n

Los modelos de IA generativa ante las mismas entradas (datos y prompt) no devuelven dos respuestas iguales (aunque cada vez m\u00e1s permiten ciertos ajustes para reducir esta problem\u00e1tica). Este comportamiento es deseable para la interacci\u00f3n humana, pero muy problem\u00e1tico para la integraci\u00f3n en sistemas computacionales<\/strong>, donde se espera consistencia y predictibilidad.<\/p>\n\n\n\n

Adem\u00e1s, est\u00e1n dise\u00f1ados para responder en lenguaje natural y aunque se puede intentar forzar respuestas estructuradas (por ejemplo en JSON), no hay garant\u00eda de que esto siempre funcione. Esto a\u00f1ade una capa de complejidad en la validaci\u00f3n y el procesamiento de las respuestas<\/strong>.<\/p>\n\n\n\n

Dise\u00f1o para interacci\u00f3n humana, no para m\u00e1quinas<\/h2>\n\n\n\n

Los modelos de LLM (Large Language Models) est\u00e1n dise\u00f1ados y optimizados para interactuar con humanos, produciendo respuestas en lenguaje natural<\/strong>. Aunque esto es ideal para interfaces de usuario de tipo chatbot, plantea problemas cuando se requiere una integraci\u00f3n directa en sistemas automatizados.<\/p>\n\n\n\n

Las respuestas pueden (y suelen) ser ambiguas o estructuradas de manera inconsistente, lo que dificulta su procesamiento autom\u00e1tico. E incluso puede darse el caso (a nosotros nos ha pasado) que en momentos puntuales decidan no responder, devolver respuestas evasivas o responder sobre otras cosas que no tengan nada que ver.<\/p>\n\n\n\n

Para abordar esto es necesario desarrollar t\u00e9cnicas de postprocesamiento para analizar las respuestas del modelo<\/strong>. Utilizar mecanismos de validaci\u00f3n y filtrado<\/strong> puede ayudar a controlar y corregir las respuestas generadas, asegurando que sean consistentes y adecuadas para su uso en aplicaciones automatizadas.<\/p>\n\n\n\n

Rendimiento y escalabilidad<\/h2>\n\n\n\n

Las LLM pueden requerir tiempos de procesamiento<\/strong> significativos, y adem\u00e1s se ejecutan habitualmente en la nube<\/a>, lo cual afecta a la latencia y la capacidad de respuesta del sistema. Y esto ya lo hemos visto en productos como el AI Pin<\/a> de Humane, o el Rabbit R1<\/a>, cuya funcionalidad y propuesta de valor se ve\u00eda claramente mermada por los tiempos de respuesta.<\/p>\n\n\n\n

Por suerte esto es algo que iremos viendo como va mejorando poco a poco, y ya hemos visto recientemente mejoras muy considerables con nuevos modelos como GTP-4o<\/a> o la introducci\u00f3n de las NPU en los nuevos Copilot+PC<\/a> de Microsoft, que permitir\u00e1 ejecutar peque\u00f1os modelos de IA directamente en el dispositivo para obtener latencias mucho m\u00e1s bajas.<\/p>\n\n\n\n

Cabe tambi\u00e9n mencionar que este tipo de sistemas requieren una cantidad considerable de recursos computacionales<\/strong>, y por tanto el coste se eleva. Esto puede ser un reto si queremos ejecutar los modelos en nuestra propia infraestructura si los queremos aplicar en \u00e1mbitos propios del big data.<\/p>\n\n\n\n

Por ejemplo, en Binnacle Data<\/a> utilizamos IA generativa para procesar y analizar autom\u00e1ticamente anomal\u00edas y cambios de tendencia en m\u00faltiples m\u00e9tricas de diversos tipos diferentes de elementos (cat\u00e1logo de productos, b\u00fasquedas SEO, campa\u00f1as publicitarias, etc.). Esto lo hacemos a un nivel de granularidad muy bajo (producto, b\u00fasqueda o campa\u00f1a individual). Con clientes que tienen cat\u00e1logos que se cuentan en decenas de miles o incluso cientos de miles de productos, a d\u00eda de hoy seria inviable utilizar IA generativa para procesar toda esa cantidad de datos:<\/p>\n\n\n\n