Dynatrace lanza solución que mejora la confianza en la IA Generativa

Waltham (Massachusetts). Dynatrace (NYSE: DT) anunció la ampliación de su plataforma de análisis y automatización para ofrecer observabilidad y seguridad integrales para grandes modelos lingüísticos (LLMs) y aplicaciones impulsadas por IA generativa.
Esta mejora permite a las organizaciones adoptar IA generativa con confianza y de manera rentable, como parte de su enfoque en aumentar la innovación, la productividad y los ingresos.
Esta solución abarca de principio a fin la IA, incluida la infraestructura, como las GPU Nvidia®, modelos fundamentales como GPT4, caches semánticos y las bases de datos vectoriales como Weaviate, y marcos de orquestación como LangChain.
También es compatible con las principales plataformas para construir, entrenar y entregar modelos de IA, como Microsoft® Azure OpenAI Service, Amazon® SageMaker y Google® AI Platform.
La Observabilidad IA de esta plataforma utiliza la inteligencia artificial Davis® (Davis IA) y otras tecnologías centrales para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA.
Como resultado, las organizaciones pueden ofrecer óptimas experiencias de usuario mientras identifican automáticamente cuellos de botella de rendimiento y sus causas.
Ryan Berry, Vicepresidente Senior de Ingeniería y Arquitectura en OneStream, comenta que:
“La IA generativa y predictiva abrirá nuevas posibilidades para el negocio con nuestros servicios de ML y LLM, pero para implementarlos con éxito, debemos asegurarnos de que nuestros servicios que respaldan estas cargas de trabajo críticas sean confiables y funcionen bien. Nuestros equipos utilizan Dynatrace para construir y optimizar aplicaciones de AI generativa, que funcionan bien y son rentables de gestionar e implementar a escala”.
Gartner® anticipa que:
“Para 2028, la adopción de la IA culminará en más del 50% de los recursos informáticos en la nube dedicados a cargas de trabajo de IA, frente a menos del 10% en 2023”.
Este crecimiento refleja parcialmente el creciente interés de las organizaciones por la IA generativa para mejorar la eficiencia y productividad, impulsar la automatización y fomentar la innovación. A pesar de esto, muchas organizaciones están preocupadas por los costos asociados a los servicios impulsados por la IA generativa.
Estos pueden ser muchas veces más costosos que los servicios tradicionales en la nube y son difíciles de prever debido a que se basan en el consumo de tokens de IA generativa por parte de aplicaciones que aún no están en producción.
Al mismo tiempo, los gobiernos en todo el mundo están estableciendo normativas centradas en el uso de tecnologías de IA de manera responsable y ética, y en cumplimiento de las leyes aplicables.
Las organizaciones no pueden permitirse ignorar el potencial de la IA generativa. Sin embargo, necesitan observabilidad de IA integral para ayudar a que sus inversiones en IA generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, «alucinaciones» de IA y malas experiencias de usuario.
Bernd Greifeneder, CTO de Dynatrace, estima que:
“La IA generativa es la nueva frontera de la transformación digital. Esta tecnología permite a las organizaciones crear soluciones innovadoras que impulsan la productividad, la rentabilidad y la competitividad. Aunque es transformadora, también plantea nuevos desafíos para la seguridad, la transparencia, la confiabilidad, la experiencia y la gestión de costos. Las organizaciones necesitan una observabilidad de IA que abarque todos los aspectos de sus soluciones de IA generativa para superar estos desafíos”.
|
|
| Recomendados | ||
| Debes saber esto | ||










