De uitbreiding van het Dynatrace-platform biedt observability voor Large Language Models (LLM’s) en generatieve AI-aangedreven applicaties.
Het Dynatrace-platform ondersteunt bedrijven bij Application Performance Monitoring om softwareprestaties te waarborgen. Tijdens de Perform-conferentie heeft het bedrijf echter nieuwe mogelijkheden voor het platform onthuld. “Het omvat een end-to-end AI-stack, inclusief infrastructuur zoals Nvidia GPU’s, fundamentele modellen zoals GPT4, semantische caches en vectordatabases zoals Weaviate en orkestratieframeworks zoals LangChain”, legt Dynatrace uit bij de introductie. Er is ook ondersteuning voor platformen die veel worden gebruikt voor het trainen van modellen, zoals Microsoft Azure OpenAI Service, Amazon SageMaker en Google AI Platform.
Inzichten AI Observability
De AI Observability-dienst maakt gebruik van Davis AI van Dynatrace. Deze AI-service kan afwijkingen in applicaties voorspellen en observability- en security-data verder analyseren. Davis AI bevat ook een copiloot-onderdeel dat helpt bij het maken van queries, notebooks en dashboards.
In combinatie met andere technologieën van Dynatrace moeten bedrijven met behulp van AI Observability een compleet beeld krijgen van AI-aangedreven applicaties. De inzichten stellen hen in staat prestatieknelpunten en de oorzaken daarvan automatisch te identificeren. Bovendien biedt AI Observability inzicht in het tokenverbruik, een component die modellen gebruiken voor het verwerken van zoekopdrachten. AI Observability toont ook voorspellingen over dit tokenverbruik.
Tot slot biedt AI Observability mogelijkheden om de oorsprong van de output die apps creëren nauwkeurig te traceren. Hierdoor kunnen bedrijven beter voldoen aan privacy- en veiligheidsvoorschriften en governancestandaarden.
Dynatrace AI Observability is per direct beschikbaar.
1 dag geleden
