Persistent Systems kondigt de lancering aan van GenAI Hub, een innovatief platform dat ontworpen is om de creatie en implementatie van Generative AI (GenAI) toepassingen binnen bedrijven te versnellen. Dit platform integreert naadloos met de bestaande infrastructuur, toepassingen en gegevens van een organisatie, waardoor een snelle ontwikkeling van op maat gemaakte, industriespecifieke GenAI-oplossingen mogelijk wordt. GenAI Hub ondersteunt de toepassing van GenAI in verschillende Large Language Models (LLM's) en clouds, zonder provider lock-in.

Om het potentieel van GenAI effectief te benutten en ideeën om te zetten in tastbare bedrijfsresultaten, moeten bedrijven het naadloos integreren in hun bestaande systemen. Met een breed scala aan AI-modellen, variërend van uitgebreid tot gespecialiseerd, hebben klanten een robuust platform nodig zoals de GenAI Hub. Dit platform vereenvoudigt de ontwikkeling en het beheer van meerdere GenAI-modellen en versnelt de marktgereedheid door middel van vooraf gebouwde softwarecomponenten, en dit alles met inachtneming van verantwoorde AI-principes. De GenAI Hub bestaat uit vijf hoofdcomponenten: Playground is een no-code tool voor domeinexperts om GenAI met LLM's te verkennen en toe te passen op bedrijfsgegevens zonder dat ze programmeervaardigheden nodig hebben.

Het biedt één uniforme interface voor LLM's van privéaanbieders zoals Azure OpenAI, AWS Bedrock en Google Gemini, en open modellen van Hugging Face zoals LLaMA2 en Mistral. Agents Framework biedt een veelzijdige architectuur voor de ontwikkeling van GenAI-toepassingen en maakt gebruik van bibliotheken zoals LangChain en LlamaIndex voor innovatieve oplossingen, waaronder Retrieval Augmented Generation (RAG). Evaluation Framework maakt gebruik van een 'AI om AI te valideren'-benadering en kan automatisch ground-truth vragen genereren die door een mens-in-the-loop moeten worden geverifieerd.

Het maakt gebruik van meetgegevens om de prestaties van de toepassing te volgen en meet eventuele afwijkingen en vertekeningen die kunnen worden aangepakt. Gateway dient als router tussen LLM's, waardoor applicatiecompatibiliteit mogelijk wordt en het beheer van serviceprioriteiten en load balancing wordt verbeterd. Het biedt ook gedetailleerd inzicht in het tokenverbruik en de bijbehorende kosten.

Custom Model Pipelines vergemakkelijken het aanmaken en integreren van op maat gemaakte LLM's en Small Language Models (SLM's) in het GenAI ecosysteem, en ondersteunen een gestroomlijnd proces voor gegevensvoorbereiding en modelverfijning dat geschikt is voor zowel cloud- als on-premise implementaties. De GenAI Hub stroomlijnt de ontwikkeling van use cases voor bedrijven door stapsgewijze begeleiding en naadloze integratie van gegevens in LLM's te bieden, zodat er snel efficiënte en veilige GenAI-oplossingen op schaal kunnen worden gecreëerd, zowel voor eindgebruikers, klanten als werknemers.