Metti l'open source al servizio dell'IA
Ormai presente in molti ambiti e settori, l'intelligenza artificiale (IA) funge da stimolo ed elemento di accelerazione per svariate iniziative di ricerca e innovazione. Scegliendo le piattaforme Red Hat sarai in grado di realizzare, distribuire, monitorare e utilizzare modelli e applicazioni di IA potenziati dalla velocità, dall'affidabilità e dalla trasparenza della community open source.
Soluzioni in evidenza per creare e utilizzare l'IA
Red Hat® Enterprise Linux® AI
Parti da un LMM con licenza open source.
Red Hat Enterprise Linux AI aiuta a realizzare applicazioni basate sull'IA generativa promuovendo la creatività.
È in grado infatti di combinare i modelli linguistici di grandi dimensioni (LMM) con licenza open source della famiglia Granite con InstructLab, una soluzione promossa dalla community che potenzia le capacità di questi modelli.
Red Hat OpenShift® AI
Crea ed esegui app di IA nel cloud ibrido di Red Hat.
Red Hat OpenShift AI è una piattaforma open source progettata per creare, addestrare, testare ed erogare modelli per le tue applicazioni basate sull'IA.
I data scientist e gli sviluppatori possono velocizzare le attività di distribuzione e monitoraggio dei carichi di lavoro e dei modelli di ML, sia on premise che nel cloud pubblico, in un ambiente completamente supportato.
Panoramica
Red Hat Lightspeed
Ottieni più efficienza con l'IA.
Dopo la diffusione di Red Hat Ansible® Lightspeed with IBM watsonx Code Assistant, Red Hat introduce nuovi servizi di IA generativa per semplificare l'utilizzo delle piattaforme.
L'offerta Red Hat Lightspeed include OpenShift Lightspeed, un assistente virtuale basato sull'IA generativa in grado di risolvere i problemi e di offrire supporto. Di prossima uscita, Red Hat Enterprise Linux Lightspeed punta a semplificare la creazione, il deployment e la gestione di Linux.
Perché scegliere Red Hat per l'IA?
Grazie alla base tecnologica di Linux, ai container e all'automazione, la strategia di cloud ibrido e aperto di Red Hat ti offre la flessibilità di eseguire le applicazioni di IA ovunque ti serva.
Red Hat Enterprise Linux AI è una piattaforma per modelli fondativi concepita per sviluppare, testare ed eseguire, in modo semplice, i modelli linguistici di grandi dimensioni (LLM) della famiglia Granite per applicazioni aziendali.
Red Hat OpenShift AI offre ai tuoi team una piattaforma comune su cui creare e distribuire applicazioni basate sull'IA e modelli di machine learning, garantendo trasparenza e controllo.
Per deployment IA importanti è disponibile Red Hat OpenShift, una piattaforma per applicazioni scalabile e adatta ai carichi di lavoro IA, che fornisce anche l'accesso ai più comuni acceleratori hardware.
Grazie a Red Hat Lightspeed, gli strumenti compatibili con l'IA (a partire da Red Hat Ansible Automation Platform per proseguire con l'intera l'offerta Red Hat) riescono a migliorare la produttività anche degli utenti meno esperti.
Progetti promossi dalla community
Secondo Red Hat, l'approccio open source all'IA può eliminare gli ostacoli che rallentano la sperimentazione e l'innovazione.
InstructLab offre a chi desidera contribuire ai modelli LLM e addestrarli un nuovo approccio che sfrutta il modello collaborativo dell'open source.
Con Podman AI Lab gli sviluppatori possono creare, testare ed eseguire applicazioni di IA generativa tramite un'interfaccia grafica intuitiva, direttamente dalla propria workstation locale.
Prova OpenShift AI nella sandbox per sviluppatori
Con i componenti ottimizzati di Open Data Hub e di altri progetti open source, Red Hat OpenShift AI offre a data scientist e sviluppatori un'efficiente piattaforma di AI/ML nel cloud ibrido, per creare applicazioni basate sull'IA partendo da dati fruibili. Inizia a sperimentare nella sandbox per sviluppatori.
Affidati ad un ecosistema per l'IA
Ottimizza i tuoi processi con i partner certificati da Red Hat per l'IA. Accedi alle soluzioni pensate per la preparazione e l'integrazione dei dati, lo sviluppo e l'addestramento dei modelli di IA, il model serving e l'inferenza dei modelli sulla base dei nuovi dati.
Analisi della soluzione
Applicazioni IA con Red Hat e NVIDIA AI Enterprise
Crea un'applicazione RAG
Red Hat OpenShift AI è una piattaforma per creare progetti di data science e distribuire applicazioni abilitate all'IA. Puoi integrare tutti gli strumenti che ti servono per supportare la tecnologia retrieval augmented generation (RAG), un metodo per ottenere le risposte dell'IA dai tuoi documenti di riferimento. Quando connetti OpenShift AI con NVIDIA AI Enterprise, puoi fare alcune prove con gli LLM (Large Language Model) per trovare il modello ideale per la tua applicazione.
Sviluppa una pipeline per i documenti
Se vuoi usare la tecnologia RAG, per prima cosa devi inserire i tuoi documenti in un database vettore. Nella nostra app di esempio, integriamo una serie di documenti di prodotto in un database Redis. Visto che questi documenti vengono modificati spesso, possiamo creare una pipeline da eseguire periodicamente per tale processo in modo da disporre sempre della versione più recente.
Sfoglia il catalogo degli LLM
NVIDIA AI Enterprise ti offre l'accesso a un catalogo di diversi modelli LLM, così potrai fare diverse prove e scegliere quello che offre risultati migliori. I modelli sono ospitati nel catalogo delle API di NVIDIA. Una volta che hai impostato un token API, puoi eseguire il deployment di un modello utilizzando la piattaforma di distribuzione dei modelli NVIDIA NIM direttamente da OpenShift AI.
Scegli il modello giusto
Mentre fai alcune prove con i diversi modelli LLM, i tuoi utenti possono valutare ogni risposta generata. Puoi configurare una dashboard di monitoraggio Grafana per confrontare le valutazioni, oltre che i tempi di risposta e di latenza di ogni modello. Potrai quindi sfruttare questi dati per scegliere il miglior modello LLM da usare nel tuo ambiente di produzione.
Esperienze di successo dell'IA
Con Red Hat, Ortec Finance accelera la crescita e i tempi di rilascio
Ortec Finance, provider globale di soluzioni tecnologiche per la gestione di rischi e rendimenti, eroga modelli di machine learning su Microsoft Azure Red Hat OpenShift e ha deciso di adottare Red Hat OpenShift AI.
Banco Galicia velocizza l'onboarding di nuovi clienti
Utilizzando una soluzione per l'elaborazione del linguaggio naturale (NLP) basata sull'intelligenza artificiale su Red Hat OpenShift, la banca ha ridotto i tempi necessari per le verifiche da giorni a pochi minuti, con una precisione del 90%.
La Boston University realizza una piattaforma educativa
Grazie a Red Hat OpenShift AI, la Boston University ha creato un ambiente di apprendimento scalabile che accoglie centinaia di utenti di informatica e ingegneria informatica.
