NVIDIA rilascia NeMo Guardrails per rendere sicuri i LLM | Crea Immagini ai | Immagini ai | Stable Diffusion ai Free | Turtles AI

  #NVIDIA ha annunciato il #rilascio di un #toolkit #opensource, #NeMo #Guardrails, per la costruzione di sistemi conversazionali Large Language Model (#LLM) sicuri e affidabili. Il nuovo toolkit è progettato per funzionare con tutti gli LLM, compreso il #ChatGPT di #OpenAI, ed è alimentato da toolkit costruiti dalla comunità come #LangChain, che ha già raccolto circa 30.000 stelle su #GitHub in pochi mesi. NeMo Guardrails consente agli sviluppatori di aggiungere regole programmabili per definire le interazioni desiderate dagli utenti all’interno di un’applicazione, semplificando la guida dei chatbot. Il toolkit viene fornito con una serie di vincoli o regole programmabili, chiamati guardrail, che si frappongono tra un utente e un LLM, come i guardrail di un’autostrada che definiscono la larghezza della strada e impediscono ai veicoli di deviare in un territorio indesiderato. I guardrail monitorano, influenzano e dettano le interazioni dell’utente, assicurando che le conversazioni rimangano focalizzate su un particolare argomento e impedendo che si spostino in aree indesiderate. Garantiscono inoltre che le interazioni con un LLM non diano luogo a disinformazione, risposte tossiche o contenuti inappropriati, e impediscono a un LLM di eseguire codice dannoso o chiamate a un’applicazione esterna in modo da porre rischi per la sicurezza. NeMo Guardrails si basa su Colang, un linguaggio di modellazione e runtime sviluppato da NVIDIA per l’IA conversazionale. L’obiettivo di Colang è fornire un’interfaccia leggibile ed estensibile agli utenti per definire o controllare il comportamento dei bot conversazionali con il linguaggio naturale. Il toolkit è completamente programmabile e consente agli sviluppatori di personalizzare e migliorare facilmente i guardrail nel tempo. NVIDIA sta incorporando NeMo Guardrails nel framework NeMo, che include tutto il necessario per l’addestramento e la messa a punto dei modelli linguistici utilizzando l’esperienza di dominio e i set di dati di un’azienda. NeMo è disponibile anche come servizio e fa parte di NVIDIA AI Foundations, una famiglia di servizi cloud per le aziende che desiderano creare ed eseguire modelli generativi di intelligenza artificiale personalizzati basati sui propri dataset e sulle proprie conoscenze di dominio. NVIDIA NeMo Guardrails è un passo significativo verso la costruzione di sistemi conversazionali LLM affidabili, sicuri e protetti. Il toolkit è corredato da numerosi esempi che affrontano gli schemi più comuni per l’implementazione dei guardrail, rendendo più semplice per gli sviluppatori costruire i propri sistemi conversazionali sicuri e protetti basati su LLM. NVIDIA è ansiosa di collaborare con la comunità dell’intelligenza artificiale per rendere accessibile a tutti la potenza di LLM affidabili, sicuri e protetti.