NVIDIA open source helpt developers guardgrails toe te voegen aan AI-chatbots

Nieuw uitgebrachte open-source software kan volgens NVIDIA ontwikkelaars helpen bij het begeleiden van generatieve AI- toepassingen om indrukwekkende tekstreacties te creëren die op schema blijven.

NeMo Guardrails helpt ervoor te zorgen dat slimme applicaties die worden aangedreven door grote taalmodellen (LLM's) nauwkeurig, geschikt, on-topic en veilig zijn. De software bevat alle code, voorbeelden en documentatie die bedrijven nodig hebben om veiligheid toe te voegen aan AI-apps die tekst genereren.

De release van NVIDIA komt omdat veel industrieën LLM's adopteren, de krachtige motoren achter deze AI-apps. Ze beantwoorden vragen van klanten, vatten lange documenten samen, schrijven zelfs software en versnellen het ontwerpen van geneesmiddelen.

NeMo Guardrails is ontworpen om gebruikers te helpen deze nieuwe klasse van AI-aangedreven applicaties veilig te houden.

Krachtige modellen, sterke rails

Veiligheid in generatieve AI is een sectorbrede zorg. NVIDIA heeft NeMo Guardrails ontworpen om met alle LLM's te werken, zoals OpenAI's ChatGPT.

Met de software kunnen ontwikkelaars LLM-aangedreven apps op elkaar afstemmen, zodat ze veilig zijn en binnen de domeinen van de expertise van een bedrijf blijven.

Met NeMo Guardrails kunnen ontwikkelaars drie soorten grenzen instellen:

• Actuele guardrails voorkomen dat apps in ongewenste gebieden terechtkomen. Ze zorgen er bijvoorbeeld voor dat medewerkers van de klantenservice geen vragen over het weer kunnen beantwoorden.
• Securityrails zorgen ervoor dat apps reageren met nauwkeurige, geschikte informatie. Ze kunnen ongewenste taal eruit filteren en afdwingen dat alleen naar geloofwaardige bronnen wordt verwezen.
• Securityrails beperken apps tot het maken van alleen verbindingen met externe applicaties van derden waarvan bekend is dat ze veilig zijn.

Vrijwel elke softwareontwikkelaar kan NeMo Guardrails gebruiken — zij of hij hoeft geen machine learning-expert of datawetenschapper te zijn. Ze kunnen snel nieuwe regels maken met een paar regels code, aldus NVIDIA.

Bekend gereedschap rijden

Omdat NeMo Guardrails open source is, kan het werken met alle tools die ontwikkelaars van zakelijke apps gebruiken.

Het kan bijvoorbeeld bovenop LangChain draaien , een open-source toolkit die ontwikkelaars snel gebruiken om applicaties van derden aan te sluiten op de kracht van LLM's.

"Gebruikers kunnen eenvoudig NeMo Guardrails toevoegen aan LangChain-workflows om snel veilige grenzen te stellen rond hun AI-aangedreven apps", zegt Harrison Chase, die de LangChain-toolkit en een startup die zijn naam draagt, heeft gemaakt.

Bovendien is NeMo Guardrails ontworpen om te kunnen werken met een breed scala aan LLM-compatibele applicaties, zoals Zapier . Zapier is een automatiseringsplatform dat door meer dan 2 miljoen bedrijven wordt gebruikt en het is uit de eerste hand te zien hoe gebruikers AI integreren in hun werk.

"Veiligheid, beveiliging en vertrouwen zijn de hoekstenen van verantwoorde AI-ontwikkeling, en we zijn enthousiast over NVIDIA's proactieve aanpak om deze vangrails in AI-systemen in te bedden", zegt Reid Robinson, hoofdproductmanager AI bij Zapier.

"We kijken uit naar het goede dat voortkomt uit het maken van AI tot een betrouwbaar en vertrouwd onderdeel van de toekomst."

Beschikbaar als open source en van NVIDIA

NVIDIA integreert NeMo Guardrails in het NVIDIA NeMo- framework, dat alles bevat wat gebruikers nodig hebben om taalmodellen te trainen en af ​​te stemmen met behulp van bedrijfseigen gegevens.

Een groot deel van het NeMo-framework is al beschikbaar als open source-code op GitHub. Ondernemingen kunnen het ook krijgen als een compleet en ondersteund pakket, onderdeel van het NVIDIA AI Enterprise- softwareplatform.

NeMo is ook beschikbaar als service . Het maakt deel uit van NVIDIA AI Foundations , een familie van cloudservices voor bedrijven die aangepaste generatieve AI-modellen willen maken en uitvoeren op basis van hun eigen datasets en domeinkennis.

Met behulp van NeMo bouwde de toonaangevende mobiele operator van Zuid-Korea een intelligente assistent die 8 miljoen gesprekken met zijn klanten heeft gevoerd. Een onderzoeksteam in Zweden nam NeMo in dienst om LLM's te maken die tekstfuncties kunnen automatiseren voor de ziekenhuizen, de overheid en zakelijke kantoren van het land.

Een voortdurende inspanning van de gemeenschap

Het bouwen van goede vangrails voor generatieve AI is een moeilijk probleem dat veel doorlopend onderzoek vereist naarmate AI zich verder ontwikkelt.

NVIDIA heeft NeMo Guardrails — het product van jarenlang onderzoek — open source gemaakt om bij te dragen aan de enorme energie van de ontwikkelaarsgemeenschap en het werk aan AI-veiligheid.

Samen zullen onze inspanningen op het gebied van vangrails bedrijven helpen hun slimme diensten op één lijn te houden met veiligheids-, privacy- en beveiligingsvereisten, zodat deze motoren van innovatie op schema blijven.

Zie onze technische blog voor meer informatie over NeMo Guardrails en om aan de slag te gaan .