NVIDIA میکروسرویس های NIM را برای محافظت از برنامه های کاربردی برای Agentic AI راه اندازی می کند

عوامل هوش مصنوعی آماده هستند تا بهره وری میلیاردها کارگر دانش جهان را با "ربات های دانش" که قادر به انجام وظایف مختلف هستند تغییر دهند. برای توسعه عوامل هوش مصنوعی، سازمان ها باید به نگرانی های حیاتی مانند اعتماد، ایمنی، امنیت و انطباق توجه کنند.

میکروسرویس های جدید NVIDIA NIM برای حفاظ های هوش مصنوعی - بخشی از جعبه ابزار نرم افزار NVIDIA NeMo Guardrails - میکروسرویس های قابل حمل و بهینه سازی شده ای هستند که به شرکت ها کمک می کنند ایمنی، دقت و مقیاس پذیری برنامه های هوش مصنوعی تولیدی خود را بهبود بخشند.

NeMo Guardrails یکی از اجزای کلیدی ارکستراسیون میکروسرویس ها است و بخشی از پلتفرم NVIDIA NeMo برای هماهنگ سازی، سفارشی سازی و محافظت از هوش مصنوعی است. NeMo Guardrails به توسعه دهندگان کمک می کند تا نرده های محافظ هوش مصنوعی را در برنامه های کاربردی مدل زبان بزرگ (LLM) ادغام و مدیریت کنند. رهبران صنعت Amdocs، Cerence AI و Lowe\'s از جمله کسانی هستند که از NeMo Guardrails برای محافظت از برنامه های کاربردی هوش مصنوعی استفاده می کنند.

توسعه دهندگان می توانند از میکروسرویس های NIM برای ساخت عوامل هوش مصنوعی مطمئن تر و مطمئن تر استفاده کنند که پاسخ های ایمن و مناسب را در چارچوب دستورالعمل های خاص ارائه می کنند و در برابر تلاش های فرار از زندان پشتیبانی می شوند. با استقرار آنها در خدمات مشتری در صنایعی مانند خودروسازی، مالی، مراقبت های بهداشتی، تولید و خرده فروشی، نمایندگان می توانند رضایت و اعتماد مشتری را افزایش دهند.

یکی از میکروسرویس های جدید که برای کنترل یکپارچگی محتوا طراحی شده است، با استفاده از مجموعه داده یکپارچگی محتوای Aegis - یکی از با کیفیت ترین منابع داده با بازخورد انسانی در کلاس خود - آموزش داده شد. این مجموعه داده تحت نظارت و متعلق به NVIDIA، به صورت عمومی در Hugging Face در دسترس است و شامل بیش از 35000 نمونه داده مشروح شده توسط انسان است که به دلیل ایمنی هوش مصنوعی و تلاش های فرار از زندان برای دور زدن محدودیت های سیستم پرچم گذاری شده اند.

NVIDIA NeMo Guardrails عوامل هوش مصنوعی را در مسیر خود نگه می دارد

هوش مصنوعی به سرعت در حال افزایش بهره وری برای طیف گسترده ای از فرآیندهای تجاری است. در خدمات مشتری، به حل مشکلات مشتری تا 40٪ سریعتر کمک می کند. با این حال، مقیاس بندی هوش مصنوعی برای خدمات مشتری و سایر عوامل هوش مصنوعی نیازمند مدل های ایمن است که از خروجی های مخرب یا نامناسب جلوگیری می کند و اطمینان می دهد که برنامه هوش مصنوعی در پارامترهای مشخص شده رفتار می کند.

NVIDIA سه میکروسرویس جدید NIM را برای NeMo Guardrails معرفی کرد که به عوامل هوش مصنوعی کمک می کنند تا در مقیاس و در عین حال رفتار کنترل شده را حفظ کنند:

با پیاده سازی چندین مدل سبک و تخصصی به عنوان نرده های محافظ، توسعه دهندگان می توانند شکاف هایی را بپوشانند که ممکن است در هنگام اعمال سیاست ها و حفاظت های کلی تر جهانی رخ دهد - جایی که یک رویکرد یک اندازه برای همه به درستی ایمن نمی شود و گردش های کاری پیچیده ی هوش مصنوعی عامل را کنترل نمی کند.

مدل های زبان کوچک، مانند آن هایی که در مجموعه NeMo Guardrails هستند، تأخیر کمتری ارائه می کنند و به گونه ای طراحی شده اند که حتی در محیط های محدود یا توزیع شده به طور مؤثر کار کنند. این آن را برای مقیاس بندی کاربردهای هوش مصنوعی در صنایعی مانند مراقبت های بهداشتی، خودروسازی و تولید، در مکان هایی مانند بیمارستان ها یا انبارها ایده آل می کند.

رهبران و شرکای صنعت از هوش مصنوعی با نرده های محافظ NeMo محافظت می کنند

NeMo Guardrails که در دسترس جامعه منبع باز است، به توسعه دهندگان کمک می کند تا سیاست های برنامه های هوش مصنوعی متعدد - به نام Rails - را برای افزایش امنیت و کنترل برنامه های LLM هماهنگ کنند. این دستگاه با میکروسرویس های NVIDIA NIM کار می کند تا چارچوبی قدرتمند برای ساختن سیستم های هوش مصنوعی ارائه کند که می تواند در مقیاس بدون به خطر انداختن ایمنی یا عملکرد مستقر شود.

Amdocs، ارائه دهنده پیشرو جهانی نرم افزار و خدمات به شرکت های ارتباطات و رسانه، از NeMo Guardrails برای بهبود تعاملات مشتری مبتنی بر هوش مصنوعی با ارائه پاسخ های ایمن تر، دقیق تر و مرتبط تر استفاده می کند.

آنتونی گونتک، رئیس گروه فناوری و مدیر ارشد استراتژی در Amdocs گفت: «فناوری هایی مانند NeMo Guardrails برای محافظت از برنامه های هوش مصنوعی مولد و کمک به اطمینان از عملکرد ایمن و اخلاقی آنها ضروری هستند. «با ادغام NVIDIA NeMo Guardrails در پلتفرم amAIz خود، قابلیت های «هوش مصنوعی مورد اعتماد» این پلتفرم را برای ارائه تجربیات عامل ایمن، قابل اعتماد و مقیاس پذیر تقویت می کنیم. تعالی مصنوعی و عملیاتی.

Cerence AI، یک شرکت متخصص در راه حل های هوش مصنوعی برای صنعت خودرو، از NVIDIA NeMo Guardrails استفاده می کند تا اطمینان حاصل کند که دستیارهای داخل خودرو خود تعاملات ایمن و متناسب با زمینه را ارائه می کنند که توسط خانواده مدل های زبانی بزرگ و کوچک CaLLM ارائه می شود.

نیلز شانز، معاون اجرایی محصولات و فناوری در Cerence AI گفت: «هوش مصنوعی Cerence به راه حل های ایمن و با کارایی بالا از NVIDIA برای تقویت فناوری های کمکی داخل خودروی ما متکی است. استفاده از NeMo Guardrails به ما کمک می کند تا راه حل های قابل اعتماد و آگاه به مشتریان خود را ارائه دهیم و پاسخ های معقول، متفکرانه و بدون توهم ارائه کنیم. الگوهای زبانی برای ارائه محتوای ناخواسته یا نامناسب به کاربران نهایی خانواده CaLLM.

Lowe\'s، یک خرده فروش پیشرو در زمینه بهبود خانه، از هوش مصنوعی مولد استفاده می کند تا از تخصص عمیق شرکای فروشگاه خود استفاده کند. این ابزارها با ارائه دسترسی پیشرفته به دانش جامع محصول، شرکا را قادر می سازد تا به سؤالات مشتریان پاسخ دهند، به آنها کمک کند تا محصولات مناسب را برای تکمیل پروژه های خود بیابند و استاندارد جدیدی برای نوآوری خرده فروشی و رضایت مشتری تعیین کنند.

Chandu Nair، معاون ارشد داده، هوش مصنوعی و نوآوری در Lowe\'s گفت: «ما همیشه به دنبال راه هایی برای کمک به همکاران خود هستیم تا از مشتریان خود فراتر بروند. "با استقرار اخیر NVIDIA NeMo Guardrails، ما اطمینان می دهیم که پاسخ های تولید شده توسط هوش مصنوعی ایمن و قابل اعتماد هستند، در حالی که مرزهای مکالمه را برای ارائه فقط محتوای مناسب و مناسب اعمال می کنیم."

برای تسریع بیشتر اتخاذ پادمان های هوش مصنوعی در توسعه و استقرار برنامه های هوش مصنوعی در خرده فروشی، انویدیا اخیراً در NRF اعلام کرد که طرح هوش مصنوعی NVIDIA برای دستیاران خرید خرده فروشی شامل ریزسرویس های NeMo Guardrails برای ایجاد تعاملات قابل اعتمادتر و کنترل شده با مشتری در طول تجربه خرید دیجیتال است.

رهبران مشاور Taskus، Tech Mahindra و Wipro همچنین NeMo Guardrails را در راه حل های خود ادغام می کنند تا به مشتریان سازمانی خود برنامه های هوش مصنوعی امن تر، قابل اطمینان و کنترل شده تری ارائه دهند.

NeMo Guardrails باز و قابل توسعه است و با اکوسیستم قوی مدل ایمنی پیشرو و ارائه دهندگان نرده محافظ هوش مصنوعی و همچنین ابزارهای نظارت و توسعه هوش مصنوعی ادغام می شود. از ادغام با ActiveScore ActiveFence پشتیبانی می کند، که محتوای مخرب یا نامناسب را در برنامه های هوش مصنوعی مکالمه فیلتر می کند و قابلیت مشاهده، تجزیه و تحلیل و نظارت را فراهم می کند.

Hive که مدل های کشف محتوای تولید شده توسط هوش مصنوعی را برای محتوای تصویر، ویدیو و صوتی به عنوان ریزسرویس NIM ارائه می کند، می تواند به راحتی با استفاده از NeMo Guardrails در برنامه های هوش مصنوعی ادغام و هماهنگ شود.

پلت فرم مشاهده پذیری هوش مصنوعی Fiddler به راحتی با NeMo Guardrails ادغام می شود تا قابلیت های رصد هوش مصنوعی حفاظ را افزایش دهد. Weights & Biases، یک پلتفرم توسعه دهنده هوش مصنوعی، قابلیت های W&B Weave را با افزودن ادغام با میکروسرویس های NeMo Guardrails گسترش می دهد. این پیشرفت بر روی مجموعه موجود ادغام های NIM Weights & Biases برای بهبود استنباط های هوش مصنوعی در تولید استوار است.

NeMo Guardrails ابزارهای منبع باز را برای آزمایش سلامت هوش مصنوعی ارائه می دهد

توسعه دهندگانی که آماده آزمایش اثربخشی مدل های حفاظت از برنامه ها و سایر ریل ها هستند، می توانند از NVIDIA Garak - یک جعبه ابزار منبع باز برای MBA و اسکن آسیب پذیری برنامه ها که توسط تیم تحقیقاتی NVIDIA توسعه یافته است، استفاده کنند.

با استفاده از Garak، توسعه دهندگان می توانند آسیب پذیری ها را در سیستم هایی که از LLM استفاده می کنند، با ارزیابی آن ها برای مسائلی مانند نشت داده، تزریق نقطه ای، توهم کد و سناریوهای فرار از زندان شناسایی کنند. Garak با ایجاد موارد آزمایشی با خروجی نامناسب یا نادرست، به توسعه دهندگان کمک می کند تا نقاط ضعف بالقوه در مدل های هوش مصنوعی را کشف کرده و آنها را برطرف کنند تا استحکام و ایمنی آن ها را افزایش دهند.

در دسترس بودن

ریزسرویس های NVIDIA NeMo Guardrails، و همچنین NeMo Guardrails برای ارکستراسیون ریلی و جعبه ابزار NVIDIA Garak، اکنون در دسترس توسعه دهندگان و شرکت ها هستند. توسعه دهندگان می توانند با استفاده از NeMo Guardrails، ساخت حفاظت های هوش مصنوعی در عوامل هوش مصنوعی خدمات مشتری را با استفاده از این آموزش آغاز کنند.

ببینید متوجه می شود در مورد اطلاعات محصولات نرم افزاری.