در طول سال گذشته، هوش مصنوعی شیوه زندگی، کار و بازی مردم را تغییر داده است و همه چیز را از نوشتن و تولید محتوا گرفته تا بازی، یادگیری و بهرهوری را بهبود بخشیده است. علاقه مندان به کامپیوتر و توسعه دهندگان تلاش می کنند تا مرزهای این فناوری پیشگامانه را پیش ببرند.
بارها، پیشرفتهای تکنولوژیکی تعریفکننده صنعت در یک مکان – گاراژ – اختراع شدهاند. این هفته شروع است گاراژ RTX AI این مجموعه، محتوای معمولی را برای توسعه دهندگان و علاقه مندانی که به دنبال کسب اطلاعات بیشتر در مورد میکروسرویس های NVIDIA NIM و نقشه های هوش مصنوعی، نحوه ساخت عوامل هوش مصنوعی، گردش کار خلاق، انسان های دیجیتال، برنامه های کاربردی بهره وری و موارد دیگر در رایانه های شخصی هوش مصنوعی هستند، ارائه می دهد. خوش آمدید به گاراژ RTX AI.
این قسمت اول اعلامیههایی را که در اوایل این هفته در CES منتشر شد، شامل مدلهای پایه هوش مصنوعی جدید موجود در رایانههای شخصی NVIDIA RTX AI است که انسانهای دیجیتال، تولید محتوا، بهرهوری و توسعه را به سطح بعدی میبرد.
این مدلها – که بهعنوان ریزسرویس NVIDIA NIM ارائه میشوند – از پردازندههای گرافیکی جدید سری GeForce RTX 50 پشتیبانی میکنند. پردازندههای گرافیکی سری RTX 50 که بر اساس معماری NVIDIA Blackwell ساخته شدهاند، تا 3.352 تریلیون عملیات هوش مصنوعی در هر ثانیه عملکرد، 32 گیگابایت VRAM و ویژگی محاسبات FP4 را ارائه میدهند، عملکرد استنتاج هوش مصنوعی را دوبرابر میکنند و هوش مصنوعی مولد را قادر میسازند به صورت بومی با ردپای حافظه کمتر اجرا شود.
NVIDIA همچنین NVIDIA AI Blueprints را معرفی کرد – گردش کار آماده و از پیش پیکربندی شده، ساخته شده بر روی میکروسرویس های NIM، برای برنامه هایی مانند انسان دیجیتال و ایجاد محتوا.
ریزسرویسهای NIM و نقشههای هوش مصنوعی علاقهمندان و توسعهدهندگان را قادر میسازد تا سریعتر از همیشه تجربیات مبتنی بر هوش مصنوعی را ایجاد، تکرار و به رایانه شخصی ارائه دهند. نتیجه موج جدیدی از قابلیت های عملی و قانع کننده برای کاربران رایانه شخصی است.
رهگیری سریع هوش مصنوعی با NVIDIA NIM
دو چالش اصلی برای آوردن پیشرفت های هوش مصنوعی به رایانه ها وجود دارد. اولاً، سرعت تحقیقات هوش مصنوعی بسیار سریع است و مدلهای جدید روزانه در پلتفرمهایی مانند Hugging Face که اکنون میزبان بیش از یک میلیون مدل است، ظاهر میشوند. در نتیجه، هک ها به سرعت قدیمی می شوند.
دوم، تطبیق این مدلها برای استفاده از رایانه، فرآیندی پیچیده و نیازمند منابع است. بهینه سازی آنها برای رایانه ها، ادغام آنها با نرم افزار هوش مصنوعی و اتصال آنها به برنامه ها به تلاش مهندسی قابل توجهی نیاز دارد.
NVIDIA NIM با ارائه مدلهای پیشرفته هوش مصنوعی که برای رایانههای شخصی از پیش پیکربندی و بهینهسازی شدهاند، به رفع این چالشها کمک میکند. این میکروسرویسهای NIM دامنههای معمولی را در بر میگیرند، میتوانند با یک کلیک نصب شوند، دارای API برای ادغام آسان هستند و از نرمافزار NVIDIA AI و GPUهای RTX برای تسریع عملکرد استفاده میکنند.
در CES، انویدیا خط لولهای از میکروسرویسهای NIM را برای رایانههای RTX AI اعلام کرد که از موارد استفاده شامل مدلهای زبان بزرگ (LLM)، مدلهای زبان بینایی، تولید تصویر، گفتار، بازیابی نسل افزوده (RAG)، استخراج PDF و بینایی رایانه پشتیبانی میکند.
مدل های باز خانواده جدید Llama Nemotron دقت بالایی را در طیف وسیعی از وظایف پروکسی ارائه می دهد. نمونه اولیه Llama Nemotron Nano که به عنوان یک میکروسرویس NIM برای رایانههای شخصی و ایستگاههای کاری هوش مصنوعی RTX ارائه میشود، در وظایف هوش مصنوعی مانند دنبال کردن دستورالعملها، توابع فراخوانی، چت، کدنویسی و ریاضیات برتری دارد.
به زودی، توسعه دهندگان می توانند به سرعت این میکروسرویس ها را با استفاده از زیرسیستم ویندوز برای لینوکس (WSL) روی رایانه های شخصی ویندوز 11 دانلود و اجرا کنند.
برای نشان دادن اینکه چگونه علاقه مندان و توسعه دهندگان می توانند از NIM برای ساخت عوامل و دستیارهای هوش مصنوعی استفاده کنند، انویدیا Project R2X را پیش نمایش کرد، یک آواتار رایانه شخصی با قابلیت بینایی که می تواند اطلاعات را در دسترس کاربر قرار دهد، به برنامه های دسکتاپ و تماس های ویدیویی گروهی کمک کند، و اسناد را بخواند و خلاصه کند. . و بیشتر. برای به روز رسانی پروژه R2X ثبت نام کنید.
با میکروسرویسهای NIM، علاقهمندان به هوش مصنوعی میتوانند از پیچیدگیهای سازماندهی مدل، بهینهسازی و یکپارچهسازی باطن بگذرند و بر ساخت و نوآوری با مدلهای پیشرفته هوش مصنوعی تمرکز کنند.
در API چیست؟
رابط برنامه نویسی برنامه (Application Programming Interface) یا API راهی است که یک برنامه کاربردی با کتابخانه نرم افزار ارتباط برقرار می کند. یک API مجموعهای از «تماسها» را تعریف میکند که یک برنامه میتواند با یک کتابخانه برقرار کند و برنامه در ازای آن چه انتظاری دارد. APIهای AI سنتی به تنظیمات و پیکربندی زیادی نیاز دارند، که استفاده از قابلیتهای هوش مصنوعی را دشوارتر میکند و مانع از نوآوری میشود.
میکروسرویسهای NIM، رابطهای برنامهنویسی کاربردی (API) با کاربرد آسان را در معرض دید قرار میدهند که یک برنامه به سادگی میتواند درخواستها را ارسال کند و پاسخ دریافت کند. علاوه بر این، به طور ویژه برای رسانه های ورودی و خروجی انواع مدل های مختلف طراحی شده است. به عنوان مثال، LLM متن را به عنوان ورودی می گیرد و متن را به عنوان خروجی تولید می کند، مولدهای تصویر متن را به تصویر تبدیل می کنند، تشخیص دهنده های گفتار، گفتار را به متن و غیره.
میکروسرویسها برای ادغام یکپارچه با چارچوبهای توسعه هوش مصنوعی و چارچوبهای عاملی مانند AI Toolkit برای VSCode، AnythingLLM، ComfyUI، Flowise AI، LangChain، Langflow، و LM Studio طراحی شدهاند. توسعه دهندگان می توانند به راحتی آنها را از build.nvidia.com دانلود و اجرا کنند.
NVIDIA NIM با آوردن این APIها به RTX، نوآوری هوش مصنوعی را در رایانههای شخصی سرعت میبخشد.
انتظار می رود که علاقه مندان بتوانند طیف وسیعی از میکروسرویس های NIM را با استفاده از نسخه آزمایشی فنی NVIDIA ChatRTX امتحان کنند.
طرحی برای نوآوری
با استفاده از جدیدترین مدل های از پیش ساخته شده و بهینه سازی شده برای رایانه، توسعه دهندگان و علاقه مندان می توانند به سرعت پروژه های مبتنی بر هوش مصنوعی ایجاد کنند. برای برداشتن یک قدم جلوتر، میتواند چندین مدل هوش مصنوعی را با عملکردهای دیگر ترکیب کند تا برنامههای پیچیدهای مانند انسان دیجیتال، تولیدکننده پادکست و دستیار برنامه ایجاد کند.
NVIDIA AI Blueprints، ساخته شده بر روی میکروسرویس های NIM، به عنوان پیاده سازی مرجع برای گردش های کاری پیچیده هوش مصنوعی عمل می کند. این به توسعه دهندگان کمک می کند بسیاری از مؤلفه ها، از جمله کتابخانه ها، SDK ها و مدل های هوش مصنوعی را در یک برنامه واحد به یکدیگر متصل کنند.
AI Blueprints شامل همه چیزهایی است که یک توسعهدهنده برای ایجاد، اجرا، سفارشیسازی و گسترش گردش کار مرجع نیاز دارد، که شامل برنامه مرجع، کد منبع، دادههای نمونه و اسناد برای سفارشیسازی و هماهنگسازی اجزای مختلف است.
در نمایشگاه CES، انویدیا دو طرح هوش مصنوعی را برای RTX اعلام کرد: یکی برای پادکست PDF، که به کاربران امکان میدهد از هر فایل PDF یک پادکست بسازند و دیگری برای هوش مصنوعی مولد با هدایت سه بعدی، که مبتنی بر FLUX.1 (dev) است و انتظار میرود به عنوان یک میکروسرویس از NIM ارائه می شود، کنترل بیشتری بر روی ایجاد تصاویر مبتنی بر متن در اختیار هنرمندان قرار می دهد.
با AI Blueprints، توسعهدهندگان میتوانند به سرعت از آزمایش هوش مصنوعی به توسعه هوش مصنوعی برای گردشهای کاری پیشرفته در رایانههای شخصی و ایستگاههای کاری RTX حرکت کنند.
طراحی شده برای هوش مصنوعی مولد
پردازندههای گرافیکی سری جدید GeForce RTX 50 که به طور خاص برای مقابله با چالشهای پیچیده هوش مصنوعی طراحی شدهاند، دارای هستههای Tensor نسل پنجم با پشتیبانی از FP4، حافظه G7 سریعتر، و یک پردازنده مدیریت هوش مصنوعی برای چندوظیفگی کارآمد بین هوش مصنوعی و جریانهای کاری خلاقانه هستند.
سری GeForce RTX 50 برای کمک به ارائه عملکرد بهتر و عملکرد بیشتر رایانه شخصی، پشتیبانی از FP4 را اضافه می کند. FP4 یک روش کوانتیزاسیون پایین تر است، شبیه به فشرده سازی فایل، که اندازه مدل را کاهش می دهد. در مقایسه با FP16 – حالت پیشفرض اکثر مدلها – FP4 از کمتر از نیمی از حافظه استفاده میکند و پردازندههای گرافیکی سری 50 عملکردی بیش از دو برابر نسل قبلی دارند. این کار را می توان تقریباً بدون افت کیفیت با استفاده از روش های مقیاس بندی پیشرفته ارائه شده توسط NVIDIA TensorRT Model Optimizer انجام داد.
برای مثال، مدل FLUX.1 (dev) Black Forest Labs در FP16 به بیش از 23 گیگابایت VRAM نیاز دارد، به این معنی که فقط توسط GeForce RTX 4090 و GPU های حرفه ای قابل پشتیبانی است. با FP4، FLUX.1 (dev) به کمتر از 10 گیگابایت نیاز دارد، بنابراین میتواند به صورت بومی روی پردازندههای گرافیکی GeForce RTX بیشتری اجرا شود.
با استفاده از GeForce RTX 4090 با FP16، مدل FLUX.1 (dev) می تواند تصاویر را در 15 ثانیه با 30 مرحله تولید کند. با استفاده از GeForce RTX 5090 با FP4، می توان تصاویر را در کمتر از پنج ثانیه ایجاد کرد.
با API های جدید هوش مصنوعی برای رایانه ها شروع کنید
انتظار میرود که ریزسرویسهای NIM و طرحهای هوش مصنوعی NVIDIA از ماه آینده با پشتیبانی سختافزاری اولیه برای سریهای GeForce RTX 50، GeForce RTX 4090 و 4080 و NVIDIA RTX 6000 و 5000 پردازندههای گرافیکی حرفهای در دسترس قرار گیرند. GPU های اضافی در آینده پشتیبانی خواهند شد.
انتظار می رود رایانه های شخصی RTX AI آماده NIM از Acer، ASUS، Dell، GIGABYTE، HP، Lenovo، MSI، Razer، و Samsung و سازندگان سیستم محلی Corsair، Falcon Northwest، LDLC، Maingear، Mifcon، Origin PC در دسترس باشند. PCS و اسکن.
پردازندههای گرافیکی و لپتاپهای سری GeForce RTX 50 عملکردی را ارائه میدهند که بازی را تغییر میدهد، تجربههای هوش مصنوعی متحول کننده را تقویت میکند و سازندگان را قادر میسازد تا گردشهای کاری را در زمان بیسابقه انجام دهند. برای کسب اطلاعات بیشتر در مورد اخبار هوش مصنوعی NVIDIA که در CES فاش شد، سخنرانی اصلی جنسن هوانگ، مدیر عامل NVIDIA را دوباره تماشا کنید.
ببینید متوجه می شود در مورد اطلاعات محصولات نرم افزاری.
منبع: https://blogs.nvidia.com/blog/rtx-ai-garage-ces-pc-nim-blueprints/