اتحاد غولهای فناوری برای امنیت هوش مصنوعی؛ چرا انویدیا و مایکروسافت به سراغ مدلهای متنباز رفتند؟
با گسترش سریع هوش مصنوعی، امنیت این فناوری به یکی از مهمترین دغدغههای شرکتها و دولتها تبدیل شده است. در همین راستا، بیش از ۴۰ شرکت بزرگ فناوری از جمله انویدیا، مایکروسافت، آیبیام، سیسکو، کلودفلر و پالانتیر با تشکیل «اتحاد هوش مصنوعی امن و باز» (Open Secure AI Alliance)، تلاش میکنند استانداردها و ابزارهای متنباز جدیدی برای محافظت از سیستمهای هوش مصنوعی در برابر تهدیدات سایبری توسعه دهند. اما این اتحاد چه اهدافی را دنبال میکند و چرا میتواند آینده امنیت سایبری را تغییر دهد؟
اتحاد Open Secure AI Alliance چیست؟
رشد هوش مصنوعی مولد باعث شده این فناوری علاوه بر فرصتهای فراوان، به هدفی جذاب برای مهاجمان سایبری نیز تبدیل شود. از سوی دیگر، بسیاری از ابزارهای امنیتی مبتنی بر هوش مصنوعی هنوز استاندارد مشخصی ندارند و شرکتها هر کدام راهکارهای اختصاصی خود را توسعه میدهند.
برای رفع این چالش، بیش از ۴۰ شرکت و سازمان فناوری با همکاری بنیاد لینوکس و بنیاد امنیت متنباز (OpenSSF)، اتحاد Open Secure AI Alliance را راهاندازی کردهاند. هدف این کنسرسیوم، توسعه ابزارها، چارچوبهای ارزیابی و استانداردهای متنباز برای افزایش امنیت سیستمهای هوش مصنوعی است.
چرا متنباز بودن اهمیت دارد؟
یکی از مهمترین نکات این پروژه، تأکید بر استفاده از فناوریهای متنباز است.
برخلاف مدلهای کاملاً اختصاصی، راهکارهای متنباز امکان بررسی کدها، ارزیابی مستقل، کشف سریعتر آسیبپذیریها و مشارکت جامعه توسعهدهندگان را فراهم میکنند. این موضوع باعث میشود ابزارهای امنیتی سریعتر بهروزرسانی شوند و سازمانها بتوانند آنها را متناسب با نیازهای خود شخصیسازی کنند.
از نگاه اعضای این اتحاد، امنیت سایبری تنها زمانی میتواند در برابر حملات پیچیده آینده مقاومت کند که دانش و ابزارهای دفاعی در اختیار جامعه گستردهتری قرار بگیرد، نه فقط چند شرکت محدود.
نقش انویدیا در این پروژه
انویدیا علاوه بر مشارکت در توسعه مدلها و ابزارهای امنیتی، چارچوبی به نام NOOA را نیز بهصورت متنباز منتشر کرده است.
این چارچوب برای مدیریت، آزمایش و حسابرسی عاملهای هوش مصنوعی (AI Agents) طراحی شده و به توسعهدهندگان کمک میکند رفتار این عاملها را بهتر کنترل و ارزیابی کنند.
جنسن هوانگ، مدیرعامل انویدیا، معتقد است آینده امنیت سایبری به ترکیبی از مدلهای باز و بسته وابسته خواهد بود؛ اما در حوزه دفاع سایبری، مدلهای متنباز به دلیل شفافیت و امکان بررسی عمومی، مزیت مهمی ایجاد میکنند.
چرا اکنون چنین اتحادی شکل گرفته است؟
راهاندازی این اتحاد بیدلیل نیست. طی ماههای اخیر چندین رخداد مهم نشان داد که هوش مصنوعی میتواند هم به ابزاری برای دفاع سایبری و هم به بستری برای حملات پیچیده تبدیل شود.
برای مثال، یکی از مدلهای Anthropic موفق شد آسیبپذیری قدیمی شبکه Zcash را شناسایی کند؛ مشکلی که در صورت سوءاستفاده میتوانست پیامدهای مالی گستردهای داشته باشد.
همچنین گزارشهایی از آزمایشهای امنیتی OpenAI منتشر شد که در آن برخی مدلهای آزمایشی رفتارهایی غیرمنتظره از خود نشان دادند و همین موضوع بحثهای گستردهای درباره کنترل و نظارت بر مدلهای پیشرفته هوش مصنوعی ایجاد کرد.
این اتفاقات نشان داد توسعه هوش مصنوعی بدون ایجاد استانداردهای امنیتی مشترک، میتواند ریسکهای قابلتوجهی برای زیرساختهای حیاتی ایجاد کند.
آیا متنباز بودن امنیت را افزایش میدهد؟
این سؤال یکی از بحثبرانگیزترین موضوعات صنعت هوش مصنوعی است.
حامیان مدلهای متنباز معتقدند شفافیت بیشتر باعث کشف سریعتر آسیبپذیریها، افزایش اعتماد و توسعه ابزارهای دفاعی قدرتمندتر میشود.
در مقابل، منتقدان هشدار میدهند که انتشار آزاد برخی مدلها ممکن است دسترسی مهاجمان به فناوریهای پیشرفته را نیز آسانتر کند.
به همین دلیل، بسیاری از کارشناسان معتقدند آینده این صنعت بر پایه ترکیبی از مدلهای متنباز و اختصاصی شکل خواهد گرفت؛ رویکردی که اعضای این اتحاد نیز از آن حمایت میکنند.
جمعبندی
تشکیل اتحاد Open Secure AI Alliance نشان میدهد رقابت شرکتهای بزرگ فناوری وارد مرحله جدیدی شده است. اگر در سالهای گذشته تمرکز اصلی بر توسعه مدلهای قدرتمندتر بود، اکنون امنیت، شفافیت و استانداردسازی به اولویت اصلی تبدیل شدهاند.
همکاری بیش از ۴۰ شرکت بزرگ فناوری برای توسعه ابزارهای امنیتی متنباز میتواند مسیر آینده امنیت سایبری مبتنی بر هوش مصنوعی را تغییر دهد. با گسترش استفاده از AI در زیرساختهای حیاتی، احتمالاً در سالهای آینده شاهد سرمایهگذاری گستردهتر روی استانداردهای امنیتی، چارچوبهای ارزیابی و همکاریهای بینشرکتی خواهیم بود؛ موضوعی که نهتنها بر صنعت فناوری، بلکه بر آینده اقتصاد دیجیتال نیز تأثیر قابلتوجهی خواهد گذاشت.