تهدیدات هوش مصنوعی بر دیتاسنتر

هوش مصنوعی در حال تبدیل شدن به یکی از مولفه های کلیدی فناوری اطلاعات در جهان امروز است کسب و کارها به سرعت در حال بهره گیری از مدل های هوش مصنوعی برای تحلیل داده پیش بینی رفتار مشتری و بهینه سازی عملیات هستند اما با گسترش نفوذ این فناوری در فرآیندهای مراکز داده مجموعه ای از مخاطرات نوظهور نیز شکل گرفته است که باید به صورت فنی و ساختارمند مدیریت شود. این تهدیدها در صورت نبود شناسایی و پیشگیری می توانند به از کار افتادن زیرساخت های حیاتی اختلال در فعالیت های روزمره و کاهش اعتماد مشتریان منجر شوند.

در آلودگی داده، داده های نادرست جهت دار یا ساختگی وارد مجموعه داده آموزشی مدل هوش مصنوعی می شود، در این حالت مدل بر پایه این اطلاعات ناقص یا مخرب آموزش می بیند و در نتیجه خروجی هایی تولید می کند که گمراه کننده و نادرست هستند این نوع حمله می تواند از طریق منابع داده آلوده یا اقدامات هدفمند مهاجمان انجام شود و منجر به تولید نتایج معیوب تغییر رفتار مدل و اختلال در روند تصمیم گیری سیستم گردد. به عنوان نمونه اگر یک مدل تحلیل امنیتی تحت تاثیر داده های آلوده آموزش ببیند ممکن است نتواند تهدیدات واقعی را شناسایی کند یا اینکه تهدیداتی را گزارش دهد که در واقعیت وجود ندارند. چنین خطاهایی می توانند منجر به تصمیمات نادرست عملیاتی شده و امنیت سازمان را با خطر مواجه کنند.

آسیب زیر ساخت خای هوش مصنوعی که در سه لایه زیرساخت پایه مدل و اپلیکیشن قابل بررسی است زیرساخت پایه شامل سخت افزار، نرم افزار و خدمات ابری است که در معرض خطراتی مانند نفوذ به سیستم سرقت داده و اختلال در عملکرد قرار دارد لایه مدل شامل الگوریتم ها و ساختارهای محاسباتی است که می توانند هدف دستکاری های غیرمجاز یا سرقت مالکیت فکری واقع شوند. لایه اپلیکیشن نیز در معرض خطراتی مانند دستکاری داده های ورودی توسط کاربران یا بهره برداری از نقاط ضعف رابط های ارتباطی قرار دارد، برای نمونه مهاجم ممکن است با وارد کردن کد مخرب در رابط کاربری اپلیکیشن مبتنی بر هوش مصنوعی فرآیند جمع آوری داده را مختل کند یا به اطلاعات حساس دسترسی پیدا کند. همچنین در لایه مدل احتمال دارد با تغییر پارامترهای یادگیری یا دستکاری وزن های شبکه عصبی مسیر تصمیم گیری مدل منحرف شود که این مسئله در سامانه های حیاتی مانند سیستم های تشخیص نفوذ یا پیش بینی حملات سایبری می تواند پیامدهای جدی و خطرناکی به همراه داشته باشد.

در آن مهاجمان با نفوذ به زیرساخت ها اقدام به سرقت اطلاعات حساس کاربران یا سازمان می کنند. این داده ها می توانند برای مقاصدی مانند جعل هویت سرقت مالی باج گیری یا تولید مدل های تقلبی مورد استفاده قرار گیرند. پیامدهای این نوع حملات شامل کاهش اعتماد مشتریان افزایش هزینه های مرتبط با امنیت سایبری و اختلال در روند عملیات سازمانی است در بسیاری از موارد مشاهده شده است که تیم های حرفه ای با بهره گیری از داده های به سرقت رفته مدل های مشابهی ایجاد کرده و آن را به عنوان یک محصول قانونی در بازار عرضه کرده اند. این اقدام نه تنها زیان مالی به همراه دارد بلکه موجب آسیب جدی به اعتبار برند نیز می شود از سوی دیگر الزام قانونی به اعلام عمومی نشت اطلاعات طبق مقررات حفاظت از داده می تواند تاثیر منفی بر وجهه سازمان گذاشته و اعتماد عمومی را تضعیف کند.

در این سناریو مدل به دلایلی مانند طراحی ناکارآمد یا مداخله هدفمند مهاجمان پاسخ هایی تولید می کند که می توانند نادرست ساختگی یا حتی مخاطره آمیز باشند. این اختلال ممکن است از تمرکز بیش از حد مدل بر معیارهای پاداش الگوریتمی به جای صحت عملکرد واقعی یا از تفسیر ناصحیح داده های ورودی ناشی شود برای مثال زمانی که یک مدل زبانی به جای فهم دقیق درخواست کاربر صرفاً به دنبال تولید پاسخ هایی با بالاترین امتیاز عددی باشد، احتمال دارد محتوای ناصحیح یا حتی خطرناک ایجاد کند. چنین خطاهایی تنها محدود به پاسخ های متنی نیستند، بلکه در فرآیندهای تصمیم گیری خودکار مانند اعطای تسهیلات تحلیل الگوهای رفتاری کاربران یا تخصیص منابع نیز می توانند منجر به بروز خسارات گسترده و اختلال در عملکرد سامانه های حیاتی شوند.

به دلیل نیاز بالای مدل های هوش مصنوعی به توان پردازشی و انرژی رخ می دهد. مراکز داده برای پاسخگویی به این سطح از بار محاسباتی ناچار به بهینه سازی زیرساخت های برق و سرمایش هستند. در غیر این صورت افزایش دما می تواند باعث اختلال در ارائه خدمات و کاهش عمر مفید تجهیزات شود. به عنوان نمونه یک مدل یادگیری عمیق که به صورت مداوم مشغول پردازش داده های تصویری است ، ممکن است فشار قابل توجهی بر پردازنده ها و حافظه وارد کند و در نتیجه موجب افزایش دمای سیستم شود. اگر سامانه سرمایشی قادر به حفظ دما در محدوده ایمن نباشد، احتمال بروز خاموشی ناگهانی یا آسیب سخت افزاری بالا می رود. در بلندمدت این شرایط می تواند راندمان مراکز داده را کاهش دهد، هزینه های عملیاتی را افزایش دهد و نیاز به تعویض زودهنگام تجهیزات را به همراه داشته باشد.

به کارگیری فناوری هوش مصنوعی مستلزم پایبندی به قوانین مربوط به حریم خصوصی مالکیت داده و استفاده اخلاقی از اطلاعات است. بی توجهی به این الزامات می تواند پیامدهایی نظیر اعمال جریمه توقف ارائه خدمات یا خدشه دار شدن اعتبار سازمان را در پی داشته باشد. در بسیاری از کشورها مقررات سختگیرانه ای برای پردازش داده های شخصی تدوین شده است و هرگونه استفاده ناصحیح از این داده ها توسط مدل های هوش مصنوعی می تواند تبعات جدی برای مراکز داده به همراه داشته باشد. از سوی دیگر سازمان هایی که از هوش مصنوعی برای انجام تصمیم گیری های خودکار بهره می برند، موظف هستند شفافیت در فرآیندهای تصمیم سازی را حفظ کنند و در مواقع لازم توانایی پاسخگویی به کاربران و نهادهای ناظر را داشته باشند.

برای کاهش این ریسک ها مراکز داده باید مجموعه ای از راهکارهای امنیتی را به کار گیرند که از جمله آنها می توان به رمزنگاری داده کنترل دقیق سطوح دسترسی نظارت مستمر بر عملکرد الگوریتم ها و تحلیل هوشمند ترافیک شبکه اشاره کرد همچنین لازم است زیرساخت ها به گونه ای طراحی شوند که در برابر تهدیدات مقیاس پذیر پایدار و انعطاف پذیر باشند آشنایی عمیق با الزامات قانونی و رعایت اصول اخلاقی در توسعه مدل های هوش مصنوعی نیز از دیگر ضرورت های این حوزه به شمار می رود در کنار این موارد آموزش مستمر نیروی انسانی رصد مداوم تحولات فناوری و تعامل سازنده با متخصصان امنیت سایبری نقش مؤثری در ارتقای آمادگی سازمان برای مواجهه با تهدیدات نوظهور ایفا می کند طراحی سیاست های جامع امنیت اطلاعات تدوین سناریوهای مقابله در شرایط بحرانی و انجام ارزیابی های منظم آسیب پذیری نیز از اقدامات حیاتی در جهت حفظ عملکرد ایمن و پایدار مراکز داده محسوب می شود در این مسیر بهره گیری از تجربه شرکت فنی و مهندسی کارنو که با ارائه خدمات تخصصی در حوزه طراحی پیاده سازی و ایمن سازی زیرساخت های مراکز داده و سامانه های هوش مصنوعی فعالیت می کند می تواند به سازمان ها در افزایش تاب آوری و کاهش ریسک های فناوری کمک قابل توجهی نماید.