بازیگران جدیدی که بی‌سروصدا از کنترل‌های امنیتی عبور می‌کنند

سازمان‌ها در حال استفاده گسترده از ایجینت‌های هوش مصنوعی هستند، در حالی که بسیاری از کنترل‌های امنیتی هنوز برای جهانی طراحی شده‌اند که در آن انسان آغازگر همه اقدامات بود.

به گزارش افتانا، بیش از بیست سال است که معماری‌های امنیت سایبری بر یک فرض ساده اما بنیادین بنا شده‌اند: پشت هر اقدام مهم در سازمان، یک انسان قرار دارد. چه کارمندی که وارد سامانه می‌شود، چه مدیری که سطح دسترسی تعریف می‌کند و چه مهاجمی که از یک آسیب‌پذیری سوءاستفاده می‌کند، همواره این «نیت انسانی» محور طراحی کنترل‌ها بوده است. سیستم‌های مدیریت هویت، ابزارهای ثبت و تحلیل لاگ، چارچوب‌های انطباق و حتی سازوکارهای مانیتورینگ رفتاری، همگی برای درک و محدودسازی رفتار انسان ساخته شده‌اند. حتی وقتی از اتوماسیون صحبت می‌کردیم، در نهایت فردی وجود داشت که آن فرآیند را فعال کرده بود.
اما به‌نظر می‌رسد که باید این پیش‌فرض را کنار گذاشت.

سازمان‌ها وارد دوره‌ای شده‌اند که در آن ایجینت‌های هوش مصنوعی (AI agent) به‌صورت خودمختار یا نیمه‌خودمختار، در قلب زیرساخت‌های عملیاتی فعالیت می‌کنند. این سیستم‌ها دیگر صرفاً ابزارهایی برای پاسخ به پرسش‌ها یا خلاصه‌سازی اسناد نیستند. آن‌ها به داده‌های حساس دسترسی می‌گیرند، فراخوانی‌های API اجرا می‌کنند، گردش‌کارها را فعال می‌کنند، کد تولید می‌کنند و حتی بر تصمیم‌های عملیاتی اثر می‌گذارند. در بسیاری از موارد نیز برای آنکه کارایی‌شان کاهش نیابد، دسترسی‌های گسترده‌ای به آن‌ها اعطا می‌شود. نتیجه، ظهور یک بازیگر دیجیتال جدید در سازمان است؛ بازیگری که در مدل‌های سنتی امنیتی به‌درستی تعریف نشده است.

این موضوع یک سناریوی آینده‌نگرانه نیست. همین حالا ایجینت‌های هوش مصنوعی در سامانه‌های مدیریت ارتباط با مشتری، سیستم‌های مالی، پلتفرم‌های ابری، محیط‌های توسعه نرم‌افزار و مخازن دانش داخلی مستقر شده‌اند. اغلب نیز این استقرار با فشار واحدهای کسب‌وکار برای نوآوری سریع انجام می‌شود و تیم‌های امنیتی پس از اجرا در جریان قرار می‌گیرند، نه پیش از آن. همین ترتیب، ریسک را چند برابر می‌کند.

از ابزار تا بازیگر
بسیاری از مدیران هنوز هوش مصنوعی را یک «ابزار» می‌دانند، اما این نگاه دیگر دقیق نیست. ابزار منتظر دستور می‌ماند، اما بازیگر می‌تواند آغازگر رفتار باشد. ایجینت‌های مدرن هوش مصنوعی قادرند به‌طور هم‌زمان اسناد داخلی چندین واحد سازمانی را استخراج کنند، میان سامانه‌های مختلف زنجیره‌ای از فراخوانی‌های API ایجاد کنند، خروجی‌هایی تولید کنند که به‌طور خودکار فرآیندهای بعدی را فعال کند، بدون نظارت مستقیم انسان به‌صورت مداوم فعالیت داشته باشند و بر اساس داده‌های جدید، رفتار خود را تطبیق دهند.

وقتی چنین سیستمی را به زیرساخت عملیاتی متصل می‌کنید، در واقع یک قابلیت ساده اضافه نکرده‌اید؛ بلکه یک مشارکت‌کننده دیجیتال وارد سازمان کرده‌اید. این مشارکت‌کننده نیازمند هویت مشخص، مرزهای دسترسی تعریف‌شده، سازوکار پاسخگویی و نظارت مستقل است. در حالی‌که اغلب سازمان‌ها هنوز معماری خود را با این تغییر تطبیق نداده‌اند.

برنامه‌های امنیتی ما برای مدیریت کاربران ساخته شده‌اند. اما ایجینت‌ها کاربر نیستند. آن‌ها با لپ‌تاپ وارد سامانه نمی‌شوند، روی لینک کلیک نمی‌کنند و محدود به ریتم زمانی انسان نیستند. با این حال، بسیاری از سازمان‌ها همچنان تلاش می‌کنند همان کنترل‌های کاربرمحور را بر این بازیگران ماشینی اعمال کنند. همین ناهماهنگی ساختاری، نقاط کور ایجاد می‌کند.

چرا کنترل‌های سنتی دیگر کافی نیستند؟
اگر به کنترل‌های امنیتی فعلی نگاه کنید، پرسش کلیدی این است که آیا این سازوکارها برای انسان طراحی شده‌اند یا برای سیستم‌های خودمختار؟ بیشتر سازمان‌ها بر مدل دسترسی مبتنی بر نقش برای کارکنان، مدیریت دسترسی‌های ممتاز برای مدیران، پایش نقطه پایانی دستگاه‌ها، سامانه‌های جلوگیری از نشت داده مبتنی بر رفتار کاربر و تحلیل لاگ با تمرکز بر الگوهای انسانی تکیه دارند.

اکنون تصور کنید یک ایجینت هوش مصنوعی با استفاده از یک حساب سرویس، در هر ساعت هزاران فراخوانی API مشروع انجام دهد، هم‌زمان به چندین مجموعه داده دسترسی بگیرد و خروجی‌ای تولید کند که به‌طور خودکار یک فرآیند مالی یا عملیاتی را فعال کند؛ بدون آنکه انسانی دکمه «تأیید» را فشار دهد. هیچ‌یک از این اقدامات به‌تنهایی مخرب به نظر نمی‌رسند، اما در کنار هم می‌توانند از حفاظ‌هایی عبور کنند که برای اصطکاک و سرعت انسانی طراحی شده‌اند. رفتار ماشینی در نویز عادی سیستم حل می‌شود و تشخیص ناهنجاری دشوارتر می‌گردد.

سرعت؛ ضریب تشدید ریسک
ایجینت‌های هوش مصنوعی با سرعت ماشین کار می‌کنند و همین سرعت، معادله ریسک را تغییر می‌دهد. یک سطح دسترسی اشتباه، یک پرامپت معیوب یا افشای اعتبارنامه یک حساب سرویس می‌تواند در عرض چند دقیقه پیامدهای گسترده ایجاد کند؛ در حالی‌که در مدل‌های سنتی این روند ممکن بود روزها طول بکشد. تیم‌های امنیتی که برای بررسی و اصلاح طراحی شده‌اند، ممکن است در تشخیص رفتارهای نادرست خودکار با چالش جدی مواجه شوند. سرعت بالا نه‌تنها زمان واکنش را کوتاه می‌کند، بلکه دامنه خسارت را نیز افزایش می‌دهد.

ایجینت‌ها؛ پل‌های جدید میان سامانه‌ها
ایجینت‌های هوش مصنوعی معمولاً سیستم‌های مستقل نیستند، بلکه نقش اتصال‌دهنده را ایفا می‌کنند. آن‌ها به پلتفرم‌های ذخیره‌سازی ابری، نرم‌افزارهای SaaS، مخازن کد، ارائه‌دهندگان هویت، سامانه‌های مالی و حتی مدل‌های هوش مصنوعی بیرونی متصل می‌شوند. هر یک از این اتصال‌ها با یک اعتبارنامه همراه است و هر اعتبارنامه، یک مرز اعتماد جدید ایجاد می‌کند. زمانی که برای افزایش کارایی، دسترسی‌های گسترده‌ای به ایجینت داده می‌شود، ممکن است در عمل سطح دسترسی بیشتری از هر کارمند منفرد در اختیار آن قرار گیرد.

این وضعیت با اصل قدیمی «تفکیک و محدودسازی دسترسی» در تضاد است؛ اصلی که سال‌ها یکی از مؤثرترین راهبردهای امنیتی بوده است. تجربه نشان داده است که راحتی و کارایی، سریع‌تر از کنترل و مهار گسترش می‌یابد و زمانی که در گردش‌کارها تثبیت شود، بازگرداندن آن بسیار دشوار خواهد بود.

حکمرانی؛ فراتر از تدوین سیاست
بسیاری از سازمان‌ها اکنون کمیته‌های هوش مصنوعی یا کارگروه‌های اخلاقی تشکیل داده‌اند و سیاست‌های استفاده مجاز تدوین می‌کنند. این اقدامات گام‌های اولیه مهمی هستند، اما نباید آن‌ها را با کنترل عملیاتی اشتباه گرفت. اگر سازمانی نداند چه تعداد ایجینت در محیطش فعال است، هر یک دقیقاً به چه داده‌هایی دسترسی دارند، به کدام APIها و حساب‌های سرویس متکی هستند، چه تصمیم‌هایی را می‌توانند به‌صورت خودکار تحت تأثیر قرار دهند و در صورت بروز خطا چه کسی پاسخگو است، در واقع با یک ریسک ساختاری مواجه است. ابهام در این حوزه، خود بخشی از تهدید محسوب می‌شود.

مسئولیت مدیران ارشد
مسئله ایجینت‌های هوش مصنوعی صرفاً دغدغه مدیر امنیت اطلاعات نیست؛ این موضوع باید در سطح هیئت‌مدیره مطرح شود. سازمان‌ها لازم است تصویری جامع از تمامی ایجینت‌ها و ادغام‌های مبتنی بر هوش مصنوعی خود داشته باشند و این تصویر را به‌صورت مستمر به‌روزرسانی کنند. هر ایجینت باید هویت منحصربه‌فرد و قابل ردیابی داشته باشد، دسترسی‌هایش محدود به وظیفه مشخصش باشد و این دسترسی‌ها به‌صورت دوره‌ای بازبینی شود. فعالیت‌های آن نیز باید در جریان‌های لاگ جداگانه ثبت و تحلیل شود تا رفتارهای غیرعادی در میان نویز عمومی سیستم پنهان نماند.

همچنین در تصمیم‌های با اثرگذاری بالا، مانند جابه‌جایی منابع مالی، تغییر قراردادها، اعطای دسترسی‌های امنیتی یا اصلاح پیکربندی‌های حیاتی، حضور انسان در حلقه تصمیم‌گیری همچنان ضروری است. سطح خودمختاری ایجینت‌ها باید متناسب با ریسک تنظیم شود، نه صرفاً برای افزایش سرعت یا راحتی.

از سوی دیگر، وابستگی به ارائه‌دهندگان بیرونی مدل‌های هوش مصنوعی نیز زنجیره ریسک سازمان را گسترش می‌دهد. بررسی دقیق شیوه‌های مدیریت داده، کنترل‌های امنیتی و آمادگی پاسخ‌گویی به رخداد در این شرکت‌ها، دیگر یک انتخاب نیست، بلکه ضرورت راهبردی است.

عبور از کنترل‌ها؛ نه از روی سوءنیت، بلکه از دل طراحی
هوش مصنوعی بدون تردید مزایای رقابتی قابل‌توجهی ایجاد می‌کند. بهره‌وری را افزایش می‌دهد، مدل‌های کسب‌وکار جدید می‌سازد و کارایی عملیاتی را متحول می‌کند. اما هر جهش فناورانه، دوره‌ای از بی‌ثباتی به همراه دارد. سازمان‌هایی که بدون بازطراحی معماری امنیتی خود به استقبال ایجینت‌های هوش مصنوعی می‌روند، ممکن است در کوتاه‌مدت سرعت بگیرند، اما در لایه‌های زیرین دچار ضعف ساختاری شوند.

ما در حال گذار از جهانی هستیم که انسان‌ها آغازگر اقدامات بودند، به جهانی که سیستم‌ها آغازگرند. اگر معماری امنیتی همچنان ایجینت‌ها را صرفاً ابزار ببیند و نه بازیگر، عبور از کنترل‌ها الزاماً با نیت مخرب رخ نخواهد داد؛ بلکه به‌طور طبیعی و بر اساس طراحی اتفاق خواهد افتاد. و همان‌طور که تجربه نشان داده است، ضعف‌های ساختاری معمولاً پرهزینه‌ترین نوع ضعف برای اصلاح هستند.