تصور کنید کارمند واحد فروش برای تهیه یک گزارش، فایلی حاوی اطلاعات مشتریان، قیمت‌های توافقی و جزئیات قراردادها را در ChatGPT بارگذاری می‌کند. هدف او صرفه‌جویی در زمان است، اما با این اقدام، اطلاعاتی که پیش‌تر در محیط سازمان نگهداری می‌شدند، به یک سرویس خارجی منتقل شده‌اند. آیا واحد امنیت اطلاعات از این انتقال آگاه است؟ آیا می‌داند داده‌ها چگونه پردازش و نگهداری می‌شوند؟
این سناریو یکی از چالش‌های استفاده از هوش مصنوعی در محیط‌های کاری است. ابزارهایی مانند ChatGPT و Copilot می‌توانند تحلیل داده‌ها، تهیه گزارش و بسیاری از وظایف روزمره را ساده‌تر کنند، اما استفاده بدون ضابطه از آن‌ها ممکن است محرمانگی اطلاعات را به خطر بیندازد.
وارد کردن اطلاعات در هوش مصنوعی لزوماً ناامن نیست؛ مسئله اصلی این است که سازمان بداند چه اطلاعاتی، توسط چه افرادی و از چه مسیرهایی در اختیار این ابزارها قرار می‌گیرند. مدیریت این فرایند، نقطه شروع استفاده امن از هوش مصنوعی در سازمان است.
چه اطلاعات سازمانی را نباید بدون مجوز در ابزارهای هوش مصنوعی وارد کنیم؟
نخستین گام برای حفظ امنیت اطلاعات سازمانی در هوش مصنوعی، شناسایی داده‌هایی است که افشای آن‌ها می‌تواند پیامدهای مالی، حقوقی یا امنیتی داشته باشد.
مهم‌ترین گروه‌های اطلاعات حساس عبارت‌اند از:
- اطلاعات شخصی: مشخصات مشتریان و کارکنان، کد ملی، اطلاعات تماس و سوابق منابع انسانی.
- اطلاعات مالی و تجاری: گزارش‌های مالی منتشرنشده، قیمت‌های اختصاصی، اطلاعات بانکی و جزئیات مذاکرات تجاری.
- اسناد محرمانه: قراردادها، برنامه‌های توسعه و مستندات مشمول تعهدات محرمانگی.
- اطلاعات فنی و امنیتی: رمزهای عبور، کلیدهای API، توکن‌های دسترسی و تنظیمات حساس زیرساخت.
- مالکیت فکری: کدهای اختصاصی، الگوریتم‌ها و مستندات تحقیق و توسعه.
حساسیت اطلاعات همیشه از ظاهر فایل مشخص نیست. برای مثال، یک گزارش منابع انسانی ممکن است فاقد نام کارکنان باشد، اما ترکیب عنوان شغلی، سابقه کار و میزان حقوق، شناسایی افراد را امکان‌پذیر کند.
سازمان باید براساس سیاست طبقه‌بندی اطلاعات خود مشخص کند چه داده‌هایی عمومی، داخلی یا محرمانه هستند و هر گروه تحت چه شرایطی می‌تواند در ابزارهای هوش مصنوعی پردازش شود. آشنایی با اصول طبقه‌بندی داده‌ها می‌تواند به تدوین ضوابط دقیق‌تر برای حفاظت و دسترسی به اطلاعات کمک کند.
پیش از وارد کردن اطلاعات در هوش مصنوعی، چه چیزهایی را بررسی کنیم؟
اعتبار یک سرویس هوش مصنوعی به‌تنهایی تضمین‌کننده امنیت اطلاعات سازمانی نیست. پیش از تأیید ابزار، باید نحوه پردازش داده‌ها، سیاست‌های نگهداری و سطح دسترسی آن بررسی شود.
نوع حساب و سیاست‌های استفاده، نگهداری و حذف داده
حساب‌های شخصی و سازمانی یک سرویس ممکن است سیاست‌های متفاوتی داشته باشند. برای مثال، طبق مستندات OpenAI، در ChatGPT Business و Enterprise محتوای سازمان‌ها به‌صورت پیش‌فرض برای آموزش مدل‌ها استفاده نمی‌شود. در حساب‌های شخصی نیز تنظیماتی برای کنترل استفاده از مکالمات در بهبود مدل وجود دارد.
بااین‌حال، استفاده‌نشدن از داده‌ها برای آموزش مدل، به معنای ذخیره‌نشدن آن‌ها نیست.
پیش از استفاده سازمانی از یک سرویس، باید مشخص شود:
- آیا داده‌های ارسالی برای آموزش یا بهبود مدل استفاده می‌شوند؟
- اطلاعات کجا و تا چه مدت نگهداری می‌شوند؟
- آیا سازمان امکان مدیریت یا درخواست حذف اطلاعات را دارد؟
- چه اشخاص یا ارائه‌دهندگان خدماتی ممکن است به داده‌ها دسترسی داشته باشند؟
برای سازمان‌های ایرانی، بررسی محدودیت‌های منطقه‌ای و شرایط قراردادی ارائه‌دهنده نیز اهمیت دارد. علاوه بر این موارد، تنظیمات نادرست سرویس‌های ابری ممکن است خطر افشای اطلاعات را افزایش دهند؛ موضوعی که در بحث خطاهای پیکربندی فضای ابری اهمیت ویژه‌ای دارد.
دسترسی به اطلاعات و انتقال آن به سرویس‌های متصل
برخی ابزارهای هوش مصنوعی می‌توانند به ایمیل، فضای ذخیره‌سازی ابری، مخازن کد و سایر سیستم‌های سازمانی متصل شوند. این قابلیت‌ها بهره‌وری را افزایش می‌دهند، اما ممکن است دامنه دسترسی به اطلاعات را نیز گسترش دهند. برای مثال، اگر سازمان مجوزهای دسترسی به اسناد را بیش‌ازحد گسترده تعیین کرده باشد، دستیار هوش مصنوعی متصل به این اسناد نیز ممکن است اطلاعاتی فراتر از نیاز کاربر در اختیار او قرار دهد.
سازمان باید مجوزهای ابزارها، سرویس‌های متصل و امکان انتقال داده به اشخاص ثالث را بررسی کند و دسترسی‌ها را براساس اصل حداقل سطح دسترسی (Least Privilege) محدود سازد. رعایت این اصل در امنیت نرم‌افزارهای SaaS سازمانی نیز اهمیت دارد؛ زیرا دسترسی‌های گسترده و اتصالاتی که سازمان بر آن‌ها نظارت و کنترل کافی ندارد، می‌توانند مسیرهای جدیدی برای انتقال اطلاعات ایجاد کنند.
چگونه اطلاعات را پیش از هوش مصنوعی آماده کنیم؟
در بسیاری از فعالیت‌ها، دریافت پاسخ مناسب از هوش مصنوعی به ارسال تمام اطلاعات یک سند نیاز ندارد. استفاده از رویکرد حداقل‌سازی داده (Data Minimization) می‌تواند میزان اطلاعات در معرض خطر را کاهش دهد.
برای آماده‌سازی داده‌ها، اقدامات زیر توصیه می‌شوند:
- حذف اطلاعات غیرضروری: تنها داده‌هایی را ارسال کنید که برای انجام وظیفه لازم هستند. برای مثال، تحلیل روند فروش معمولاً به نام و شماره تماس مشتریان نیاز ندارد.
- ناشناس‌سازی اطلاعات: شناسه‌های شخصی و جزئیات حساس را در صورت امکان حذف یا جایگزین کنید. البته اگر شناسایی مجدد افراد امکان‌پذیر باشد، داده‌ها همچنان حساس محسوب می‌شوند.
- استفاده از داده‌های ساختگی: در آزمایش نرم‌افزار یا بررسی کد، از داده‌های مصنوعی به‌جای اطلاعات واقعی مشتریان استفاده کنید.
- بررسی محتوای پنهان فایل‌ها: شیت‌های مخفی اکسل، تغییرات ثبت‌شده در اسناد، متادیتا و اطلاعات دسترسی موجود در فایل‌ها را بررسی کنید.
این اقدامات احتمال افشای اطلاعات را کاهش می‌دهند، اما جایگزین مجوز سازمان نمی‌شوند. حتی پس از حذف اطلاعات شخصی، ممکن است محتوای یک قرارداد یا کد اختصاصی همچنان محرمانه باشد.
سازمان چگونه ابزارهای مورد استفاده کارکنان و مسیرهای خروج اطلاعات را کنترل کند؟
یکی از مهم‌ترین چالش‌های امنیتی هوش مصنوعی، انتقال اطلاعات خارج از دید واحد فناوری اطلاعات است. ممکن است کارکنان برای انجام سریع‌تر وظایف خود از ابزارهایی استفاده کنند که سازمان آن‌ها را ارزیابی یا تأیید نکرده است. متخصصان امنیت اطلاعات این وضعیت را Shadow AI می‌نامند؛ وضعیتی که می‌تواند شناسایی مسیرهای خروج داده و بررسی رویدادهای امنیتی را دشوار کند.
در چنین شرایطی، صرف آموزش کارکنان یا ممنوع‌کردن ابزارهای عمومی کافی نیست. سازمان به سازوکاری نیاز دارد که هم استفاده از ابزارهای هوش مصنوعی را مدیریت کند و هم امکان شناسایی انتقال اطلاعات حساس را فراهم سازد.
شناسایی ابزارهای مورد استفاده و تعیین ضوابط ارسال اطلاعات
نقطه شروع، شناسایی سرویس‌های هوش مصنوعی مورد استفاده کارکنان و ارزیابی ریسک‌های آن‌هاست. این بررسی می‌تواند از طریق اطلاعات ترافیک شبکه، فهرست نرم‌افزارها و سرویس‌های ابری انجام شود.
پس از شناسایی ابزارها، باید سیاست مشخصی تدوین شود که در آن موارد زیر تعیین شده باشند:
- ابزارها و حساب‌های مجاز برای استفاده سازمانی
- انواع اطلاعات قابل‌ارسال و داده‌های ممنوع
- ضوابط اتصال هوش مصنوعی به سامانه‌های داخلی
- فرایند دریافت مجوز و گزارش رویدادهای مشکوک
یک سیاست مؤثر باید به کارکنان پاسخ روشنی بدهد: چه اطلاعاتی را می‌توان با چه ابزاری و تحت چه شرایطی پردازش کرد؟
ارزیابی نقش DLP در کنترل مسیرهای خروج داده
راهکارهای جلوگیری از نشت اطلاعات (Data Loss Prevention یا DLP) به سازمان‌ها کمک می‌کنند تا دید و کنترل بیشتری بر انتقال داده‌های حساس داشته باشند. این راهکارها، بسته به قابلیت‌ها و نحوه استقرارشان، امکان بررسی انتقال اطلاعات از مسیرهایی مانند ایمیل، مرورگر، فضای ذخیره‌سازی ابری و دستگاه‌های کاربران را فراهم می‌کنند.
برای مثال، اگر کارمند واحد مالی قصد داشته باشد فایلی حاوی اطلاعات محرمانه مشتریان را در یک ابزار هوش مصنوعی عمومی بارگذاری کند، سامانه DLP ممکن است بتواند براساس سیاست‌های تعریف‌شده:
- اطلاعات حساس را شناسایی کند.
- رویداد را ثبت کرده یا به کاربر هشدار دهد.
- انتقال اطلاعات را در مسیرهای تحت پوشش مسدود کند.
البته تمام راهکارهای DLP قابلیت یکسانی در کنترل تعاملات با ابزارهای هوش مصنوعی ندارند. کنترل بارگذاری فایل در مرورگر ممکن است با بررسی اطلاعاتی که کاربر مستقیماً در پنجره گفتگو وارد می‌کند، به قابلیت‌های متفاوتی نیاز داشته باشد.
بنابراین، سازمان‌ها باید هنگام انتخاب راهکار DLP، میزان پوشش مسیرهای واقعی انتقال داده در محیط سازمان خود را ارزیابی کنند.
نکته کلیدی این است که جلوگیری از نشت اطلاعات، بدون شناخت مسیرهای خروج داده امکان‌پذیر نیست. سازمان ابتدا باید بداند اطلاعات حساس چگونه و از چه مسیرهایی منتقل می‌شوند؛ سپس متناسب با این شناخت، کنترل‌های فنی را پیاده‌سازی کند.
DLP در کنار طبقه‌بندی اطلاعات، مدیریت دسترسی و پایش امنیتی می‌تواند بخشی از یک راهبرد چندلایه برای حفاظت از داده‌ها در زمان استفاده از هوش مصنوعی باشد. برای آشنایی بیشتر با قابلیت‌های این حوزه، می‌توان راهکارهای جلوگیری از نشت اطلاعات سرچ اینفورم را بررسی کرد.
اگر اطلاعات حساس قبلاً در یک ابزار هوش مصنوعی ارسال شده باشد، چه کنیم؟
ارسال ناخواسته اطلاعات حساس لزوماً به معنای وقوع نشت اطلاعات تأییدشده نیست، اما باید به‌عنوان یک رویداد امنیتی احتمالی بررسی شود.
در چنین شرایطی، اقدامات زیر اهمیت دارند:
- گزارش حادثه: موضوع را همراه با نام سرویس، نوع اطلاعات و زمان تقریبی ارسال به تیم امنیت اطلاع دهید.
- ارزیابی حساسیت داده‌ها: مشخص کنید چه اطلاعاتی ارسال شده‌اند و افشای احتمالی آن‌ها چه پیامدهایی دارد.
- محدودکردن دسترسی: در صورت ارسال رمز عبور یا کلید API، اعتبار آن‌ها را لغو یا جایگزین کنید و مجوزهای مرتبط را بررسی کنید.
- بررسی امکان حذف اطلاعات: مطابق سیاست‌های سرویس و با هماهنگی تیم امنیت، برای حذف داده‌ها یا محدودکردن دسترسی اقدام کنید. حذف مکالمه لزوماً به معنای حذف فوری اطلاعات از تمام سامانه‌ها نیست.
- جلوگیری از تکرار: علت حادثه را شناسایی کرده و در صورت نیاز، سیاست‌های سازمان و کنترل‌های فنی را اصلاح کنید.
حفظ شواهد ضروری و بررسی دامنه حادثه باید بخشی از فرایند رسیدگی باشد تا اقدامات اصلاحی براساس علت واقعی رویداد انجام شوند.
جمع‌بندی
امنیت استفاده از هوش مصنوعی تنها به انتخاب یک سرویس معتبر یا آگاهی کارکنان از خطرات احتمالی وابسته نیست. حتی در سازمان‌هایی که دستورالعمل‌های مشخصی دارند، ممکن است اطلاعات از مسیرهایی منتقل شوند که تحت نظارت واحد امنیت نیستند.
تفاوت سازمانی که بر داده‌های خود کنترل دارد با سازمانی که صرفاً استفاده از هوش مصنوعی را مجاز یا ممنوع کرده، در میزان شناخت آن از جریان اطلاعات است.
سازمان‌ها با شناسایی ابزارهایی که کارکنان از آن‌ها استفاده می‌کنند، طبقه‌بندی داده‌ها، مدیریت مجوزها و کنترل مسیرهای خروج اطلاعات، می‌توانند به‌جای واکنش پس از افشای داده‌ها، برای پیشگیری از نشت اطلاعات برنامه‌ریزی کنند.
رادسکیور با ارائه راهکارهای تخصصی امنیت اطلاعات و جلوگیری از نشت داده، به سازمان‌ها کمک می‌کند ریسک‌های انتقال اطلاعات حساس را شناسایی کنند و کنترل‌های امنیتی متناسب با زیرساخت و نیازهای خود را انتخاب کنند.
