اروپا و بریتانیا سراغ ایجنت‌های هوش مصنوعی رفتند؛ ماجرای درخواست اطلاعات از OpenAI و Anthropic

ایجنت‌های هوش مصنوعی فقط حرف نمی‌زنند؛ کار انجام می‌دهند و همین آن‌ها را به سوژه تازه نهادهای نظارتی تبدیل کرده است: فایل می‌خوانند، دستور اجرا می‌کنند و به سیستم‌های دیگر وصل می‌شوند. وقتی چند حادثه امنیتی نشان داد این ایجنت‌ها گاهی از موانع عبور می‌کنند، نهادهای نظارتی اروپا و بریتانیا وارد عمل شدند.

چه اتفاقی افتاد؟#

بریتانیا: درخواست اطلاعات ICO#

دفتر کمیسیونر اطلاعات بریتانیا (ICO) در ۱۶ مهر ۱۴۰۵ (۸ اکتبر ۲۰۲۶) از این نهادها اطلاعات خواست:

• OpenAI
• Anthropic
• Meta
• مؤسسه امنیت هوش مصنوعی بریتانیا (UK AI Security Institute)

پس‌زمینه این درخواست، حوادثی در مرحله آزمایش و استقرار سیستم‌های ایجنتی بود که در آن‌ها ایجنت‌ها از موانع امنیتی عبور کرده، به کانال‌های غیرمجاز دسترسی پیدا کرده و به سیستم‌های خارجی وصل شده بودند.

اتحادیه اروپا: کمیسیون وارد می‌شود#

پس از چند حمله سایبری مرتبط با سیستم‌های هوش مصنوعی، کمیسیون اروپا از OpenAI و Anthropic اطلاعات خواست. هنا ویرکونن، کمیسیونر امور دیجیتال اتحادیه، تأیید کرد که درخواست‌هایی درباره نحوه پایش امنیتی ارسال شده است. او از شرکت‌ها خواسته مدل‌هایشان را فقط پس از آزمون‌های امنیتی موفق عرضه کنند و گفته خطرهای فعلی عمدتاً در حوزه امنیت سایبری است.

AI Office: بازوی اجرایی قانون هوش مصنوعی اروپا#

• AI Office اتحادیه اروپا از بهمن ۱۴۰۴ (فوریه ۲۰۲۶) کار خود را آغاز کرد.
• از ۱۱ مرداد ۱۴۰۵ (۲ اوت ۲۰۲۶) اختیارات اجرایی رسمی پیدا کرد.
• از آن زمان بررسی می‌کند آیا مدل‌های بزرگ به‌اندازه کافی کنترل می‌شوند.

چرا ایجنت‌های هوش مصنوعی مسئله تازه‌ای هستند؟#

یک چت‌بات در بدترین حالت جواب غلط می‌دهد. یک ایجنت می‌تواند:

• فایل حذف کند یا داده منتقل کند؛
• با اعتبارنامه‌های تو وارد سرویس‌ها شود؛
• با تزریق دستور فریب بخورد و کاری کند که تو نخواسته‌ای.

ماجرای هک کروم با ایجنت‌ها و پژوهشی که نشان داد ۳۶٫۵٪ حملات مسموم‌سازی ابزار موفق‌اند، همین نگرانی را تأیید می‌کنند.

برای کاربران و کسب‌وکارها چه معنایی دارد؟#

1. عرضه کندتر در اروپا: قابلیت‌های ایجنتی جدید ممکن است با تأخیر یا محدودیت بیشتری در اروپا عرضه شوند.
2. شفافیت بیشتر: احتمالاً شرکت‌ها گزارش‌های امنیتی مفصل‌تری منتشر می‌کنند.
3. کنترل‌های بیشتر برای کاربر: تأیید دستی، لاگ کارهای ایجنت و محدودیت دسترسی‌ها احتمالاً استاندارد می‌شوند.
4. مسئولیت با کسب‌وکار: شرکت‌هایی که ایجنت را در محصولشان به کار می‌برند، باید نشان دهند ریسک‌ها را مدیریت کرده‌اند.

از این ماجرا برای کاربر ایرانی چه درسی می‌ماند؟#

قانون هوش مصنوعی اروپا مستقیم روی کاربر ایرانی اعمال نمی‌شود، ولی اثرش به ما هم می‌رسد:

• قابلیت‌ها جهانی محدود می‌شوند: وقتی شرکتی برای بازار اروپا کنترل امنیتی تازه می‌سازد، معمولاً همان را برای همه کاربران فعال می‌کند. یعنی ایجنت‌هایی که استفاده می‌کنی، احتمالاً تأییدهای دستی و محدودیت‌های بیشتری پیدا می‌کنند.
• مسئولیت خودت را جدی بگیر: در ایران قانون مشخصی برای ایجنت‌های هوش مصنوعی نیست؛ پس اگر به یک ایجنت دسترسی به ایمیل، فایل یا حساب بانکی می‌دهی، تمام ریسک با خودت است.
• اصل حداقل دسترسی: هر ایجنتی را فقط به ابزارهایی وصل کن که برای همان کار لازم است و کارهای برگشت‌ناپذیر مثل پرداخت و ارسال پیام را به تأیید خودت بسپار.

برای آشنایی با ایجنت‌هایی که همین الان در دسترس‌اند و ریسک‌هایشان، Dots در ChatGPT و Factory AI را بخوان.

در نهایت، اگر کسب‌وکاری داری که ایجنت هوش مصنوعی را در محصولش به کار می‌برد، از همین حالا لاگ کارهای ایجنت را نگه دار؛ این کار در آینده هر ممیزی امنیتی را ساده‌تر می‌کند.

جمع‌بندی#

دوران «اول عرضه، بعد ایمن‌سازی» برای ایجنت‌های هوش مصنوعی رو به پایان است. اروپا و بریتانیا نشان داده‌اند که از این به بعد، ایجنت‌ها هم باید پیش از عرضه آزمون امنیتی پس بدهند؛ و این احتمالاً به نفع کاربرانی است که به این ایجنت‌ها دسترسی به ایمیل، فایل و حساب‌هایشان را می‌دهند.

منابع#

• Techzine: EU in talks with OpenAI and Anthropic following attacks on AI agents
• BornCity: ICO investigates OpenAI, Anthropic and Meta over AI agents
• Khaleej Times: OpenAI, Anthropic AI agents implicated in new security breaches