دو گزارش رویترز در فاصله دو روز، بار دیگر بحث امنیت هوش مصنوعی را به مرکز توجه آورده‌اند. از درخواست حدود ۴۰۰ دانشمند برای ایجاد یک نهاد بین‌المللی ناظر تا هشدار مدیر گوگل دیپ‌مایند درباره احتمال وقوع رخدادهای جدی‌تر در صورت تداوم ضعف‌های امنیتی.
گسترش قابلیت‌های هوش مصنوعی، در کنار فرصت‌های تازه برای کسب‌وکارها، نگرانی‌هایی را درباره امنیت سیستم‌ها و نحوه کنترل عملکرد آن‌ها ایجاد کرده است. در همین زمینه، دو گزارش رویترز در ۱۳ و ۱۴ اکتبر ۲۰۲۶ به یک مسئله مشترک می‌پردازند: آیا سازوکارهای فعلی برای ایمن‌سازی سیستم‌های پیشرفته هوش مصنوعی کافی‌اند؟
درخواست ۴۰۰ دانشمند برای ایجاد نهاد بین‌المللی
حدود ۴۰۰ دانشمند از ۳۴ کشور، از جمله جفری هینتون و یوشوا بنجیو (جفری هینتون و یوشوا بنجیو از چهره‌های بسیار تأثیرگذار در تاریخ هوش مصنوعی مدرن‌اند. هر دو از پیشگامان یادگیری عمیق Deep Learning هستند) روز ۱۳ اکتبر خواستار ایجاد نهادی بین‌المللی برای نظارت بر استانداردهای مهار و گزارش رخدادهای امنیتی مرتبط با سیستم‌های پیشرفته هوش مصنوعی شدند.
به گزارش Reuters، این نهاد پیشنهادی قرار است استانداردهای مشترکی برای کنترل سیستم‌های دارای قابلیت‌های پیشرفته سایبری تدوین کند و سازوکاری برای ثبت رخدادهای امنیتی مهم به وجود آورد؛ رخدادهایی که پیشنهاد شده است اطلاعات مربوط به آن‌ها در نهایت در دسترس عموم نیز قرار بگیرد.
امضاکنندگان نامه همچنین خواسته‌اند مدل‌های پیشرفته هوش مصنوعی در مراحل اولیه، از شبکه‌های خارجی جدا باشند و تحت نظارت مستقل آزمایش شوند. از نظر آن‌ها، تعهدات داوطلبانه شرکت‌های فناوری به‌تنهایی برای تضمین ایمنی این سیستم‌ها کافی نیست.
این درخواست در شرایطی مطرح شده که شرکت‌هایی از جمله OpenAI، گوگل، متا، آنتروپیک، xAI و انویدیا پیش‌تر به اقدام‌های داوطلبانه ایمنی متعهد شده بودند. اقدام‌هایی که به گفته منتقدان، بدون سازوکار اجرایی الزام‌آور ممکن است محدودیت‌هایی در نظارت و پاسخ‌گویی داشته باشند.
هشدار مدیر گوگل دیپ‌مایند درباره رخدادهای جدی‌تر
یک روز پس از انتشار این درخواست، دمیس هاسابیس، هم‌بنیان‌گذار و مدیر گوگل دیپ‌مایند، رخدادهای اخیر مرتبط با حملات سایبری مبتنی بر هوش مصنوعی را «هشدارهای اولیه» توصیف کرد.
هاسابیس روز ۱۴ اکتبر در یک نشست هوش مصنوعی در دوبلین گفت که اگر صنعت فناوری، شرکت‌ها و دولت‌ها برای ایمن‌سازی این سیستم‌ها اقدامات بیشتری انجام ندهند، در سال آینده و سال‌های پس از آن ممکن است با رخدادهای جدی‌تری مواجه شوند.
به گزارش این خبرگزاری، او بر ضرورت تدوین رویه‌های امنیتی قوی‌تر تأکید کرد و گفت می‌توان از تجربه حوزه‌هایی مانند زیست‌شناسی و فناوری هسته‌ای در حفاظت از سیستم‌های حساس استفاده کرد.
هاسابیس نیز ایجاد نوعی نهاد بین‌المللی استانداردگذار را اقدامی قابل‌طرح دانست؛ با این ملاحظه که چارچوب نظارتی باید متناسب با سطح خطر تغییر کند و مانع نوآوری نشود. او از فرایندهای گواهی‌دهی پویا سخن گفت که بتوانند با تحول قابلیت‌های فناوری، به‌سرعت به‌روزرسانی شوند.
در همین نشست، برد اسمیت، مدیر مایکروسافت، نیز با اشاره به رفتارهای خارج از کنترل برخی سیستم‌های هوش مصنوعی، خواستار پیشرفت سریع‌تر قوانین ایمنی شد. او تأکید کرد که مقررات باید ضمن حفظ ایمنی، متوازن باشند و تحولات فناوری را نیز در نظر بگیرند.
مسئله نحوه کنترل این فناوری است
وجه مشترک این دو گزارش، تأکید بر فاصله میان سرعت پیشرفت قابلیت‌های هوش مصنوعی و سازوکارهای لازم برای مدیریت خطرهای آن است. توانایی یک مدل در انجام وظایف پیچیده، به‌خودی‌خود به معنای وقوع آسیب نیست؛ اما اگر دسترسی‌ها، محیط آزمایش و محدودیت‌های امنیتی به‌درستی طراحی نشده باشند، همین قابلیت‌ها می‌توانند خطرآفرین شوند.
در چنین شرایطی، استانداردهای مشترک، آزمایش مستقل و گزارش‌دهی رخدادها می‌توانند به شناسایی ضعف‌ها و کاهش احتمال تکرار آن‌ها کمک کنند. در مقابل، طراحی مقرراتی که با سرعت تغییر فناوری سازگار نباشند، ممکن است با دشواری‌هایی در اجرا و ارزیابی مواجه شوند.
البته درباره ماهیت خطرها اتفاق‌نظر کامل وجود ندارد. برای نمونه، یان لوکان، دانشمند برجسته هوش مصنوعی، نامه دانشمندان را امضا نکرده و استدلال کرده است که رخدادهای اخیر بیشتر نشان‌دهنده ضعف‌های مهندسی هستند تا شواهدی از خطرهای وجودی هوش مصنوعی. این اختلاف دیدگاه نشان می‌دهد که توافق بر سر ضرورت بهبود امنیت، لزوماً به معنای توافق درباره اندازه و ماهیت تهدیدها نیست.
پیامدها برای شرکت‌هایی که از هوش مصنوعی استفاده می‌کنند
بحث نظارت و ایمنی صرفاً به شرکت‌های سازنده مدل های هوش مصنوعی محدود نمی‌شود. کسب‌وکارهایی که از ابزارها و عامل های هوش مصنوعی برای تحلیل داده، خودکارسازی فرایندها یا تعامل با سامانه‌های دیگر استفاده می‌کنند نیز باید به نحوه دسترسی این سیستم‌ها به اطلاعات و ابزارهای عملیاتی توجه داشته باشند.
برای شرکت‌ها، مدیریت مجوزها، محدود کردن دسترسی های غیرضروری، آزمایش در محیط‌های کنترل‌شده و تعیین مسئولیت در صورت بروز خطا، از جمله موضوعاتی است که با افزایش استفاده از هوش مصنوعی اهمیت بیشتری پیدا می‌کند.
این مسئله برای صنعت بازاریابی نیز قابل‌توجه است چرا که با ورود ابزارهای هوشمند به فرایندهایی مانند تحلیل مشتری، تولید محتوا و اجرای کمپین‌ها، اعتماد به عملکرد سیستم ها و حفاظت از داده‌ها بخشی از مدیریت مسئولانه این فناوری خواهد بود. هر چند که این مباحث و نگرانی ها در این زمان برای ما بیشتر از جنس پیش بینی هستند، ولی لزوم طراحی ساز‌و‌کارهایی برای جلوگیری از مشکلات احتمالی آینده، با توجه به سرعت پیشرفت و تحولات این فناوری، احساس می شود.
منبع Reuters
گردآوری و تنظیم مارکتینگ نیوز
