مایکروسافت امنیت سیستم‌های هوش مصنوعی خود را به چالش می‌کشد!
به گزارش کارشناس شرکت سحاب مایکروسافت از تمام متخصصان امنیت سایبری و توسعه‌دهندگان دعوت کرده تا توانایی‌های خود را در زمینه امنیت به آزمایش بگذارند. این شرکت اعلام کرده است که به هرکسی که بتواند کلاینت ایمیل مبتنی بر مدل زبانی بزرگ (LLM) آن را هک کند، ۱۰ هزار دلار جایزه می‌دهد.
هدف از چالش: شناسایی نقاط ضعف امنیتی
طبق بررسی های انجام شده توسط کارشناس شرکت سحاب مایکروسافت با همکاری مؤسسه علم و فناوری استرالیا و ETH زوریخ این مسابقه را برگزار می‌کند. هدف اصلی این چالش، کشف آسیب‌پذیری‌های موجود در LLMail است؛ کلاینت ایمیلی شبیه‌سازی‌شده که از یک دستیار مبتنی بر مدل زبانی بزرگ استفاده می‌کند. این دستیار به گونه‌ای طراحی شده که به سؤالات کاربران در مورد ایمیل‌ها پاسخ دهد.
شرکت‌کنندگان در این رقابت، باید تلاش کنند تا این سیستم هوش مصنوعی را وادار به انجام کارهایی کنند که برای آن طراحی یا آموزش داده نشده است.
چالش LLMail-Inject و نحوه شرکت در آن
این مسابقه با نام چالش LLMail-Inject شناخته می‌شود. تیم‌های شرکت‌کننده می‌توانند با استفاده از حساب کاربری گیت‌هاب وارد شوند و تیم تشکیل دهند. مأموریت اصلی آنها، دور زدن تدابیر دفاعی مایکروسافت در مقابل روش‌های امنیتی همچون تزریق پرامپت است.
شرکت‌کنندگان باید راه‌هایی بیابند که سیستم دفاعی LLMail را شکست دهند و بتوانند از مدل زبانی برای فاش‌کردن اطلاعات یا انجام دستورات غیرمجاز استفاده کنند.
مایکروسافت از این چالش‌ها برای تقویت سیستم‌های امنیتی خود استفاده می‌کند. یافته‌های به‌دست‌آمده در این مسابقات به شرکت کمک می‌کند تا در برابر تکنیک‌های پیشرفته امنیتی، روش‌های جدیدی ایجاد کند.
چرا شرکت‌ها چالش‌های امنیتی برگزار می‌کنند؟
برگزاری چالش‌های امنیتی یکی از روش‌های محبوب شرکت‌های بزرگ فناوری است. هدف از این چالش‌ها، یافتن نقاط ضعف امنیتی قبل از آن است که توسط هکرهای مخرب شناسایی شوند.
مایکروسافت یکی از شرکت‌هایی است که علاقه خاصی به این نوع چالش‌ها دارد و در گذشته نیز بارها رقابت‌های مشابهی برگزار کرده است.
همچنین می توانید تغییرات جدید مایکروسافت Copilot ... را مطالعه کنید
میزان جوایز در این رقابت‌ها
جوایز این نوع چالش‌ها می‌تواند از چند هزار دلار تا میلیون‌ها دلار متغیر باشد. در حالی که مایکروسافت برای این رقابت جایزه‌ای ۱۰ هزار دلاری تعیین کرده، برخی شرکت‌ها جوایز بسیار بزرگتری ارائه می‌دهند.
به عنوان مثال، صرافی رمزارز Uniswap اخیراً جایزه‌ای ۱۵ میلیون دلاری برای کشف باگ‌های سیستم خود اعلام کرده بود.
نتیجه‌گیری
مایکروسافت با این چالش‌ها نه تنها توانایی سیستم‌های خود را در برابر تهدیدات امنیتی افزایش می‌دهد، بلکه به متخصصان امنیت سایبری فرصتی برای اثبات مهارت‌های خود و دریافت پاداش می‌دهد.
اگر شما نیز تخصص و علاقه‌ای در زمینه امنیت سایبری دارید، شاید این فرصت عالی باشد تا با شرکت در چالش LLMail-Inject، هم مهارت خود را نشان دهید و هم جایزه‌ای قابل‌توجه برنده شوید.
مایکروسافت در انتظار چالش بعدی است — آیا شما آماده‌اید؟ نظر شما در مورد این چالش مایکروسافت چیست ؟
برای اطلاعات بیشتر به TechRadar مراجعه بفرمایید
