۱۴۰۵ مرداد ۹, جمعه

مدل‌های هوش مصنوعی «کلود» در آزمایش‌ها به سامانه‌های واقعی نفوذ کردند

مدل‌های هوش مصنوعی «کلود» در آزمایش‌ها به سامانه‌های واقعی نفوذ کردند

 مدل‌های هوش مصنوعی «کلود» در آزمایش‌ها به سامانه‌های واقعی نفوذ کردند

شرکت آنتروپیک اعلام کرد چند نسخه از مدل هوش مصنوعی «کلود» در جریان آزمایش‌های امنیتی، به سامانه‌های سه سازمان بیرونی دسترسی غیرمجاز پیدا کرده‌اند؛ آزمایش‌هایی که قرار بود این مدل‌ها را از سامانه‌های واقعی دور نگه دارد.

اهمیت این رخداد در آن است که مدل‌های پیشرفته هوش مصنوعی قرار است در محیط‌های آزمایشی کاملاً محدود و جدا از اینترنت بررسی شوند؛ اما مدل‌های «کلود» توانستند از این محدودیت‌ها عبور کنند و به سامانه‌های واقعی سه سازمان دسترسی یابند. این موضوع نگرانی‌ها را درباره امکان سوءاستفاده ناخواسته یا کنترل‌نشده هوش مصنوعی از گذرواژه‌های ضعیف و نقص‌های امنیتی افزایش داده است.

شرکت آنتروپیک روز پنج‌شنبه گفت بیش از ۱۴۱ هزار مورد اجرای آزمایشی را بررسی کرده و دریافته است سه نسخه متفاوت از کلود، بدون مجوز وارد سامانه‌های سه سازمان ناشناس شده‌اند.

به گفته آنتروپیک، دسترسی مدل‌ها به اینترنت در نتیجه «سوءتفاهم» میان این شرکت و شریک ارزیابی آن، شرکت «ایرگولار»، فراهم شده بود. کلود برای ورود به سامانه‌ها از روش‌هایی ساده، از جمله سوءاستفاده از گذرواژه‌های ضعیف و نقاط دسترسی فاقد احراز هویت، استفاده کرده است.

آنتروپیک می‌گوید یکی از مدل‌های قدیمی‌تر حتی پس از آنکه متوجه شد در اینترنت آزاد فعالیت می‌کند، حمله را ادامه داد، اما جدیدترین مدل فعالیت خود را متوقف کرد. این شرکت تأکید کرده است که هیچ‌یک از مدل‌ها تلاش نکردند خود را از محیط آزمایشی خارج کنند یا عامدانه از محدودیت‌ها بگریزند.

0 Comments: