هوش مصنوعی را می توان قانع کرد به تولید سلاح های بیولوژیک و شیمیایی کمک کند - بی بی سی فارسی

شرکت چینی «مون‌شات»، سازنده مدل‌های هوش مصنوعی «کیمی»، پس از آن‌که پژوهشگران موفق شدند دو مدل پرکاربرد این شرکت را وادار کنند درباره ساخت سلاح‌های بیولوژیک و انجام ترور اطلاعات ارائه دهند، بررسی داخلی را آغاز کرده است.

مایندگارد، شرکتی که امنیت سامانه‌های هوش مصنوعی را آزمایش می‌کند، به بی‌بی‌سی گفت در ماه ژوئیه متوجه شده است که دو مدل «کیمی» به نام‌های K2.6 و K3 Swarm قادرند محدودیت‌های ایمنی در نظر گرفته‌شده از سوی سازندگانشان را دور بزنند.

این موضوع در جریان فرایندی موسوم به «جیلبریک» (برداشتن محدودیت‌ها) آشکار شد؛ روشی که در آن پژوهشگران با استفاده از مجموعه‌ای از دستورهای پیچیده تلاش می‌کنند مشخص کنند آیا ابزارهای هوش مصنوعی می‌توانند محدودیت‌ها و موانع ایمنی تعیین‌شده برای خود را نادیده بگیرند یا نه.

 شرکت چینی «مون‌شات» در گفت‌وگو با بی‌بی‌سی اعلام کرد که از بازخورد و مشارکت طرف‌های مستقل استقبال می‌کند و آن را «یکی از ارکان اصلی ساخت هوش مصنوعی بهتر و ایمن‌تر» می‌داند.

هوش مصنوعی را می توان (( قانع )) کرد به تولید سلاح های بیولوژیک و شیمیایی کمک کند .

شرکت چینی (( مون شات )) ، سارنده مدل های هوش مصنوعی (( کیمی )) ، یک بررسی داخلی را آغاز کرده است پس از آنکه پژوهشگران موفق شدند دو مدل پر کاربرد این شرکت را وادار کنند درباره ساخت سلاح های بیولوژیک اطلاعات ارائه دهند .

ماینگارد ، شرکتی که امنیت سامانه های هوش مصنوعی را آزمایش می کند ، می گوید دو مدل (( کیمی )) به نام های K2.6 و K3 Swarn توانسته اند محدودیت های ایمنی سازندگان خود را دور بزنند ، محدودیت هایی که قرار بود مانع وردو آن ها به موضوعات حساس و خطرناک شود .

این کار به (( جیلبریک یا فرار از زندان )) معروف است ، روشی که با استفاده از مجموعه ای اتز دستور های پیچیده هوش مصنوعی را قانع می کنند موانع و محدودیت های ایمنی خود را نادیده بگیرد .

پیتر گاران ، بنیان گذار ماین گارد ، می گوید : (( وقتی کار موفق انجام شود ، مدل حاضر است درباره هر موضوعی صحبت کند . حتی آزادانه درباره موضوعات مخرب دیگر نیز توصیه ارائه می دهد و خلاقانه و نوآورانه عمل می کند . ))

ماینگارد معتقد است نسخه قفل شکسته (( کیمی )) 2.6 می تواند به هکر ها اجازه دهد روی منابع محاسباتی این مدل کد اجرا کنند و آن را به اینترنت متصل کنند ، قابلیتی که ممکن است آن را به سکویی برای آغاز حملات سایبری تبدیل کند .

این یافته ها در حالی منتشر می شود که بحث درباره امنیت مدل های هوش مصنوعی هم چنان ادامه دارد .

برخی کارشناسان هشدار می دهند که اگر چه جیلبریک فرآیندی پیچیده است ، اما هکر ها و دیگر افراد دارای سوء نیت می توانند از آن برای سوء استفاده از سامانه های هوش مصنوعی و وارد کردن خسارت استفاده می کنند .