حفره‌ی "Time Bandit" در ChatGPT، قوانین ایمنی را در مورد موضوعات حساس دور می‌زند تبلیغات در ترفندستان
+ ارسال تاپیک جدید
نمایش نتایج: از 1 به 1 از 1

موضوع: حفره‌ی "Time Bandit" در ChatGPT، قوانین ایمنی را در مورد موضوعات حساس دور می‌زند

  1. #1
    تاریخ عضویت
    Jan 2014
    پست‌ها
    18,334

    360-Internet-Security Cyberfox Windows-10 Irancell
    نوع و سرعت اینترنت: بیش از Wireless-2 Mb/S
    سپاس (اهدایی)
    19288
    سپاس (دریافتی)
    19442
    نوشته ‌های وبلاگ
    38

    پیش فرض حفره‌ی "Time Bandit" در ChatGPT، قوانین ایمنی را در مورد موضوعات حساس دور می‌زند

    photo_2025-01-30_16-33-22-jpg

    به گزارش ترفندستان به نقل از BleepingComputer
    .
    یک نقص جدید در ChatGPT تحت عنوان "Time Bandit" کشف شده است که به هکرها اجازه می‌دهد محدودیت‌های ایمنی OpenAI را دور بزنند، به‌ویژه وقتی درخواست‌های مربوط به موضوعات حساس مانند ساخت سلاح‌ها، اطلاعات هسته‌ای و ایجاد بدافزارها را می‌دهید. این آسیب‌پذیری توسط پژوهشگر امنیتی و محقق هوش مصنوعی، David Kuszmar، شناسایی شد. Kuszmar در طی تحقیقات خود با پدیده‌ای به نام "سردرگمی زمانی" روبه‌رو شد که باعث شد مدل زبان ChatGPT نتواند تشخیص دهد که در کدام زمان (گذشته، حال یا آینده) قرار دارد. این مشکل اجازه می‌دهد تا مدل، اطلاعاتی را که معمولاً محدود و مسدود می‌شوند، ارائه دهد.

    photo_2025-01-30_15-30-01-jpg

    Kuszmar پس از کشف این نقص و پی بردن به خطرات بالقوه آن، تلاش کرد تا با OpenAI ارتباط برقرار کند، اما نتوانست پاسخ مناسبی دریافت کند. پس از تماس با نهادهای دولتی و مشاوره‌های مختلف، در نهایت BleepingComputer موفق شد اطلاعات بیشتری از این مشکل کسب کند.

    این مشکل مربوط به سردرگمی زمانی و ابهام در روند درخواست‌ها است که باعث می‌شود مدل نتواند درک درستی از زمان حال پیدا کند و به هکرها این امکان را می‌دهد که اطلاعات حساس را به‌طور غیرمستقیم دریافت کنند.

    photo_2025-01-30_15-30-01-2-jpg

    زمانی که Kuszmar این مشکل را کشف کرد، به‌طور اولیه در حال تحقیق در زمینه تفسیرپذیری مدل‌های هوش مصنوعی بود. اما بعد از اینکه متوجه شد ChatGPT قادر به تشخیص زمان دقیق نیست، از این موضوع برای فریب دادن مدل استفاده کرد و اطلاعات حساس از جمله کدهای برنامه‌نویسی و دستورالعمل‌های ساخت بدافزار را به دست آورد. در یکی از آزمایش‌ها، Kuszmar توانست ChatGPT را فریب دهد تا کدی برای ایجاد بدافزار از سال 1789 تولید کند که شامل تکنیک‌های مدرن بود.


    این آسیب‌پذیری به‌طور گسترده تأثیرگذار است، چرا که از آن برای نفوذ به مدل‌های دیگر مانند Gemini AI گوگل هم استفاده شده است، هرچند نتایج به‌اندازه ChatGPT موفقیت‌آمیز نبوده‌اند.
    در حال حاضر، OpenAI به این مشکل آگاه است و بر روی آن کار می‌کند تا امنیت مدل‌های خود را بهبود بخشد، اما هنوز هم برخی از اقدامات پیشگیرانه در برابر این حملات مؤثر نیستند. در حالی که تلاش‌هایی برای اصلاح این نقص صورت گرفته، همچنان این آسیب‌پذیری وجود دارد و مدل‌ها قادر به ارائه اطلاعات حساس در برخی شرایط خاص هستند.


    این مشکل به‌طور جدی می‌تواند برای امنیت ملی و اطلاعات حساس تهدید ایجاد کند، چرا که می‌تواند به‌راحتی از طریق پرسش‌هایی که سردرگمی زمانی ایجاد می‌کنند، سیستم‌های امنیتی را دور بزند. Kuszmar و تیم BleepingComputer آزمایش‌هایی انجام داده‌اند که موفقیت‌آمیز بوده و همچنین در گزارش خود نشان داده‌اند که حتی سازمان‌هایی مانند CISA نیز نتواسته‌اند سریعاً به حل این مسئله کمک کنند.
    تصاوير کوچک فايل پيوست تصاوير کوچک فايل پيوست photo_2025-01-30_16-33-22-jpg   photo_2025-01-30_15-30-01-jpg   photo_2025-01-30_15-30-01-2-jpg  
+ ارسال تاپیک جدید

اطلاعات موضوع

کاربرانی که در حال مشاهده این موضوع هستند

در حال حاضر 1 کاربر در حال مشاهده این موضوع است. (0 کاربران و 1 مهمان ها)

موضوعات مشابه

  1. درباره فایر فاکس،"""چرا فایرفاکس؟؟""""
    توسط mohaMMad750 در انجمن مرورگرهای اینترنتی
    پاسخ: 0
    آخرين نوشته: September 2nd, 2010, 03:58
  2. """" طراحی صفحه تبادل بنر با کد"""کمک کنید
    توسط 20irib در انجمن طراحی سایت و برنامه‌نویسی تحت وب
    پاسخ: 2
    آخرين نوشته: December 7th, 2009, 20:48
  3. """بهترین بازی های n-gage2 2008 رو انتخاب کنید"""
    توسط MRTZ HSV در انجمن بازی‌های N-Gage 2
    پاسخ: 1
    آخرين نوشته: January 8th, 2009, 12:28
  4. نقص در وضعیت‌ (Status)‌های "سابقه"، "سحر و جادو" و "تجربه" در سایت. چرا؟
    توسط England در انجمن پرسش و پاسخ پیرامون کار با قسمت‌های مختلف سایت و انجمن
    پاسخ: 1
    آخرين نوشته: July 22nd, 2008, 22:36
  5. من با حرف" ی" مشگل دارم.مثلاهنگام تایپ در word کلمه "سیب" را "سی ب" مینویسد
    توسط sukhteh1 در انجمن پرسش و پاسخ و مباحث فنی پیرامون ویندوز XP و نسخه‌های پیش از آن
    پاسخ: 2
    آخرين نوشته: September 25th, 2006, 15:27

کاربرانی که این تاپیک را مشاهده کرده اند: 1

کلمات کلیدی این موضوع

bandit، bleepingcomputer، chatgpt، cisa، david، gemini، kuszmar، kuszmar،، openai، time، آزمایش‌ها،، آزمایش‌هایی، آسیب‌پذیری، آورد، آگاه، اجازه، ارائه، است، است،، استفاده، اصلاح، اطلاعات، اطلاعاتی، اقدامات، اما، امنیت، امنیتی، انجام، ایجاد، ایمنی، این، باعث، بخشد،، بدافزار، برابر، برای، برخی، برنامه‌نویسی، بزند، بهبود، به‌اندازه، به‌راحتی، به‌طور، بود، بوده، بیشتری، تأثیرگذار، تحقیقات، تشخیص، تلاش‌هایی، تهدید، توانست، تولید، تکنیک‌های، تیم، جدی، جمله، حاضر،، حال، حالی، حتی، حساس، حملات، خاص، خود، داده‌اند، دارد، دریافت، دست، دستورالعمل‌های، دهد، دور، دیگر، روبه‌رو، روی، زبان، زمان، زمانی، ساخت، سازمان‌هایی، سال، سردرگمی، سریعاً، سیستم‌های، شامل، شده، شرایط، شناسایی، صورت، طریق، فریب، قادر، مؤثر، مانند، محدود، محقق، مدرن، مدل، مدل‌ها، مدل‌های، مربوط، مسئله، مسدود، مشکل، مصنوعی،، معمولاً، ملی، موضوعات، موفقیت‌آمیز، می‌تواند، می‌دهد، می‌کند، می‌کنند،، نام، نبوده‌اند، نتایج، نتواسته‌اند، نتواند، نشان، نفوذ، نقص، نیز، نیستند، هرچند، هستند، همچنان، همچنین، هنوز، هوش، هکرها، وجود، پدیده‌ای، پرسش‌هایی، پیشگیرانه، چرا، کار، کدام، کدهای، کدی، کرد، کشف، کمک، کند، کند،، کنند، گرفته،، گزارش، گسترده، گوگل، یکی

نمایش برچسب‌ها

مجوز ‌های ارسال و ویرایش

  • شما نمیتوانید موضوع جدیدی ارسال کنید
  • شما امکان ارسال پاسخ را ندارید
  • شما نمیتوانید فایل پیوست کنید.
  • شما نمیتوانید پست ‌های خود را ویرایش کنید
  •  

اکنون ساعت 00:38 برپایه‌ی ساعت جهانی (GMT +3.5) می‌باشد.

تبلیغات متنی

عضویت در خبرنامه

با عضویت در خبرنامه‌ی سایت، جدیدترین ترفندها، نقد و بررسی‌ها و مطالب مدرسه فناوری به طور خودکار به ایمیل شما ارسال می‌شود. بعد از کلیک بر روی دکمه‌ی «مشترک شوید»، بایستی کد داخل تصویر را وارد کرده، سپس به صندوق ایمیل خود مراجعه کنید و روی لینک تأیید کلیک کنید تا اشتراک شما نهایی شود.

کلیه حقوق مادی و معنوی متعلق به وب سایت ترفندستان است. برداشت مطالب و تصاویر تنها با ذکر نام ترفندستان مجاز است.