یک ترفند پنهان در هوش مصنوعی ChatGPT شناسایی شده است که اسرار شما را برای عموم فاش می‌کند.

باشگاه خبرنگاران جوان؛ جواد فراهانی - ربات ChatGPT دارای قابلیتی است که به کاربران اجازه می‌دهد لینکی به مکالمات خود با ربات چت ایجاد کنند و آنها را با دوستان یا همکاران خود به اشتراک بگذارند. طبق یک گزارش، برخی از این مکالمات مشترک می‌توانند هنگام اجرای یک پرس‌وجو در موتور‌های جست‌و‌جو مانند جستجوی گوگل، بینگ و DuckDuckGo کشف شوند. برای مشاهده این مکالمات، کاربر ظاهراً مجبور بوده نتایج جست‌و‌جو را به یک دامنه خاص ChatGPT فیلتر کند.

در حالی که OpenAI اظهار داشت که این بخشی از یک ویژگی آزمایشی است، اکنون غیرفعال شده است. این ویژگی برای اولین بار توسط Fast Company کشف شد. به نظر می‌رسد وقتی یک پرس‌وجو با استفاده از فیلتر دامنه اجرا می‌شود و به دنبال آن هر متنی می‌آید، فهرستی از لینک‌ها به مکالمات مختلفی که کاربران با ربات چت داشته‌اند را نمایش می‌دهد.

در طول یک تحقیق، این نشریه توانست بیش از ۴۵۰۰ مکالمه را مشاهده کند، اگرچه تعداد واقعی مکالمات قابل کشف می‌تواند بسیار بیشتر باشد. طبق گزارش‌ها، اکثر مکالمات شامل جزئیات شخصی یا اطلاعاتی که بتوان از آنها برای شناسایی افراد استفاده کرد، نبودند. با این حال، طبق گزارش‌ها، مکالمات دیگر نام، مکان و اطلاعات شخصی کاربران را فاش کردند.

TechCrunch توانست مکالمه‌ای را کشف کند که در آن یک کاربر از ChatGPT خواسته بود رزومه خود را برای یک درخواست شغلی خاص بازنویسی کند. این سایت توانست بر اساس اطلاعات به اشتراک گذاشته شده، حساب کاربری لینکدین فرد را پیدا کند.

دن استاکی، مدیر ارشد امنیت اطلاعات OpenAI، در پستی در توییتر به این موضوع پرداخت. این مدیر اجرایی توضیح داد که این اتفاق به دلیل یک ویژگی آزمایشی رخ داده است که برای کمک به کاربران در کشف مکالمات مفید طراحی شده است.

این ویژگی برای زیرمجموعه‌ای از کاربران ChatGPT در دسترس بود و از کاربران می‌خواست که پیوندی به مکالمه خود ایجاد کنند و سپس آن را به صورت عمومی به اشتراک بگذارند. این ویژگی اکنون غیرفعال شده است.

منبع: الیوم السابع

اخبار پیشنهادی
تبادل نظر
آدرس ایمیل خود را با فرمت مناسب وارد نمایید.
آخرین اخبار