چت‌بات‌ها؛ پرسش‌های شما هرگز فراموش نمی‌شوند.

اخیراً کاربران ChatGPT شرکت OpenAI شوکه شدند وقتی فهمیدند جست‌وجوهایشان در نتایج گوگل ظاهر می‌شود.هر بار که از یک چت‌بات هوش مصنوعی سؤالی می‌پرسید. OpenAI آن پرسش را ثبت می‌کند. تا همین اواخر، گوگل این سوابق را طوری ذخیره می‌کرد که هر کسی با کمی مهارت در جست‌وجو  می‌توانست به آن‌ها دسترسی پیدا کند. این‌طور هم نیست که OpenAI قبلاً هشدار نداده باشد.

شرکت به‌صراحت اعلام کرده بود که اگر پرسش‌های خود را ذخیره کنید یا با دیگران به اشتراک بگذارید، این محتوا کپی می‌شود و ممکن است به‌طور بالقوه قابل جست‌وجو باشد.هشدار به این صورت بود که ،وقتی کاربران روی گزینه‌ی Share کلیک می‌کردند، گزینه ای با عنوان Make this chat discoverable وجود داشت،که زیر آن با فونت کوچک‌تر نیز توضیح داده شده بودکه با این کار، شما اجازه می‌دهید این محتوا در جست‌وجوهای وب نمایش داده شود.

اما مثل صدها خط قراردادهای مجوز کاربر نهایی (EULA) که همه‌ما بدون خواندن با زدن دکمه‌ی موافقم تأییدشان می‌کنیم، به نظر می‌رسد بیشتر کاربران آن‌ها را نخوانده‌اند. یا اصلاً به عواقبش فکر نکرده‌اند.

بعد از آن، مدیر ارشد امنیت اطلاعات OpenAI، دین استاکی، توییت کرد که این شرکت آن گزینه را حذف کرده چون فرصت‌های زیادی ایجاد می‌کرد که مردم به‌طور تصادفی چیزهایی را به اشتراک بگذارند که قصدش را نداشتند. شرکت همچنین در حال تلاش برای حذف محتوای ایندکس‌شده از موتورهای جست‌وجو است. به نظر می‌رسد OpenAI در این کار موفق بوده است.

آیاهمه‌ی چت‌بات‌ها سوال های ما را ذخیره می کنند؟!

در حال حاضر کسی نمی‌تواند به سوالات عجیبی که از OpenAI پرسیده‌اید برسد. اما این به آن معنا نیست که پرسش‌هایی که مطرح کرده‌اید، در اثر یک نشت داده یا به شکلی دیگر، دوباره در یک جست‌وجوی گوگل یا هوش مصنوعی ظاهر نشوند. بالاخره OpenAI از نظر قانونی ملزم شده تمام پرسش‌های شما را نگه دارد؛ حتی آن‌هایی که حذف‌شان کرده‌اید.

ChatGPT

OpenAI در حال حاضر تحت حکم دادگاه فدرال، به عنوان بخشی از یک پرونده حقوقی کپی‌رایت (حق نشر) در حال انجام است، که آن را مجبور می‌کند تمام مکالمات کاربر را از ChatGPT در نسخه‌های مصرف‌کننده (Free ، Plus، Pro و Team) ذخیره کند. حکم دادگاه همچنین به این معنی است که جلسات Temporary Chat که پیش‌تر پس از پایان استفاده پاک می‌شدند، اکنون ذخیره شوند؛ چت‌هایی که دیگر چندان موقتی نیستند.

این مسئله فقط مرتبط با OpenAI نیست، گوگل نیز شروع کرده به عرضه‌ی یک به‌روزرسانی برای هوش مصنوعی Gemini که به آن اجازه می‌دهد جزئیات کلیدی از گفت‌وگوهای قبلی را به‌طور خودکار به خاطر بسپارد. چیزی که گوگل می‌خواهد تو به آن فکر کنی این است که این قابلیت باعث می‌شود Gemini با یادآوری علاقه‌ها، موضوعات قبلی و زمینه‌های مهم مکالمات گذشته، پاسخ‌هایش را شخصی‌سازی کند.

در  OpenAI نیز این قابلیت Memory نام دارد و شرکتAnthropic آن را به Claude اضافه کرده است.در گوگل، این قابلیت به‌صورت پیش‌فرض فعال است،(البته میتوان آن را غیر فعال کرد) .در حالیکه در OpenAI، کاربران خودشان  قابلیت جست‌وجو شدن عمومی پرسش‌هایشان را فعال می‌کردند.

Gemini

برای مثال فرض کنید که از Gemini ، بپرسید «بهترین خوراکی برای سگ چیست»، که آن را به خاطر می‌سپارد و در نتیجه، پیشنهادهایی متناسب و البته تبلیغات مرتبط به شما ارائه می‌دهد. در نگاه اول، این موضوع  مفید به نظر می‌رسد.اما اگر همین سیستم به یاد بیاورد که پیش‌تر درباره‌ی ساخت سلاح‌های چاپ سه‌بعدی سؤال کرده‌اید، شاید نخواهید چنین اطلاعاتی برای همیشه در پرونده‌ی هوش مصنوعی شما باقی بماند.

همان‌طور که Anthropic اخیراً اشاره کرده، مدل‌های زبانی بزرگ (LLM)ها می‌توانند درست مثل کارمندان داخلی یک شرکت برای سرقت داده‌ها مورد استفاده قرار بگیرند. هرچه داده‌ی بیشتری به هرکدام از سرویس‌های هوش مصنوعی بدهید، احتمال این‌که همان اطلاعات روزی علیه خودتان استفاده شود، بیشتر می‌شود. همه‌ی چت‌بات‌های هوش مصنوعیِ اصلی، به‌طور پیش‌فرض سؤالات و مکالمات شما را ذخیره می‌کنند. آن‌ها مدت‌هاست این کار را برای بهبود خدمات، حفظ زمینه‌ی گفتگو، تحلیل محصول و البته تغذیه‌ی مدل‌های زبانی‌شان انجام می‌دهند.

پس لطفا  هیچ سوالات شخصی و عجیب غریبی را از هوش مصنوعی نپرسید. چون این اطلاعات ذخیره می‌شوند، ممکن است در یک رخنه‌ی امنیتی ، افشا شوند و اگر چنین شود، روزی برایتان دردسرساز خواهدشد.