چرا نباید اطلاعات شخصی خود را با ChatGPT یا سایر چت‌بات‌های هوش مصنوعی به اشتراک بگذارید؟

چرا نباید اطلاعات شخصی خود را با ChatGPT یا سایر چت‌بات‌های هوش مصنوعی به اشتراک بگذارید؟

به گزارش اپست به نقل از pcworld ، نمی‌توان انکار کرد که ChatGPT و سایر چت‌بات‌های هوش مصنوعی، هم‌صحبان قابل‌توجهی هستند که می‌توانند تقریباً در مورد هر موضوعی با شما گفتگو کنند.

قدرت گفتگوی آن‌ها می‌تواند بسیار قانع‌کننده باشد؛ اگر احساس کرده‌اید که می‌توانید با خیال راحت جزئیات شخصی خود را با آن‌ها در میان بگذارید، تنها نیستید. اما – خبر فوری! – شما با توستر خود صحبت نمی‌کنید. هر چیزی که به یک چت‌بات هوش مصنوعی بگویید، می‌تواند روی یک سرور ذخیره شود و بعداً دوباره ظاهر شود، واقعیتی که آن‌ها را ذاتاً خطرناک می‌کند.

چرا چت‌بات‌ها این‌قدر خطرناک هستند؟

مشکل اصلی از نحوه استفاده شرکت‌های مالک مدل‌های بزرگ زبانی (LLM) و چت‌بات‌های مرتبط با آن‌ها از داده‌های شخصی شما ناشی می‌شود – اساساً، برای آموزش بهتر ربات‌ها.

فیلم “ترمیناتور ۲: روز قیامت” را به عنوان مثالی از نحوه یادگیری یک LLM در نظر بگیرید. در این فیلم، جان کانر، رهبر آینده مقاومت انسان علیه اسکای‌نت، به ترمیناتور، با بازی آرنولد شوارتزنگر، عبارات شخصی مانند “Hasta la vista baby” را آموزش می‌دهد تا آن را انسان‌گونه‌تر کند.

کافی است بگویم که این مدل، این عبارات را یاد می‌گیرد و در نامناسب‌ترین زمان‌ها از آن‌ها استفاده می‌کند – که نوعی خنده‌دار است.

کمتر خنده‌دار است که داده‌های شما چگونه توسط شرکت‌ها برداشت و استفاده می‌شود تا مدل‌های هوش مصنوعی خودشان را برای انسان‌گونه‌تر شدن، به‌روزرسانی و آموزش دهند.

OpenAI در شرایط و ضوابط خود، حق استفاده از داده‌های شما برای بهبود مدل‌های خود را قائل شده است. در این شرایط آمده است: “ما ممکن است از داده‌هایی که به ما می‌دهید برای بهبود مدل‌های خود استفاده کنیم.” این دلیل ثبت تمام گفتگوهای شما توسط ChatGPT است – بله، همه چیز. مگر اینکه از ویژگی جدید حریم خصوصی چت‌بات استفاده کنید که به شما اجازه می‌دهد تنظیماتی را برای جلوگیری از ذخیره تاریخچه چت خود فعال کنید.

اگر این کار را نکنید، جزئیاتی مانند اطلاعات مالی، رمز عبور، آدرس خانه، شماره تلفن یا حتی آنچه برای صبحانه خورده‌اید، در صورتی که این جزئیات را به اشتراک بگذارید، در معرض دید قرار می‌گیرند. همچنین هر فایلی که آپلود می‌کنید و هر بازخوردی که می‌دهید نیز ذخیره می‌شود.

در شرایط استفاده از ChatGPT آمده است که این چت‌بات ممکن است “اطلاعات شخصی را جمع‌آوری یا ناشناس‌سازی کند و از اطلاعات جمع‌آوری شده برای تحلیل اثربخشی خدمات ما استفاده کند.” این یک افزوده کوچک است، اما این امکان را باز می‌کند که چیزی که چت‌بات یاد گرفته است بعداً توسط عموم قابل دسترسی باشد – که واقعاً یک فکر نگران‌کننده است.

چرا باید اهمیت بدهید؟

برای عدالت، بسیار بعید است که هر شرکتی که یک چت‌بات هوش مصنوعی را اجرا می‌کند، قصد سوء استفاده از اطلاعات شخصی ذخیره شده را داشته باشد. در سال‌های اخیر، OpenAI بیانیه‌هایی منتشر کرده است که قصد دارد کاربران ChatGPT را در مورد جمع‌آوری و استفاده از داده‌های شخصی اطمینان دهد.

برای مثال، در ماه فوریه امسال، زمانی که توسط اداره حفاظت از داده های ایتالیا (DPA) به نقض مفاد مقررات عمومی حفاظت از داده های اتحادیه اروپا (GDPR) متهم شد، OpenAI گفت: “ما می خواهیم هوش مصنوعی ما در مورد جهان یاد بگیرد، نه در مورد افراد خصوصی.”

سپس این: “ما به طور فعال برای کاهش داده های شخصی در آموزش سیستم های خود مانند ChatGPT تلاش می کنیم، که همچنین درخواست های اطلاعات خصوصی یا حساس در مورد افراد را رد می کند.”

شاید این درست باشد، اما تضمین نمی‌کند که داده‌های کاربر در برابر نقض‌ها ایمن باشند. یکی از این نقض‌ها در ماه مه ۲۰۲۳ رخ داد، که در آن هکرها از یک آسیب‌پذیری در کتابخانه Redis ChatGPT استفاده کردند و به داده‌های شخصی ذخیره شده از تاریخچه چت‌ها دسترسی پیدا کردند.

اطلاعات شخصی فاش شده شامل نام، شماره تأمین اجتماعی، عنوان شغلی، آدرس ایمیل، شماره تلفن و حتی پروفایل‌های رسانه‌های اجتماعی بود. OpenAI با رفع آسیب‌پذیری پاسخ داد، اما این تسلی کمی برای حدود ۱۰۱۰۰۰ کاربری بود که داده‌های آن‌ها قبلاً سرقت شده بود.

و این فقط افراد نیستند که با چت بات های هوش مصنوعی مشکل حریم خصوصی دارند. در واقع، شرکت ها نیز برای حفظ محرمانه بودن داده های شرکت در میان نشت های داده های برجسته با اهمیت بالا تلاش می کنند. یکی از این نشت ها توسط سامسونگ کشف شد که مهندسان خود را به طور تصادفی کد منبع حساس را به ChatGPT آپلود کرده بودند.

در پاسخ، در ماه مه 2023، این شرکت استفاده از ChatGPT و سایر چت بات های هوش مصنوعی مولد را برای اهداف کاری ممنوع کرد. شرکت هایی مانند Bank of America، Citigroup و JPMorgan نیز از این پس پیروی کردند.

آگاهی در حال افزایش است اما هنوز روزهای اولیه است

اخیراً شاهد افزایش آگاهی در مورد خطرات چت‌بات‌های هوش مصنوعی در سطح دولت و صنعت هستیم، که نشانه‌ای امیدوارکننده برای تقویت امنیت داده‌ها است.

یکی از گام‌های بزرگ رو به جلو در ۳۰ اکتبر سال گذشته رخ داد، زمانی که جو بایدن، رئیس‌جمهور ایالات متحده، فرمان اجرایی در مورد توسعه و استفاده ایمن، امن و قابل اعتماد از هوش مصنوعی را امضا کرد – سندی که اصول کلیدی حاکم بر استفاده از هوش مصنوعی در ایالات متحده را تشریح می‌کند.

یکی از نکات اولویت‌دار این است که «سیستم‌های هوش مصنوعی باید به حریم خصوصی احترام بگذارند و از داده‌های شخصی محافظت کنند.» با این حال، نحوه اجرای دقیق این موضوع هنوز مشخص نیست و می‌تواند توسط شرکت‌های هوش مصنوعی تفسیر شود.

نوعی تناقض با این نکته وجود دارد، این واقعیت که هنوز هیچ قانون روشنی در ایالات متحده وجود ندارد که بیان کند آموزش هوش مصنوعی با داده‌ها بدون رضایت مالک نوعی نقض حق چاپ است. در عوض، می‌تواند به عنوان استفاده منصفانه در نظر گرفته شود – که به این معنی است که هیچ چیز جامدی برای محافظت از حقوق مصرف‌کنندگان وجود ندارد.

تا زمانی که راهکار قطعی‌تری پیدا نشده، بهترین دفاع فردی ما همچنان این است که بیش از حد اطلاعات شخصی خود را به اشتراک نگذاریم. با برخورد با یک چت‌بات هوش مصنوعی به عنوان یک الگوریتم، نه یک دوست قابل اعتماد، صرف نظر از اینکه چقدر در مورد مدل مو یا انتخاب لباس شما تعریف می‌کند، می‌توانید حداقل کنترل کنید که از طرف شما چه اطلاعاتی درباره شما می‌داند.