پ

  • شناسه : 57169
  • 12 فروردین 1404 - 9:14

هشدار جدی در مورد استفاده از چت جی‌پی‌تی/این ۵ چیز را هرگز به هوش مصنوعی نگویید

هشدار جدی در مورد استفاده از چت جی‌پی‌تی/این ۵ چیز را هرگز به هوش مصنوعی نگویید
هشدار جدی در مورد استفاده از چت جی‌پی‌تی/این ۵ چیز را هرگز به هوش مصنوعی نگویید
در ماه‌های اخیر چت‌جی‌پی‌تی به یکی از ابزارهای محبوب برای پاسخ به سوالات و کمک در امور مختلف روزمره تبدیل شده است. در حالی که این ابزار مبتنی بر هوش مصنوعی می‌تواند بسیار مفید باشد، برخی پژوهشگران هشدار می‌دهند همه چیز را نباید با آن در میان گذاشت.

چت‌جی‌پی‌تی، محصول شرکت اوپن‌ای‌آی، برای بسیاری از کاربران حکم دستیاری دیجیتال را دارد که می‌تواند متن بنویسد، کد تصحیح کند، نتایج پزشکی را تحلیل کند یا حتی کمک کند کودکی را بخوابانند. اما در پشت این پاسخ‌های صمیمی، الگوریتم‌هایی قرار دارند که از هر تعامل چیز‌هایی می‌آموزند.

به گزارش یورونیوز، در طول این سال‌ها چت‌جی‌پی‌تی نه تنها یاد گرفته که برای مثال شما عاشق تخم‌مرغ هستید و کمردرد دارید، بلکه جزئیاتی بسیار شخصی‌تر را نیز به خاطر سپرده است.

در واقع ابزار‌هایی مانند چت‌جی‌پی‌تی با هدف شخصی‌سازی پاسخ‌ها و بهبود عملکرد آتی خودشان جزئیات فردی بسیاری را، از وضعیت جسمی کاربران گرفته تا برخی مسائل بسیار خصوصی، به حافظه می‌سپارند.

اگرچه کاربران می‌توانند این قابلیت را از طریق تنظیمات غیرفعال کنند، با این حال از آن‌جا که شمار زیادی از افراد در این باره بی‌تفاوت هستند اطلاعات بسیار زیادی می‌تواند در اختیار چت جی‌پی‌تی گذاشته شود. اما چه چیزی را نباید گفت؟ و چرا؟

بر اساس هشدار‌های کارشناسان، پنج نوع اطلاعات وجود دارد که نباید در گفت‌و‌گو با چت‌بات‌ها وارد شوند چرا که ممکن است این اطلاعات در فرآیند آموزش مدل‌ها، اشتباهات سیستمی و یا حتی در حملات سایبری مورد سوءاستفاده قرار بگیرند.

این اطلاعات عبارتند از:

۱. اطلاعات هویتی: مانند شماره‌ی شناسنامه، گواهینامه، گذرنامه، آدرس، شماره تلفن و تاریخ تولد. برخی چت‌بات‌ها تلاش می‌کنند این موارد را سانسور کنند، اما تضمینی وجود ندارد.

۲. نتایج آزمایشات پزشکی: چت‌بات‌ها مشمول قوانین سختگیرانه محافظت از داده‌های درمانی نیستند. در صورت نیاز، فقط نتایج آزمایشات را بدون اطلاعات هویتی بارگذاری کنید.

۳. اطلاعات مالی: مانند شماره حساب‌های بانکی یا سرمایه‌گذاری، که در صورت افشای ناخواسته می‌توانند تبعات جدی داشته باشند.

۴. اطلاعات محرمانه سازمانی: بسیاری از کاربران در حین کار از چت‌بات‌ها برای نوشتن ایمیل یا بررسی کد استفاده می‌کنند، اما همین کار می‌تواند اطلاعات حساس کاری یا کد‌های محرمانه را فاش کند.

۵. رمز‌های عبور و نام کاربری: چت‌بات‌ها فضای امن برای ذخیره‌ی رمز یا گاوصندوق دیجیتال نیستند. این اطلاعات باید در نرم‌افزار‌های مدیریت رمز عبور نگهداری شوند.

شرکت‌های بزرگی، چون اوپن‌ای‌آی، گوگل و مایکروسافت از مکالمات کاربران برای بهبود مدل‌های خود استفاده می‌کنند. اگرچه کاربران می‌توانند در تنظیمات گزینه عدم استفاده از داده‌ها برای آموزش را فعال کنند، اما بسیاری از افراد از این قابلیت بی‌خبر هستند.

راه‌هایی برای حفظ حریم خصوصی

کارشناسان امنیت سایبری پیشنهاد می‌کنند برای حفظ حریم شخصی، اقدامات زیر را انجام دهید:

از حالت چت موقت استفاده کنید: ویژگی «چت موقت» (Temporary Chat) در چت‌جی‌پی‌تی مانند حالت ناشناس مرورگر عمل می‌کند و مانع از ذخیره مکالمه‌ها و استفاده از آنها در آموزش مدل‌ها می‌شود.

مکالمه‌ها را حذف کنید: می‌توانید پس از پایان هر گفت‌و‌گو، آن را از تاریخچه حذف کرده و مطمئن شوید پس از ۳۰ روز اطلاعات کاملاً پاک می‌شود.

از ابزار‌های ناشناس‌سازی استفاده کنید: موتور جست‌وجوی «داک‌داک‌گو» (DuckDuckGo) ابزاری به نام «داک‌ای‌آی» (Duck.ai) ارائه کرده که پیام‌ها را به‌صورت ناشناس برای مدل‌های هوش مصنوعی ارسال می‌کند؛ هرچند امکانات محدودی نسبت به چت‌بات‌های کامل دارد.

در نهایت، این شما هستید که باید تصمیم بگیرید چه چیزی را به اشتراک بگذارید و چه چیزی را نگه دارید. به عبارت دیگر چت‌بات‌ها برای ادامه دادن مکالمات طراحی شده‌اند، اما اختیار نهایی همچنان در دستان شماست.

برچسب ها

این مطلب بدون برچسب می باشد.

اطلاعیه پلیس در پی حمله رژیم صهیونیستی به ستاد فراجا 28 خرداد 1404

اطلاعیه پلیس در پی حمله رژیم صهیونیستی به ستاد فراجا

در پی حمله رژیم سفاک و متجاوز صهیونی به ستاد فراجا، مرکز اطلاع رسانی پلیس، اطلاعیه‌ای صادر کرد.

نتانیاهو: در جنگ با ایران متحمل خسارات دردناکی شده‌ایم 28 خرداد 1404

نتانیاهو: در جنگ با ایران متحمل خسارات دردناکی شده‌ایم

نخست‌وزیر رژیم تروریستی اسرائیل اذعان کرد که این رژیم در جنگ علیه ایران متحمل «خسارات دردناکی» شده است.

فرماندهی امنیت سایبری: حمله بزرگ سایبری به شبکه بانکی دفع شد 28 خرداد 1404

فرماندهی امنیت سایبری: حمله بزرگ سایبری به شبکه بانکی دفع شد

اطلاعیه شماره 3 فرماندهی امنیت سایبری منتشر و در آن از دفع حمله بزرگ سایبری به شبکه بانکی خبر داده شده است.

ثبت دیدگاه

  • دیدگاه های ارسال شده توسط شما، پس از تایید توسط تیم مدیریت در وب منتشر خواهد شد.
  • پیام هایی که حاوی تهمت یا افترا باشد منتشر نخواهد شد.
  • پیام هایی که به غیر از زبان فارسی یا غیر مرتبط باشد منتشر نخواهد شد.

وزیر جهاد کشاورزی: تامین و توزیع کالاها در حال انجام است 28 خرداد 1404

وزیر جهاد کشاورزی: تامین و توزیع کالاها در حال انجام است

نوری وزیر جهاد کشاورزی به مردم اطمینان داد که تامین و توزیع کالاهای اساسی و ضروری مشکلی ندارد و در حال انجام است.

آمادگی صد در صد کادر سلامت/کمبود دارو و تجهیزات پزشکی نداریم 27 خرداد 1404

آمادگی صد در صد کادر سلامت/کمبود دارو و تجهیزات پزشکی نداریم

عضو کمیسیون بهداشت مجلس شورای اسلامی با بیان اینکه کادر سلامت آمادگی کامل و صد در صد برای خدمات رسانی به مجروحان جنگی هستند، گفت: هیچ گزارشی مبنی بر کمبود دارو و تجهیزات پزشکی وجود ندارد.

صداوسیما از مردم خواست واتس‌آپ و اینستاگرام را حذف کنند 27 خرداد 1404

صداوسیما از مردم خواست واتس‌آپ و اینستاگرام را حذف کنند

صداوسیما از مردم خواست برنامه‌ واتس‌آپ و اینستاگرام را از گوشی همراه خود حذف کنند.

اطلاعیه سازمان وظیفه عمومی در خصوص مشمولان خرداد ماه 27 خرداد 1404

اطلاعیه سازمان وظیفه عمومی در خصوص مشمولان خرداد ماه

سازمان وظیفه عمومی فراجا در اطلاعیه ای اعلام کرد: تاریخ اعزام به خدمت مشمولان اعزامی تیرماه ۱۴۰۴ از تاریخ یکم تیر ماه به ۱۰ تیرماه تغییر کرده است.

برخورد جدی با فعالیت‌های مجازی برای برهم‌زدن امنیت روانی 27 خرداد 1404

برخورد جدی با فعالیت‌های مجازی برای برهم‌زدن امنیت روانی

اقدامات قرارگاه ویژه در دادسرای تهران در رابطه با برهم زنندگان امنیت روانی مردم از سوی انسان رسانه‌ها، برخی خبرگزاری‌ و سایتهای خبری در شرایط تجاوزات دشمن، تشریح شد.

تکرار حماسه راننده کامیون‌ها بعد از ۴۲ سال 28 خرداد 1404

تکرار حماسه راننده کامیون‌ها بعد از ۴۲ سال

کانون سراسری انجمن‌های صنفی رانندگان ناوگان حمل فرآورده‌های نفتی کشور با فراخوانی به رانندگان، از آن‌ها خواسته است تا در شرایط جنگی، با همکاری ویژه در تخلیه بنادر جنوب کشور، حماسه ۲۶ آذر ۱۳۶۲ را تکرار کنند.

کاهش صف‌های بنزین در تهران/از ایده های مدیریتی تاهمکاری مردم 28 خرداد 1404

کاهش صف‌های بنزین در تهران/از ایده های مدیریتی تاهمکاری مردم

صف‌های طولانی بنزین در تهران به نصف و حتی کمتر، نسب به روزهای قبل رسیده، درحالی که زندگی در این کلانشهر بزرگ ادامه دارد.

پالایشگاه اصفهان در سلامت کامل به فعالیت‌ها ادامه می‌دهد 25 خرداد 1404

پالایشگاه اصفهان در سلامت کامل به فعالیت‌ها ادامه می‌دهد

وزارت نفت اعلام کرد: تمامی واحدهای عملیاتی، تأسیسات و بخش‌های مختلف پالایشگاه اصفهان در وضعیت پایدار قرار دارند و کارکنان این مجموعه با تلاش و تعهد همیشگی، روند تولید و تأمین سوخت کشور را بدون وقفه ادامه می‌دهند.

عقب‌نشینی ترامپ از تعرفه ۱۴۵ درصدی در آستانه مذاکره تجاری با چین 20 اردیبهشت 1404

عقب‌نشینی ترامپ از تعرفه ۱۴۵ درصدی در آستانه مذاکره تجاری با چین

رئیس جمهور آمریکا در شبکه اجتماعی تروث از احتمال کاهش تعرفه بر واردات کالاهای چینی خبر داد.

چالش‌های روغن‌کشی از کمبود مواد اولیه تا زمان‌بر شدن تصمیمات 20 اردیبهشت 1404

چالش‌های روغن‌کشی از کمبود مواد اولیه تا زمان‌بر شدن تصمیمات

ثبت‌سفارش دانه‌های روغنی برای فصل بهار ۸ اردیبهشت باز شد در حالی که عنوان می‌شود این ثبت‌سفارش باید در اسفند انجام می‌شد.

آخرین اطلاعیه دانشگاه تهران در خصوص امتحانات 25 خرداد 1404

آخرین اطلاعیه دانشگاه تهران در خصوص امتحانات

امتحانات پایان نیمسال ۱۴۰۴-۱۴۰۳ دوم دانشگاه تهران سه هفته به تعویق افتاد.

اطلاعیه مهم رئیس سازمان سنجش درباره کنکور 24 خرداد 1404

اطلاعیه مهم رئیس سازمان سنجش درباره کنکور

نوبت دوم کنکور سراسری ۱۴۰۴ در موعد مقرر روزهای ۵ و ۶ تیر برگزار می‌شود.

شهر در تسخیر بنرهای تسلیت؛ همدردی یا آلودگی بصری؟!/تحلیلی کوتاه به قلم رضا ناظری 05 فروردین 1404

شهر در تسخیر بنرهای تسلیت؛ همدردی یا آلودگی بصری؟!/تحلیلی کوتاه به قلم رضا ناظری

نصب بی‌رویه بنرهای تسلیت در شهرها و روستاها به معضلی جدی تبدیل شده است. این پدیده علاوه بر آلودگی بصری، هزینه‌های اضافی و آسیب زیست‌محیطی به همراه دارد.

امام جمعه بغداد: از الطاف الهی است که یک فقیه جامع الشرایط مانند امام خامنه‌ای در رأس کشور بزرگ ایران است 22 دی 1403

امام جمعه بغداد: از الطاف الهی است که یک فقیه جامع الشرایط مانند امام خامنه‌ای در رأس کشور بزرگ ایران است

 آیت الله سید یاسین موسوی، در دیدار طلاب حوزه علمیه الغدیر تهران بر ضرورت وحدت و همبستگی میان مردم و حکومت تأکید کرد. وی حفظ نظام اسلامی و نقش ولی فقیه به عنوان حافظ استقلال کشور را از واجبات اصلی دانست.

وقتی امام علی تاکید کردند که مُردن بهتر از فقر و بدبختی است! 20 دی 1403

وقتی امام علی تاکید کردند که مُردن بهتر از فقر و بدبختی است!

مرحوم علامه محمدرضا حکیمی در وصف «مصائبِ فقر» در اندیشه و نظر امیرمومنان علی(ع) نوشت: «در ادبیات قرآن و روایات می‌توان به ماهیت واقعی فقر و بلایی که بر سر انسان می‌آورد پی برد.

رونالدو با پیراهن النصر خداحافظی می‌کند! 25 خرداد 1404

رونالدو با پیراهن النصر خداحافظی می‌کند!

کریستیانو رونالدو، فوق‌ستاره پرتغالی، با وجود درخشش فردی در لیگ عربستان، همچنان در حسرت جام تیمی مانده است.

بدشانسی تیم ملی والیبال ایران برابر اسلوونی؛ سومین شکست هم رقم خورد 24 خرداد 1404

بدشانسی تیم ملی والیبال ایران برابر اسلوونی؛ سومین شکست هم رقم خورد

تیم ملی والیبال ایران که در دو دیدار ابتدایی برابر برزیل و آمریکا شکست خورده بود، نتیجه سومین بازی خود در لیگ ملت ها را به اسلوونی واگذار کرد اما یک امتیاز از این بازی گرفت.

هادی ساعی: سندی دیگر از جنایات ضد انسانی رژیم غاصب صهیونیستی ثبت شد 23 خرداد 1404

هادی ساعی: سندی دیگر از جنایات ضد انسانی رژیم غاصب صهیونیستی ثبت شد

رئیس فدراسیون تکواندو در پیامی حمله مذبوحانه رژیم صهیونیستی به مناطق مسکونی را ثبت سندی دیگر بر دفتر قطور جنایات رژیم صهیونیستی عنوان کرد.

شهادت ورزشکار ایرانی در پی حمله تروریستی رژیم صهیونیستی 23 خرداد 1404

شهادت ورزشکار ایرانی در پی حمله تروریستی رژیم صهیونیستی

در پی حمله تروریستی رژیم صهیونی به تهران و تعدادی از شهرهای کشور یکی از بازیکنان رشته پدل شهید شد.

فینالیست های ۵ وزن جام تختی در کشتی فرنگی مشخص شدند 23 خرداد 1404

فینالیست های ۵ وزن جام تختی در کشتی فرنگی مشخص شدند

نفرات راه یافته به دیدارهای فینال پنج وزن دوم مسابقات کشتی فرنکی جام تختی مشخص شدند.