صفر تا صد ChatGPT
ChatGPT یک ابزار پردازش زبان طبیعی است که با فناوری هوش مصنوعی هدایت می‌شود و به شما امکان می‌دهد مکالماتی انسان‌مانند و خیلی بیشتر با یک چت‌بات داشته باشید. این مدل زبانی می‌تواند به سوالات پاسخ دهد، به شما در نوشتن ایمیل، مقاله و کد کمک کند. استفاده در حال حاضر برای عموم رایگان است زیرا ChatGPT در مرحله تحقیق و جمع‌آوری بازخورد است.
چه کسی ChatGPT را ساخته است؟
ChatGPT توسط شرکت تحقیقاتی و هوش مصنوعی OpenAI ایجاد شده و آن را 30 نوامبر 2022 راه‌اندازی کرد. اگر نام این شرکت آشنا به نظر می‌رسد، به این دلیل است که OpenAI همچنین مسئول ایجاد یک مولد هنر AI محبوب و سیستم تشخیص خودکار گفتار Whisper است.
ChatGPT چقدر مهم است؟
مطمئنا ابزار ChatGPT سروصدای زیادی به پا کرده است زیرا ایلان ماسک و از بنیانگذاران OpenAI قبل از رفتن گفته بود: ChatGPT ترسناک است چون ما با هوش مصنوعی بسیار قوی فاصله‌ای نداریم.
سام آلتمن، رئیس OpenAI توییت کرد که ChatGPT از روز چهارشنبه گذشته به بیش از یک میلیون کاربر رسیده است. آلتمن به ماسک گفت که میانگین هزینه هر پاسخ یک تا ۹ سنت است، اما اذعان کرد که در نهایت به دلیل هزینه‌های محاسباتی چشم‌انداز آن باید از آن درآمد کسب کند.
چگونه می‌توانید به ChatGPT دسترسی پیدا کنید؟
شما به سادگی می‌توانید با مراجعه به chat.openai.com و ایجاد یک حساب OpenAI به ChatGPT دسترسی پیدا کنید. پس از ورود به سیستم، می‌توانید با ChatGPT چت را شروع کنید. یک راه خوب برای شروع مکالمه، پرسیدن سوال است. از آنجا که ChatGPT هنوز در مرحله تحقیقاتی است، استفاده از آن رایگان است و می‌توانید هر تعداد سوالی که می‌خواهید بپرسید.
چگونگی استفاده مردم از ChatGPT
این مدل علاوه بر پاسخگویی به سؤالات ساده، کارکردهای بسیاری مانند نوشتن مقاله، توصیف هنر با جزئیات زیاد، ایجاد اعلان‌های هنری هوش مصنوعی، گفت‌وگوهای فلسفی و حتی کدنویسی دارد. حتی می‌توان از چت بات برای ارائه ایده‌های خلاقانه برای هدیه تعطیلات برای اعضای خاص خانواده درخواست کمک کرد چون امکاناتی بی‌پایان دارد.
ChatGPT چگونه کار می‌کند؟
به گفته OpenAI می‌توان با استفاده از یادگیری تقویتی از بازخورد انسانی (RLHF) مدل زبان را آموزش داد. مربیان هوش مصنوعی مکالماتی را در اختیار مدل قرار دادند که در آن هر دو نقش، کاربر و دستیاران هوش مصنوعی را بازی کردند.
تفاوت بین ChatGPT و موتور جست‌وجو چیست؟
ChatGPT یک مدل زبان است که با هدف برقراری مکالمه با کاربر نهایی ایجاد شده است. یک موتور جست‌وجو صفحات وب را در اینترنت فهرست می‌کند تا کاربر اطلاعاتی را که خواسته پیدا کند. ChatGPT توانایی جست‌وجوی اطلاعات در اینترنت را ندارد و برای پاسخ بیشتر از اطلاعاتی که از داده‌های آموزشی آموخته استفاده می‌کند جای خطا را باقی می‌گذارد.
محدودیت‌های ChatGPT چیست؟
با وجود ظاهر بسیار چشمگیر ChatGPT هنوز محدودیت‌هایی دارد. این محدودیت‌ها شامل ناتوانی در پاسخ به سؤالاتی است که به روشی خاص بیان می‌شود و برای درک سؤال ورودی نیاز به بازنویسی دارد. محدودیت بزرگ‌تر، نبود کیفیت در پاسخ‌هایی است که ارائه می‌کند؛ گاهی اوقات به نظر قابل قبول است اما معنا و مبنای علمی ندارد. در نهایت هم مدل به جای توضیح درباره سؤالات مبهم، فقط معنای سؤال شما را حدس می‌زند که می‌تواند منجر به پاسخ‌های ناخواسته و بی‌ربط به سؤالات شود. این مساله باعث شده سایت پرسش و پاسخ توسعه‌دهنده StackOverflow حداقل به طور موقت پاسخ‌های داده شده توسط ChatGPT به سؤالات را ممنوع کند. گردانندگان Stack Overflow در پستی می‌گویند: «مشکل اصلی، نرخ بالای نادرست بودن پاسخ‌هایی است که ChatGPT تولید می‌کند، چون معمولا به نظر می‌رسد جواب‌ها خوب و آسان باشد.» منتقدان استدلال می‌کنند این ابزارها فقط در قرار دادن کلمات در نظمی که از نقطه نظر آماری معنادار است، بسیار خوب هستند اما نمی‌توانند معنی را بفهمند یا بدانند عباراتی که بیان می‌کنند صحیح است یا خیر.
چرا برخی از مردم در مورد ChatGPT نگران هستند؟
مردم نسبت به جایگزینی یا تحلیل رفتن هوش انسانی توسط چت ربات‌های هوش مصنوعی ابراز نگرانی می‌کنند. به عنوان مثال، ربات چت می‌تواند در عرض چند ثانیه مقاله‌ای درباره هر موضوعی بنویسد و به طور بالقوه نیاز به نویسنده انسانی را از بین ببرد. نگرانی دیگر در مورد ربات چت هوش مصنوعی، انتشار احتمالی اطلاعات نادرست است. از آنجا که ربات به اینترنت متصل نیست، ممکن است در اطلاعاتی که به اشتراک می‌گذارد اشتباه کند. خود ربات می‌گوید: «پاسخ‌های من به‌عنوان واقعیت در نظر گرفته نمی‌شود و من همیشه مردم را تشویق می‌کنم اطلاعاتی را که از من یا هر منبع دیگری دریافت می‌کنند، تأیید کنند.» خود OpenAI همچنین خاطرنشان می‌کند که ChatGPT گاهی اوقات «پاسخ هایی به ظاهر درست اما در واقع نادرست یا بی‌معنی» می‌نویسد. جف هینتون، یکی از پیشگامان هوش مصنوعی نیز می‌گوید: ما نوع کاملا جدیدی از رایانه را خواهیم دید.
آیا ChatGPT چیز خوبی است یا بد؟
ChatGPT ربات چت بسیار پیشرفته‌ای است که توانایی آسان‌تر کردن زندگی مردم را دارد و در انجام کارهای خسته‌کننده روزمره، مانند نوشتن ایمیل یا نیاز به پیمایش در وب برای یافتن پاسخ، کمک می‌کند. با این حال، جزئیات فنی خاصی وجود دارد که باید قبل از استفاده گسترده برای جلوگیری از پیامدهای منفی، مانند انتشار اطلاعات نادرست، مشخص شوند. به طور کلی، مدل‌های هوش مصنوعی برای رسیدن به سطح عملکرد ایده‌آل به آموزش و تنظیم دقیق زیادی متکی هستند.
آیا این بدان معناست که هوش مصنوعی جهان را تسخیر کرده است؟ شاید هنوز نه، اما آلتمن از OpenAI فکر می‌کند که هوش به سبک انسانی در هوش مصنوعی اکنون چندان دور نیست. آلتمن در پاسخ به اظهار نظر ماسک در مورد هوش مصنوعی بسیار قوی، در توییتی نوشت: موافقم که به هوش مصنوعی خطرناکی نزدیک هستیم که به عنوان مثال خطر امنیت سایبری بزرگی را به همراه دارد. و فکر می‌کنم می‌توانیم در دهه آینده به AGI واقعی برسیم. بنابراین ما باید خطر آن را نیز بسیار جدی بگیریم.
او همچنین خاطرنشان کرد: مشاهده مردمی که شروع به بحث می‌کنند که آیا سیستم‌های هوش مصنوعی قدرتمند باید به شیوه‌ای که کاربران می‌خواهند یا سازندگان آنها رفتار کنند. این سوال که ما این سیستم‌ها را با چه ارزش‌هایی هماهنگ می‌کنیم از مهم‌ترین بحث‌های جامعه خواهد بود.
سرمایه‌گذاری مایکروسافت
بنا به گزارش‌های اخیر، مایکروسافت برنامه‌های بزرگی برای ویژگی‌های هوش مصنوعی در چند برنامه و خدمات خود دارد. اطلاعاتی که به اشتراک گذاشته شده است که مایکروسافت ChatGPT را در مجموعه آفیس قرار می‌دهد تا به افراد اجازه تولید متن را بدهد. یک گزارش جداگانه توسط همان رسانه بیان کرد که مایکروسافت ChatGPT را در Bing ادغام می‌کند تا پاسخ‌هایی به پرس‌و‌جوها ایجاد کند. مایکروسافت سال 2019 همکاری خود را با OpenAI اعلام کرد و باعث شد غول فناوری مستقر در ردموند یک میلیارد دلار در OpenAI سرمایه‌گذاری کند. این همکاری همچنین شامل توافق برای استفاده از زیرساخت ابرکامپیوتری هوش مصنوعی Azure مایکروسافت برای آموزش GPT بود که ربات چت معروف ChatGPT را نیرو می‌دهد. به نظر می‌رسد پس از چند سال همکاری، مایکروسافت آماده است تا شاهد بازگشت سرمایه باشد. براساس اطلاعات، مایکروسافت آفیس از کاربران می‌خواهد از دستورات برای تولید متن از طریق هوش مصنوعی پیروی کنند. این تا حدودی شبیه به عملکردی است که آفیس قبلاً دارد، اگرچه احتمالا ویژگی OpenAI-back قدرتمندتر از آنچه در حال حاضر در دسترس است خواهد بود.
در این گزارش آمده که مهندسان و محققان مایکروسافت بیش از یک سال روی ابزارهای هوش مصنوعی برای ایجاد ایمیل و اسناد کار کرده‌اند. یکی از عناصر مهم این ویژگی حفظ حریم خصوصی است. اطلاعات توضیح می‌دهد که مایکروسافت در تلاش است تا اطمینان حاصل کند داده‌های مشتری از طریق ابزار درز نمی‌کند.
هوش مصنوعی در ماه‌های اخیر بر سرفصل‌های دنیای فناوری تسلط داشته است. چت ربات ChatGPT الهام‌بخش حیرت و انتقاد بوده است. ابزار هوش مصنوعی برای ایجاد یک کتاب کودکان استفاده و منجر به اتهام سرقت ادبی شد. VALL-E تازه معرفی شده مایکروسافت که می‌تواند صدای افراد را تولید کند، نگرانی‌های امنیتی را نیز به دنبال داشته است.
در حالی که هوش مصنوعی قدرتمند است و در آینده در بسیاری از برنامه‌ها نقش خواهد داشت، مایکروسافت ممکن است برای اطمینان از استفاده صحیح از آن وقت بیشتری نیاز داشته باشد.
استفاده هکرها
ChatGPT به چشم‌انداز تهدیدات سایبری مدرن نیز چاشنی‌هایی اضافه کرده است، زیرا به سرعت آشکار شد که تولید کد می‌تواند به عوامل تهدید کمتر ماهر کمک کند تا بدون زحمت حملات سایبری انجام دهند.
سوال نخست این‌که فقط یک تهدید فرضی است یا عوامل تهدیدی وجود دارد که از فناوری‌های OpenAI برای اهداف مخرب استفاده می‌کند.
تجزیه و تحلیل CPR از چند انجمن اصلی هک زیرزمینی نشان می‌دهد اولین نمونه از مجرمان سایبری وجود دارد که از OpenAI برای توسعه ابزارهای مخرب استفاده می‌کند. همانطور که مشکوک بودیم، برخی موارد به وضوح نشان داد بسیاری از مجرمان سایبری که از OpenAI استفاده می‌کنند، اصلا مهارت توسعه ندارند. گرچه ابزارهایی که در این گزارش ارائه می‌کنیم بسیار ابتدایی است، اما تا زمانی که عوامل تهدید پیچیده‌تر، روشی را که از ابزارهای مبتنی بر هوش مصنوعی برای بد استفاده می‌کنند، بهبود بخشند زمان زیادی نیست.
در 29 دسامبر 2022، موضوعی به نام « ChatGPT - مزایای بدافزار» در یک انجمن هک زیرزمینی محبوب ظاهر شد. ناشر این موضوع فاش کرد که با ChatGPT در حال آزمایش برای بازآفرینی گونه‌های بدافزار و تکنیک‌هایی است که در نشریات تحقیقاتی و نوشته‌های مربوط به بدافزار رایج شرح داده شده‌اند. به عنوان مثال، او کد یک دزد مبتنی بر پایتون را به اشتراک گذاشت که انواع فایل‌های رایج را جست‌وجو می‌کند، آنها را در یک پوشه تصادفی داخل پوشه Temp کپی می‌کند، آنها را ZIP و در یک سرور FTP با کد سخت آپلود می‌کند.
تجزیه و تحلیل ما ادعاهای مجرم سایبری را تأیید می‌کند. این در واقع یک دزد است که 12 نوع فایل رایج (مانند اسناد MS Office، PDF و تصاویر) را در سراسر سیستم جست‌وجو می‌کند. اگر فایل‌های مورد علاقه پیدا شد، بدافزار، فایل‌ها را در فهرستی موقت کپی و فشرده می‌کند و از طریق وب می‌فرستد. شایان ذکر است که این بازیگر زحمت رمزگذاری یا ارسال ایمن فایل‌ها را نداشته است، بنابراین ممکن است فایل‌ها به دست اشخاص ثالث نیز برسد.
نمونه دومی که این بازیگر با استفاده از ChatGPT ایجاد کرد، یک قطعه ساده جاوا است. PuTTY، یک کلاینت بسیار رایج SSH و telnet را دانلود کرده و به طور مخفیانه با استفاده از Powershell روی سیستم اجرا می‌کند. البته می‌توان این اسکریپت را برای دانلود و اجرای هر برنامه‌ای از جمله خانواده بدافزارهای رایج تغییر داد.
مشارکت قبلی این عامل تهدید در تالار گفتمان شامل به اشتراک‌گذاشتن چند اسکریپت مانند اتوماسیون مرحله پس از بهره‌برداری و یک برنامه ++C است. علاوه بر این، او به طور فعال نسخه‌‌های کرک شده SpyNote، یک بدافزار Android RAT را به اشتراک می‌گذارد. بنابراین به طور کلی، به نظر می‌رسد این فرد یک عامل تهدید فناوری محور است و هدف از پست‌های او این است که به مجرمان سایبری با توانایی فنی کمتر نشان دهد چگونه از ChatGPT برای اهداف مخرب استفاده کنند.
مهدی خانقلی - خبرنگارChatGPT توسط شرکت تحقیقاتی و هوش مصنوعی OpenAI ایجاد شده و آن را 30 نوامبر 2022 راه‌اندازی کرد. اگر نام این شرکت آشنا به نظر می‌رسد، به این دلیل است که OpenAI همچنین مسئول ایجاد یک مولد هنر AI محبوب و سیستم تشخیص خودکار گفتار Whisper است.
ChatGPT چقدر مهم است؟
مطمئنا ابزار ChatGPT سروصدای زیادی به پا کرده است زیرا ایلان ماسک و از بنیانگذاران OpenAI قبل از رفتن گفته بود: ChatGPT ترسناک است چون ما با هوش مصنوعی بسیار قوی فاصله‌ای نداریم.
سام آلتمن، رئیس OpenAI توییت کرد که ChatGPT از روز چهارشنبه گذشته به بیش از یک میلیون کاربر رسیده است. آلتمن به ماسک گفت که میانگین هزینه هر پاسخ یک تا ۹ سنت است، اما اذعان کرد که در نهایت به دلیل هزینه‌های محاسباتی چشم‌انداز آن باید از آن درآمد کسب کند.
چگونه می‌توانید به ChatGPT دسترسی پیدا کنید؟
شما به سادگی می‌توانید با مراجعه به chat.openai.com و ایجاد یک حساب OpenAI به ChatGPT دسترسی پیدا کنید. پس از ورود به سیستم، می‌توانید با ChatGPT چت را شروع کنید. یک راه خوب برای شروع مکالمه، پرسیدن سوال است. از آنجا که ChatGPT هنوز در مرحله تحقیقاتی است، استفاده از آن رایگان است و می‌توانید هر تعداد سوالی که می‌خواهید بپرسید.
چگونگی استفاده مردم از ChatGPT
این مدل علاوه بر پاسخگویی به سؤالات ساده، کارکردهای بسیاری مانند نوشتن مقاله، توصیف هنر با جزئیات زیاد، ایجاد اعلان‌های هنری هوش مصنوعی، گفت‌وگوهای فلسفی و حتی کدنویسی دارد. حتی می‌توان از چت بات برای ارائه ایده‌های خلاقانه برای هدیه تعطیلات برای اعضای خاص خانواده درخواست کمک کرد چون امکاناتی بی‌پایان دارد.
ChatGPT چگونه کار می‌کند؟
به گفته OpenAI می‌توان با استفاده از یادگیری تقویتی از بازخورد انسانی (RLHF) مدل زبان را آموزش داد. مربیان هوش مصنوعی مکالماتی را در اختیار مدل قرار دادند که در آن هر دو نقش، کاربر و دستیاران هوش مصنوعی را بازی کردند.
تفاوت بین ChatGPT و موتور جست‌وجو چیست؟
ChatGPT یک مدل زبان است که با هدف برقراری مکالمه با کاربر نهایی ایجاد شده است. یک موتور جست‌وجو صفحات وب را در اینترنت فهرست می‌کند تا کاربر اطلاعاتی را که خواسته پیدا کند. ChatGPT توانایی جست‌وجوی اطلاعات در اینترنت را ندارد و برای پاسخ بیشتر از اطلاعاتی که از داده‌های آموزشی آموخته استفاده می‌کند جای خطا را باقی می‌گذارد.
محدودیت‌های ChatGPT چیست؟
با وجود ظاهر بسیار چشمگیر ChatGPT هنوز محدودیت‌هایی دارد. این محدودیت‌ها شامل ناتوانی در پاسخ به سؤالاتی است که به روشی خاص بیان می‌شود و برای درک سؤال ورودی نیاز به بازنویسی دارد. محدودیت بزرگ‌تر، نبود کیفیت در پاسخ‌هایی است که ارائه می‌کند؛ گاهی اوقات به نظر قابل قبول است اما معنا و مبنای علمی ندارد. در نهایت هم مدل به جای توضیح درباره سؤالات مبهم، فقط معنای سؤال شما را حدس می‌زند که می‌تواند منجر به پاسخ‌های ناخواسته و بی‌ربط به سؤالات شود. این مساله باعث شده سایت پرسش و پاسخ توسعه‌دهنده StackOverflow حداقل به طور موقت پاسخ‌های داده شده توسط ChatGPT به سؤالات را ممنوع کند. گردانندگان Stack Overflow در پستی می‌گویند: «مشکل اصلی، نرخ بالای نادرست بودن پاسخ‌هایی است که ChatGPT تولید می‌کند، چون معمولا به نظر می‌رسد جواب‌ها خوب و آسان باشد.» منتقدان استدلال می‌کنند این ابزارها فقط در قرار دادن کلمات در نظمی که از نقطه نظر آماری معنادار است، بسیار خوب هستند اما نمی‌توانند معنی را بفهمند یا بدانند عباراتی که بیان می‌کنند صحیح است یا خیر.
چرا برخی از مردم در مورد ChatGPT نگران هستند؟
مردم نسبت به جایگزینی یا تحلیل رفتن هوش انسانی توسط چت ربات‌های هوش مصنوعی ابراز نگرانی می‌کنند. به عنوان مثال، ربات چت می‌تواند در عرض چند ثانیه مقاله‌ای درباره هر موضوعی بنویسد و به طور بالقوه نیاز به نویسنده انسانی را از بین ببرد. نگرانی دیگر در مورد ربات چت هوش مصنوعی، انتشار احتمالی اطلاعات نادرست است. از آنجا که ربات به اینترنت متصل نیست، ممکن است در اطلاعاتی که به اشتراک می‌گذارد اشتباه کند. خود ربات می‌گوید: «پاسخ‌های من به‌عنوان واقعیت در نظر گرفته نمی‌شود و من همیشه مردم را تشویق می‌کنم اطلاعاتی را که از من یا هر منبع دیگری دریافت می‌کنند، تأیید کنند.» خود OpenAI همچنین خاطرنشان می‌کند که ChatGPT گاهی اوقات «پاسخ هایی به ظاهر درست اما در واقع نادرست یا بی‌معنی» می‌نویسد. جف هینتون، یکی از پیشگامان هوش مصنوعی نیز می‌گوید: ما نوع کاملا جدیدی از رایانه را خواهیم دید.
آیا ChatGPT چیز خوبی است یا بد؟
ChatGPT ربات چت بسیار پیشرفته‌ای است که توانایی آسان‌تر کردن زندگی مردم را دارد و در انجام کارهای خسته‌کننده روزمره، مانند نوشتن ایمیل یا نیاز به پیمایش در وب برای یافتن پاسخ، کمک می‌کند. با این حال، جزئیات فنی خاصی وجود دارد که باید قبل از استفاده گسترده برای جلوگیری از پیامدهای منفی، مانند انتشار اطلاعات نادرست، مشخص شوند. به طور کلی، مدل‌های هوش مصنوعی برای رسیدن به سطح عملکرد ایده‌آل به آموزش و تنظیم دقیق زیادی متکی هستند.
آیا این بدان معناست که هوش مصنوعی جهان را تسخیر کرده است؟ شاید هنوز نه، اما آلتمن از OpenAI فکر می‌کند که هوش به سبک انسانی در هوش مصنوعی اکنون چندان دور نیست. آلتمن در پاسخ به اظهار نظر ماسک در مورد هوش مصنوعی بسیار قوی، در توییتی نوشت: موافقم که به هوش مصنوعی خطرناکی نزدیک هستیم که به عنوان مثال خطر امنیت سایبری بزرگی را به همراه دارد. و فکر می‌کنم می‌توانیم در دهه آینده به AGI واقعی برسیم. بنابراین ما باید خطر آن را نیز بسیار جدی بگیریم.
او همچنین خاطرنشان کرد: مشاهده مردمی که شروع به بحث می‌کنند که آیا سیستم‌های هوش مصنوعی قدرتمند باید به شیوه‌ای که کاربران می‌خواهند یا سازندگان آنها رفتار کنند. این سوال که ما این سیستم‌ها را با چه ارزش‌هایی هماهنگ می‌کنیم از مهم‌ترین بحث‌های جامعه خواهد بود.
سرمایه‌گذاری مایکروسافت
بنا به گزارش‌های اخیر، مایکروسافت برنامه‌های بزرگی برای ویژگی‌های هوش مصنوعی در چند برنامه و خدمات خود دارد. اطلاعاتی که به اشتراک گذاشته شده است که مایکروسافت ChatGPT را در مجموعه آفیس قرار می‌دهد تا به افراد اجازه تولید متن را بدهد. یک گزارش جداگانه توسط همان رسانه بیان کرد که مایکروسافت ChatGPT را در Bing ادغام می‌کند تا پاسخ‌هایی به پرس‌و‌جوها ایجاد کند. مایکروسافت سال 2019 همکاری خود را با OpenAI اعلام کرد و باعث شد غول فناوری مستقر در ردموند یک میلیارد دلار در OpenAI سرمایه‌گذاری کند. این همکاری همچنین شامل توافق برای استفاده از زیرساخت ابرکامپیوتری هوش مصنوعی Azure مایکروسافت برای آموزش GPT بود که ربات چت معروف ChatGPT را نیرو می‌دهد. به نظر می‌رسد پس از چند سال همکاری، مایکروسافت آماده است تا شاهد بازگشت سرمایه باشد. براساس اطلاعات، مایکروسافت آفیس از کاربران می‌خواهد از دستورات برای تولید متن از طریق هوش مصنوعی پیروی کنند. این تا حدودی شبیه به عملکردی است که آفیس قبلاً دارد، اگرچه احتمالا ویژگی OpenAI-back قدرتمندتر از آنچه در حال حاضر در دسترس است خواهد بود.
در این گزارش آمده که مهندسان و محققان مایکروسافت بیش از یک سال روی ابزارهای هوش مصنوعی برای ایجاد ایمیل و اسناد کار کرده‌اند. یکی از عناصر مهم این ویژگی حفظ حریم خصوصی است. اطلاعات توضیح می‌دهد که مایکروسافت در تلاش است تا اطمینان حاصل کند داده‌های مشتری از طریق ابزار درز نمی‌کند.
هوش مصنوعی در ماه‌های اخیر بر سرفصل‌های دنیای فناوری تسلط داشته است. چت ربات ChatGPT الهام‌بخش حیرت و انتقاد بوده است. ابزار هوش مصنوعی برای ایجاد یک کتاب کودکان استفاده و منجر به اتهام سرقت ادبی شد. VALL-E تازه معرفی شده مایکروسافت که می‌تواند صدای افراد را تولید کند، نگرانی‌های امنیتی را نیز به دنبال داشته است.
در حالی که هوش مصنوعی قدرتمند است و در آینده در بسیاری از برنامه‌ها نقش خواهد داشت، مایکروسافت ممکن است برای اطمینان از استفاده صحیح از آن وقت بیشتری نیاز داشته باشد.
استفاده هکرها
ChatGPT به چشم‌انداز تهدیدات سایبری مدرن نیز چاشنی‌هایی اضافه کرده است، زیرا به سرعت آشکار شد که تولید کد می‌تواند به عوامل تهدید کمتر ماهر کمک کند تا بدون زحمت حملات سایبری انجام دهند.
سوال نخست این‌که فقط یک تهدید فرضی است یا عوامل تهدیدی وجود دارد که از فناوری‌های OpenAI برای اهداف مخرب استفاده می‌کند.
تجزیه و تحلیل CPR از چند انجمن اصلی هک زیرزمینی نشان می‌دهد اولین نمونه از مجرمان سایبری وجود دارد که از OpenAI برای توسعه ابزارهای مخرب استفاده می‌کند. همانطور که مشکوک بودیم، برخی موارد به وضوح نشان داد بسیاری از مجرمان سایبری که از OpenAI استفاده می‌کنند، اصلا مهارت توسعه ندارند. گرچه ابزارهایی که در این گزارش ارائه می‌کنیم بسیار ابتدایی است، اما تا زمانی که عوامل تهدید پیچیده‌تر، روشی را که از ابزارهای مبتنی بر هوش مصنوعی برای بد استفاده می‌کنند، بهبود بخشند زمان زیادی نیست.
در 29 دسامبر 2022، موضوعی به نام « ChatGPT - مزایای بدافزار» در یک انجمن هک زیرزمینی محبوب ظاهر شد. ناشر این موضوع فاش کرد که با ChatGPT در حال آزمایش برای بازآفرینی گونه‌های بدافزار و تکنیک‌هایی است که در نشریات تحقیقاتی و نوشته‌های مربوط به بدافزار رایج شرح داده شده‌اند. به عنوان مثال، او کد یک دزد مبتنی بر پایتون را به اشتراک گذاشت که انواع فایل‌های رایج را جست‌وجو می‌کند، آنها را در یک پوشه تصادفی داخل پوشه Temp کپی می‌کند، آنها را ZIP و در یک سرور FTP با کد سخت آپلود می‌کند.
تجزیه و تحلیل ما ادعاهای مجرم سایبری را تأیید می‌کند. این در واقع یک دزد است که 12 نوع فایل رایج (مانند اسناد MS Office، PDF و تصاویر) را در سراسر سیستم جست‌وجو می‌کند. اگر فایل‌های مورد علاقه پیدا شد، بدافزار، فایل‌ها را در فهرستی موقت کپی و فشرده می‌کند و از طریق وب می‌فرستد. شایان ذکر است که این بازیگر زحمت رمزگذاری یا ارسال ایمن فایل‌ها را نداشته است، بنابراین ممکن است فایل‌ها به دست اشخاص ثالث نیز برسد.
نمونه دومی که این بازیگر با استفاده از ChatGPT ایجاد کرد، یک قطعه ساده جاوا است. PuTTY، یک کلاینت بسیار رایج SSH و telnet را دانلود کرده و به طور مخفیانه با استفاده از Powershell روی سیستم اجرا می‌کند. البته می‌توان این اسکریپت را برای دانلود و اجرای هر برنامه‌ای از جمله خانواده بدافزارهای رایج تغییر داد.
مشارکت قبلی این عامل تهدید در تالار گفتمان شامل به اشتراک‌گذاشتن چند اسکریپت مانند اتوماسیون مرحله پس از بهره‌برداری و یک برنامه ++C است. علاوه بر این، او به طور فعال نسخه‌‌های کرک شده SpyNote، یک بدافزار Android RAT را به اشتراک می‌گذارد. بنابراین به طور کلی، به نظر می‌رسد این فرد یک عامل تهدید فناوری محور است و هدف از پست‌های او این است که به مجرمان سایبری با توانایی فنی کمتر نشان دهد چگونه از ChatGPT برای اهداف مخرب استفاده کنند.
