اگرچه اصول یادگیری ماشین حدود نیم قرن پیش مطرح شد، اما اخیراً در عمل کاربرد گسترده ای یافته است. با افزایش قدرت محاسباتی، کامپیوترها ابتدا یاد گرفتند که اشیاء را در تصاویر متمایز کنند و گیم Go را بهتر از انسان ها بازی کنند، سپس تصاویر را بر اساس توضیحات متن ترسیم کنند و یک چت منسجم را حفظ کنند. در سال‌های 2021-2022، پیشرفت‌های علمی برای همه قابل دسترس شد. برای مثال، می‌توانید در MidJourney عضو شوید و مثلاً کتاب‌های خود را فوراً به تصویر بکشید. و OpenAI سرانجام مدل بزرگ زبان GPT-3 خود را از طریق ChatGPT در اختیار عموم قرار داد. این ربات در chat.openai.com موجود است، جایی که می‌توانید خودتان ببینید که چگونه یک مکالمه منسجم را حفظ می‌کند، مفاهیم پیچیده علمی را بهتر از بسیاری از معلمان توضیح می‌دهد، متون را به صورت هنرمندانه بین زبان‌ها ترجمه می‌کند، و خیلی چیزهای دیگر.

اگر ChatGPT را به موارد ضروری کاهش دهیم، مدل زبان بر روی مجموعه عظیمی از متون آنلاین آموزش داده می‌شود، که از آن می‌تواند به یاد بیاورد چه کلماتی، جملاتی و پاراگراف‌هایی بیشتر با هم ترکیب می‌شوند و چطور با هم ارتباط دارند.این مدل با کمک ترفندهای فنی متعدد و دوره های آموزشی اضافی با انسان، به طور خاص برای گفتگو بهینه شده است. از آنجایی که «در اینترنت می‌توانید مطلقاً همه چیز را پیدا کنید»، این مدل به طور طبیعی قادر به پشتیبانی از گفتگو در مورد همه موضوعات است: از مد و تاریخ هنر گرفته تا برنامه‌نویسی و فیزیک کوانتومی.

دانشمندان، روزنامه نگاران، و علاقه مندان ساده در حال یافتن برنامه های کاربردی بیشتری برای ChatGPT هستند. وب‌سایت درخواست‌های ChatGPT Awesome فهرستی از دستورات دارد که امکان تغییر ChatGPT را فراهم می‌کند تا به سبک گندالف یا شخصیت‌های ادبی دیگر پاسخ دهد، کد پایتون بنویسد، تجارت ایجاد کند. نامه ها و رزومه ها و حتی تقلید از ترمینال لینوکس. با این وجود، ChatGPT هنوز فقط یک مدل زبان است، بنابراین همه موارد فوق چیزی بیش از ترکیبات رایج و ترکیب کلمات نیستند هیچ دلیل یا منطقی در آن پیدا نخواهید کرد. در مواقعی، ChatGPT (مانند بسیاری از انسان ها)، برای مثال، با مراجعه به مطالعات علمی غیرموجود، مزخرفات قانع کننده ای را بیان می کند. بنابراین همیشه با محتوای ChatGPT با احتیاط رفتار کنید. گفته می شود، حتی در شکل فعلی خود، ربات در بسیاری از فرآیندها و صنایع کاربردی مفید است. در اینجا چند نمونه در زمینه امنیت سایبری آورده شده است.

ایجاد بدافزار

در انجمن های هکرهای زیرزمینی، مجرمان سایبری تازه کار نحوه استفاده از ChatGPT را برای ایجاد تروجان های جدید گزارش می دهند. ربات قادر به نوشتن کد است، بنابراین اگر عملکرد مورد نظر را به طور مختصر توضیح دهید ("همه رمزهای عبور را در فایل X ذخیره کنید و از طریق HTTP POST به سرور Y ارسال کنید")، می توانید یک infostealer ساده بدون داشتن هیچ گونه مهارت برنامه نویسی دریافت کنید. با این حال، کاربران پیکان مستقیم چیزی برای ترس ندارند. اگر واقعاً از کدهای ربات‌نویسی استفاده شود، راه‌حل‌های امنیتی آن را به همان سرعت و کارآمدی شناسایی و خنثی می‌کنند که همه بدافزارهای قبلی ایجاد شده توسط انسان‌ها. علاوه بر این، اگر چنین کدی توسط یک برنامه نویس باتجربه بررسی نشود، بدافزار احتمالا حاوی خطاهای ظریف و نقص های منطقی است که کارایی آن را کاهش می دهد.

حداقل در حال حاضر، ربات ها فقط می توانند با ویروس نویسان تازه کار رقابت کنند.

تجزیه و تحلیل بدافزار

هنگامی که تحلیلگران InfoSec برنامه های مشکوک جدید را مطالعه می کنند، آنها شبه کد یا کد ماشین را مهندسی معکوس می کنند و سعی می کنند بفهمند که چگونه کار می کند. اگرچه این وظیفه را نمی توان به طور کامل به ChatGPT اختصاص داد، ربات چت در حال حاضر قادر است به سرعت توضیح دهد که یک قطعه کد خاص چه می کند. همکار ما Ivan Kwiatkovski در کسپرسکی یک افزونه برای IDA Pro توسعه داده است که دقیقاً این کار را انجام می دهد. این مدل زبان در بنیادی‌ترین بخش‌های سازنده‌اش یک ChatGPT واقعی نیست اما این یک تفاوت کاملاً فنی است. گاهی اوقات پلاگین کار نمی‌کند یا خروجی اش افتضاح هست ، اما برای آن دسته از مواردی که خودکار نام‌های قانونی را برای کارکردها معین می‌کند و الگوریتم‌های رمزنگاری را در کد و پارامترهایشان شناسایی می‌نماید داشتنش در کیت‌بگ خالی از لطف نخواهد بود. این در شرایط SOC خودش را نشان می‌دهد، جایی که تحلیلگران دائماً باید حداقل زمان را به هر رخداد اختصاص دهند، بنابراین هر ابزاری برای سرعت بخشیدن به فرآیند مورد استقبال قرار می‌گیرد.

جستجوی آسیب پذیری

یکی از انواع روش فوق جستجوی خودکار برای کد آسیب پذیر است. چت بات شبه کد یک برنامه دیکامپایل شده را می خواند و مکان هایی را که ممکن است حاوی آسیب پذیری باشند را شناسایی می کند. علاوه بر این، ربات کد پایتون را ارائه می‌کند که برای بهره‌برداری از آسیب‌پذیری (PoC) طراحی شده است. مطمئنا، ربات می تواند انواع اشتباهات را مرتکب شود، هم در جستجوی آسیب پذیری ها و هم در نوشتن کد PoC، اما حتی در شکل فعلی آن هم برای مهاجمان و هم برای مدافعان از این ابزار استفاده می شود.

مشاوره امنیتی

از آنجایی که ChatGPT می داند مردم در مورد امنیت سایبری آنلاین چه می گویند، توصیه های آن در مورد این موضوع قانع کننده به نظر می رسد. اما، مانند هر توصیه دیگری برای چت ربات، هرگز نمی‌دانید که دقیقاً از کجا آمده است، بنابراین برای هر 10 نکته عالی ممکن است یک نکته جالب وجود داشته باشد. با این حال، به عنوان مثال، نکات در اسکرین شات زیر همگی صحیح هستند:

فیشینگ و دستکاری ایمیل سازمانی

متون متقاعد کننده نقطه قوت GPT-3 و ChatGPT هستند، پس حملات خودکار اسپیر فیشینگ که از چت‌بات‌ها استفاده می‌کنند شاید همین الان هم دارند اتفاق می‌افتند. مشکل اصلی در مورد ایمیل‌های فیشینگ عمده این است که به نظر درست نمی‌آیند و کلی متن هست که ربطی به دریافت‌کننده ندارد. در مورد اسپیر فیشینگ: وقتی مجرم سایبری ایمیلی را به قربانی واحد می‌فرستند بسیار هزینه‌بردارتر است. از این رو فقط برای حملات هدف‌دار به کار می‌رود. ChatGPT طوری تنظیم‌ شده که به شدت تعادل قدرتی را تغییر دهد زیرا این به مهاجمین اجازه می‌دهد تا در مقایس صنعتی دست به تولید ایمیل‌های مجاب‌کننده وشخصی‌سازی‌شده بزنند. با این وجود برای اینکه ایمیلی همه اجزای لازم را داشته باشد چت‌بات اید دستورالعمل‌های جزئی‌ای را در اختیار داشته باشد.

اما حملات اصلی فیشینگ معمولاً شامل یک سری ایمیل‌ها می‌شود که هر کدام به تدریج اعتماد قربانی را جلب می‌کنند. بنابراین برای ایمیل های دوم، سوم و nامین، ChatGPT واقعاً در وقت مجرمان سایبری صرفه جویی می‌کند. از آنجایی که ربات چت زمینه مکالمه را به خاطر می‌آورد، ایمیل های بعدی می‌توانند به زیبایی از یک دستور بسیار کوتاه و ساده ساخته شوند.

علاوه بر این، پاسخ قربانی می‌تواند براحتی به مدل داده شود و در چند ثانیه یک پیگیری قانع کننده ایجاد کند. از جمله ابزارهایی که مهاجمین می‌توانند استفاده کنند، مکاتبات سبک‌ است. با توجه به نمونه کوچکی از یک سبک خاص، جعبه گفتگو به راحتی می‌تواند آن را در پیام‌های بعدی اعمال کند. این امکان ایجاد ایمیل‌های جعلی قانع‌کننده ظاهراً از یک کارمند به کارمند دیگر را فراهم می‌کند. متأسفانه، این بدان معنی است که تعداد حملات فیشینگ موفقیت آمیز افزایش خواهد یافت. و چت بات در ایمیل، شبکه‌های اجتماعی و پیام رسان‌ها به همان اندازه قانع کننده خواهد بود.

چگونه مبارزه کنیم؟ کارشناسان تحلیل محتوا به طور فعال در حال توسعه ابزارهایی هستند که متون چت بات را شناسایی می کنند. زمان نشان خواهد داد که این فیلترها چقدر موثر خواهند بود. اما در حال حاضر، ما فقط می توانیم دو نکته استاندارد خود (آموزش هوشیاری و آگاهی از امنیت سایبری) را به اضافه یک نکته جدید توصیه کنیم. یاد بگیرید که چگونه متون تولید شده توسط ربات را شناسایی کنید. ویژگی‌های ریاضی برای چشم قابل تشخیص نیست، اما ویژگی‌های کوچک سبکی و ناهماهنگی‌های کوچک هنوز ربات‌ها را از بین می‌برد. این بازی را بررسی کنید تا ببینید آیا می توانید تفاوت بین متن نوشته شده توسط انسان و ماشین را تشخیص دهید.

شرکت شبکه رسام دوراندیش برای کمک به محافظت از دستگاه های سازمان و مجموعه شما ، در هر کجا و هر ابعادی که هستید انواع آنتی ویروس های تحت شبکه و سازمانی کسپرسکی را با هر قابلیتی که بخواهید را در دسترس شما عزیزان قرار می دهد .مجموعه مهندسی شبکه رسام دوراندیش نماینده رسمی فروش آنتی ویروس Kaspersky با قابلیت ارائه پشتیبانی رایگان و 24 ساعته می باشد .